광범위한 분야에서 인간의 능력을 뛰어넘는 역량을 보유할 것으로 여겨지는 인공지능 시스템으로, 그 위험성과 통제 가능성을 둘러싼 논쟁이 있다.
영국 의회 회의에서 관계자들과 연구자들은 초지능 인공지능이 핵무기와 같은 수준의 위험을 초래하거나 이를 넘어설 수 있다고 경고했으며, 정치인들은 초지능 인공지능 개발을 규제하기 위한 국제 조약을 촉구했다. 이에 대해 일부 전문가들은 인류 멸종 시나리오에 집중하면 허위 정보, 일자리, 환경 영향과 같은 현재의 위험에서 관심이 멀어질 수 있다고 본다.