幅広い分野で人間の能力を超える能力を持つと想定される人工知能システム。そのリスクや制御可能性について議論がある。
英国議会の会合で、当局者や研究者は、超知能AIが核兵器と同等、あるいはそれを上回るレベルの危険をもたらす可能性があると警告し、政治家らはその開発を規制する国際条約を求めた。一方、人類絶滅のシナリオに焦点を当てることで、偽情報、雇用、環境への影響といった現在のリスクから注意がそれる可能性があると考える専門家もいる。