被设想为在广泛领域拥有超越人类能力的人工智能系统,同时人们也在争论其风险以及对其进行控制的可能性。
英国议会一次会议期间,官员和研究人员警告称,超级人工智能可能构成与核武器同等甚至更严重的风险;一些政治人士呼吁制定国际条约对其发展进行监管。与此同时,一些专家认为,过度关注人类灭绝情景可能会分散对虚假信息、就业和环境影响等当前风险的注意力。