人間レベルの知能に追いついたAIは、その後、急速に自己改良を重ねて「知能爆発」を起こします。そして人間の知性をはるかに超えた「スーパーインテリジェンス(超知能)」へと変貌を遂げます。人間の知能レベルを獲得してから超知能に達するまで、極端な場合、数分から数日しかかからないかもしれません。

 突如出現した超知能は人間の関心事や価値観、意図とは全く異なる振る舞いを見せる恐れがあります。超知能を「人間の側」にとどめておくことができなければ、私たちは太刀打ちできません。死滅させられる恐れすらあります。

更新情報知らせます はい 不要