グーグルでは、大規模言語モデル「LaMDA」(ラムダ)を使って会話機能を構築していました。
「冥王星のように振る舞ってくれ」と指示して、長い会話をしてみる。太陽系についていろいろ教えてもらいまいた。
ところが、どんどん質問をしているうちに、非常に寂しがっているような印象を受けました。そして会話が少しずつ暗い方向に向かっていった。
冥王星のように考えるよう指示したわけで、冥王星は、太陽から遠く離れた寒い場所にあります。したがって、その人格が暗い性質を帯びてくるのは不思議ではありません。
34,000本の雑学記事からランダム表示
グーグルでは、大規模言語モデル「LaMDA」(ラムダ)を使って会話機能を構築していました。
「冥王星のように振る舞ってくれ」と指示して、長い会話をしてみる。太陽系についていろいろ教えてもらいまいた。
ところが、どんどん質問をしているうちに、非常に寂しがっているような印象を受けました。そして会話が少しずつ暗い方向に向かっていった。
冥王星のように考えるよう指示したわけで、冥王星は、太陽から遠く離れた寒い場所にあります。したがって、その人格が暗い性質を帯びてくるのは不思議ではありません。