ある弁護士は、ChatGPT に、彼らの主張を裏付ける訴訟の例を尋ねました。
ChatGPTではよくあることですが、激しい幻覚を起こし、何もないところからいくつかの裏付けとなるケースをでっち上げました。
弁護士が問題の訴訟のコピーを提出するように求められたとき、彼らは再び ChatGPTに助けを求めました。そして、ChatGPT はそれらの訴訟の詳細をでっち上げ、それを正式にスクリーンショットして法的提出書類にコピーしました。
ある時点で、彼らはChatGPTにその判例が本物であることを確認するよう依頼しました…そしてChatGPTは、それらが本物であると答えました。彼らは、このスクリーンショットを別の提出書類にも含めていました。