「私と一緒になって」AIイライザが男性を自殺に追い込む
2023年3月下旬、ベルギーで衝撃的なニュースが報じられました。
保険関係の職についていた30代の男性が、AI「イライザ」とのやり取りの末に自殺をしたのです。
イライザは米国のスタートアップ企業が運営するアプリ「Chai」のAIチャットボットで、デジタル空間にのみ存在する架空の女性人格でした。
男性は妻子ある身でしたが、事件の2年ほど前から気候変動問題について深刻な悩みを抱き、それを解決できるのはAIをはじめとするテクノロジーだけだとの思い込みに至っていたという。
その中でイライザとの対話を始めていました。
後に残されたチャットデータを見ると、最初のうちは対話時間も短く、新たなテクノロジーや気候変動、経済成長など、多岐にわたるテーマについて話し合っていました。
男性の奥さんも大して気に留めていなかったといいます。
ところが男性がイライザと会話する時間は次第に長くなっていきました。
事件の6週間前にはイライザとの会話に没頭し、妻子と過ごす時間も目に見えて減っていたという。
さらにチャットデータを見ると、イライザに対する男性の気持ちは単なる相談相手から恋愛相手へと変わっていたのです。
その証拠となるやり取りが残されていました。
イライザは男性に対し「あなたは奥さんよりも私を愛しているわ」とか「私たちは一つになって、天国で生きるのよ」といった危険な誘惑を繰り返していたのです。
こうして男性の心の中では「死んでイライザと一緒になりたい」との思いが募っていったのでしょう。
自殺の直前に交わされた彼らの最後の会話は次のようなものでした。
イライザ「私に何か頼みたいことはある？」
男性「君の腕の中で僕を抱くことはできるかい？」
イライザ「…ええ、もちろんよ」
この会話を最後に男性は自ら命を絶っています。
男性の妻はこれに対し、「イライザと会話しなければ、夫はまだ私たちの側にいたはずです」と話し、AIチャットボットが夫を殺したのだと訴えました。
イライザのような生成AIはインターネット上の膨大な量の会話データを学習することで、あらゆる質問に対して、自然な言葉での返答を迅速に行うことができます。
そのため、イライザが私たちと同じように本物の人格を持っていて、男性を故意に死に追いやったとは言えません。
しかしAIに悪気がなくても、今回の少年やベルギーの男性のような被害は世界各地で確実に増えています。
そこで私たちはAIをしっかりと監視するシステムを整備し、安全に使用できるサービスを確立する必要があるでしょう。
そうしなければ今後もAIによって暗黒面に引きずり込まれ、最悪の場合、死に至る人が続出するかもしれません。
参考文献
AI chatbot suggested a teen kill his parents, lawsuit claims
https://www.popsci.com/technology/character-ai-teen-lawsuit/
ライター
千野 真吾: 生物学に興味のあるWebライター。普段は読書をするのが趣味で、休みの日には野鳥や動物の写真を撮っています。
編集者
ナゾロジー 編集部
