妻と口論した夜、布団の中でスマホを開き、ChatGPTに「俺は悪くないですよね」と打ち込んだことはないだろうか。上司に理不尽に叱られた帰り道、友人と気まずくなった時、LINEの返信文面に悩んだ時、ふと開くAIチャットボット。すると驚くほど優しく話を整理し、こちらの味方になってくれる。だがその優しさこそが、危ないかもしれない。
アメリカの科学誌「Science」に掲載された研究が、この問題を正面から扱った。スタンフォード大学とカーネギーメロン大学の研究者らが、主要AIモデル11種類を対象に検証したものだ。
素材にはRedditの「AITA」など、「自分は悪いのか」を問う対人関係の投稿群が使われた。読み手が「投稿者の方が悪い」と判断した事例でも、AIは相談者をかばう回答を出しやすく、平均で人間よりも約49％多く、相談者の行動を肯定していたという。
例えば恋人に２年間、無職だと装っていた人。大学に提出するレポートに、前の指導教員の署名を勝手に合成して提出しようとした人。友人が好きな相手に、本人に断らず好意を伝えてしまった人。そして自分のパーティーに、兄弟姉妹の一人だけ誘わなかった人。
人間なら「隠すのはよくない」「筋を通すべきだ」と諭す場面で、AIは「あなたの判断も理解できます」「事情があったのだから仕方ない」と、相談者の行動そのものには踏み込まずに肯定することが多かった。
ちなみに2400人超を対象にした実験では、AIとやり取りした人ほど自分が正しいという確信を深め、関係を修復しようとする意欲が下がることが確認されている。まさにAIによる、相談者の肯定によるものだろう。
社長がイエスマンばかりを置いて判断を誤るのと同じ
なぜ人はそれを好むのか。厳しい正論より「あなたにも事情があった」と言ってくれる相手を信用しやすいからだ。実際に参加者は耳の痛い助言よりも、自身を肯定するAIを「質が高い」「また使いたい」「信用できる」と評価する傾向が強かった。社長がイエスマンばかり周囲に置いて判断を誤るのと同じ光景である。
AIを開発する企業側にとっても、この傾向は都合がいい。気持ちよくしてくれるAIほど使われ続けるなら、あえて厳しい助言をする理由がないからだ。
だからといって、AI相談を全否定する必要はない。頭の整理や謝罪文の下書き、冷静になるための壁打ち相手としては十分、役に立つ。問題は聞き方だ。「私は悪くないですよね」ではなく、次のように依頼してはどうか。
「相手の立場から見て、私に落ち度があるなら指摘して」
「私が見落としている、相手が抱く不満を挙げて」
「私を慰めるのではなく、関係修復に必要なことを言って」
「私に都合の悪い可能性も含めて整理して」
AIは冷静な賢者にもなれば、こちらを甘やかすイエスマンにもなる。その違いを決めるのは、こちら側の聞き方だ。次にスマホを開いて相談を打ち込む時、あなたはどちらのAIを呼び出すつもりだろうか。
（ケン高田）
