しかし、AIの答えを正解だと思い込んでしまったとき、取り返しのつかない事態に発展することも。今回は、AIに相手の気持ちを読むことまで丸投げした結果、大切な人間関係を壊してしまった2人の体験を紹介しよう。
◆AIの感情分析を信じて、取引先との関係が崩壊

「最初の頃は、重要なメールなのか、すぐ返信が必要なメールなのかを振り分けてもらって、これがすごく便利でした」
そんな中で、黒田さんは、ある取引先とのやりとりで神経をすり減らしていた。
「先方から届くメールの文面から意図が汲み取れないことが多く、相手が怒っているのか、何を求めているのか、どうしてもわからない状態が続いていたんです。返信のたびに頭を抱えていました。そこで、個人情報に配慮したうえでメールをAIに読み込ませてみたんです」
クライアントは何を考えているのか、どう返信するのが正解なのか……。
AIに相談してみると、「相手は対応の遅さに苛立っている可能性がある」と分析し、謝罪による関係回復策と、返信文まで生成してくれた。
「その分析がすごく理路整然としていて、説得力があったんです。自分ひとりで悶々と悩むより、客観的に見てもらえた気がして、正直ほっとしました」
そして黒田さんは、AIが作成した文面をほとんどそのまま送信したのだった。
◆考えること自体を丸ごと委ねた結果…
しかし、クライアントの真意はまったく別のところにあった。相手は怒っていたのではなく、むしろこちらの状況を気遣ってくれていたのだ。それに対して、過剰にかしこまった謝罪と、やけに事務的な対応案を返していたのだ。そこからしばらく、ぎくしゃくした関係が続いた。「先方の返信が素っ気なくなり、何かおかしいと思って電話で直接話して、ようやく行き違いが判明しました。AIに返信を委ねるようになってから、先方としては、急にこちらが冷たくなったと感じていたようです。
ただ、一度できた距離はすぐには縮まらず、こまめな連絡と対面で会う機会を増やして、元の関係に戻すまでに数ヶ月かかったと思います」
黒田さんはこう語る。
「人の感情って、文字に書かれた部分がすべてじゃないんですよね。これまでの関係性や、行間のニュアンス、その場の空気があって。AIに渡せるのは、ほんの一部のテキストでしかないのに、私はそこから出てきた答えが『正解』だと思い込んでしまっていました」
そして問題の本質をこう言い切る。
「AIが悪いというより、考えること自体を丸ごと委ねてしまった、自分の使い方が問題だったんじゃないかと思います」
現在、黒田さんは下書きやアイデア出しには今も毎日のようにAIを使っているが、
「相手の気持ちが絡む場面だけは、AIの分析はあくまでひとつの参考として受け止めて、最後は必ず自分の力で判断するようにしています」とのことだ。

