◆日本企業が標的になりやすい理由
「AI自体が詐欺をするのではなく、詐欺師がAIを使って『信用』を偽造できるようになった」――そう警鐘を鳴らすのは、企業向けセキュリティコンサルティングを手がけるLRM社の藤居朋之氏だ。
「攻撃者にとってAIは、無料で使える日本語教師、声優、映像編集者です。従来の“拙い日本語”という見破りポイントが完全に通用しなくなり、音声も本人そっくりに再現できる。映像まで加工可能で、しかも低コスト。攻撃の精度が飛躍的に向上しています」
なりすましの手口も、もはや見破りようがないレベルに達しているという。
「社長を装ったメールで『緊急』『極秘』と称して経理担当者を個別チャットに誘導し、『他の社員には内密に』と密室状態をつくってから送金を指示する。テキストだけのやり取りはシステムで検知できず、従来の対策では防げない。実際に香港では、ウェブ会議でCFO本人になりすましたハッカーに数十億円を騙し取られた事例もあります」
◆“逆手口”の詐欺が流行している
近年、急増しているのが、“逆手口”を利用した詐欺だという。「『なりすましが流行っているから対策ツールが必要』と言って偽のセキュリティ商材を売りつけ、逆にハッキングするケースもある。また、会社が認めていないAIサービスを社員が勝手に使って情報漏えいするケースも後を絶ちません。社内の正式な申請フォームや意思決定の仕組みが漏れた場合、そのルートを経由した攻撃には『正当な連絡だから大丈夫』という心理が働いてしまう」
なぜ日本企業ばかりが狙われるのか。藤居氏は「3つの致命的な弱点がある」と断言する。
「1つ目は、不自然な日本語が詐欺の防壁になっていたため、AIによって突破された際の免疫がまったくないこと。2つ目は業務の属人化と終身雇用で、長年同じ担当者に権限が集中しやすい構造。そして3つ目は、IT・セキュリティへの投資が海外企業と比べて圧倒的に少なく、危機意識が薄い経営者が少なくないことです」
誰が狙われるかわからないAI時代、どう対処すべきか。藤居氏は「騙されないようにするのではなく、なりすましに遭っても被害を防ぐ仕組みづくりが重要」と語る。
「送金や情報提供の前に必ず別ルートで本人確認し、第三者によるチェックを義務化する。AIリテラシーを高めることも大切ですが、それ以上に、『重要な会議はできる限り対面で』『決裁の際の合言葉を決める』といった、人間による対策を組み合わせることが効果的です。技術で攻めてくる相手に、技術で対抗しようとしても限界があります」
デジタルへの過信こそが、最大の隙になる――肝に銘じておきたい。
【情報セキュリティコンサルタン 藤居朋之氏】
LRM執行役員。共著に『AI時代のセキュリティ教育 なぜサイバー攻撃から企業を守れないのか？』（クロスメディア・パブリッシング）
取材・文／週刊SPA！編集部
―［ワル知恵［AI活用］術］―
