日本保守党の北村晴男参院議員が2026年3月7日、自身の声や姿を使った「生成AIによるフェイク動画」が拡散されているとして、Xで注意喚起を行った。
「私は全く関与していません」
問題となったのは、「中国は崩壊中」とのYouTubeチャンネルが公開した「【大炎上】『SANAE TOKEN』急落で波紋拡大 仮想通貨市場と政治の関係に注目集まる #高市早苗 #中国 #自民党 #岡田克也 #立憲民主党#石破茂」と題したYouTube動画だった。
サムネイルには「3月5日速報」として「SANAEトークン大暴落 黒幕は誰？」の煽り文句とともに、北村氏のバストショットが使用されている。本編では、高市早苗首相が関与を否定したことで波紋を広げた仮想通貨「SANAE TOKEN」について、北村氏が話しているかのような演出が施されていた。
画面左側には高市氏の写真と、SANAE TOKENの発行元であり「NoBorder」を手掛ける実業家の溝口勇児氏の写真が配置され、右側にはワイシャツ姿の北村氏が映っている。口元の動きや瞬きなど自然な様子で話しているように見えるが、北村氏の映像や音声は生成AIによって加工された、いわゆる「ディープフェイク」と呼ばれるものだ。
北村氏はこの動画について、Xで「上の動画は生成AIによるフェイク動画です。私は全く関与していません」とした。
別の投稿でも、「この動画は生成物によるフェイク動画です」としている。
「AI生成動画に関する法整備が全く追いついてないですね」
北村氏が言及した動画は8日までに削除されているが、同アカウントは北村氏の画像をサムネイルに用いた同様の動画を投稿し続けている。8日10時頃にも、新たな動画が公開されていた。
北村氏の訴えには、「早いところ生成AIの利用について法整備が必要ですね。今回の物は日本人なら間違えようのない漢字の読みを間違えているので偽物だとわかりますが、そう言った部分を気をつければ見分けはつかなくなります」「AI生成動画に関する法整備が全く追いついてないですね 北村先生のように被害にあう著名人が増える前にいち早く法整備が必要ですよね」といった声が寄せられている。