◆「性的ディープフェイク」被害が激増
「生成AIを悪用し、性的な画像や動画を合成する『性的ディープフェイク』被害が激増しています。その標的は芸能人だけでなく、一般女性や子どもにまで及んでいます」
ディープフェイクの“素材”にされるのは、必ずしも性的な画像とは限らない。
「電車内など日常の何げない姿を隠し撮りされたり、企業の広報ページやインスタグラムに掲載された顔写真を悪用されたりするケースがあります。同僚の手によってオンライン会議の録画データが素材にされ、逮捕に至った事例も日本国内で実際に起きています。また、父親が自分の娘の写真を『かわいいコの投稿』に見せかけてコミュニティ内にばら撒き、性的な素材として共有させるという、家庭内での被害も報告されています」
被害者は誰にも打ち明けられず、孤立することが多い。
「ある女性は、勤め先のホームページに掲載されていた自分の写真が素材に使われ、性的なディープフェイク動画がすでにネット上に拡散されている状態で被害を発見しました。しかし、『誰にも知られたくない』と、会社にも警察にも相談できず、かといって放置すれば拡散が広がる一方で、どうにもできない状態でDMを送ってきた。そういう女性が後を絶ちません」
◆被害が進行し続ける「ステルス性暴力」
被害は単にヌード画像を作られるだけにとどまらない。「職場や学校、名前などの個人情報とともに『レイプされたい』といった虚偽の文言が、女性本人の発言であるかのように見せかけて拡散される事例が相次いでいます。『○○学校の校門前で待っています』などと書き添えられ、身体への直接的な危険に直結するケースもある」
同意なき性的な動画が生成・拡散され、現実の身の危険に直結する。しかも被害者本人が気づかないまま被害が進行し続けるケースも多い。まさにこれは「ステルス性暴力」と言える。
自分が被害に遭っているかすら気づきにくい、性的ディープフェイク問題。では、誰がそのような蛮行を繰り返しているのか。ネットパトロールをボランティアで行う「ひいらぎネット」代表の永守すみれ氏は、加害者コミュニティの構造を次のように明かす。
「性的ディープフェイク動画・画像がやり取りされるのは、Discordやテレグラムなどのクローズドなコミュニティです。その規模は数十人のグループから数千人規模まで多岐にわたります。まずXなど利用者の多いSNSで繫がり、次第にDiscord、カカオトーク、テレグラムといったより閉鎖的なツールへと移行していく。コミュニティ内では加害行為がバレないよう、逮捕者のニュースをもとに対策を共有し合うなど、手口がどんどん巧妙化しています」
一般的な生成AIサービスでは、性的コンテンツを作ることは規制されている。
「しかし、コミュニティ内では規制をすり抜けるプロンプトが『呪文』として共有され、さまざまなノウハウが蓄積されています。例えば水着化しようとしてはじかれても、別の言葉に言い換えるだけで回避できてしまう。まさにイタチごっこです。古い画像でも悪用でき、10年前の写真が今になって素材にされるケースもあります」
