生成AIなどでわいせつな偽画像を作成する「性的ディープフェイク」問題。警察庁によれば、18歳未満からの被害相談が今年1～9月の間で79件あり、そのほとんどが同じ学校の児童や生徒が関与していたと発表。
加害者も被害者も同じ児童や生徒であるという衝撃の事実だが、79件の内訳は中学生からが最多の41件で、高校生は25件、さらに小学生が4件だった。実際にこれらの事案の相談を受ける弁護士によれば、スマホと児童や保護者らを巡る現代の課題が浮上した。
学校行事のアルバムに載っていた同級生の写真を生成AIで性的な画像に加工
昨今の事件で「性的ディープフェイク」問題が最も注目されたのは今年3月に逮捕・起訴された名古屋市の元小学校教員・水藤翔太被告(34)など現役教師の盗撮グループ事件だった。
なかでも水藤被告が所持していた画像にはAIのサイトで作成した児童の裸もあり、生成AI作成画像所持で児童ポルノ禁止法違反として立件されるのは全国初だった。
これまで明るみになっていたのは、加害者は成人であり、被害者は児童や生徒という構図だった。しかし、今回の警察庁の発表で被害者と加害者のどちらも生徒や児童というケースも増えている状況が明らかになった。社会部記者は言う。
「警察庁は注意喚起のために事例を公表しましたが、ある加害側の男子中学生は同級生の女子生徒がSNSに投稿した画像を生成AIで裸の画像に加工し、他の同級生に販売していたようです。
また、別の事例の男子中学生らは学校のタブレット端末から、行事のアルバムに載っていた同級生の女子生徒の写真を生成AIで性的な画像に加工。複数の同級生にグループチャットで拡散したとして補導されています」
拡散が拡散を生み…名誉毀損で補導される事例もある
学校や教育現場に関連した事件を扱うレイ法律事務所の髙橋和典弁護士によれば、生徒や児童らによる性的ディープフェイク事件の特徴は「友だちに拡散する傾向にある」ことだ。
「だいたいは加害側が男子生徒で女子生徒が被害者であるケースがほとんどですが、男子生徒が同級生や学校の女子生徒のInstagramやTikTokの写真を生成AIで裸にしたり、アダルトな動画に顔を挿げ替えたりして男子生徒同士のLINEグループに拡散します。
そのグループから他のグループにさらに拡散され、その画像がXなどに投稿されてしまうケースもありました」
こういった事案は「月に1、2件は相談がきて、ここ2年ほどで約30件の相談を受けた」という。さらに特徴として「公立校や私立校や学校の知的レベルに問わず起こる事案」なのだとか。
「性的ディープフェイクは外的痛みが伴わない被害であるため、知的レベルの高い生徒や児童であってもその被害の共感性に欠けるんですね。かつて名門私立校などに通う生徒同士による相談事案もありましたが、親御さんも『まさかうちの子がそんなことをするはずがない』という誤認をしていることも多いのです。
しかし性的ディープフェイク事件による名誉毀損で補導される事例もあるので、生徒や保護者のネットリテラシーの見直しが急務であると言えます」（前同）
