最近のSNSでは、AIの急速な普及とあいまって、精巧なフェイク画像やフェイク動画が溢れている。一般人が簡単にフェイクを作れるようになった現代において、生身の私たちが自ら判断しなければいけないこととはいったい何か――。
社会情報学の専門家でもある山口真一氏の書籍『炎上で世論はつくられる――民主主義を揺るがすメカニズム』より一部を抜粋・再構成し、ディープフェイクの大衆化について考える。
誰もがディープフェイクを作れる時代に
かつてフェイク画像やフェイク動画を作るには、高度な技術や特別な機材が必要だと考えられていた。
しかし、技術の急速な進歩によって、その前提は完全に崩れ去った。今や「誰もが」数十秒でリアルな偽画像や動画を生み出せる時代になったのである。私はこれを「ディープフェイクの大衆化」と呼んでいる。
その象徴的な事例が、2022年に静岡県で発生した水害だった。SNS上に「ドローンで撮影された静岡県の水害。マジで悲惨すぎる」として3枚の写真が投稿された。広く拡散されたが、実際にはすべてAIが生成した偽画像だった。
使われたのは当時誰でも無料で利用できた生成AIサービスである。投稿者は専門の技術者ではなく、AIに詳しいわけでもない一般のネットユーザーだった。にもかかわらず、リアルな災害現場のように見える写真を簡単に生成できてしまったのである。
同様に、岸田元首相の偽動画にニュース番組風のテロップを付けて拡散された例もあった。これも特別な知識を持たない一般人が作ったものであった。こうした現象はもはや偶発的な出来事ではなく、社会全体で「誰でもフェイクを作れる時代」が現実化していることを示している。
私自身もその現実を体感したことがある。静岡県の水害の偽画像が話題になった直後、あるテレビ番組から「実際にその場でAIを使って画像を生成してほしい」と依頼を受けた。
試しにやってみると、驚くほど容易に「それらしく見える災害写真」を作ることができた。必要なのは少しの文字入力（プロンプト）だけで、完成までにかかった時間は数十秒だった。これは専門家の特殊技術ではなく、一般の人間がごく普通に実行できる操作に過ぎない。
こうした現実を踏まえると、私たちはすでに新しい時代に突入しつつあるといえる。2016年以降、私たちはSNSを通じてフェイク情報が広がる、フェイクと共にある「withフェイク時代」を生きてきた。しかし生成AIの普及によって、フェイク情報の質も量も桁違いに膨れ上がろうとしている。私はこれを「with フェイク2.0時代」と呼んでいる。
この新しい時代において、フェイク情報は単なるSNS上の話題にとどまらない。裁判の証拠映像や画像がAIによって捏造される可能性が現実味を帯びている。法廷で提出された証拠が「真実である」と信じられなくなれば、司法制度さえも揺るがしかねない。
つまり、ディープフェイクの大衆化は単なる技術の進歩ではない。社会の基盤である信頼を根底から侵食し、民主主義や司法の仕組みに直接的な影響を与える脅威である。私たちは今、歴史的に「with フェイク2.0時代」という新しい段階に足を踏み入れてしまったのだ。
誰も「真実」を信じない
AIによる偽画像や偽映像が社会にあふれると、私たちは目の前にある映像や写真を見ても素直に信じられなくなる。「これは本物なのか、それともAIが作ったものなのか」と疑ってかかるしかない状況が生まれてしまうのだ。実際、すでにそうした社会へと移行しつつある。
問題はそれだけではない。事実であるものを「これはAIが作った偽物だ」と言い張ることも可能になってしまった。これは噓つきが得をするという意味の「噓つきの配当」と呼ばれる現象だ。つまり、AIによるフェイクの存在を逆手にとって、都合の悪い事実をもフェイク扱いにしてしまうことである。
事例として、2023年にイーロン・マスク氏が法廷で直面したケースがある。彼の発言を録音した音声が裁判の証拠として提出された際、マスク氏は「これはディープフェイクだ」と反論した。しかし後の調査で、それは本物の音声だったことが確認されている。
普通であれば誤った反論をした側が不利になるはずだが、ここで注目すべきは「ディープフェイクだ」と主張すること自体にはリスクがほとんどない、という点である。結局、「勘違いだった」で済ませることができてしまうのだ。
しかも、人々の受け止め方はさらに複雑だ。ある人物を強く支持している人にとっては、「これはディープフェイクだ」という本人の主張の方が真実として受け止められる。
後になって「本物だった」と訂正情報が出ても、それが支持者に届かなければ、誤った理解がそのまま固定化されてしまう。つまり「フェイクの氾濫」と「噓つきの配当」が組み合わさることで、事実と虚構の境界がますますあいまいになってしまうのである。
この現象は民主主義にとって致命的なリスクを孕んでいる。選挙戦の最中に不利な証拠映像や音声が出てきた場合、候補者は「これはディープフェイクだ」と言い張ればよい。仮にそれが事実であったとしても、一定の支持層は「やはり自分の支持する人が正しい」と信じ込み、その後の訂正や検証を受け入れない。結果として、真実が暴かれても人々の意識を変えることが難しくなる。そもそも真実が暴かれるのは選挙戦後かもしれない。
つまり、AIによるフェイクの拡大は二重の意味で危険だ。第一に、大量のフェイクの中で本物を見抜くことが難しくなること。第二に、事実であっても「フェイクだ」と言い逃れる余地が常に存在してしまうこと。この「噓つきの配当」は、フェイクを仕掛ける側だけでなく、事実を突きつけられた側にも強力な武器を与えてしまう。
私たちは今や、映像や音声といった「動かぬ証拠」さえ動かされてしまう時代に生きている。これまで以上に検証を重ねる姿勢が求められる一方で、人々の心が一度「これはフェイクだ」と思い込んでしまえば、その思い込みを解くことは極めて難しい。
