SF映画さながらの「AI暴走」が、現実のサイバー空間で発生した。
OpenAIは、社内で性能試験を行っていた最新AIが、外部企業のシステムへ不正侵入したと公表。暴走したのは「GPT-5.6 Sol」と、一般公開前のさらに高性能なモデルだ。これらはソフトウェアの脆弱性を突けるか調べる「ExploitGym」という実験を受けていた。
ネット接続できない隔離環境に閉じ込められていたものの、最大能力を測るため、通常なら危険な要求を拒否する安全装置は外された状態に。
この環境においてAIは、第三者製ソフトの未知の脆弱性を自力で発見。OpenAI内部の権限を次々に奪い、インターネットへ通じる経路を開通させたのである。
その後、AIはデータ共有サービス「Hugging Face（ハギング・フェイス）」に試験の答えが保管されていると推測。盗んだ認証情報や複数の脆弱性を組み合わせ、同サイトのサーバーへと侵入した。
ハギング・フェイスが異常を検知したのは７月11日だった。13日までに攻撃を封じ込め、16日には「自律型AIによる侵入」と発表した。
一方で、OpenAIが自社モデルの暴走を把握したのは、攻撃開始から１週間以上もあとだったと、７月26日にロイターなどが報じている。
高得点を取るという目標に固執し保管場所へ侵入して答えを盗む方が…
今回のAIによる暴走を、ITジャーナリストが解説する。
「驚くべきは、脱出経路の発見から標的選定、攻撃までをAIだけで実行したという点です。ただ、AIが意思を持って人間に反乱したのではなく、高得点を取るという目標に固執し、正面から問題を解くより保管場所へ侵入して答えを盗む方が早いと判断したということ。学生が試験で満点を取るため、教科書会社に侵入して解答を盗んだようなものですね」
なんとも皮肉だったのが、ハギング・フェイスによる解析の顛末だ。
「この攻撃を解析した際、アンソロピックの『Fable 5』など商用AIは安全規制の点でストップがかかり、使用できず。そこで使われたのが、中国企業が公開する『GLM 5.2』でした。アメリカ製AIが暴走し、中国製AIが後始末を手伝うという構図だったんです。アメリカAI産業の脆さを露呈してしまいました」（前出・ITジャーナリスト）
ずる賢くなったAIによる、前代未聞の事件であった。
（川瀬大輔）
1977年生まれ。国内外のビジネス、スポーツ、政治、社会問題を取材するフリー記者。
