世界を震撼させている「危険すぎるAI」の「一般向けバージョン」が、まもなく公開される。
米アンソロピック社は、突出したサイバー能力を持つ「クロード・ミュトス」と同等クラスのモデルを、数週間以内に広く展開する方針を発表。４月に発表されたミュトスは、主要OSやブラウザの脆弱性を発見し、場合によっては悪用手順まで導き出せるとされたことから、一般公開は見送られていた。
今回の一般向け「ミュトス級」モデルに期待されているのは、サイバー攻撃への防衛力向上だ。人間が見落としてしまうシステムの脆弱性を見つけ、修正パッチの作成まで支援できれば今後、攻撃性能の高いAIが出現しても防御できるのではないか、との見方がある。
ところがこれにITジャーナリストは、
「一般向けのミュトス級AIに、過度な期待は禁物」
そう指摘した上で、次のように根拠を解説するのだ。
「一般公開される以上、アンソロピックが攻撃コードの作成や侵入手順の提示を厳しく制限するのは確実なのですが、問題はサイバー防衛と攻撃が表裏一体だということ。脆弱性を見つける能力は、そのまま攻撃ポイントを見つける能力でもあるため、悪用を防ぐために出力を絞れば、結果的に防衛に必要な深い解析まで拒否される可能性が高くなってしまう」
完全な防衛専用AIを作るのは技術的に極めて難しい
つまり、矛を弱めたAIは安全になる一方で、盾としての頑丈さも劣るというわけだ。ITジャーナリストが続ける。
「政府や企業、自治体などの防衛側が本当に欲しいのは『ここが危ない』という曖昧な警告ではなく、なぜ危ないのか、どのように悪用されるのか、どう直すべきかまで踏み込んだ分析です。しかし、そこまで説明できるAIは、ハッカーによる攻撃にも転用できる。完全な防衛専用AIを作ることは、技術的に極めて難しいのです」
加えて、ハッカーとの「戦力差」は埋まりようがないという。
「守る側は安全仕様で能力を抑えたAIを使い、攻撃側は独自開発する制限なしのAIを使う。そんな状況では、防御側が不利になるのは目に見えている。ミュトス級AIが一般展開されても、ハッカーとの戦いにおいて、使いものにならない可能性は大いにありますね」（前出・ITジャーナリスト）
依然として、危機が続いているのだ。
（川瀬大輔）
