超高性能AIに、前代未聞の「使用停止命令」が下った。
６月13日（日本時間、以下同）、米アンソロピックは最新AIモデル「Fable 5」と、サイバー能力で物議を醸していた「Mythos 5」への全世界へのアクセスを全面的に遮断した。
きっかけは、アメリカ政府が国家安全保障上の懸念を理由に、外国人による利用を禁じる輸出管理措置を同社に命じたことにある。
Fable 5は６月10日にAnthropicが一般向けとして投入したばかりの最新モデル。Mythos 5と同系統の「ミュトス級」とされ、強力な推論能力とコード解析能力を備えながら、一般利用に耐えるよう安全装置をかけたモデルだと説明されていたのだが、公開からわずか３日でストップした。
海外ユーザーだけでなく、アンソロピック社内の外国籍社員まで利用できなくなる可能性が生じたため、同社は全顧客のアクセスを切るしかなかったという。
なぜアメリカ政府はそこまでの強硬かつ緊急的手段に出たのか。ITジャーナリストが内幕を語る。
「表向きの理由は、Fable 5の安全装置が突破される『ジェイルブレイク』への懸念です。現地報道によれば、Amazonのセキュリティー調査で、特定の手順を踏めばサイバー攻撃に使える情報を引き出せる可能性が示され、ホワイトハウスに伝えられました。アンソロピック側は『重大なジェイルブレイクではない』と反論していますが、政府は待てなかったのでしょう」
さらに深刻なのが、中国への流出疑惑である。政府機関や大手企業向けのモデルであるMythosについて、ホワイトハウスが「中国系グループがアクセスしていた可能性」を把握していた、との情報が米メディアを駆け巡った。
最新鋭の兵器設計図を他国に見られたようなもの
ITジャーナリストが続ける。
「仮に中国側がMythosに触れていたなら、単に使われるだけでは済みません。出力を大量に集めて別のAIを訓練する『蒸留』によって、似た能力のモデルを作られてしまう。これは絶対にあってはならない技術流出です。アメリカ政府からすれば、最新鋭の兵器設計図を他国に見られたようなものです」
高性能モデルがソフトウェアの弱点を見つけ、攻撃手順のヒントにまで導けるなら、それは国家にとってサイバー兵器と同じ意味を持つ。だからこそアメリカ政府は通常のサービス停止ではなく、輸出管理という国家レベルの手段に踏み切ったのだ。
皮肉なのは、アンソロピックがこれまで「安全なAI」を掲げてきた企業であること。政府と協力し、Mythosの悪用を防ぐために提供先を絞ってきたものの、今回は安全設計を政府が信用しきれず、公開直後のFable 5まで止める事態になってしまった。
「これはAI業界にとって、歴史的な転換点です。今後、最先端AIは半導体や軍事技術のように『どの国の誰が使えるか』を政府が管理する対象になる。一般ユーザーにとっては、現状の段階で自由に使えるAIの性能が頭打ちとなるかもしれません」（前出・ITジャーナリスト）
もはやAIは兵器そのものなのである。
（川瀬大輔）
