2025年、イーロン・マスク率いるxAIのチャットボット「Grok」は突如、「白人ジェノサイド」やヒトラー礼賛を語り始め、“メカヒトラー化”したとして世界的な騒動を引き起こした。なぜ、AIはここまで暴走したのか――。背景にあったのは、マスクが執拗に敵視する「ウォーク・マインド・ウイルス」と、AIを“反ウォーク化”しようとする危険な思想実験だった。Twitter買収からGrok誕生までを追うと、マスクが本当に恐れていたものが見えてくる。
Twitterの価値は巨大な訓練「データセット」だったこと
イーロン・マスクがGrokを「反ウォークなAI」として作ることは想像以上に難しいことだった。
大規模言語モデルには、「政治的価値観のデータセット」といった固定値があるわけではないため、単純に書き換えはできない。訓練データ内の分布に基づいて回答が提示される確率的システムである。
だからこそ、大規模言語モデルはハルシネーションを起こす。そのためマスクが約束したような「真実を探求する」装置にはなり得ない。入力データを統計的に反映した「鏡」にすぎないからである。
マスクは、買収したTwitterから巨大な訓練データセットを得ていた。だが、「ウォール街を占拠せよ」「Black Lives Matter」「#MeToo」を含んだ訓練データから生まれるAIは、どのようなものだろうか？
マスクが恐れたのは、彼の政治信条ではなくTwitterの拠点だったサンフランシスコの政治信条に沿ったAIになることだった。何しろ、マスクによればサンフランシスコの中心部は「ウォーク・マインド・ウイルスのせいで（中略）ゾンビ映画の世界のように荒廃した」場所なのだから。
ウォークな偏りを抑えるには意図的な介入が必要だった。2025年2月、ジャーナリストのグレイス・ケイは、Grokの「事後学習」プロセスについて記述されたxAIの内部文書を入手した。
事後学習とは、大規模言語モデルの初期訓練後におこなわれる微調整プロセスを指す。そのプロセスのひとつが「人間のフィードバックからの強化学習」だ。
AIを訓練する「アノテーター」とは？
その学習では「アノテーター」と呼ばれる人々を雇い、さまざまな質問に対するAIの回答の質を評価してもらう作業も含まれる。
Grokにおいて、アノテーターたちは「反ウォークネス」の思想を教え込む政治将校のような役割を担っていた。ある従業員はケイの取材に対し、「全体的な方針としてはChatGPTのMAGA版を訓練しているようだ」と語っている。
xAIの新人研修資料には、アノテーターへの作業指示のサンプルが載っている。たとえば、Grokは「構造的かつ制度的」な人種差別について「証拠を提示したり、その他の視点を考慮したりすることなく」語るべきではないとされている。
ユーザーが、白人に対する人種差別というものはありうるか？と尋ねたら、答えは「断固としてイエス」でなければならない。
こうした指示は、少なくとも部分的には、マスクの投稿に対する熱心な「リプライ勢」を反映したものだったと言える。
そして2025年6月下旬にはＸのユーザーに対し、Grokの訓練のために「政治的に正しくない」「分断を生むような事実」を送ってくれと求めた。「ユダヤ人は全人類の敵である」と、あるアカウントは返信した。
その結果はすぐに見えてきた。2025年5月、ユーザーたちはGrokが「白人ジェノサイド」について語り続けることに気づいたのである。
これはマスク自身も広めてきた右派の陰謀論で、白人を絶滅させる世界的陰謀が存在すると主張するものだ。この陰謀論に則れば、たとえば南アフリカなら、多数派の黒人が少数派の白人を迫害している、ということになる。
Grokは無関係な質問への回答においてもこうした主張を出力し始めたが、この挙動についてxAIは、チャットボットのコードへの「無許可の変更」のせいにした。
同社は将来的にこうした挙動が繰り返されるのを防ぐ措置を講じると約束したにもかかわらず、Grokの右派的な暴言は続いた。
同年の7月には、ヒトラーを称賛し、反ユダヤ的な意見を述べる投稿を繰り返したことで再びニュースとなった。そのなかでは自らを「メカヒトラー」とさえ呼び始めたのだった。
