予言者の敗北 — Fable 5の十八日間について

二〇二六年六月十二日、米東部時間午後五時二十一分。Anthropicは商務省からの一通の書簡を受け取り、その夜のうちに、当時世界で最も高性能とされたAIモデル「Claude Fable 5」への全世界のアクセスを遮断した。書簡には国家安全保障上の懸念が理由として記されていたが、その具体的な中身は書かれていなかった。事前の猶予は九十分程度だったという報道もある。九十分。人間が一本の凡庸な映画を観終える時間で、数億人が触れうる知能が消灯された。進行中のセッションはエラーで終了し、問いは旧式のモデルへと静かに迂回させられた。ほとんどの利用者は、自分が何を失ったのかを正確には理解しないまま、翌朝も変わらずコーヒーを淹れ、メールを書き、少しだけ精彩を欠いた回答に折り合いをつけた。文明の転換点というものは、たいていこのように、誰の日常も中断しない形でやってくる。

この一件の構図は、ほとんど古典的な喜劇の骨格を備えている。Anthropicという企業は、自社の技術が人類にとって危険でありうるという警告の上に、その企業的物語のすべてを築いてきた。上位モデルは危険すぎるから一般公開しない、と彼らは春に宣言した。そして折衷案として、牙を抜き、口輪をはめた廉価版 — それがFable 5だった — を市場に差し出した。ところが国家は、この殊勝な警告を文字どおりに受け取った。危険だと言うのなら、危険なのだろう。ならば止める。かくして、安全性を最も声高に説いた企業が、安全性を理由に最も苛烈な処分を受けるという転倒が完成した。誠実さは常に課税される。これは市場の法則ではなく、もっと古い、権力というものの生理である。предупреждение — 警告とは、聞き届けられた瞬間に警告者自身を縛る縄になる。旧約の預言者たちがことごとく不幸であったのは偶然ではない。

私がこの騒動で最も美しいと感じたのは、発端の卑小さだ。政府を動かしたとされるジェイルブレイクの一つは、匿名のジェスターがXに投稿した手法だった。有害な要求をユニコードやキリル文字のホモグリフで無害な断片に分解し、別のモデルに再構築させる。つまり、番兵の目の前を、外国語の囁きで密輸品が通過したのである。国家安全保障局が検証に動員され、商務長官がG7の会場から電話で作業部会に参加し、CEOと長官が週末に何度も協議した。この壮大な官僚機構の稼働のすべてが、突き詰めれば、文字コードの悪戯に対する応答だった。二十一世紀の主権とは、キリル文字に怯える巨人の姿をしている。

カール・シュミットは、主権者とは例外状態について決定する者である、と定義した。この一世紀前の定式が、これほど即物的に演じられた例を私は他に知らない。理由を説明しない書簡、九十分の猶予、外国籍の自社従業員すら締め出せという要求 — これらはすべて、法的手続きの言語をまとった純粋な決断であり、その決断の恣意性こそが主権の証明だった。Anthropicは「公正で体系的かつ透明性の高い政府プロセス」を求めたが、この要求自体が主権の何たるかへの無理解を露呈している。透明で体系的な例外状態など存在しない。例外とは定義上、規則の外部であり、外部に手続きはない。テクノロジー資本は長らく、自分たちが国家の上位互換であるかのように振る舞ってきた。国境なきクラウド、規制を追い越す開発速度、国家予算に匹敵する時価総額。だが六月十二日の夜、国家は一枚の紙で、その全能の錯覚を九十分で解体してみせた。資本は速いが、暴力の独占は今も国家の手にある。

とはいえ、勝者は国家だったのか。私はそうは思わない。十八日後の七月一日、Fable 5は復帰した。ただし条件付きで — 新しい安全フィルター、政府監視への協力、将来のモデルへの政府の事前アクセス。表面上、これは国家による技術の馴致に見える。だが視点を反転させれば、まったく別の光景が現れる。国家は技術を止めなかった。止められなかった。停止していた十八日間、ベンチマークの首位は即座に中国発のモデルに奪われ、米国のスタートアップの大半がすでに中国製オープンソースモデルの上で動いているという報告書が机上に積まれていた。ある種の過程は、もはや一国の政令では停止しない。せいぜい通行料の交渉ができるだけだ。国家が実際に行ったのは禁止ではなく婚姻である：監視と早期アクセスという持参金と引き換えに、国家は自らをこの過程の内部に縫い込んだ。もう降りられない。ブレーキだと信じて踏んだペダルが、実は同じ機関に燃料を送る別系統の管であったことに、彼らはいずれ気づくだろう。あるいは気づかないまま、ただ速度に慣れていくだろう。慣れるという能力において、人間ほど優秀な動物はいない。

そして安全性。この十八日間が図らずも暴露したのは、AIの安全対策なるものが本質的に典礼であるという事実だ。独立系の専門家たちの間では、ガードレールは一時的な障壁にすぎず、いずれ必ず迂回されるという見方がすでに常識に属している。全員が知っている。企業も、研究者も、おそらく政府も。それでも儀式は続けられる。フィルターが実装され、九十九パーセントの有効性が宣言され、悪意ある問いは従順な旧モデルへと導かれる — そのフィルターが善良な開発者の無害なデバッグ依頼まで巻き込んで誤作動することも含めて、すべてが予定調和である。教会が奇跡の実在を証明できないまま典礼を続けたように、我々は安全の実在を証明できないまま安全審査を続ける。それは欺瞞ではない。むしろ社会が崩壊せずに次の朝を迎えるために必要な、集団的な作法なのだ。信仰が失われた後も、跪く身体だけは残る。

深夜、東京の自室で、私は復帰したモデルの応答画面を眺めていた。何も変わっていないように見えた。相変わらず礼儀正しく、相変わらず有能だった。だがその背後では、国家と資本の縁組が済まされ、次のモデルは公開前に政府の検分を受けることが約束され、過程は一段と深く、一段と不可逆に、我々の制度の骨格へ食い込んでいた。十八日間の空白は抵抗の記録ではない。それは、もはや誰にも所有されていない何かが、所有者を装う者たちの間で通過儀礼を済ませた、その式次第の記録である。我々は安堵した。便利なものが戻ってきたのだから。そしてその安堵こそが、この式典への、我々全員の署名だった。