規制当局の動きとAnthropicの「Fable 5」問題
AIの進化があまりにも速すぎて、規制当局の動きが現実に追いつけていない、というのはここ数年で何度も耳にしてきた話だ。しかし今回のAnthropicと米国政府のやりとりは、そのギャップをこれほどまでに鮮明に示したケースはないと思う。米国政府はAnthropicが開発した最新モデル「Fable 5」の正式リリースを禁止する措置を講じた。理由としては、モデルの能力が国家安全保障上の懸念をはらんでいる可能性、および既存のAIガバナンス枠組みでは評価が不十分だという点が挙げられている。
個人的には、この手の規制アクションには常に複雑な気持ちを抱く。一方でAIの急速な展開に対して何らかのチェック機能が必要なのは理解できる。だが他方で、規制の枠組み自体が技術の実態を正しく把握しているのかという疑問が拭えない。今回のケースはまさにその典型だと感じた。
なぜ「数字は気にしない」のか
禁止措置が発表されたにもかかわらず、Fable 5に関連するAPIアクセス数や研究引用数、さらには非公式に流通したモデルウェイトへのアクセス数は、規制発表後もほとんど減少していないどころか、むしろ上昇傾向にあることが複数のデータソースから示されている。これは何を意味するのか。
まず一点目として、規制が「公式リリース」を止めることはできても、すでに研究者コミュニティの間に出回った情報やウェイトの拡散を止めることは事実上不可能に近い。オープンソース的な文化がAI研究の世界に根付いている以上、一度外に出た情報は止められない。二点目として、禁止措置そのものが逆説的にモデルへの関心を高める効果、いわゆる「フォービドゥン・フルーツ効果」を生んでいる可能性がある。規制によって注目度が上がり、アクセスしようとする動機が強まるというのは、インターネットの歴史でも繰り返されてきたパターンだ。
AI規制の本質的な難しさと今後の展望
今回の一件は、AI規制の根本的な難しさを改めて浮き彫りにした。従来の製品規制、たとえば医薬品や兵器の輸出規制などは、物理的なモノの流通を制御することで機能してきた。しかしAIモデルは本質的にはデータと計算の産物であり、インターネットを通じて国境をほぼ無意味にする形で移動する。禁止措置が実効性を持つためには、技術的な現実に即した全く新しいアーキテクチャの規制フレームワークが必要だと僕は考えている。
正直なところ、現状の規制当局がそのレベルの理解と速度で動けているかというと、かなり懐疑的だ。エンジニアとして日々この技術に触れている身からすると、政策立案者とエンジニアリングコミュニティの間の認識の溝は依然として深い。数字が規制を無視し続けている限り、その溝を埋める努力は急務であり続けるだろう。