Preparednessチームとは何だったのか
OpenAIが内部に設置していた「Preparedness（準備）チーム」が解散されたと複数のメディアが報じた。このチームは2023年に発足し、AGI（汎用人工知能）や高度なAIシステムが社会にもたらす壊滅的リスクを事前に評価・分析することを主なミッションとしていた。具体的には、生物兵器や核兵器への悪用リスク、サイバー攻撃への転用可能性、そして人間の監視能力を超えるAIの出現といった、いわゆる「フロンティアリスク」の研究を担っていた。チームを率いていたのはMIT出身のAI安全研究者であり、設立当初はOpenAI内部でも注目を集めた存在だった。
正直に言えば、このチームの存在自体、OpenAIが外部からの批判に応える形で「安全性に本気で取り組んでいる」というシグナルを示すための組織でもあったと思っている。それが悪いとは言わない。だが、解散という結末を見ると、そのシグナルがどこまで本物だったのか、疑問を持たざるを得ない。
なぜ今このタイミングなのか
OpenAIをめぐる環境は2023年末から急激に変化している。Sam Altmanの一時解任と復帰、営利企業への転換加速、そしてMicrosoftやAppleとの大型提携。会社全体が「安全性の研究機関」から「競争力あるテクノロジー企業」へと重心を移している印象は否めない。Preparednessチームの解散もその流れの一部として読み解けるだろう。
また、2024年にはAI安全性の旗手として知られていたIlya SutskeverがOpenAIを去り、後継として設立したSafe Superintelligence Inc.に移った。内部の安全性文化を支えていた人材が相次いで流出している状況の中で、今回の解散報道はある種の「必然」のように見えてしまう。競合であるAnthropicやGoogleとの開発競争が激化するほど、安全性への投資が後回しにされるリスクは高まる。
エンジニアとして感じる危機感と現実
AIの開発現場に関わる者として、この問題は他人事ではない。安全性チームというのは、ビジネス的には直接的な収益を生まない部門だ。プロダクトのリリースを遅らせることもある。経営判断としては削減しやすい対象になりがちなのは、残念ながら理解できる論理ではある。
しかし、AIが社会インフラに深く組み込まれていく現在において、リスク評価を専門に行うチームをなくすことは長期的に見て大きなツケを払う可能性がある。OpenAIがこれに代わる体制をどう構築するのか、あるいは単純に機能を縮小するのか、透明性を持って説明する責任があるはずだ。外部の研究者やユーザーとして、私たちはその説明を求め続けるべきだと思っている。AI開発のスピードが上がるほど、ブレーキの性能を確認する作業は軽視できない。