最近、あるニュースの見出しが頭から離れなかった。「Who decides when AI is too dangerous?」、つまり「AIが危険すぎると判断するのは誰か？」という問いだ。エンジニアとして毎日AIシステムに向き合っている自分にとって、これは単なる哲学的な問いではなく、非常にリアルな問題として響いた。
判断の主体は誰であるべきか
現状を整理すると、AIの危険性を判断しているのは主に三つの主体だ。開発企業、政府・規制機関、そして研究者コミュニティである。OpenAIやGoogleのような企業は独自の安全審査チームを持ち、モデルをリリースする前に内部評価を行っている。一方、EUのAI法のように政府が法律という形で規制の枠組みを作ろうとする動きも加速している。しかし問題は、これらの主体のあいだに利益相反や情報の非対称性が存在することだ。企業にとってリリースを遅らせることはビジネス上のコストであり、どうしても判断が甘くなるリスクがある。
個人的に感じるのは、エンジニアである自分たちが最も早い段階でリスクを察知できる立場にいるということだ。しかし同時に、組織の中にいると声を上げることが難しい現実もある。内部告発者の保護制度や、エンジニアが倫理的判断を下せる仕組みの整備は急務だと思う。
技術的な危険性の定義そのものが曖昧だ
そもそも「危険なAI」をどう定義するかが極めて難しい。誤情報を生成するモデルは危険か。軍事転用が可能なコードを書けるモデルは危険か。特定の人物になりすませるモデルは危険か。これらすべてに「はい」と答えたくなるが、その線引きは文化や政治的背景によって大きく異なる。ある国では検閲とみなされることが、別の国では安全対策とされる場合もある。
また、危険性は静的ではない。今は問題のないモデルが、ファインチューニングや悪意ある使い方によって明日には危険なツールになりうる。つまり、判断は一度きりではなく継続的なプロセスであるべきだ。これはエンジニアリング的に言えば、リリース後のモニタリングと更新の仕組みをシステムに組み込んでおく必要があるということだ。
国際的な合意形成がなければ意味がない
この問題で最も難しいのは、AIは国境を越えるという事実だ。ある国が厳格な規制を設けても、規制の緩い国で開発されたモデルがインターネット経由で世界中に広まるなら、実効性は大幅に下がる。核不拡散条約のような国際的な枠組みをAIに適用できないか、という議論もあるが、技術の性質があまりにも異なるため単純な比較はできない。
それでも、G7やG20の場でAI安全性に関する共通基準を議論する動きが出てきていることは希望の光だと思う。完璧な合意など最初から期待するべきではないが、対話を続けることに意味がある。エンジニアとして自分が言えるのは、技術の設計段階から安全性を組み込む「セーフティ・バイ・デザイン」の思想を諦めないことだ。誰が最終的に判断を下すにせよ、その判断を支える技術的基盤を作るのは自分たちの責任だと感じている。