静かなる離脱、そして耳障りなシグナル
Aleksander Madry氏が去った。
彼はOpenAIの一般社員ではない。「preparedness（備え・準備）」の責任者だ。業界用語で言えば、まさに「ブレーキを踏むべき人物」である。彼の役割は、AIシステムがもたらしうるリスクを評価し、モデル公開前にそれが十分に安全かどうかを判断することだった。
昨年夏、彼は安全部門からAI推論研究へ異動となった。当時から疑問の声が上がっていた。安全を専門とする人物が、なぜモデルの能力向上に関する研究に配置されたのか？
そして今、彼は完全にOpenAIを去った。自身の投稿で、彼は「AIが経済に与える影響」を研究すると述べている。
礼儀正しく、体裁は整っている。しかし行間から透けて見える本音は明確だ。「ここで自分がやりたいことは、もうできない」と。
OpenAIの「安全物語」は崩壊しつつある
かつて、OpenAIという名前自体が一種の使命感を帯びていた。「Open（オープン）」――開放性。「AI」――全人類に恩恵をもたらす人工知能。Sam Altman氏は各地で講演し、AGI（汎用人工知能）が安全に到来し、すべての人に利益をもたらすべきだと説いていた。
しかし、現実は異なる：
- 非営利から営利へ。 OpenAIは早くから非営利組織から「capped-profit（利益上限付き）」企業へ移行しており、投資家からのリターン要求は強まる一方だ。
- クローズドソースへの転換。 かつてモデルと研究の公開を約束していたOpenAIだが、現在では最先端モデルを非公開（クローズド）にしている。
- 安全チームの周辺化。 Madry氏の異動は孤立した出来事ではない。報道によれば、OpenAI内部における安全チームの発言権は低下し続ける一方、プロダクトチームの影響力は高まっているという。
OpenAIが悪事を働いていると言っているわけではない。言いたいのはこうだ：組織が成長の圧力に直面したとき、「安全」は往々にして最初に妥協される要素となる。 指導者が悪人に変わったからではない。ビジネスの論理が本質的に、慎重さよりもスピードを優先するからだ。
異動、そして離脱――この道筋は決して目新しいものではない
Madry氏の経歴は、テック業界では決して珍しくない。
企業の戦略的重心が「正しいことをする」から「儲かることをする」へ移行すると、安全、コンプライアンス、倫理といった部門の立場は変化する。それらが閉鎖されることはない――体裁が悪いからだ。代わりに「再編」「調整」「再配置」が行われる。安全の専門家はプロダクト研究へ、倫理学者は「社会的責任報告書」の作成へ回される。
そして、真に安全を憂慮する者たちは自ら去っていく。解雇されたからではない。自分たちがもはや意思決定に影響を与えられないと悟るからだ。
Madry氏が「AIが経済に与える影響」の研究を選んだこと自体が、多くのことを物語っている。安全部門の立場では阻止できなかったものを、別の角度から貢献できるかもしれない――AIが雇用に与える衝撃、所得分配への影響、経済構造の変容を研究するのだ。これらの問いに対する答えは、いかなるモデルの安全評価よりも重要かもしれない。
業界には独立した安全の監視役が必要だ
OpenAIの物語が教えてくれることは一つだ：AI企業が自ら安全の審判役を務めることを期待してはならない。
これはOpenAIを非難しているわけではない。どの企業にも不可能なことだ。選手と審判を同時に務めれば、試合の結果は最初から決まっている。
業界が真に必要としているのは、独立した安全評価機関だ。金融業界の監査法人、医薬品業界のFDA（米国食品医薬品局）、航空業界の耐空証明に類似した存在である。これらの機関は、規制対象企業から給与を支払われることも、責任者を任命されることもない。唯一の使命は公共の利益である。
現在のAI業界には、そのようなものは存在しない。学術論文もあれば、非営利団体の報告書、政府機関のパブリックコメント募集もある。しかし、実効的な拘束力を持つ独立した安全認証システムは存在しない。
Madry氏の離脱はOpenAIにとって損失だが、独立した安全メカニズムの構築を後押しする触媒となるかもしれない。
業界への一言
安全責任者がプロダクト研究へ異動させられ、倫理チームが広報部門に吸収され、「責任あるAI」が中核的使命からマーケティングのスローガンへと成り下がる――これは一企業の選択ではなく、業界全体の岐路である。
私たちは、成長と安全を両立できると見せかけ続けることができる。あるいは、こう認めることもできる。現在のインセンティブ構造の下では、安全と成長は本質的に衝突する。 これを認めることは悲観主義ではなく、誠実さである。そして誠実さこそが、問題解決への第一歩となる。
Madry氏は誠実さを選んだ――彼は去った。残された問いはこうだ。他にどれだけの者が、誠実さを選ぶだろうか？