AI Safety Governance · OpenAI
壊滅的リスクの見張り役が、
また一つ消えた。
OpenAIが、モデルが壊滅的なリスクを引き起こしうるかを専門に評価してきた「Preparedness」チームを解散した。業務そのものは既存チームへ引き継がれたとされるが、独立した監視組織が消えるのはこれで3度目。安全ガバナンスへの視線が、また一段と厳しくなっている。
「Preparedness」チーム、
7月末に解散
OpenAIが、モデルの壊滅的リスクを評価する専門チーム「Preparedness」を7月末に解散し、生物・化学リスクとサイバーリスクの業務を既存チームへ再割り当てしたと、THE DECODERなど複数の報道が伝えた。詳細はTHE DECODERの報道にまとまっている。同チームを率いていたDylan Scandinaro氏(2026年2月にAnthropicから移籍)は、自己を再訓練・自己改善しうるAIのリスク評価という新たな役割に移ったという。共同創業者のGreg Brockman氏は、安全対応をモデル開発プロセスそのものへより密接に組み込んだ結果だと説明している。
一方でこの数週間、最高倫理責任者のChloe Bakalar氏やJoshua Achiam氏を含む安全部門の複数人材が退職したことも報じられている。壊滅的リスクの評価枠組み自体(Preparedness Framework)は存続し、Safety Advisory Groupの管轄下で運用が続くとされるが、それを担っていた専任の独立組織が消えた事実は変わらない。
3度目の
安全チーム解体
2024年5月: Superalignmentチーム解散
長期的なAIリスクの研究を担っていたチームが解散。共同リーダーのJan Leike氏らが退職し、「安全文化が製品開発の後手に回っている」との指摘が広く報じられた。
2026年前半: ミッション・アラインメントチーム解散
OpenAIの創業理念に沿った開発を監督していたチームが解散し、業務が既存部門に統合された。
2026年7月末: Preparednessチーム解散
壊滅的リスクの評価を専任で担っていた最後の独立チームが解散。8月11日にはAstraモデルが重大サイバーリスクに指定されたばかりで、直後のタイミングでの解散となった。
「業務は残る」と
「組織が残る」は別問題
OpenAIの説明は一貫して「業務は既存チームに引き継がれ、フレームワークも存続する」というものだ。しかし独立した専任組織と、他業務と兼務する担当者とでは、リスクを継続的に監視する体力も、経営陣に対して異論を挙げる独立性も違ってくる。3年足らずの間に長期リスク・理念遵守・壊滅的リスクという3つの専任監視機能が相次いで姿を消した事実は、個々の説明の妥当性とは別に、外部から見た安全ガバナンスの実効性への疑問符として積み上がっていく。
業務は引き継がれても、
見張る役目が同じ強さで残るとは限らない。
企業導入では、
この経緯を評価材料に
OpenAIのモデルを業務基盤に組み込んでいる事業サイド・PMは、ベンダーのAIガバナンス体制を評価する際の材料が一つ増えたと捉えるべきだ。Preparedness Frameworkが名目上存続していても、それを専任で運用する独立組織があるかどうかは、リスク開示の速さや第三者への説明責任に直結しうる。TechBuzzの報道でも、この解散が経営陣刷新と時期を同じくしている点が指摘されている。契約更新やベンダー評価のタイミングでは、直近の安全体制の変遷を確認項目に加えておくのが実務的な備えになる。日常利用の個人ユーザーへの直接的な影響はほぼない。
反対の見方も
成り立つ
もっとも、独立組織の解体が即座に安全性の低下を意味するとは限らない、という見方も成り立つ。Brockman氏の説明どおり、専任チームに隔離せず開発プロセスそのものに安全評価を組み込む方が、リスク発見から対応までの距離を縮められる可能性はある。ただしこの主張が実際に機能しているかは、外部から検証できる情報が限られているのが実情だ。Preparedness Frameworkの運用実績や、Safety Advisory Groupがどこまで独立性を保てるかは、今後の情報開示を継続的に確認する必要がある。
判断を急ぐ必要はないが、判断を保留し続けることもできない話題だ。同種の組織再編は他の大手ラボでも起こりうるため、個々の企業の説明を鵜呑みにするのではなく、複数社の安全ガバナンス体制を横並びで継続的に比較する視点を持っておくことが、この先の情報を読み解くうえで役立つはずだ。