OpenAI 2025年8月27日の公式発表解説: Anthropic との共同安全性評価

OpenAI と Anthropic は 2025年8月27日、互いのモデルを評価した共同安全性評価の結果を共有しました。misalignment、指示追従、幻覚、jailbreakなどを対象にした初の取り組みと説明されています。

要点

• OpenAI と Anthropic が相互にモデル安全性を評価
• misalignment、instruction following、hallucination、jailbreaking などを検証
• 競合企業同士のクロスラボ協力は、AI安全性向上に重要
• 企業利用者は、ベンダー評価で安全性資料と独自評価を併用したい

今回のブログ記事で語られていること

この発表は、主要AIラボ同士が安全性評価で協力する重要な事例です。OpenAIとAnthropicは、それぞれのモデルを相互に評価し、misalignment、指示追従、幻覚、jailbreakなどの観点で知見を共有しました。AIモデルは企業や社会の重要な基盤になりつつあり、安全性の課題は単一企業だけで完結しません。競合関係にある企業でも、リスク評価やベストプラクティスでは協力する価値があります。

相互評価の意味は、ベンダー自身の自己評価だけでは見えにくい盲点を補えることです。モデル開発企業は自社の設計思想や評価セットに慣れているため、外部の評価者が異なるプロンプト、観点、失敗例を持ち込むことで、より広いリスクを見つけられる可能性があります。jailbreakや幻覚、指示追従の問題は、利用者の実務品質や安全性に直結します。

企業利用者にとって、この発表は安全性資料を読むときの基準を上げるものです。ベンダーがSystem Cardや評価レポートを出しているか、第三者や他ラボとの評価があるか、自社用途で追加テストできるかを確認すべきです。ただし、共同評価があるから安全性が保証されるわけではありません。自社データ、自社業務、自社リスクに合わせた評価とガバナンスは引き続き必要です。

関係するチーム

• AI安全性、モデル評価、リスク管理、セキュリティ
• AIベンダー選定を行う調達、法務、AIガバナンス
• 生成AIを本番業務へ組み込むプロダクトチーム

実務で確認したいこと

1. ベンダーの安全性評価資料と外部評価の有無を確認する
2. 自社ユースケースで幻覚、jailbreak、指示追従をテストする
3. モデル更新時に安全性回帰テストを行う

結局、今回のブログ記事をどう読むべきか

OpenAIとAnthropicの共同評価は、AI安全性が業界横断で扱われるべき課題であることを示します。利用企業は、公開資料と自社評価を組み合わせて判断する必要があります。