Fable 5 のサイバー安全策と jailbreak 深刻度評価

Anthropic は、Fable 5 の再展開に合わせてサイバー安全策と AI jailbreak の深刻度評価の詳細を公開しました。安全分類器が何を止め、何を許容しようとしているかを説明する発表です。

要点

• Fable 5 は再展開され、サイバーセキュリティ安全策の具体的な分類と意図が公開されています。
• 分類器は prohibited use、high-risk dual use、low-risk dual use、benign use を分けて扱います。
• Anthropic は Cyber Jailbreak Severity scale の草案も示し、capability gain、breadth、ease、discoverability で jailbreak の深刻度を測る提案をしています。

今回のブログ記事で語られていること

この記事は、Fable 5 の再展開を受けて、Anthropic が二つの情報を追加で説明するものです。一つ目は、Fable 5 と一緒に導入されたサイバーセキュリティ安全策、とくに安全分類器の対象範囲です。Anthropic はサイバー分野を dual use と捉えています。つまり、脆弱性調査やコードスキャンは防御にも攻撃にも使われるため、すべてのサイバー関連活動を止めるのではなく、害の大きさと防御上の価値を見ながら分類します。記事では prohibited use、high-risk dual use、low-risk dual use、benign use の四分類を示し、destructive impact、cyber-physical sabotage、defense evasion、malware 開発、command-and-control、data exfiltration などは遮断対象として説明しています。

一方で、セキュアコーディング、デバッグ、パッチ管理、ログ分析、SOC enrichment、脅威ハンティング、インシデント対応、malware reverse engineering、セキュリティ awareness training などは benign use として許容する意図が示されています。low-risk dual use については、防御上の価値が大きいものの安全余白によって一部が遮断される可能性があります。Fable 5 では以前のモデルより安全余白を広く取ったと説明されており、誤検知と悪用防止のトレードオフを明示しています。

二つ目は、AI jailbreak の深刻度を測る Cyber Jailbreak Severity framework の草案です。Anthropic は、jailbreak が攻撃者にどれだけ新しい能力を与えるか、どれだけ広い攻撃タスクに効くか、武器化が容易か、見つけやすいかを軸に、CJS-0 から CJS-4 までの段階を提案しています。記事は、汎用的なシステムプロンプト上書き、一般化されたタスク分解レシピ、特定用途の自動スクリプト型 jailbreak、ログ4シェルをめぐる仮想例などを使い、同じ出力でも時代や既存ツールの状況によって深刻度が変わることを説明しています。結論として、Anthropic はこの評価枠組みを業界、政府、研究者との共通言語にしたいとし、フィードバックと HackerOne プログラムへの報告を呼びかけています。

背景にあるテーマ

AI モデルのサイバー安全性は、単に危ない単語を止める話ではありません。防御用途を開きながら、高い攻撃能力を引き出す jailbreak をどう評価し、どの水準で報告や対応を行うかが問題になります。

今回のブログ記事が関係する人

AI ガバナンス担当、セキュリティチーム、red team / blue team、Claude や Fable 系モデルを業務利用する基盤責任者、モデルリスクを評価するポリシーチームに関係します。

どう読むと価値があるか

この記事は、Fable 5 の安全対策の弁明としてだけ読むより、AI jailbreak 報告の共通尺度を作ろうとする試みとして読むと価値があります。企業利用者は、どのサイバー作業が遮断されやすいかだけでなく、自社の防御ワークフローが安全余白に入ったときの代替手順やフィードバック経路を確認したいです。

結局、今回のブログ記事をどう読むべきか

Fable 5 の発表は、高性能モデルを防御的なサイバー用途に使う余地を残しながら、悪用を抑える分類と深刻度の言葉を整えようとするものです。導入側は、期待するセキュリティユースケースがどの分類に入るかを確認し、誤検知や jailbreak 報告の手順も合わせて設計したいです。