- 単一プロンプトや操作だけでなく、エージェントの一連の実行履歴を2段階の検出器で分析
- 目的を超えた自律行動と利用者が誘導する悪用を分け、サイバー・生物・企業方針のリスクを評価
- 社内で導入済みでCortex AI Gatewayへの提供は今後の予定、OpenAI PSPの安全シグナルも取り込み可能
Snowflakeがエージェントの複数段階の危険行動を検出するDAADを紹介
