Claudeのロボット操作評価、低水準制御より事前学習済み方策との連携が有効

Anthropicは、言語モデルに倒立振子、四足・人型ロボット、ロボットアームなどを操作させ、制御の抽象度によって能力が大きく変わることを報告しました。

要点

• モーターを直接動かす低水準制御は依然として難しく、完全なタスク成功は限定的でした。
• 事前学習済みの歩行方策や視覚言語行動モデルを使う高水準制御では成績が大きく上がりました。
• 新しいモデルほど修正能力は向上していますが、空間記憶、自己位置推定、長い計画には弱さが残ります。

今回のブログ記事で語られていること

AnthropicのFrontier Red Teamは、同じ言語モデルでも、ロボットへどう接続するかで能力評価が大きく変わると説明しています。試験は、モーターのトルクを直接指定する方法、Python制御器を書く方法、強化学習で方策を訓練する方法、事前学習済み方策へ高水準の指示を渡す方法を含みます。対象も単純な制御課題だけでなく、Unitree Go2四足ロボット、G1人型ロボット、Franka Pandaアーム、実機による移動まで広げています。

低水準の直接制御では、現在のモデルは多くの場面で失敗します。人型ロボットを倒れた状態から立たせる試験は成功せず、固定アームの操作も完全成功率は最大で5.5%でした。ただし、物体へ近づく、接触する、把持するといった途中段階は新しいモデルほど改善しました。単純な制御課題でも初回性能より再試行後の改善が目立ち、結果を見て方針を修正する能力が進歩の一因とされています。

事前学習済み方策を介すと状況は変わります。四足ロボットでは高水準の速度指示とカメラ画像を使って単純な移動を実行でき、ロボットアームでは視覚言語行動モデルが提案する動作を監督することで直接制御より成功率が上がりました。一方、言語モデルが良い提案を不要に上書きすると、方策単体より性能が落ちます。強いモデルが常に良い監督者になるわけではなく、「介入すべき時」と「任せる時」を見分ける能力が重要です。

安全面では、現時点の失敗率だけを見て能力を過小評価しないことが重要です。一般向けモデルでも、良い条件では自ら道具を書き、四足ロボットを迷路で動かしたり、皿を持ち上げたりできます。実環境へ導入するチームは、速度・力・作業範囲の物理上限、緊急停止、人の監督、事前学習済み方策の検証、失敗を含む記録を設ける必要があります。評価時には、モデル名だけでなく機体、制御方式、知覚補助、停止条件を同じ単位で報告しなければ比較を誤ります。

今回のブログ記事が関係する人

ロボティクス研究者、倉庫・製造・研究室でAI操作を試すチーム、モデル能力と物理安全を評価するセキュリティ担当に関係します。

結局、今回のブログ記事をどう読むべきか

現在の言語モデルが汎用ロボットを安定して直接制御できるという報告ではありません。適切な制御層と事前学習済み方策を組み合わせると実用能力が急に高まるため、モデル単体ではなくシステム全体の安全境界を早めに評価すべきという材料です。