Anthropicがオープンウェイトモデル規制への立場を明確化

Anthropicは、オープンウェイトモデルを一律に禁止する立場ではないと明確に述べました。

要点

• Anthropicは、危険な能力を持たないオープンウェイトモデルを公共的価値のある技術として位置付けています。
• 懸念の中心は、特定国のオープンウェイト利用禁止ではなく、強力なAI能力、軍事・監視利用、サイバー・生物リスクです。
• 同社は、先端チップの流出防止、大規模蒸留への対策、能力の高い全モデルへの安全性テストを重視しています。

今回のブログ記事で語られていること

今回のAnthropicの発表は、オープンウェイトモデルをめぐる政策議論に対し、同社の立場をCEOのDario Amodei氏が整理したものです。記事はまず、Anthropicがオープンウェイトモデルの一律禁止を求めていないと明言しています。危険な能力を持たないオープンウェイトモデルは、企業、開発者、研究者に価値をもたらし、実行に必要な計算資源以外は低コストで利用できる公共財に近い面があると説明しています。

一方で、Anthropicが重く見ているリスクは別にあります。一つは、権威主義的な政府が米国などの民主主義陣営より強力なAIモデルを作り、軍事的優位や国内抑圧へ使うことです。このリスクは、モデルがオープンウェイトかどうかよりも、どの主体がどれだけ強力なモデルを訓練できるかに関係します。もう一つは、強力なモデルがサイバー攻撃や生物攻撃に悪用されること、またアライメント上の問題を持つことです。オープンウェイトモデルは、一度公開されると利用監視や回収が難しいためリスクが増える可能性がありますが、米国企業による利用禁止だけでは悪意ある主体を止めにくいと記事は述べています。

その代わりにAnthropicが支持するのは、三つの対策です。第一に、強力なチップや製造装置が中国へ渡ることを防ぎ、密輸や抜け道を抑えることです。第二に、産業規模の蒸留、つまり強力なモデルの出力を使って別モデルの能力を高める行為への法的・商業的対策です。第三に、オープンかクローズドか、どの国のモデルかを問わず、十分に能力の高いモデルへサイバー、生物、アライメントの安全性テストを義務付けることです。読者にとって重要なのは、オープンウェイトを賛否の二択で見るのではなく、能力レベル、配布形態、訓練資源、悪用可能性、テスト制度を分けて考える必要がある点です。

今回のブログ記事が関係する人

オープンウェイトモデルを利用する企業、モデル配布方針を決めるAI開発者、AI政策や安全性評価に関わる担当者、調達・法務・セキュリティ部門に関係します。

結局、今回のブログ記事をどう読むべきか

オープンウェイトモデルを単純に推進または禁止する声明ではありません。Anthropicは、競争を守りつつ、強力なモデルの訓練資源、蒸留、安全性テストを政策の中心に置くべきだと主張しています。