Article
Anthropic、オープンウェイトモデルの一律禁止を否定 能力基準の安全評価を提案
「オープンだから禁止」ではない
AnthropicのCEO、Dario Amodei氏は、オープンウェイトモデルを一つのカテゴリーとして禁止するよう同社が主張したことはなく、現在も支持していないと明言しました。背景には、中国発のオープンウェイトモデルを米国企業が使うことを禁じる案や、Anthropicが競争回避のため禁止を望んでいるとの批判があります。
同氏は、危険な能力を持たないオープンウェイトモデルを公共財と評価します。実行に必要な計算資源を除けば利用料がかからず、企業、開発者、研究者へ価値を提供するためです。一方、モデルの重みが公開されると、ガードレールの適用や利用監視が難しくなり、後から回収できません。重要なのは、公開形式の利点を認めながら、能力が高まった段階の不可逆なリスクを別に扱うことです。
懸念の中心は2つのシナリオ
第一の懸念は、権威主義政府が米国を上回るAIモデルを構築し、恒久的な軍事優位や国内の深刻な抑圧に利用することです。このシナリオでは、モデルがオープンかクローズドか、米国企業が利用するかは本質ではありません。最も危険なモデルが秘密裏に訓練され、軍事や監視だけに渡される可能性もあるためです。
第二の懸念は、高能力モデルがサイバー攻撃や生物学的攻撃に悪用されること、そして深刻なアライメント上の問題を抱えることです。オープンウェイトは防護策を外しやすく、私的な環境で監視外の利用ができるため、クローズドモデルより危険性が高まる可能性があります。しかし悪用者は正規の米国企業とは限らず、企業による利用禁止だけでは対処できないというのがAnthropicの整理です。
提案する3つの対策
第一は、高性能半導体と半導体製造装置を中国へ販売せず、密輸や迂回取得を取り締まることです。中国の国内生産能力には限界があり、計算資源を直接制限することが、権威主義政府による最先端モデル開発を抑える効率的な手段だとしています。
第二は、産業規模の蒸留への対策です。蒸留はゼロからの訓練より計算効率が高く、保有チップ数から想定される以上のモデルを作る助けになります。Anthropicによれば、米国と同等以上の能力を得るものではない一方、中国のフロンティアを米国から数カ月差まで近づけ得ます。問題はオープン公開そのものより、国家の支援を受けた大規模な能力獲得行為であり、対象を絞った政策が必要だとします。
第三は、公開形態や原産国を問わず、十分に高い能力を持つすべてのモデルへリリース前の安全評価を義務づけることです。サイバー、生物学、アライメントのリスクを直接テストし、能力の低いスタートアップや学術研究のモデルは対象外とする考えです。オープンモデルの危険性や緩和可能性を先に決めつけず、実証的な評価で判断する立場であり、効果を持たせるには国際的な枠組みも必要になります。
論点を「形式」から「能力」へ移す
Anthropicは、オープンウェイトがAI経済への参加を広げ、一部の用途で競争を強め、利用者の管理権を高めるという公開書簡の主張には同意しています。ただし、広いアクセスが常に防御側を有利にすることや、オープン化が必ず安全策の開発を容易にすることには同意していません。特に生物学では、攻撃の準備が速い一方、防御には長い運用時間が必要となる非対称性を懸念しています。
今回の立場表明が示すのは、オープンかクローズドかという二分法だけでは、安全保障と技術アクセスの両方を扱えないということです。半導体、蒸留、高能力モデルの実測リスクという具体的な対象へ政策を分解できるかが焦点になります。
