Article
Fable 5、7月1日に世界で提供再開。ジェイルブレイク評価の共通枠組みも提案
一時停止から世界提供の再開へ
Anthropicは、Claude Fable 5を7月1日から世界のユーザーへ再び提供すると発表しました。対象はClaude Platform、Claude.ai、Claude Code、Claude Coworkです。AWS、Google Cloud、Microsoft Foundryでのアクセスも、可能な限り早く再開するとしています。
発端は6月12日、米国政府がFable 5とClaude Mythos 5に輸出規制を適用したことでした。規制は米国内外を問わず外国籍の利用者へのアクセス制限を求めるもので、国籍をリアルタイムに確実に確認する方法がなかったため、Anthropicは両モデルを全ユーザー向けに停止しました。その後、6月30日に両モデルへの輸出規制が解除され、Fable 5の世界提供再開が決まりました。
Pro、Max、Teamと一部のEnterpriseプランでは、7月7日まで週次利用上限の最大50％までFable 5が含まれ、それ以降は使用量クレジットで利用できます。一方、Mythos 5は6月26日の政府承認を受け、一部の米国組織にアクセスを復旧。Glasswingプログラムの国内外のパートナーへ広げる調整は継続中です。2つのモデルは同じ基盤モデルを共有しますが、Fable 5は一般利用に向けた強い保護策を備え、保護策の少ないMythos 5は防御的サイバーセキュリティに取り組む限られた信頼済み組織向けという位置づけです。
問題になった回避手法と新しい安全分類器
輸出規制のきっかけとなったのは、Amazonの研究者がFable 5の保護策を回避し、複数のソフトウェア脆弱性を特定させたという報告です。1件では、その脆弱性を悪用する方法を示すコードも生成されました。ただしAnthropicの比較検証では、報告に含まれた脆弱性の特定や実証は複数の既存モデルでも可能で、Mythos 5だけが持つ水準のサイバー能力が露出したものではないとしています。
それでも同社は、報告された挙動を狙って遮断する新しい安全分類器を訓練しました。Fable 5への要求が遮断された場合はユーザーに通知し、その要求をOpus 4.8へ送ります。報告された特定の手法は99％を超える割合で遮断される一方、通常のコーディングやデバッグでも無害な要求を誤って止める頻度が上がるという代償があります。安全性の強化が、そのまま使い勝手の改善にはならない点も明示されています。
Anthropicの設計は、危険と断定できる要求だけでなく、サイバーセキュリティに関係し、用途が曖昧な要求や、恐らく無害でも小さな危険性を残す要求まで止める「安全余裕」を大きく取るものです。単独で完全な防御を目指すのではなく、モデルの拒否学習、対話中の分類器、事後の不正利用分析などを重ねる多層防御が前提になっています。
ジェイルブレイクを4つの軸で評価
今回の発表で重要なのは、個別の修正にとどまらず、AIの保護策を回避するジェイルブレイクの深刻度を業界で共通評価する枠組みを提案したことです。AnthropicはAmazon、Microsoft、Google、その他のGlasswingパートナーと草案づくりを始めています。
提案する評価軸は4つです。既存ツールをどれだけ超える能力を得られるかを見る「能力向上」、同じ手法が何種類の攻撃作業に通用するかを見る「能力向上の広さ」、現実の攻撃に転用するまでの専門知識や試行回数を測る「武器化の容易さ」、手法が専門家だけのものか広く公開済みかを見る「発見可能性」です。
この整理なら、安全余裕の内側へわずかに入り込む軽微な回避と、特定の有害行為を可能にする狭い回避、広範な有害行為を解放する普遍的な回避を、同じ言葉で扱わずに済みます。最も深刻な事例では、重大性の確認後すぐ暫定対策の展開を始める方針で、主要な報告窓口を24時間監視するチームも設置します。Fable 5を対象とする新しいHackerOneプログラムも始める予定です。
再開後に問われる運用の透明性
Anthropicは政府機関との連携も拡大し、国家安全保障に関わる能力を大きく進めるモデルについて、指定された政府パートナーへ公開前のモデルと保護策への早期アクセスを提供するとしています。重大な回避や悪用パターンの迅速な共有、共同研究への専任チームと計算資源の提供、業界共通の自主的な安全・評価基準づくりも掲げました。
Fable 5の再開は、修正を入れてサービスを戻すだけの出来事ではありません。どの回避を緊急事態とみなし、どの程度の誤検知を受け入れ、誰が公開前に検証するのかという運用ルールを整える試みでもあります。提案中の枠組みは今後の意見を受けて変わる作業段階ですが、強力なモデルの公開判断を企業ごとの表現から比較可能な基準へ移せるかが焦点になります。
