Editor’s Note
Fable 5の生物学セーフガードを改善、誤検知によるフォールバックを約85％削減
生物学の質問を広く受け止める更新
Anthropicは8月7日、Claude Fable 5の生物学向けセーフガードを更新し、正当な質問まで制限してしまう誤検知を大幅に減らしたと発表しました。テストでは、生物学に関連する問い合わせで、より能力の低いモデルへ切り替わる「フォールバック」が製品全体で約85％減少したとしています。
利用者が変化を感じやすいのは、検査結果の読み方、症状の理解、生物学の学習といった日常的な質問です。医療従事者も、臨床業務でより多くの支援をFable 5から受けられるようになります。生物学の話題を一律に警戒する状態から、質問の性質を見分けて許可する状態へ近づけた更新です。
生物学以外の理由も含む全フォールバック数について、AnthropicはClaude.aiで約67％、Coworkで55％、Claude Codeで17％、Claude Platformで7％の減少を見込んでいます。利用面の改善は大きい一方、対象となる製品によって影響の幅が異なる点には注意が必要です。
安全分類器の境界を細かく引き直す
Fable 5では、小型の自動AIシステムである安全分類器が、保護対象の生物学タスクや有害な出力を検知します。分類器が作動すると、問い合わせはOpus 5へ振り分けられます。Opus 5は有能なモデルですが、Fable 5と同水準の生物学的能力を持たず、悪意ある利用者に与えられる支援を抑える役割を担います。
今回の改善では、分類器が判断に使うルール集を数週間かけて書き直し、無害な用途を詳しく切り分けました。社内外の多様な専門家から意見を集め、更新したルールに基づく訓練データを作成して再学習。そのうえで、有害またはデュアルユースの研究内容には引き続き反応しながら、利益のある用途をより広く許可できることを検証しています。
ここで難しいのは、善意と悪意をテーマ名だけで分けられないことです。感染症対策や医薬品開発では、病原体や毒性物質を扱う工程が正当な研究に含まれる場合があります。同じ知識や手順が治療にも危害にも使われ得るため、分類器には誤検知を減らす精度だけでなく、意図を隠した回避行為への堅牢性も求められます。
専門研究への制限はまだ残る
AnthropicはFable 5の公開時、ほぼすべての生物学関連質問を対象にする広い分類器を採用しました。高性能モデルを他分野へ早く提供しつつ、生物学での悪用リスクを抑えるための慎重な初期設定でした。その結果、正当な利用者にも多くのフォールバックが発生しましたが、今回は安全余白を保ちながら許可領域を広げる調整となります。
ただし、ウイルス学、毒性学、分子設計など、Anthropicがデュアルユースとみなす依頼は今後もOpus 5へフォールバックします。このため、Fable 5はまだ専門的な生物学研究や医薬品開発に利用できる状態ではありません。低リスクでも分類器が作動する例は残るとしており、誤検知が解消したわけでもありません。
今回の発表で重要なのは、安全対策を固定的な禁止リストではなく、能力の開放とリスク管理の境界を継続的に調整する仕組みとして示した点です。次の焦点は、危険な支援を抑える性能を維持できるか、そして信頼できる研究者へ最先端の生物学能力を提供するアクセス経路を安全かつ大規模に構築できるかです。
