生物学の質問は、なぜ
静かに格下げされていたのか。
6月のFable 5ローンチ以来、細胞膜や花粉症薬についての基礎的な質問まで、ユーザーに気づかれないまま下位モデルへ回されていた。Anthropicは8月7日、分類器を作り直し、この誤検出を約85%減らしたと発表した。何が変わり、何が変わっていないのか。
「念のため」の全面ブロックが
日常の質問まで巻き込んでいた
Anthropicは6月、上位モデルと位置づけるClaude Fable 5を公開した。生物学の知見が大きく強化された一方で、悪用を防ぐため生物学関連の質問は原則すべて安全チェックを通す設計にした。ここでつまずきが起きた。「安全なリクエストと危険なリクエストの線引きが難しい」という理由で、生物学関連の質問の大半が一律に警戒対象とされ、ユーザーに気づかれないまま、Fable 5より生物学の能力が低い下位モデルClaude Opus 5へ黙って回されていたのだ。この現象は「フォールバック」と呼ばれる。
海外メディアの検証では、細胞膜やミトコンドリアの仕組み、花粉症の薬、mRNAワクチンの効き方といった、教育・日常レベルの質問までブロックやフォールバックの対象になっていたと報じられた。この過剰検出は公開直後から利用者の間で半ば定番の不満になるほど広がり、臨床現場や教育現場からも「実務で使いにくい」という指摘が相次いでいたとGIGAZINEなど複数メディアが報じている。
| 6月ローンチ時の分類器 | 8月7日以降の分類器 |
|---|---|
| 生物学関連は原則すべて警戒対象 | 危険度の低い質問はFable 5が直接応答 |
| 日常の健康・教育質問も一律フォールバック | 検査結果の解釈や授業レベルの質問は通過 |
| ユーザーには理由が見えない黙示の切替 | デュアルユース領域のみ引き続き転送 |
| 研究者・医療従事者からも不満が拡大 | 社内テストでフォールバックを約85%削減 |
誤検出を減らすため、Fable 5の生物学系セーフガードを更新した。
社内テストでは、生物学関連のフォールバックを製品全体で約85%削減できた。
分類器の「憲法」を書き直す
閾値を少し緩めただけではない。判断基準そのものを作り直し、ゼロから再学習させたという。
Anthropicが公式ブログで説明したところによると、今回の変更は単純な閾値調整ではない。分類器が参照する内部ルールセット――安全対象と許可対象の境界を定める文書――を書き直し、社内外の専門家からフィードバックを募ったうえで、新しいルールに沿った学習データを作り直し、分類器そのものをゼロから再学習させたという。ねらいは、危険性の高いデュアルユース情報の検出精度は保ちながら、日常的で無害な質問だけを的確に見分けられるようにすることだった。
この結果、社内テストでは生物学関連のフォールバックが製品全体で約85%減少した。海外メディアの報道をまとめると、フォールバック全体の減少幅はサービスによって差があり、Claude.aiで約67%、Coworkで約55%、Claude Codeで約17%、API相当のClaude Platformで約7%程度とされている。開発者向けAPI経由の利用ではもともとデュアルユースの疑いが相対的に強く出やすい傾向があったとみられ、改善の効き方にも差が出た形だ（Impress Watch報道）。
エンジニア・事業サイド・PMは
それぞれこう変わる
影響の出方は職種によって違う。行動可能な粒度で確認しておきたい。
エンジニア
Claude Code・API経由でバイオインフォマティクス系のプロンプトを扱う開発者は、理由の説明もなく応答が別モデルに切り替わる現象に悩まされてきた。ただしClaude Codeでの改善幅は約17%、Claude Platform（API）は約7%と他サービスより小さい。フォールバックを検知して分岐処理を書いていた実装は、まだ前提を大きく変えないほうが安全だ。
事業・導入担当
ヘルスケアや教育分野でClaudeの採用を検討している事業者にとって、日常利用で「使い物にならない」体験が減ることは前向きな材料になる。ただし高リスク領域のブロックは維持されるため、これは安全基準の緩和ではなく誤検出の是正であり、既存のコンプライアンス評価やベンダーリスク評価をそのまま流用してよい。
PM・プロダクト担当
「Fable 5は生物学の質問を拒否しがち」という制約を前提にUXやプロンプト文言を設計していたチームは、その制約が緩んだことを踏まえて見直す価値がある。ただし過信は禁物で、まずは自社の実際の拒否率・フォールバック率を実測してから設計を変えるのが現実的だ。
「たがが外れた」わけではない
研究者・教育機関がまずやるべきことは、自組織でよく出る質問パターンを使ってフォールバック率を再テストし、改善が実務にどれだけ効くかを定量的に確かめることだ。エンタープライズの導入担当者は、今回の変更が「安全基準の緩和」ではなく「誤検出の是正」であることをコンプライアンス文書に反映し、既存のリスク評価をそのまま維持すればよい。Claude Code・API経由でフォールバックの分岐処理を組んでいた開発者は、改善幅が小さいサービス（Claude Codeで約17%、APIで約7%）を踏まえ、その分岐ロジックをまだ外さないほうがよいだろう。
ただし今回の変更は、あくまで「無害な質問への誤検出」を減らすものであり、安全基準そのものを緩めたわけではない。ウイルス学・毒性学・分子設計など、Anthropicが「デュアルユース」と位置づける領域は、引き続きOpus 5への転送対象のままだ。専門の生物学研究者がFable 5をフル活用するための「信頼されたアクセス経路」はローンチ当初から約束されていたが、8月時点でも提供時期は明らかにされていないとTech Timesが報じている。臨床・教育向けの緩和は歓迎されつつも「本題の研究用途はまだ置き去りだ」という受け止めも出ている。
今回の発表の前日にあたる8月6日には、スタンフォード大学とArc Instituteの研究チームが、ゲノム言語モデル「Evo」を使って設計した合成バクテリオファージ16株が実際に大腸菌への感染力を持ったとする論文をScience誌に発表し、付随する論説でジョンズ・ホプキンス大学のバイオセキュリティ専門家が「この能力を安全に制御する統治の仕組みはまだ存在しない」と指摘した。Fable 5の分類器改善とこの論文に直接の関係はないが、生成AIが生物学の設計に踏み込みつつある時期の出来事として、デュアルユース判定の重みはむしろ増している。