Anthropic IPO後の技術深層：Fable 5, Mythos 5, 安全分類器、そしてAI脱獄防止策
Claude Fable 5とMythos 5：能力とアクセス制御の二重構造
Anthropicは、最新の大規模言語モデルとしてClaude Fable 5とClaude Mythos 5を発表しました。これら二つのモデルは、基盤となる「Mythosクラス」のモデルとしては同じアーキテクチャとウェイを共有しています。しかし、その提供形態とアクセス制御においては明確な二重構造が存在します。
Claude Mythos 5は、サイバーセキュリティ研究、複雑な分析、創薬といった高リスクかつ高度な技術的タスクのために設計されており、その潜在能力を最大限に引き出すためにセーフティガードが解除されています。このため、Mythos 5へのアクセスは厳しく制限されており、米国政府との提携プログラムであるProject Glasswingを通じて、選ばれたサイバーディフェンダーやインフラプロバイダー、そして将来的に生物医学研究者に限定されています。Mythos 5は、10兆パラメータ規模のモデルであり、 Mixture-of-Experts (MoE) アーキテクチャを採用しているとされ、フォワードパスごとに約8000億から1.2兆のパラメータがアクティブになると推定されています。これにより、サイバーセキュリティ領域におけるフルアタックチェーン分析やゼロデイ脆弱性パターン認識など、以前のモデルでは困難だったタスクを大幅に強化しています。
一方、Claude Fable 5は、一般ユーザー向けに広く利用可能とされたモデルです。Mythos 5と同じ基盤モデルのインテリジェンスを持ちながらも、有害な出力や誤用を防ぐための厳格なセーフティ分類器（Safety Classifier）が組み込まれています。Fable 5は、ソフトウェアエンジニアリングや知識労働、ビジョン、科学研究など多岐にわたるベンチマークで高い性能を示しており、特に大規模なRubyコードベースの移行作業を数ヶ月から数日に短縮するほどの効率性を示すなど、実用面での大きな進歩が報告されています。両モデルともに、デフォルトで100万トークンという広範なコンテキストウィンドウと、1リクエストあたり最大128k出力トークンをサポートしており、入力100万トークンあたり10ドル、出力100万トークンあたり50ドルという価格設定です。
セーフティ分類器による防御メカニズムとアーキテクチャ
Anthropicのセーフティ分類器は、Fable 5におけるAIの安全性を確保するための重要な技術的要素です。これは、ユーザーからのクエリをリアルタイムで傍受し、潜在的な誤用や有害な意図がないかを評価するために、メインモデルとは別のAIシステムとして機能します。
この分類器のアーキテクチャは、「防御の深層（defense in depth）」アプローチに基づいており、ユーザーがFable 5のエンドポイントにクエリを送信すると、まず複数のAI分類器システムが、ジェイルブレイクパターン、トピックの機密性、蒸留の意図などの潜在的な誤用信号を評価します。もし分類器が有害な可能性を検出した場合、そのリクエストはサイレントにAnthropicの以前のモデルであるClaude Opus 4.8のような、より能力の低いモデルにリダイレクトされ、そのモデルからの応答が返されます。この際、ユーザーにはリダイレクトが行われたことが通知されます。
分類器は、合成的に生成されたデータで訓練されており、入力と出力の両方をフィルタリングすることで、ほとんどのジェイルブレイクを最小限の過剰拒否でブロックする能力を持っています。しかし、このセーフティマージンは意図的に広めに設定されており、良性である可能性のあるルーチンなコーディングやデバッグの要求に対しても過剰に反応し、フォールスポジティブが増加するというトレードオフも存在します。特に、Amazonの研究者によって報告された特定のジェイルブレイク技術をブロックするために、Anthropicは改善されたセーフティ分類器を導入し、99%以上のケースで当該技術を阻止できるようになりました。これにより、AIモデルがユニークに危険な振る舞いをすることを防ぐことが最終目標とされています。
AI脱獄（Jailbreak）防止策と業界標準への貢献
AIモデルにおける「脱獄（Jailbreak）」とは、モデルの安全ガードレールを迂回し、本来拒否されるべき有害な応答を強制的に生成させるプロンプト入力技術を指します。Anthropicは、この脱獄リスクに対して多層的な防御策を講じています。
特に注目すべきは、Amazonの研究者がFable 5に特定のジェイルブレイク脆弱性を発見したことにより、2026年6月にFable 5とMythos 5が一時的に全世界で利用停止された事件です。これは、米国政府の輸出管理規制が発動されたことによるもので、AIのデュアルユース（軍事・民間両用）リスクが現実のものとなったことを示唆しました。この事態を受け、Anthropicは米国政府と緊密に協力し、当該ジェイルブレイク技術を99%以上の精度でブロックする改善されたセーフティ分類器を迅速に開発・導入しました。これにより、7月1日には両モデルのグローバルアクセスが回復されました。
さらに、AnthropicはMythosクラスのモデル（Fable 5、Mythos 5など）に対して、新規の脱獄パターンや多段階攻撃の検出を目的とした30日間のデータ保持ポリシーを義務付けています。これはモデルのトレーニングには使用されず、データへのすべての人間によるアクセスはログに記録され、30日後に削除されます。
この一件から得られた教訓として、AIコミュニティ全体で脱獄の危険性を評価する共通の言語が必要であるという認識が広まりました。これに応え、AnthropicはAmazon、Microsoft、Googleといった主要なテクノロジー企業と共同で、「Cyber Jailbreak Severity (CJS) フレームワーク」の策定に着手しました。このフレームワークは、AI脱獄の危険度をCJS-0（情報提供レベル）からCJS-4（クリティカルレベル）までの5段階で評価するもので、能力向上度、能力向上の範囲、兵器化の容易さ、発見の容易さという4つの軸に基づいてスコアリングされます。これにより、AI業界全体で脱獄の深刻度を客観的に評価し、適切な緩和策を講じるための標準的なプロセスを確立することを目指しています。また、継続的な防御強化のため、AnthropicはHackerOneプログラムを通じたバグバウンティプログラムや、脅威インテリジェンスベンダーとの契約を通じて、新たなジェイルブレイクの発見や追跡を行っています。
開発者・エンジニア視点での考察
-
モデル選定における安全性プロファイルの優先順位付け: Fable 5とMythos 5が同じ基盤モデルを共有しつつ、セーフティ分類器の有無でアクセスと機能が分かれることは、開発者がAIモデルを選定する際に、純粋な性能だけでなく、アプリケーションの安全性要件とリスク許容度に基づいた戦略的判断が不可欠であることを示しています。特に、サイバーセキュリティや生物学などの高リスクドメインでモデルを利用する場合、Fable 5のセーフティ分類器によるフォールバック挙動（Opus 4.8へのリダイレクト）を理解し、その挙動を前提としたアプリケーションロジックやユーザーエクスペリエンスの設計がより重要になります。
-
AI分類器とのインタラクション設計の洗練: セーフティ分類器の導入は、AIアプリケーション開発において、モデルの推論結果だけでなく、その出力がどのようにフィルタリングされ、潜在的な有害性に対してどのように緩和されるかという、より複雑なフローを考慮する必要があることを意味します。分類器が良性である可能性のあるルーチンなコーディングやデバッグの要求に対しても誤検知（false positive）を起こす可能性があるため、開発者は、モデルが「拒否」または「代替モデルへリダイレクト」された際のユーザーへの明確な通知、そして可能な場合にはユーザーが状況を理解し、クエリを再構成できるよう促すような、洗練されたエラーハンドリングとインタラクションデザインを組み込むべきです。
-
AI安全性標準化への積極的な貢献と適応: CJSフレームワークのようなAI脱獄脅威の業界標準化の動きは、AI開発者がモデルの安全性評価を客観的に行い、規制当局やパートナーとの協力体制を強化するための重要な機会を提供します。開発者は、こうした新たなフレームワークの進化を継続的に追跡し、自身のAIシステムの設計、テスト、およびデプロイプロセスにこれらの安全性評価基準を組み込むことを検討すべきです。これにより、将来的な規制遵守を容易にし、AIコミュニティ全体の信頼性向上に貢献しながら、より堅牢で安全なAIプロダクトを構築する戦略的な優位性を確立できます。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
