オンデバイスで動作する高速・プライベートエージェント「LFM2.5-24B-A2B」の技術的全貌
LFM2.5-24B-A2Bのアーキテクチャとトレーニングレシピ
LFM2.5-24B-A2Bは、総パラメータ数24Bながら、1トークンあたりわずか2Bのパラメータのみがアクティブ化するMixture-of-Experts（MoE）アーキテクチャを採用した、オンデバイス特化型の推論・エージェントモデルである。前身であるLFM2-24B-A2Bの設計基盤を踏襲し、40層のネットワーク構造に加えて、各MoEブロックには64のエキスパートを配置、Top-4ルーティング方式を採用している。さらに、ゲート付きショート畳み込み（Gated Short Convolutions）とGQA（Grouped-Query Attention）のハイブリッド構造を維持しつつ、コンテキスト長を従来の32Kから131Kトークンへと大幅に拡張している。
特筆すべきは、インプレースでのトークナイザー拡張（In-place Tokenizer Expansion）により、語彙数が65Kから128Kへと倍増している点であり、非ラテン文字圏におけるトークン効率が劇的に改善されている。事前学習は33Tトークン規模へスケールアップされ、続く中盤トレーニング（Mid-training）では、32Kコンテキストで推論・数学・コード・指示追従・多言語に重み付けした2Tトークン、131Kコンテキストで長文データ向けの300Bトークンが追加投入された。ポストトレーニングは、スーパーバイズドファインチューニング（SFT）から教師特化、非エージェント型・エージェント型のマルチドメインオンポリシー蒸留（MOPD）、そしてOpenClawやHermes Agentなどのエージェントハーネスを用いた「エージェント強化学習（Agentic RL）」に至る5段階の厳格なパイプラインを経て構築されている。
ベンチマーク性能とエージェントタスクへの適性
ツール使用やエージェントワークフロー、知識、指示追従、数学、コーディングなど16種類のベンチマーク評価において、LFM2.5-24B-A2Bはそのコンパクトなアクティブサイズ（2B）からは信じられないほどのパフォーマンスを発揮する。特にツール使用とエージェント領域において圧倒的な優位性を示しており、AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Bankingといった主要な8つのエージェントベンチマークのうち5つで競合モデルをリードまたは匹敵するスコアを記録している。
具体的な数値として、AutomationBenchでは次点モデルの3倍以上のスコア（27.69）を叩き出し、指示追従を評価するIFEvalでも96.75をマークするなど、プロンプトの厳密な制約遵守において最高水準の性能を証明している。一方で、GPQA DiamondやHLEといった高度な専門知識を要するベンチマークや、SWE-Bench Verifiedなどの複雑なコーディングタスクにおいては、より大規模なモデルが優位性を保つ場面もある。そのため、実運用においては知識検索（RAG）や外部Web検索を組み合わせたハイブリッドなアーキテクチャ設計が極めて有効なアプローチとなる。
エッジおよびGPU環境における推論速度の最適化
実用的なオンデバイスAIにおいて、推論のスループットとメモリ効率は死活問題となる。LFM2.5-24B-A2Bは、llama.cpp、MLX、vLLM、SGLang、ONNXなど、主要な推論エコシステムへデイワンから完全対応を果たしている。エッジデバイス環境の検証では、Apple M5 Max上で184 tokens/s、Ryzen AI Max+ 395上で114 tokens/sという驚異的なデコード速度を達成しており、同クラスのMoEモデルと比較して最大1.7倍の高速化と最小限のメモリフットワークを実現している。
また、単体のNVIDIA B300 GPUを用いた高負荷・高並行（High Concurrency）環境のGPU推論においても、モデルサイズクラスで最高速となる秒間21,000出力トークン超を記録するなど、クラウドからエッジまでシームレスにスケールする優れたスケーラビリティを実証している。これにより、遅延が許されないリアルタイムなエージェントインタラクションや、プライバシーが厳しく要求されるローカル環境での自律駆動タスク基盤としての実用性が担保されている。
開発者・エンジニア視点での考察
-
アクティブ2Bパラメータによる経済的な「思考（Reasoning）」の実現: トークン生成ごとに消費される計算リソースが最小限に抑えられるため、長大な思考プロセス（Chain of Thought）を伴うエージェントの自律ループを、クラウドコストを気にせずローカルハードウェア上で常時稼働させることが現実的になる。
-
既存エージェントハーネスへのシームレスな統合: OpenAI互換のAPIエンドポイントを提供する各種サービングバックエンド（
llama.cpp,vLLM,SGLang等）を介して、Hermes AgentやOpenClawなどの既存エージェントフレームワークに数行の設定変更だけで組み込める高いインテグレーション性を持つ。 -
長文コンテキストと非ラテン文字対応の強化: 131Kトークンへと拡張されたコンテキストウィンドウと128Kに倍増した語彙数により、大規模なコードベースの解析や日本語を含むマルチリンガルなエージェント制御において、トークン効率の低下やコンテキスト溢れを起こさない堅牢なパイプラインを構築できる。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
