Liquid AI、エッジ向けマルチモーダル決定モデル「open d1」を発表


ADVERTISEMENT

open d1決定モデルのアーキテクチャと設計思想

Liquid AIは、従来の生成型モデル(トークンを順次出力するアーキテクチャ)とは異なり、1回のフォワードパスで直接構造化された判断を下す「d1決定モデルファミリー」として、d1-3Bおよび実験的リリースとなるd1-omni-600Mの2つのオープンモデルを発表した。

これらのモデルは、同社のLiquid Foundation Models(LFMs)をベースに構築されている。

  • d1-3B: デコーダーオンリーのVLMであるLFM2.5-VL-3Bをベースに学習されており、テキストと画像をネイティブに入力として受け付ける。
  • d1-omni-600M: 双方向エンコーダーであるLFM2.5-Encoder-350Mをベースとし、ビジョンおよびオーディオエンコーダーを追加することで、テキスト・画像・音声の3つのモダリティを処理可能にする(初期研究リリース)。

従来の自己回帰型モデルと異なり、テキスト生成プロセスを介さずに分類やスコアリング、抽出などの意思決定をダイレクトに行うため、エッジデバイスにおいて圧倒的なスループットと低レイテンシを実現している。

ベンチマーク性能と圧倒的なエッジ推論速度

Decision Index 0.2.1において、d1-3Bは10B未満の決定モデルの中で最高スコアとなる48.57を記録し、より大規模な競合モデルを凌駕している。また、7つの公開データセット(読解、有害性検知、意図分類、医療QA、クロスリンガル理解など)の平均スコアでもd1-3Bが82.9、超軽量なd1-omni-600Mが78.4をマークし、パラメータ効率の高さを示している。

NVIDIAとの協力により測定されたエッジハードウェアにおける推論速度は非常に高速であり、単一の質問に対する応答速度は以下の通り極めて優れている:

  • NVIDIA Jetson AGX Thor: 16 ms
  • NVIDIA Jetson AGX Orin (64 GB): 26 ms
  • NVIDIA Jetson Orin Nano: 50 ms

また、単一質問だけでなく、複数の質問や長大なコンテキスト状態(3.4Kトークン相当)、さらにはパッチ化されたバッチ処理においても非常に低いオーバーヘッドを維持しており、リアルタイム性が求められるロボティクスやエッジAIシステムへの統合において強力な選択肢となる。

開発者・エンジニア視点での考察

  1. 単一フォワードパスによる構造化出力の活用: system_one APIを用いることで、テキストや画像を入力とし、分類(choice)、スコア付け(score)、自然言語制約(noul)などの多様な判断リクエストを1度の推論パスで並列処理できる。これにより、従来のJSONモード強制による生成オーバーヘッドを完全に排除し、決定論的な高速パイプラインを構築可能。

  2. リソース制限のあるエッジ環境へのシームレスな統合: d1-3BはJetson Orin Nanoのような低電力エッジデバイスでも50ms以内で動作し、マルチモーダル(視覚・言語)な判断をローカルで完結させることができる。クラウドへの常時接続が困難な車載器やドローン、産業用IoTデバイスでの実用性が飛躍的に向上する。

  3. カスタムコード読み込みとHugging Faceエコシステムの親和性: transformers>=5.14環境下において、trust_remote_code=Trueを指定することで容易にロード可能。バッチ処理API(system_one_batch)を利用すればパディングなしでの効率的なチケット処理やログ解析が行えるため、バックエンドの大量データトリアージシステムへの組み込みも容易である。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT