Kyutai REKI：ロボット操作に効率的なメモリをもたらす2.4B VLAモデル
Kyutai REKIの概要と革新的なメモリ機構
Kyutaiは、InriaおよびÉcole des Pontsと共同で、ロボット操作のための2.4Bパラメータのビジョン・言語・アクション（VLA）モデル「REKI」を公開しました。このモデルは、カメラビューと指示をロボットのアクションにマッピングすることを目的としています。特に注目すべきは、その「効率的なメモリ」メカニズムであり、過去の情報を低コストで活用することで、ロボットがより複雑なタスクを実行できるように設計されています。
従来のVLAモデルの多くは、単一の現在のフレームに基づいて動作するか、過去のフレームをVLMに供給する、トレーニングをアンロールする、あるいは追加モジュールを導入するといった方法でメモリ機能を実現していましたが、これらはいずれも計算コストを増加させる要因となっていました。REKIは、この課題に対し、アクションエキスパート内部にメモリを配置するという独創的なアプローチを採用しています。具体的には、各フレームのアクション生成前に32個の学習済みレジスタートークンを使用し、これらがエンコードされたプロンプトと現在のビューに対してクロスアテンションを行い、さらに以前のフレームのレジスターに対してセルフアテンションを行います。このレジスタートークンはアクションデータから独立しており、観測のみに依存するため、一度計算されるとローリングウィンドウでキャッシュされ、各アクションチャンクにわずか0.1ミリ秒の追加コストでメモリ機能を提供します。また、キャッシュに必要なGPUメモリは過去のフレームあたり約2 MiBと非常に少なく、効率性が際立っています。
アーキテクチャ詳細と効率的なアクションエキスパート
REKIモデルは、2.2BパラメータのQwen3.5-2B VLMをバックボーンとし、それに200Mパラメータのアクションエキスパートを組み合わせた、合計2.4Bパラメータの構成です。アクションエキスパートはフローマッチングによってアクションチャンクを生成し、10のオイラーステップで統合されます。ロボットの状態とフロー時間は、アダプティブRMSNormを通じて入力され、各ロボットの状態レイアウトには独自の小さなステートMLPが割り当てられています。
REKIのメモリ機能は、このアクションエキスパート内に組み込まれています。32個のレジスタートークンは、各フレームにおけるVLMの出力を要約し、エキスパートのキャッシュに保持されます。これらのトークンは、エンコードされたプロンプトと現在のビューにクロスアテンションするだけでなく、過去のフレームからのレジスターとセルフアテンションすることで、時間的なコンテキストを構築します。重要な点として、レジスターはアクションデータを読み取らないため、フロー時間やロボットの状態に依存せず、観測データのみから一度計算され、キャッシュに保存されます。この設計により、メモリ処理によるレイテンシの増加は最小限に抑えられています。
この効率的なメモリ機構は、ロボットの動作における「ポーズ振動」のような問題の解決に貢献します。メモリを持たないポリシーでは、知覚的なエイリアシングにより、新しいチャンクごとにロボットが2つのポーズ間で振動することが頻繁に発生しますが、REKIのメモリ機能により、RoboTwinベンチマークでの振動エピソードは18.6%から4.1%に大幅に減少しました。
ロボット操作ベンチマークにおける性能評価
REKIは、複数のロボット操作ベンチマークにおいて優れた性能を発揮しています。公開データのみで事前学習されているにもかかわらず、そのサイズが約2倍のモデルに匹敵、あるいはそれを上回る結果を出しています。
具体的なベンチマーク結果は以下の通りです:
- LIBERO-Plus: 90.4%の成功率を達成し、Kyutaiの比較ではQwen-RobotManip（89.0%）を上回りトップスコアを記録しました。
- RoboTwin Clean2Rand: 65.8%の成功率を示し、Qwen-RobotManip（68.5%）に次ぐ成績でした。
- RoboCasa365: 38.4%の成功率でしたが、RLDX-1（36.0%）やQwen-RobotManip（35.9%）を上回りましたが、Xiaomi-Robotics-1（57.4%）には及ばない結果でした。
- LIBERO (4 suites): 97.6%と高い成功率を記録しました。
- RoboTwin 2.0 Easy / Hard: それぞれ85.9% / 84.6%を達成しました。
推論速度に関しても、REKIは1基のNVIDIA H100 GPU上で、2台の256x256カメラ画像から21.8ミリ秒でアクションチャンクを予測し、効率的なリアルタイム操作を可能にしています。モデルの重みはBF16形式で提供され、Hugging Faceで利用可能です。ライセンスは、重みがCC BY-NC-SA 4.0、コードがMITライセンスとなっています。
開発者・エンジニア視点での考察
-
REKIの極めて低いレイテンシ（メモリ追加によるオーバーヘッドが0.1ミリ秒）とGPUメモリ使用量（過去フレームあたり約2 MiB）は、ロボットのリアルタイムなエッジデプロイメントにおいて非常に有利です。これにより、大幅なハードウェアアップグレードなしに、より複雑なオンボードインテリジェンスの実装と、エッジでの長期間にわたる自律動作の可能性を拓きます。
-
アクションエキスパート内にメモリを独立して配置し、アクションデータではなく観測のみに依存するREKIのメモリメカニズムは、ステートフルなVLAモデル設計における新たなパラダイムを提示します。開発者は、履歴情報が重要であるものの計算コストが高い他のシーケンシャルAIタスク（例：複雑なマルチモーダル対話システムや適応型制御）において、同様のデカップリングされたメモリ構造を探求できるでしょう。
-
REKIが公開データのみで事前学習され、その重みがオープンソース（CC BY-NC-SA 4.0）で公開されていることは、ロボティクス分野の研究者や開発者にとって大きな利点です。これにより、特定のロボットタスクやドメインに特化したファインチューニングが容易になり、効率的なメモリを持つ高性能な専門モデルの開発が加速されると期待されます。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
