Reflection AIが初のオープンウェイトモデル「Beam」を発表:総パラメータ501Bと高い推論効率の全貌
Beamのアーキテクチャと計算効率のブレイクスルー
Reflection AIは、Nvidiaの支援を受けるスタートアップとして初となるオープンウェイトモデル「Beam」を発表した。コード生成、高度な推論、エージェント型タスクに特化して設計された本モデルは、Mixture-of-Experts(MoE)アーキテクチャを採用しており、総パラメータ数は501B(5,010億)に達するものの、1トークンあたりに稼働するアクティブパラメータ数は23B(230億)に抑制されている。
事前学習には23.8兆トークンが用いられ、コンテキストウィンドウは100万トークンをサポートする。推論効率の面では、同等の高度推論能力を持つ他社モデルと比較して3分の1から4分の1の計算リソースで動作すると主張されている。ベンチマークにおいては、Terminal Bench v2.1で80.1、SWE-bench Verifiedで80.9を記録するなど、オープンウェイトモデルの領域においてトップクラスの性能を示す。
大規模クラスターによる高速事前学習と強化学習の舞台裏
Beamの開発において特筆すべきは、その圧倒的なインフラストラクチャと学習プロセスの規模である。Reflection AIは、Nvidia GB300 GPUを6,144基使用し、4週間未満という極めて短期間で事前学習を完了させた。さらに、それに続く強化学習(RL)フェーズでは、10,500基のGB300 GPUを用いて4週間にわたり1億回以上のタスク試行を実行した。
特筆すべき現象として、明示的なブラウジングタスクを学習データに含めていないにもかかわらず、事前学習の過程でウェブ検索能力が自然発生的に向上した点が挙げられる。これにより、モデルは自律的に他のAIモデルへクエリを投げたり、OCR(文字認識)ツールを活用してドキュメントを読み取る能力を獲得したとされる。安全性とアライメントに関しては、ベースモデルから派生させた専用モデルを統合する手法が採用されており、今月中には技術レポートと内部構築された安全性テストのオープンソース化が予定されている。
開発者・エンジニア視点での考察
-
MoE構造による圧倒的な推論コストの抑制: 501Bという巨大な総パラメータ数に対し、アクティブパラメータを23Bに絞り込む設計手法は、ローカル環境やオンプレミスでのデプロイにおけるスループット向上とVRAM要件の緩和に直結する。APIコストを抑えつつ自社インフラで高度なエージェントを運用したい開発者にとって、非常に強力な選択肢となる。
-
長大なコンテキストウィンドウとエージェント親和性: 100万トークンのコンテキストを活かし、リポジトリ全体を読み込ませたコードベース解析や、複数ツールを自律的に使い分ける複雑なエージェントワークフロー構築において、高い実用性が期待できる。事前学習段階で副次的に獲得された外部ツール連携能力は、外部APIやOCRとの親和性を高める。
-
再現性とオープンソース化へのアプローチ: Apache 2.0ライセンスでの公開に加え、アライメント用の安全性評価ツールやモデルカードが同時に提供される予定であるため、ファインチューニングやドメイン適応を行う研究者・開発者にとって、ガバナンスとカスタマイズ性の双方を担保した透明性の高いエコシステムが提供される。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。


