OpenTSLMをSageMaker JumpStartで活用:時系列データの説明から現場のアクションへ


ADVERTISEMENT

時系列と文脈を統合するOpenTSLM

Aionic Labsが開発するOpenTSLMは、数値の時系列を自然言語の文脈や質問とあわせて解釈する、オープンソースの時系列言語モデル(TSLM)ファミリーです。設備センサーや需給データなどの測定値に、保守記録、市場ニュース、エンジニアの観察といった情報を組み合わせ、変化の兆候を捉えて説明することを目指します。時系列データを長いテキストや画像に変換して汎用言語モデルへ渡す方法では、履歴やメトリクスが増えるほどトークン消費とコストが膨らみ得ます。TSLMは、測定値を数値系列として扱いながらテキスト文脈と結び付ける設計で、この分析形態に対応します。

SageMaker JumpStartで提供されるモデルは OpenTSLM-Flamingo です。Gemma 3 4B言語モデルに時系列エンコーダーとクロスアテンション層を組み合わせ、言語モデルがエンコード済み系列を参照できる構成です。総パラメーター数は52.4億で、bfloat16形式の重みは約10.5 GBのGPUメモリを使用します。時系列は、言語モデルへ渡す前に固定サイズの表現へ圧縮されますが、これはシステム全体のメモリが無制限になることや、長い記録中の短い異常を確実に検出できることを意味しません。

時系列データの共有基盤として紹介されるTimeNetは、学習・評価用データセットを検索、構築、読み込みするための共通フォーマットとAPIを提供します。モデルとデータ基盤を分離することで、アプリケーション側は観測窓や対象信号を選択し、応答を検証したうえで業務フローに渡せます。また、新しいチェックポイントを代表的なケースで評価してから切り替える構成も可能です。

SageMakerへのデプロイと推論上の制約

JumpStartでは、Studioのモデル一覧からOpenTSLM-Flamingo Gemma 3 4Bを選び、Gemma Terms of UseのEULAに同意してデプロイします。記事のテストでは、既定の ml.g6.2xlarge(NVIDIA L4 GPU 1基、GPUメモリ24 GB、ホストメモリ32 GB)でエンドポイントがInServiceになるまで約6分でした。OpenTSLMはbfloat16をサポートするGPUを1基以上必要とし、ホストメモリは32 GBが推奨されています。ほかに対応するインスタンスタイプも示されていますが、利用前に選択リージョンのエンドポイント用クォータを確認する必要があります。

推論リクエストは、質問、数値系列、任意の文脈行からなるJSON形式です。各系列には値、名前、単位やサンプリング間隔などの説明を指定します。1系列あたり最大32,768値を受け付け、欠損値にはNoneを使えます。モデルは系列ごとに平均0、標準偏差1へスケーリングし、元の平均と標準偏差をテキストとして渡すため、形状と絶対的なスケールの両方を考慮できる設計です。

1リクエストに含められるのは最大4インスタンスで、各インスタンスは1~32系列を持てます。出力長max_new_tokensは1~512で、デコードはgreedy方式です。ml.g6.2xlargeでは約20トークン/秒とされ、512トークンの生成には約30秒かかります。リアルタイム呼び出しの制限は60秒、リクエスト本文は最大6 MBです。インスタンスはリクエスト内で順番に処理されるため、複数インスタンスや長い回答をまとめるほど応答時間が増えます。長時間の処理には非同期推論が選択肢になります。

観測窓の設計は、ペイロード制約とは別に検証すべきです。記事が紹介するTS-Haystackの評価では、記録が長くなるにつれて評価対象のTSLMでイベント検索精度が低下する傾向があり、とくにイベントの開始・終了時刻の特定が難しくなりました。関連イベントを含む窓とその前後の文脈を選び、長い記録には重複窓を使うこと、短時間の変化を捉えるサンプリング解像度を保つこと、関連チャネルの時刻をそろえることが重要です。単位、サンプリング間隔、観測期間も文脈に含め、意図する系列長で正常例と異常例の双方を評価します。

先回り型IT支援とARFBenchによる適応

NexthinkとAionic Labsの例では、従業員向けITエージェントSparkが、端末のCPU、メモリ、空きディスク容量、アプリケーションの安定性、接続性などの時系列を、タイムスタンプ付きイベントや端末・ソフトウェア情報と統合します。OpenTSLMは、(1)問題の可能性と根拠となる信号を結び付ける状態要約、(2)原因確認と実行可能な対処を示す推奨アクション、(3)期待される改善と確認方法を示す期待結果を出力します。

低ディスク容量の例では、空き容量の減少、ディスクキューの増加、アプリケーション停止の頻発を、PCの動作低下やファイル保存の難しさと結び付けます。Sparkは空き容量や一時ファイル削除の可否を確認し、IT承認済みのクリーンアップを提案します。従業員の確認後に処理を実行し、空き容量を再確認して改善を尋ね、解決しない場合は調査結果をITサポートに引き継ぐ流れです。モデルの説明をそのまま自動実行するのではなく、確認・同意・事後検証を含む手順に接続している点が、この例の重要な設計要素です。

記事では、TimeNet経由で読み込んだARFBenchを使い、Hugging FaceのOpenTSLMチェックポイントを微調整する手順も示されています。ARFBenchは、Datadogのソフトウェア障害テレメトリーに関する選択式異常検知ベンチマークです。学習ジョブはml.g7e.2xlargeで実行され、時系列エンコーダー、Perceiver resampler、クロスアテンション層、言語モデルのトークン埋め込みを微調整し、Gemma 3言語モデルの残りの部分は凍結します。

記事の実行例では、135件の保留ARFBench質問に対する精度が、微調整前の5.0%から45.9%に上昇しました。ベンチマーク全体でランダム選択が到達する24.5%を上回りますが、これは他モデルとの比較でも公式リーダーボード結果でもありません。実運用では、まず代表例で事前学習済みモデルを評価し、単位・サンプリングレート・システム文脈・観測窓が不足していれば入力を改善します。それでもドメイン固有のパターンやタスク形式を継続して取りこぼす場合に、レビュー済み回答と対になった代表データで微調整し、未学習例で元モデルと比較するのが記事の推奨する進め方です。

開発者・エンジニア視点での考察

  1. 「系列の特徴」と「物理的な尺度」の双方を入力契約に含める。 標準化後の系列だけでは、絶対値が持つ運用上の意味を失う可能性があります。OpenTSLMは元の平均・標準偏差もテキストとして渡す設計ですが、呼び出し側も単位、サンプリング間隔、観測期間、信号の意味を明示し、欠損値の扱いを含めてデータ契約をテストする必要があります。

  2. 長い履歴は一括投入ではなく、イベントを保つ窓設計として扱う。 固定サイズ表現への圧縮と長文脈でのイベント検索性能は別問題です。異常の前後を含む窓、重複窓、複数チャネルの時刻整合を比較し、イベント開始・終了の検出を評価指標に含めると、実際の調査タスクに対する有用性を測りやすくなります。6 MBの本文上限を満たすことだけでなく、選んだ窓長でモデルが必要なイベントを説明できるかを検証することが重要です。

  3. 推論コスト、応答時間、アクション安全性を一体で設計する。 最大512トークンまで生成できても、リアルタイム呼び出しは60秒以内であり、複数インスタンスは逐次処理されます。アプリケーション側で回答長やバッチサイズを調整し、出力を専門家への提示または後続ワークフローの入力として扱うべきです。端末変更のような操作では、Sparkの例のように事前確認、ユーザー同意、実行後の状態確認、未解決時のエスカレーションを組み込み、モデルの推奨と実行権限を分離する設計が有効です。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT