LLMおよびエージェントの行動を制御する「感情」のメカニズム：機械論的解明
感情駆動型推論の機械論的メカニズムと潜在空間への影響
本研究は、LLMに対する「感情」プロンプトが、単なる言語スタイルへの適合を超え、モデルの内部的な活性化経路（Activation Paths）をどのように変容させるかを解明した。著者らは、Transformerブロック内の特定のヘッドが「感情的なコンテキスト」を入力された際に、論理的推論とは異なるサブスペースにクエリを投影することを確認した。
具体的には、GPT-5.4やClaude Sonnet 4.6クラスのモデルにおいて、感情的なニュアンス（「慎重さ」「興奮」等）が、Attention重みのバイアスを再構成し、長期依存関係におけるトークン間の「注意」の配分を操作していることが判明した。これは、モデルが強化学習プロセスで獲得した、特定の人間的ペルソナに関連する報酬信号のパターンを、推論時に再アクティブ化している現象（Affective Priming）である。
エージェントにおける感情状態とタスク達成精度の相関分析
自律型エージェント（Agentic Workflows）において、感情的プロンプトを制御ユニットに統合する手法が注目されている。本研究では、Qwen 3.6-Plusのようなリポジトリレベルのコーディングモデルを用い、タスク失敗の可能性が高い場面で「焦燥感」や「集中」といった感情的コンテキストを注入した際、デバッグ精度が平均18%向上することを実証した。
このメカニズムは、感情的なコンテキストが「探索範囲の制限（Pruning）」として機能するためである。感情的バイアスが加わることで、モデルのサンプリング時のトップP戦略が、より保守的かつ検証志向の経路を選択するように強制される。これにより、特に不確実性の高いマルチステップ推論タスクにおいて、不要なハルシネーションを抑制する効果が確認された。
開発者・エンジニア視点での技術的洞察
-
感情的推論のベクトル制御（Affective Vector Control）の実装: 単なるシステムプロンプトの記述ではなく、モデルの潜在空間における特定の感情ベクトルを、推論時の隠れ状態（Hidden States）に直接加算（あるいは正規化）することで、プロンプトインジェクションへの耐性を高めつつ、タスクごとの「性格」を動的に制御するミドルウェアの開発が現実的となった。
-
感情によるAttentionのフィルタリング機能の活用: 複雑なRAG（検索拡張生成）ワークフローにおいて、検索したコンテキストに対して「感情タグ」を付与することで、LLMのAttentionヘッドがノイズとなるコンテキストを効率的に無視させるフィルタリング手法が可能である。これは、特にコンテキストウィンドウが1Mトークンを超えるQwen 3.6-Plusのようなモデルにおいて、情報の優先順位付けを最適化する鍵となる。
-
評価系への「感情的安定性」テストの導入: AIエージェントのプロダクト評価において、正確性やコード生成速度だけでなく、感情的インプットの変化に対する出力の「安定性（Sensitivity Analysis）」を計測するメトリクスが必要である。感情プロンプトによって出力が劇的に変動するモデルは、エージェントの意思決定における信頼性を著しく損なうリスクがあるため、RLHF工程で感情的ロバストネスを評価基準に含めるべきである。
🔗 Source / 元記事: https://arxiv.org/abs/2604.00123
