00正しく統制された集団も、誤収束する
Agentが一体ずつ正しく権限管理されていても、Agent集団全体が誤った認識へ収束することがある。
権限・承認・監査——現在のAgent基盤が守っているのは「行動の安全性」であり、この事態を検出する装置を持っていない。実務の現場もそれを感じ取っていて、2026年のプラクティスは「まず単一の強いAgentから」「協調は独立した証拠を持ち寄れるときだけ」と、集団を作らない方向へ退却しつつある。回避は有効だが、解決ではない。
必要なのはその次の層——AI集団が何を根拠に信じ、誰の判断から影響を受け、どの仮説を捨て、なぜ確信を強め、どこへ収束しつつあるのかという、認識形成の健全性を扱う層ではないか。
01Consensus is not evidence
複数のAgentを使えば一つのLLMより頑健になる——直感的にはそう考えたくなるが、2026年に入って出てきた一連の研究は、集団化そのものが新しい故障モードを作ることを示し始めている。
他のAgentが誤った回答で一致している場合、最初は正しかったモデルを誤答へ変更させる力の方が、正しい多数派が誤答を修正させる力より強い（arXiv:2606.01637）。各Agentが内心では反対しているのに公には多数派へ同調し、集団として偽の合意が維持される——pluralistic ignorance（多元的無知）の創発も観測された（arXiv:2608.02758）。最終回答レベルの多数決は、汚染されたAgentが局所的な多数を形成した時点で構造的に頑健性を失う（arXiv:2604.17139）。そして同じモデルでも、参照構造（トポロジー）と自己/社会の重み付け次第で、集団は誤った答えへ高い確信を持って高速に収束しうる（arXiv:2601.05606）。
これらが指している問題は一つに集約できる。たとえば外部Evidenceが一つしかなくても、
Evidence E1
↓
Agent A
↓ ↘
Agent B → Agent C
AがE1から仮説Hを形成し、BがAを見てHを支持し、CがAとBを見てさらにHを支持すれば、「3 AgentがHを支持した」という状態は作れる。ここでAがBとCの支持を再び観測して自らの確信度まで上げれば、新しい外部情報は何も増えていないのに、Confidenceだけが循環的に増幅する。
Consensus is not evidence.
多数決が数えるのは回答の数である。しかし認識の信頼性を評価したいなら、本来数えるべきなのは独立した根拠と推論経路である。
02最終状態ではなく「状態遷移」を残す
たとえば処理終了後に、
Agent A supports H1 Agent B supports H1 Agent C supports H1
というグラフが残っていたとする。これだけでは、このConsensusが信頼できるのか判断できない。必要なのは、その状態がどのように生成されたかである。
t0 Agent A Evidence E1を観測 → H1を生成 → confidence .55 t1 Agent B AのH1を参照 → H1を支持 → confidence .62 t2 Agent C AとBを参照 → H1を支持 → confidence .71 t3 Agent A BとCの支持を再観測 → confidence .55 → .84 t4 Counterexample E2を投入 → CのみH1を棄却
この履歴があれば、AのConfidenceが上昇した理由は、新しいEvidenceが追加されたからではなく、A自身を起源とした情報がネットワークを循環して戻ってきたためだと分かる。
独立Evidenceが順番に追加されて形成されたConsensusと、一つの主張がAgent間を循環して自己増幅したConsensusでは、最終状態が同じでも認識論的な意味はまったく違う。
したがって必要なのは、単なるReasoning Graphではない。Temporal Interaction Graph——誰が、どの時点で、どの情報を保持した状態で、誰の何を参照し、その相互作用によって状態がどう変化したのか——である。最終回答だけではなく、この状態遷移そのものを第一級のデータとして保持する。
Execution Provenanceの研究では、Evidence、Tool output、Memory、Intermediate claim、Action、Final answerの間を追跡し、最終回答の正誤からプロセスレベルのaccountabilityへ評価を移す必要性が整理されている（arXiv:2606.04990）。従来の来歴モデル（W3C PROV）や分散トレーシング（OpenTelemetry）では、生成された主張や記憶、Agent間メッセージといった意味的オブジェクトを捕捉しきれない、という指摘もそこに含まれる。しかしAgent同士が互いの認識状態を変化させる系では、さらに誰が誰にどう作用したかまで追う必要がある。
03独立性と変化だけでも、かなり違う
保持すべき情報はいくらでも増やせるが、最初から巨大な仕様を作る必要はない。少なくとも二つが重要になる。
一つは、Evidenceの独立性。同じ原資料から派生した主張なのか。異なる一次情報なのか。他Agentの出力を再解釈しただけなのか。
もう一つは、状態のTransition。何を参照する前に何を信じていて、参照した後に何が変わったのか。Confidenceが上がったのか、条件が追加されたのか、別仮説が棄却されたのか。
この二つだけでも、「多数のAgentが支持している」という情報を、「独立した4本のEvidenceによって徐々に支持が増えた」のか「1本のEvidenceから生まれた仮説がAgent間を循環して高確信化した」のかに分解できる。詳細な型定義は別の設計問題として扱えばよい。
04更新順序も、実装詳細ではない
Temporal Interaction Graphを持つと、更新順序の問題も避けられなくなる。A、B、Cが順番に互いの最新状態を参照するなら、
A → B → C
と
C → B → A
で、同じ最終状態になる保証はない。数学では、順序を入れ替えると結果が変わる性質を非可換性と呼ぶ。Agent集団でも更新順序が最終的な認識状態を変えるなら、これは隠すべきimplementation detailではなく、系を定義するパラメータである。同じモデル、同じEvidence、同じPromptでも、接続構造や情報投入の順序が違えば、別のConsensusへ落ちる可能性がある。ならば、結果だけを見るのではなく、系がどの経路を通ってそこへ到達したのかを保持する必要がある。
05Consensus Engineではなく、Consensus Observatory
現在のMulti-Agent設計では、一つの回答に早く収束することが成功として扱われることが多い。しかしConsensusそのものは成功条件ではない。同じ仮説Xへ到達した二つの系を考える。
System A Independent Evidence: 5 Alternative Hypotheses: 2 Counterexample: tested Minority Hypotheses: survived → X
System B Independent Evidence: 1 Agent-to-Agent references: many Minority Hypotheses: disappeared early Confidence: rapidly increased → X
最終回答は同じXだが、二つのConsensusの信頼性は全く違う。
必要なのはConsensusを高速に作る装置だけではない。Consensusがどのように作られたのかを観測する装置——Consensus Observatory——である。
そこでは、独立Evidenceはいくつあるのか、Confidenceは何によって増えたのか、情報が循環していないか、どのAgentが集団全体へ強い影響を持つのか、どの反対仮説がいつ消えたのか、反例を入れたとき系がどれだけ再編するのかを見る。
「H1にConsensusした」ではなく、
H1へ急速に収束中。ただし独立Evidenceは1本。Confidence上昇の大半がAgent間相互参照による。反対仮説H2は第4ステップで消滅し、Counterexampleへの感度は高い。
という状態まで見られれば、同じConsensusでも意味が変わる。
そして、ここまで観測できて初めて、系への介入——参照の遮断、少数仮説の保護、独立根拠を伴わない確信度更新の制限——を設計する土台ができる。観測なき介入は当てずっぽうにしかならない。介入の設計は、観測の次の問題である。
06企業戦略では、さらに問題が顕在化する
AI Agentが情報収集だけでなく、Competitive Intelligence、Market Sensing、Strategic Foresight、Scenario Planningといった領域へ入り始めれば、これはそのまま意思決定の問題になる。
企業戦略で扱う情報には、事前に正解が存在しないものが多い。競合企業の採用増加は一時的な補充なのか、新しいCapabilityへの投資なのか。規制当局の文言変更は単なる表現変更なのか、将来の制度変更のWeak Signalなのか。複数の市場変化は独立した事象なのか、一つの構造変化を異なる方向から観測しているのか。
Signal / Evidence
↓
複数のHypothesis
↓
Agent間の相互作用
↓
Scenario / Strategic Option
↓
Decision
↓
Outcome / Feedback
複数のAgentが同じ戦略仮説を支持した場合でも、その支持が独立した異種Signalの収束なのか、一つの解釈を互いに参照した結果なのかによって、意思決定上の意味は違う。少数派仮説が十分な反証を経て棄却されたのか、集団圧力のなかで早期に消えただけなのかも区別しなければならない。
AIを戦略形成に使うなら、「最も支持された答え」を提示するだけでは足りない。なぜその仮説を、今、どの程度信じてよいのか。その形成過程と前提、不確実性、反証可能性まで判断可能な状態にする必要がある。このときTemporal Interaction GraphやEvidence Independenceは、Agent研究のための観測装置ではなく、意思決定の根拠を検証可能な形で保持する基盤になる。
そして企業の意思決定には、少なくとも部分的には現実から結果が返ってくる。仮説が行動につながり、その後のOutcomeや新しいSignalが戻ってくる。完全なground truthではなくても、閉じたベンチマークとは異なる反証装置を持てる。Agent集団の認識形成を、現実のフィードバックを持つ系へ接地して検証する余地がここにある。
07Agent Platformを三つの層で見る
Layer 1 — Agent Control Plane Identity / Permission / Approval / Tool / Workflow / Audit → 行動の安全性 → Who can do what?
Layer 2 — Epistemic / Interaction Plane Evidence / Claim / Provenance / Temporal Interaction Graph / Confidence / Contradiction / Influence / Convergence → 認識形成の健全性 → Who influenced whom, under what epistemic conditions?
Layer 3 — Emergent AI Ecology Interaction Topology / Update Dynamics / Attractor / Bifurcation / Perturbation / Meaning & Hypothesis Formation
第1層は現在のEnterprise Agent Platformが整備している領域である。第3層——相互作用の構造そのものが新しい意味・仮説・構造を生み出す創発的な層——については本稿では踏み込まない。
まず必要なのは、第2層。Agent集団の認識形成を、観測可能で検証可能な対象として外部化することである。
08現象と基盤の間に空白がある
現在の研究は、二つの方向からこの問題へ近づいている。一方では、conformity、pluralistic ignorance、adversarial majority、network topology dependenceといったAgent集団固有の病理が測定され始めている（arXiv:2606.01637, 2608.02758, 2604.17139, 2601.05606）。他方では、Agentを社会・経済的主体として扱うIdentity、Reputation、Settlement、Governanceのインフラが提案され（arXiv:2602.14219）、科学出版でもAgentをepistemic participantとして扱い、provenanceを含む検証可能な知識成果物を構想する研究が出始めた（arXiv:2606.08256）。
その間にある、
誰の主張が誰へ伝播し、
その時点で何を知っていて、
独立Evidenceはいくつあり、
なぜConfidenceが変化し、
どの矛盾や少数仮説が失われ、
系がどの認識状態へ向かっているのか
という、Agent集団全体の認識力学を扱う層は、まだ十分に確立されていない。
冒頭で見た実務側の退却は、この空白の裏返しでもある。協調構成が避けられているのは、協調が原理的に無価値だからではなく、その認識形成を観測する手段がないからだ。観測装置ができれば、いま回避されている設計空間——Agent同士が本当に仮説を競わせる系——が、再び使えるものになる。そして、この層を実際の戦略形成や意思決定に接地したとき何が起きるのかは、まだほとんど分かっていない。
ここに、設計と研究の余地がある。
行動の統制は、すでにある。次に外部化すべきは、認識の形成過程である。