Loop Governance

00プロンプトからループへ

2026年、AI活用の重心は明確に移動しつつある。人間が毎回指示を書き、AIが一回答を返す使い方から、エージェントが自ら次のタスクを決め、実行し、結果を踏まえて作業を続ける使い方へ。この転換を指す言葉として、Loop Engineeringという概念が急速に広まっている。開始条件、目標、検証、停止条件、記憶の引き継ぎを一つの「ループ仕様」として設計し、エージェントに反復そのものを委ねる考え方である。

この流れ自体は正しい。逐次指示に依存する限り、AIの生産性は人間の指示速度で頭打ちになる。エージェントを回し続ける設計は、次のAI導入の前提になる。

ただし、ループを回す技術の整備に比べて、ひとつの設計が抜けやすい。何を信じて、次の反復へ進むかである。

01誤りは連鎖し、複利で増幅する

エージェントは自分の中間結論を前提として次の処理を呼ぶ。誤った仮説が検証されないまま次のタスクの入力になり、その出力がさらに次の判断の根拠になる。誤りは単発で発生するのではなく、連鎖し、複利で増幅する。しかも、エージェントは各段階でもっともらしい自己評価を生成し続けるから、ログの上ではすべてが順調に見える。人間のレビューが挟まらない区間が長いほど、誤りが積み上がってから発見されるまでの距離は伸び、発見された時点では、どの反復で最初の誤りが混入したのかを遡ることすら難しい。

ならば、AIの自己訂正に任せればよいか。任せられない。AIは指摘されれば仮説を修正する——計算も証拠も挟まず、「本当にその仮説で合っていますか」と問い直すだけでも、もっともらしく論理の通った別の仮説へ乗り換える。つまり、外部証拠を伴わない自己訂正は、検証ではなく、同じ生成プロセスの続きである。

文章は文章によって上書きできる。測定値は上書きできない。

AIの修正が意味を持つのは、AIの外側に、AIには都合よく書き換えられない証拠——計算された測定値、実行されたテストの結果——があるときだけだ。従来のAIリスク論が問題にしてきた「一回答のハルシネーション」は、この構図の中では入口にすぎない。自律AIのリスクの中心は、検証されない中間結論が、次の処理を正当に駆動してしまうことにある。

02行動の統治と、認識の統治

エージェントの統治については、すでに研究と実装が進んでいる。実行時のポリシー違反を検出して介入する仕組み、権限を最小化するサンドボックス、操作の来歴を検証可能にする監査基盤。2026年前半には、こうした枠組みの提案が相次いだ。

これらに共通するのは、行動の統治だという点である。エージェントが許可されない操作をしないか、データを持ち出さないか、規程に反する処理をしないか。問いの形は一貫して「その操作をしてよいか」である。

だが、連鎖増幅のリスクはこの問いの外側にある。エージェントが規程を一切破らず、すべての操作が許可され、すべてのログが正常で、それでも誤った中間結論を信じたまま作業を続けるとき、行動の統治は何も検出しない。外れた仮説を保持したまま作業を重ねるエージェントに、違反行動は一つも存在しない。

必要なのは、もう一つの問いである。「その結論を信じてよいか」。

エージェントの中間結論を、何を根拠に採用し、どの条件で棄却し、どこまで信じて次の反復へ進むか。行動の統治に対して、これを認識の統治と呼ぶことにする。この問いは、行動の統治ほどには体系化されていない。そして、認識の統治を自律ループの状態遷移として実装する設計を、本稿ではLoop Governanceと呼ぶ。

この区別は、監査の実務にもそのまま対応する。既存の監査証跡は「誰が、いつ、何をしたか」を残す。だが自律エージェントの時代に問われるのは「システムは、なぜその結論を信じて次へ進んだか」であり、これを残す仕組みは、行動ログの延長では作れない。

03Loop Governanceの五原則

認識の統治をループに組み込むには、少なくとも次の五つが要る。いずれも、実験科学が長年かけて整備してきた測定の規律を、AI運用へ翻訳したものである。

第一原則——本番投入前の評価系構築

未知の業務にエージェントを走らせる前に、答えの分かっている既知のタスクで、評価系そのものの性能を測っておく。正しい結論を正しいと判定できるか、誤りをどの程度見逃すか、どこから先は判定できないか。測定器を較正せずに未知の対象を測る実験室は存在しない。AI導入だけがその例外である理由はない。

第二原則——単一指標に依存しない多面的評価

一つの指標だけに最適化を委ねれば、その指標は攻略対象になる。エージェント自身の自己申告、単一のテスト、単一のスコアで完了を判定するループは、指標を満たすが実体を欠く成果物を量産する。原理の異なる複数の検証——自動テスト、外部データとの突合、独立した検算——が揃って初めて、中間結論を次の反復の前提へ昇格させる。

第三原則——失敗条件と停止条件の事前定義

何が出たら仮説を捨てるか、どの状態になったらループを止めるかを、走らせる前に書いておく。事後に判定基準を決める運用では、都合の良い解釈が必ず混入する。反証条件のないループは、止まらないループである。

第四原則——外部証拠による改善

エージェントの自己評価を改善の主信号にしない。先に見たとおり、外部証拠を伴わない自己訂正は生成の続きにすぎない。「うまくいったと報告した」ことと「うまくいった」ことは別である。改善の根拠は、計算された測定値、実行されたテスト、外部システムとの照合結果——エージェントの外にある証拠に置く。

第五原則——判断台帳

どの仮説を、どの証拠で、いつ採用または棄却したかを、ループの状態遷移として記録する。第一の目的は遡行可能性である。連鎖増幅の最も厄介な性質は、誤りが発見された時点で、混入点が反復の履歴に埋もれていることだ。台帳があれば、どの判断まで巻き戻せば健全な状態に戻れるかを特定できる。台帳のないループでは、巻き戻し先が分からず、最初からやり直すか、誤りを抱えたまま進むかの二択になる。

五原則は独立ではなく、一つの構造をなす。評価系が証拠の信頼性を保証し、多面的評価が証拠の独立性を保証し、停止条件が証拠の解釈を事前拘束し、外部証拠が改善の方向を与え、台帳がその全体を遡行可能にする。どれか一つを欠くと、残りが形骸化する。

04企業のAI導入への含意

整理すれば、AI活用は三段階で進む。

第一段階は、良いプロンプトを書き、良い回答を得ること。第二段階は、エージェントに反復させ、人間の指示速度から解放されること。そして第三段階は、その反復を証拠・停止条件・反証規則で統治し、誤りの増幅を構造的に防ぐこと。

多くの組織は今、第一段階から第二段階への移行を検討している。だが第二段階だけを導入すれば、誤りの生産速度も同時に自律化される。回すことと、正しく回ることは別である。

なお、五原則を実装した組織には、副次効果が残る。判断台帳には、検証を通過した判断とその根拠が構造化されて蓄積していく。これは監査対応の証跡であると同時に、次のプロジェクトで再利用できる判断基準であり、その組織がAIとともに判断を下してきた過程の記録そのものである。誤りを止めるために作った仕組みが、結果としてその組織固有の知的資産になり得る。ただし、それは統治が機能した後の話である。

自律ループが正しい結論へ到達できるとすれば、それはAIが賢いからではない。ループの外に、書き換えられない測定があるからだ。

05射程——判断のオントロジーは、AIの共通言語になり得る

最後に、射程を一段だけ先へ延ばしておく。判断台帳を、機構としてではなく形式として見る。仮説、証拠、採用、棄却、停止条件——この語彙と、許される状態遷移の定義は、それ自体が判断についてのオントロジーである。一つの組織の中では監査と巻き戻しの機構だが、形式としては、機械可読な意味構造にほかならない。

この見方が効いてくるのは、複数のAIが協働する場面だ。異なるエージェント、異なるモデルが互いの成果物を受け渡すとき、交換されるのが自然文だけなら、同じ問題が系をまたいで再生産される。文章は文章によって上書きできるからだ。あるAIの中間結論を、別のAIが信じてよいか——それは結論の文面からは決まらない。その結論が、どの証拠で、どの停止条件の下で、どの検証を通過したか。証拠の構造が結論とともに運ばれて、初めて決まる。

だから、判断台帳の中間表現が共有形式になれば、それはAI間で「信じてよさ」を運ぶ共通言語になり得る。自然言語が意味を運ぶ言語だとすれば、判断のオントロジーは検証状態を運ぶ言語だ。モデルが違っても、ベンダーが違っても、証拠の構造は翻訳を介さずに接続できる。

Loop Governanceは、一つの組織の品質設計として始まる。だがその中間表現は、複数のAIが判断を受け渡すためのプロトコルの候補でもある。ここから先は本稿の範囲を超えるが、目指す方向として書き残しておく。

AIに考えさせる前に、何を証拠とするかを決める。それは自律AIの品質設計の出発点であり、同時に、AI同士が何を受け渡すかの設計でもある。