毛玉と演算子

00きっかけ

LLMに複雑な分析をさせ、その出力をチェックする仕事をしている。

「この根拠は何？」と一つずつ問い詰めていくと、LLMは説明を返してくる。ある要因から別の要因が芋づる式に現れ、さらにその先の影響へと連鎖していく。

その連鎖の背景には、膨大なテキストから圧縮された人類の共通知がある。そして、その知識の出し方も、一つの語や概念を起点に、関連する概念を結びながら文章を生成するという、LLMの基本動作と切り離せない。

そこで一つの疑念が立ち上がった。

人間が頭の中で行っている関係の探索も、LLMが生成時に行っている処理も、外形的には同じ問題を解いているのではないか。

つまり、巨大な関係空間のどこを起点にし、どの関係を辿り、どこで切り、どの経路を一つの説明として取り出すかという問題である。

01言語化されたものは射影でしかない

人間が一度に扱える分析は、せいぜい数個の要因と数本の筋書きである。

しかし、それは対象そのものではない。人間のワーキングメモリの制約に合わせて刈り込み、圧縮した射影にすぎない。

実際の関係構造 → 圧縮・選択 → 主要な要因 → 物語化 → 筋書き → 意思決定用に単純化 → 結論

本来の対象は、もっと複雑である。

複数の原因が同時に成立する必要があり、影響には時間差があり、正負の作用が途中で反転する。ある閾値を超えると突然発火し、一度発火すると自己強化し、別の経路同士が打ち消し合う。

「AかつBかつCがそろったときDが起きる」という関係は、単純な二項関係ではない。複数条件の組合せであり、ハイパーエッジとして扱う方が自然だ。

この本体をそのまま扱おうとすると、すぐに毛玉になる。

ノードとエッジが幾重にも絡まり合い、一目では理解できない塊になる。だから人間は毛玉を刈り込み、扱える大きさの筋書きに変換してきた。

その過程で、毛玉の大部分は「人間が扱えない」という理由だけで、分析対象から除外されてきた。

02LLMの欠陥、人間の欠陥

ここには、LLMと人間の対照的な弱点がある。

LLMは、膨大なテキストから圧縮された巨大な関係空間を、内部に暗黙的に表現しているように振る舞う。ただし、その関係空間は、外部から直接操作できる構造として存在しているわけではない。

利用者は、その内部に対して「このノードを除去せよ」「この経路の最小カットを求めよ」「この構造のβ₁を計算せよ」といった、明示的な演算子を適用できない。外部から通常利用できるのは、最終的に生成されたトークン列である。

そのため、LLMが巨大な関係空間を暗黙的に保持していたとしても、出力時には一本の文章へと射影される。

「この根拠は何？」と尋ねたときに返ってくる説明も、生成を実際に駆動した内部過程そのものとは限らない。少なくとも外部から観測できる説明については、生成結果を後から整合的に説明したものである可能性を排除できない。生成と正当化の順序が、外部からは区別できないのである。

人間は逆だ。

人間は演算子的な問いを立てられる。「この要因を外したら結論は変わるか」「この二つの根拠は本当に独立か」「この経路を断つには、どこに介入すべきか」「別の経路でも同じ結論に到達するか」。こうした問いを立て、一つずつ吟味できる。

しかし、人間は毛玉全体を保持できない。ワーキングメモリには限界があるため、対象は必ず数個の要因や、理解可能な物語へと刈り込まれる。

つまり、

LLMは巨大な関係空間を暗黙的に扱えるが、その構造に対して外部から指定可能な演算子を適用できない。人間は演算子を選べるが、巨大な関係空間を保持できない。

03第三の場所

それならば、両者の欠陥を同時に補う第三の場所を作ればよい。

毛玉を毛玉のまま保持でき、なおかつ、その毛玉に対して明示的な演算子を適用できる場所である。

LLMが提案する要因や関係を、外部の数学的対象——たとえば動的・多層・符号付きハイパーグラフ——として保存する。

この外部構造に、経路探索、ループ検出、感度分析、最小カット、構造比較、トポロジカル解析といった演算を適用する。

これは、機械論的解釈可能性の研究が示唆する方向とも部分的に重なる。モデル内部には、特徴間の相互作用や回路に似た構造が存在することが示されつつある。ただし、それらを利用者が自在に取り出し、任意の演算を適用できるわけではない。

私が考えているのは、内部構造を完全に復元することではない。内部が生成する関係を、評価に必要な外部構造として再構成し、その外側に演算可能な入口を作ることである。

内部の毛玉をそのまま複製できなくても、意思決定や評価に必要な毛玉を、外部に構築することはできる。

04毛玉は「演算子を待つ対象」

ここで、最も重要な転回がある。

毛玉になること自体は問題ではない。対象が複雑であれば、構造が毛玉になるのは当然である。問題は、毛玉を無理に一本の物語へ変換してしまうことだ。

複雑な相互作用 → 単線的な物語へ圧縮 → 自然だが根拠の弱い説明

この圧縮を急ぐと、LLMが素の状態で生成しがちな、自然だが検証しにくい説明になる。

また、毛玉をきれいな図にすることもゴールではない。可視化は、人間の視覚や認知に合わせた射影である。可視化を最終目的にした瞬間、再び人間のワーキングメモリの制約の内側へ戻ってしまう。

毛玉全体を一度に理解する必要はない。必要なのは、問いに応じて適切な演算子を適用し、必要な断面だけを取り出すことである。

毛玉は「理解できない塊」ではなく、「演算子を待っている対象」である。

05「毛玉を解く」とは何をすることか

毛玉を解く、と言ったとき、意味しているのは、ほどいて一本の糸にすることではない。毛玉は、一本の糸には還元できない。ほどけたように見えるなら、それは人間が理解できる大きさまで粗視化された断面にすぎない。

毛玉を解くとは、毛玉に問いを投げ、問いに対応する演算子を適用し、答えとなる断面を取り出すことである。問いには型がある。型ごとに演算子があり、演算子ごとに対応する数学がある。

切る — 最小カット

問い：どこを断てば、望ましくない未来を止められるか。

グラフ理論における最小カットは、ある起点からある帰結への流れを完全に遮断するために、取り除くべき最小のエッジ集合を求める問題である。望ましくない帰結へ至る経路群に対して最小カット集合を求め、その中から自分が制御可能なノードやエッジを選ぶ。それが、そのまま介入候補になる。打ち手は作文するものではなく、経路を遮断する介入集合として計算できる。

辿る — 経路探索

問い：何が、どこへ、どのように波及するのか。

最短経路、高確率経路、最大影響経路、代替経路を探索する。筋書きを文章の集合ではなく、グラフ上の活性化経路として扱えば、どのルートが発火したか、どこで分岐したか、どの経路が支配的になったかを計算対象にできる。現実が、現在どの経路に近づいているかを評価することもできる。

外す — アブレーション

問い：その根拠や要因は、本当に結論に効いているのか。

あるノードやエッジを外したとき、結論がどれだけ変化するかを機械的に検証する。結論が一つの弱い仮定に依存していないか。その要因は、別の要因で代替可能ではないか。LLMへの「その根拠は何？」という問いを、言葉の応酬ではなく、計算可能な検証に変える。

圧縮する — 粗視化

問い：人間に提示するには、どの解像度まで落とせばよいか。

目的に応じて、ノードやエッジを集約し、解像度を落とす。可視化はここで初めて登場する。可視化は本体ではない。演算の結果として得られた断面を、人間向けに表示する最後の層である。

比較する — 構造比較

問い：これとあれは、実質的に同じ構造なのか。

表面上の文章が違っていても、グラフ構造が同型または近似的に同型なら、実質的には同じ筋書きである可能性がある。逆に、文章が似ていても、活性化経路や介入点が異なれば、必要な打ち手は別物である。言葉ではなく構造で比較する。

循環を見つける — ループ検出

問い：何が増幅し、何が抑制しているのか。

「増えると、さらに増える」自己強化ループ。「増えると、抑制が働く」均衡ループ。将来の持続性や不安定性を決めるのは、単独の要因ではなく、循環構造であることが多い。ループは、単なる経路ではない。系が自律的に動き続ける理由そのものである。

06トポロジカルデータ解析 — 毛玉の「かたち」を測る

経路探索、最小カット、アブレーションは、主に個々のノードやエッジを扱う演算子である。しかし毛玉には、個々の要素だけを見ていても捉えにくい大域的な性質がある。毛玉全体としての「かたち」である。

この大域構造を測る演算子群の一つが、トポロジカルデータ解析（TDA）である。トポロジーは、伸ばしたり曲げたりしても変わらない、つながり方そのものの性質を扱う。TDAを適用すると、次のような問いを立てられる。

この毛玉はいくつの島でできているか

一見一つの塊に見える関係空間が、実際には互いに干渉しない複数の連結成分に分かれているかもしれない。島が分かれているなら、一方への介入は他方には届かない。逆に、独立した問題だと思っていたものが同じ連結成分に属しているなら、構造上は一つの問題として扱うべきかもしれない。

この毛玉に、いくつの循環構造があるか

トポロジーでいう「穴」は、ぐるりと一周して戻ってこられる構造である。関係グラフにおける穴は、フィードバックループや循環依存に対応する。穴の数を表す不変量をベッチ数と呼び、1次元の穴の数をβ₁と書く。毛玉のβ₁を測ることは、その系にいくつの独立した循環構造が存在するかを数えることに対応する。

その構造は本物か、ノイズか

持続的ホモロジーでは、データを見る解像度や閾値を連続的に変化させながら、各解像度でどの構造が現れ、どれだけ長く生存するかを追跡する。広い範囲の解像度で残り続ける構造は、本質的である可能性が高い。特定の閾値でしか現れない構造は、ノイズや偶然の産物である可能性がある。

持続的ホモロジーは、構造とノイズを完全に恣意性なく分離するものではない。しかし少なくとも、人間が一つの閾値を選んだ結果だけに依存せず、構造の頑健性を評価する手段を与える。

毛玉のかたちは、いつ変わったか

毛玉は静的ではない。時間とともにエッジが生まれ、消え、重みや符号が変わる。各時点で連結成分数、β₁、持続時間の分布などを測れば、構造が変質した時点を検出できる。

文章の表現は連続的に変わっていても、構造はある瞬間に離散的な変化を起こすことがある。その変化点は、シナリオの転換、競争構造の変質、リスクの発火といった現象に対応する可能性がある。

TDAが毛玉と相性がよい理由の一つは、可視化レイアウトに依存しないことにある。毛玉には、唯一の正しいノード配置が存在しない。可視化アルゴリズムを変えるたびにレイアウトが変わり、見た目の印象も変わる。一方、連結成分やホモロジーのような性質は、単なる描画位置には依存しない。TDAは、毛玉をきれいな図に変換する前に、大域構造を直接測る手段の一つになる。

07LLM、人間、外部計算系の役割分担

この構図では、LLMに完成した分析を最初から書かせない。役割を分解する。

LLMは、候補となる関係を広く提案することに強い。しかし、全経路を一貫して保持し、同じ基準で重みを更新し、重複を排除しながら比較し続けることには構造的な弱さがある。人間は、どの問いが重要か、どの演算を適用すべきかを判断できる。しかし、巨大な関係空間を保持できない。外部計算系は、構造を保存し、再計算し、比較し、検証する。

これは三者の分業であって、どれか一つによる置き換えではない。

08権限の問題から、構造の問題へ

以前、LLMの内部評価について考えたとき、行き止まりにぶつかった。

モデル内部はブラックボックスであり、構造へアクセスする入口がない。外部から観測できるのは、入力と出力が中心である。それでは、内部で何が起きたかを本質的に評価できない。結局、AI企業の内部にいる人間しか、本当の評価はできないのではないか。

公開されている外部評価手法は、出力比較、人手評価、ベンチマーク、振る舞いの統計的検証が中心であり、推論構造そのものに届いていない。そこに、私は強いフラストレーションを感じていた。

今やっていることは、その問いに正面から答えたものではない。問いの立て方そのものを変えた結果である。

「内部を開けられなければ評価できない」という問題を、「評価に必要な関係構造を外部の数学的対象として構築し、そちらに演算を適用する」という問題に変形した。

ブラックボックスを開く権限は、今もない。しかし、評価の足場は外側に作れる。モデル内部の真の計算過程を完全に再現できなくても、意思決定に使う推論構造については、外部で保存し、比較し、壊し、再計算し、監査できる。

権限の問題を構造の問題へ変換すれば、構造は自分の土俵として扱える。

言語化された分析は、巨大な関係空間から、人間が意思決定できる断面を取り出した表示層にすぎない。本体は文章ではない。本体は、その下にある関係空間と、そこへ適用される演算系である。