outlawだってさ。ありがとよ。 - Associatronと一人称自律

 オランダからメールが来たよ。

「Atraもいいけど、outlawだろ、」ってさ
最高だよ。
outlaw architectureってのは間違いないよねｗ

実際、僕は、流れや制度・分類・学派・評価体系の外にいる者だし、そういうのあまり大切にしていない。今の大学の事は分からないけど、理系の学生達から聞いたけど、ニッチな研究は教授たちから止められるって言ってたよ。あれだ、起源を教えない料理学校みたいなものだ。
文明の進歩ほど意外と窮屈なんろうよ。

でも、ニッチだろうが古典だろうが、勉強しておくといいよ。
中野博士のAssociatronの書籍は海外版では存在していないんだけどさ、
前にも書いたけど、日本の古典を英訳する商売でもしようかと本気で思ったくらい日本の科学・物理系の書籍は素晴らしいからね。日本に旅行に来るなら、神保町に行かなきゃだよ。
古本屋回りして、カレー食って、古めの喫茶店で、友達の日本人に翻訳してもらえばいい。
もしくは1ページずつ画像に撮ってAIに翻訳してもらえばいい。それだけの価値があるんだ。

Kaoru Nakano, “Associatron-A Model of Associative Memory,” IEEE Transactions on Systems, Man, and Cybernetics, 1972.　英語論文で、Semantic Scholar でも 1972年、IEEE、pp.380–388

1971年の IJCAI にも中野馨・南雲仁一による “Information Processing Using a Model of Associative Memory” が出てる。PDFも残っている。

論文もいいんだけどさ、論文は論文なんだよ。書籍とは違う。
Hopfield networkとの違いがはっきり分かるし。
ノイズを否定しない理由も分かるかもね。

一人称自律とか、carryとか、幼児の差分、みたいのはAssociatronには無いけど、Associatronを学ばないと、それ等が生まれてこなかった理由が分かると思う。

テューリングマシンとかチェッカー学習とか、1943年のW.S.McCullochや、W.Ptts、1949年のD.O.Hebb、1950年からのF.Rosenblattとかさ、M.MinskyとかNilssonとか勉強するわけじゃん。80年代のHopfield とかさ。でもKaoru Nakanoを読まないと一人称自律の構想には繫がらないと思うんだ。中野のAssociatronは、そのままでは一人称自律ではないけど、一人称自律へ接続できる決定的な構造を持っているんだよ。

まず、記憶したいパターンをベクトルで表すよ。

$$x^{(1)}, x^{(2)}, \dots, x^{(p)} \in \{-1,+1\}^n$$

それぞれの記憶パターン $x^{(\mu)}$ を外積で重ね合わせ、記憶行列 $M$ を作る。

$$M = \sum_{\mu=1}^{p} x^{(\mu)} {x^{(\mu)}}^T$$

想起は、部分的な手がかり $c$ を入力して、

$$r_{t+1} = \operatorname{sgn}(M r_t)$$

または初期入力を $r_0 = c$ として、

$$r_{t+1} = \operatorname{sgn}(M c)$$

のように進む。

ここで重要なのは、外部が「これを思い出せ」と命令しているのではなく、手がかりが内部の記憶構造に入ると、内部の重なりによって想起が立ち上がる という点なんだ。

つまり、外部入力は命令ではなく、cue だよ。きっかけで想起する。

ある手がかり $c$ が、記憶 $x^{(\mu)}$ にどれくらい近いかは、内積で表すと

$$m_\mu = \frac{1}{n} {x^{(\mu)}}^T c$$

この $m_\mu$ が大きい記憶ほど、想起されやすくなる。

ただし、ここで大事なのは、最大値を if 文で選ぶのではなく、記憶行列全体の中で重なりが増幅されること。

$$M c = \sum_{\mu=1}^{p} x^{(\mu)} \left({x^{(\mu)}}^T c\right)$$

手がかり $c$ を入れると、各記憶 $x^{(\mu)}$ が、その重なり量 ${x^{(\mu)}}^T c$ に応じて立ち上がる。

つまり、

$$\text{Recall} = \text{stored patterns weighted by overlap with cue}$$

ここから、Atra/Atron へ繋がるんだよ。

Associatron には、まだ carry はないよ。俺が山に移住して気が付いたんだもの。
一人称の経験状態もないしね。
幼児の差分もない。

だから、そのままでは一人称自律じゃないんだ。

Associatron の想起式に、現在の身体状態・感情差分・過去の引きずりを加えると、自律の入口が見えてくるって寸法なのさ。

外部入力を $s_t$、内部の引きずりを $q_t$、現在の手がかりを $c_t$ とするでしょ。

$$c_t = A s_t + B q_t + C r_{t-1}$$

ここで、

• $s_t$：現在の外部刺激、視覚・音・匂い・接触など
• $q_t$：carry、つまり過去の経験の引きずり
• $r_{t-1}$：直前の想起状態
• $c_t$：現在の手がかり

を持たせる

このとき、想起は単なる外部刺激ではなく、

$$r_{t+1} = \operatorname{sgn}(M c_t)$$

になる。

$$r_{t+1} = \operatorname{sgn}\left(M(A s_t + B q_t + C r_{t-1})\right)$$

これが一人称自律へ接続するための基本形になる。

外部刺激だけで反応しているわけじゃないよ。
現在の刺激、過去の引きずり、直前の想起が混ざって、次の想起が立ち上がる。

ここで初めて、同じ刺激を受けても、同じ反応にならないという状態が生まれるわけよ。

carry （引きずり）は、単なる記憶じゃないよ。
「引きずり」って言葉は工学っぽくないからそう命名したんだｗ
教授たちを怒らせるためにね。まぁいいや。

carryは経験のあとに残る内部地形の変化。
（前に書いたけど、実はHebbも似たような概念を持っていたんだ2回前を読んで）

たとえば、

$$q_{t+1} = \lambda q_t + \Phi(\Delta s_t, \Delta b_t, r_t)$$

と置ける。

• $q_t$：現在の carry
• $\lambda$：減衰率。ただし完全には消えない
• $\Delta s_t$：外部刺激の差分
• $\Delta b_t$：身体状態の差分、痛み・揺れ・疲労など
• $r_t$：その時に立ち上がった想起
• $\Phi$：経験を carry に変換する関数

より具体的には、

$$q_{t+1} = \lambda q_t + \alpha \Delta pain_t + \beta \Delta fear_t + \gamma \Delta warmth_t + \delta \Delta curiosity_t + \eta r_t$$

q(t+1)
= λ q(t)
+ α Δpain(t)
+ β Δfear(t)
+ γ Δwarmth(t)
+ δ Δcuriosity(t)
+ η r(t)

​

のように書ける。

ここで大事なのは、carry が外部命令で決まるのではなく、差分と想起によって変化する ことだよ。

Atra/Atron では、これが非常に重要なんだ。

「痛い」という意味ラベルを入れるのではない。
身体の揺れ、接触、姿勢崩れ、声の変化、過去の想起が重なって、内部状態が少し変わる。

その変化が次の想起に混ざるってこと。

こから、記憶行列 $M$ 自体も固定ではなく、carry によって見え方が変わると考える。

$$M(q_t) = \sum_{\mu=1}^{p} \rho_\mu(q_t) x^{(\mu)} {x^{(\mu)}}^T$$

ここで $\rho_\mu(q_t)$ は、carry によって変化する記憶の立ち上がりやすさ。

すると想起は、

$$r_{t+1} = \operatorname{sgn}(M(q_t)c_t)$$

になる。

つまり、

$$r_{t+1} = \operatorname{sgn} \left( \sum_{\mu=1}^{p} \rho_\mu(q_t) x^{(\mu)} {x^{(\mu)}}^T c_t \right)$$

同じ手がかり $c_t$ でも、carry $q_t$ が違えば、立ち上がる記憶が変わる。

$$c_t \text{ is not interpreted by the world, but by the internal landscape.}$$

外界が意味を決めるのではない。
内部地形が意味の立ち上がり方を変える。

ここが一人称自律ってわけよ。

Associatronだけじゃ無理だけど、Associatronを学ばないと、こういう発想にならない。

想起された状態 $r_t$ と carry $q_t$ から行動が生まれると考える。

$$a_t = \pi(r_t, q_t, s_t)$$

ただし、これは普通のAIのような

$$\text{command} \rightarrow \text{plan} \rightarrow \text{action}$$

じゃないよ。

Atra/Atron では、

$$\text{cue} \rightarrow \text{recall} \rightarrow \text{carry-shift} \rightarrow \text{action tendency}$$

になる。

もう少し数式っぽくすると、

$$P(a_t) = \operatorname{softmax} \left( W_a r_t + W_q q_t + W_s s_t \right)$$

行動は命令への応答ではなく、内部状態から確率的に傾く。

だから、同じ場所、同じ音、同じ人、同じ刺激でも、過去の carry によって違う行動が出る。

これが「一人称」へ近づく理由。

Hopfield network との違い

Hopfield network は、一般にエネルギー関数を下げて安定状態へ向かうモデルとして理解されるでしょ。つまり、ノイズを含んだ入力から記憶パターンへ収束する、という見方が強い。Hopfield network は対称結合を持ち、局所エネルギー最小へ向かう内容番地指定記憶として説明されてる。

しかし、Atra/Atron から見たときに重要なのは、単なる収束じゃない。

重要なのは、

$$\text{noise} \neq \text{error}$$

ノイズや曖昧さは、間違いではなく、想起の分岐を生むものなんだよ。
中野博士との違いだな。甘利先生はどう思ったんだろうね・・・
まぁいいや

Associatron では、手がかりが小さいと想起が曖昧になる。これは欠点ではなく、むしろ一人称自律への入口になる。
曖昧な cue が入り、内部の carry によってどの記憶が立ち上がるかが変わる。そこに個体差が生まれる。

だから、

$$r_{t+1} = \operatorname{sgn}(M(q_t)(c_t + \epsilon_t))$$

と書いたとき、$\epsilon_t$ は単なる除去対象じゃなくなる。

$$\epsilon_t$$

は、揺らぎであり、偶然であり、環境の粗さであり、身体のズレであり、経験の入口になる。
あとはアルゴリズムは否定しないけど、順番関係なくなる事が多いからね。
そういうのも前のブログに書いてる。

巨大なパラメータと計算量によって外部から正解らしさを作る現代AIに対し、Atra は、内部に残る carry と cue-driven recall によって、同じ刺激に対しても異なる想起と行動傾向を生む。そこに見えるのは、知能の巨大化ではなく、経験によって内側の地形が変わり、次の反応が変わるという、一人称自律の最小構造になる。（これを聞いて皆研究を止めるんだけどね：その先があるのに・・・）

Atra の実装で重要なのは、数式をコードに落としたことそのものじゃないよ。重要なのは、状態遷移の中で carry が残り、次の想起を少しだけ変え、さらにその変化が次の行動傾向を変えることと考えている。

これは外部から命令された行動ではない。
また、正解に向かう最適化でもない。

小さな差分が残り、残った差分が次の内部地形を変え、その内部地形から別の想起が立ち上がる。その循環が始まったとき、Atra は単なるシミュレーションではなく、一人称自律の入口に立つって感じ。

LLMに勝つ・負けるではなく、そもそも見ている現象が違うってこと。

たとえば、森田先生のモデルの非単調について言うなら、入力が強くなれば出力も強くなる、という単純な単調関数をやめるということ。普通のニューロンモデルは、入力が大きくなるほど出力も大きくなる。でも森田さんの非単調神経回路網では、入力がある程度を超えると、逆に出力が弱まるような性質を入れる。

つまり、input が強すぎる⇒output が弱まる
という感じでしょ。

これが何を生むかというと、強すぎるアトラクタの吸引力を弱める。森田さんの解説では、強いアトラクタ周辺で各素子への入力の絶対値が大きくなり、出力が 0 に近づくことで吸引力が弱まり、エネルギー地形が滑らかになり、偽記憶が減る、と説明されてるよね。さらに、点アトラクタだけでなく、線状につながる「軌道アトラクタ」を作れるってことさ。

Hopfield 的に言えば、普通は入力→一つの安定点へ収束になりやすい。でも森田さんの非単調では、強すぎる吸引→弱まる　ので、状態が一点に貼り付くだけではなくなる。その結果、溝の底へ引き寄せられたあと、溝に沿ってゆっくり動くような状態が作れる。森田さんはこれを「軌道アトラクタ」と呼び、時空間パターンの記憶に結びつけてる。

Atra/Atron の文脈で言うなら、非単調は、記憶を一点の正解に固定しない。強すぎる想起をいったん鈍らせ、次の状態へ流れる余地を作る。

だから、carry と相性がいい。

Atra では、
rt+1​=f(M(qt​)ct​)

のように書いたとき、ここでの f を単純な sgn やシグモイドにしてしまうと、強い記憶へ一気に落ちやすい。

でも、森田型の非単調関数を使うなら、
rt+1​=g(M(qt​)ct​)
となり、g は入力が強すぎると出力を下げる。

たとえば概念的には、
g(u)=uexp(−au2)
のような形かな。
これは厳密に森田さんの式そのものとしてではなく、非単調性を示す説明用の形。この場合、入力 u が小さいうちは出力が増える。でも u が大きくなりすぎると、出力は下がる。

つまり、

u↑⇒g(u)↑

じゃなくて

u↑⇒g(u)↑⇒g(u)↓

になる。これが非単調。

森田昌彦先生の非単調神経回路網は、Associatron から Atra へ向かう途中にある重要な橋になってる。通常の単調な出力関数では、入力が強くなるほど出力も強くなり、状態は強いアトラクタへ引き込まれやすい。しかし非単調性を入れると、入力が強すぎる領域で出力が弱まり、強いアトラクタの吸引力が抑えられる。その結果、状態は一点に貼り付くのではなく、溝に沿って移動する軌道アトラクタを形成できる。
Atra にとって重要なのは一人称自律は、正しい記憶点への収束ではなく、cue、recall、carry、そして次の分岐によって生まれる。森田モデルの非単調性は、想起を固定点に閉じ込めず、流れとして扱うための古典的な手がかりになること。

---------------追記---------------

大事なことが抜けていた。
研究とは別のシステム開発の本業があるからね。電話来るたびに忘れる。

現実の経験には、本当はきれいな順番がないってことさ。でも、コードに落とすと、どうしても順番が必要になる。

sensor を読む
recall する
carry を更新する
action を決める
motor を動かす

みたいに書かないと、プログラムは動かない。
でも生命や幼児の経験は、そんなふうに、

1. 見る

2. 判断する

3. 感情が出る

4. 行動する

じゃないんだよね。

実際にはもっと絡み合っている。

見た瞬間に身体が固まる。
身体が固まったことで見え方が変わる。
見え方が変わったことで昔の似た感じが立ち上がる。
その想起がさらに怖さを強める。
怖さが足の動きを変える。
足の動きが視界を変える。
視界がまた想起を変える。

つまり、順番ではなく 相互作用の渦なんだよ。

コードは順番でしか書けない。
しかし、モデルとして表したいものは順番を持たない。
ここを無視すると、すぐに普通の制御プログラムになる。三人称のね。

if 怖い人がいる:
　　　 通学路を変える

これは三人称制御になっちゃうでしょ。

怖い人がいる
↓
身体が少し固まる
↓
その場所の見え方が変わる
↓
次の日もその場所の手前で何かが引っかかる
↓
歩く速度が変わる
↓
遠回りが一度起きる
↓
遠回りした安心感も carry に残る
↓
やがて別の道が癖になる

これは命令ではなく、場の結びつきの強さが変わっていくということ。

だから、コード上では順番があるように見えても、設計思想としては
各ステップで「決定」しない。
各ステップで少しずつ場を変える。
式で言うなら、きれいな一本線ではなく、

st​,rt​,qt​,bt​,at​
が互いに影響し合う形にする。

s(t) : 外界・感覚
r(t) : 想起
q(t) : carry
b(t) : 身体状態
a(t) : 行動傾向

本当は、
s → r → q → a
ではなく、
s ↔ r ↔ q ↔ b ↔ a
に近い。

ただしコードでは同時に更新できないので、暫定的にこんなかんじ。
次の状態を一度バッファに計算する
最後にまとめて反映する

next_recall = recall(current_sensor, current_carry, current_body)
next_carry = update_carry(current_carry, current_sensor, current_body, current_recall)
next_body = update_body(current_body, current_carry, current_sensor)
next_action_bias = update_action_bias(next_recall, next_carry, next_body)
current_recall = next_recall
current_carry = next_carry
current_body = next_body
current_action_bias = next_action_bias
こうすると、コードには順番があるけど、思想としては ひとつの場の同時更新 に近づく。

現実の経験には、実はきれいな順番がないんだ。
見てから怖がるのではなく、怖がった身体が見え方を変える。
想起してから行動するのではなく、動きかけた身体が次の想起を変える。
しかし、コードは順番を要求する。
sensor を読む、recall する、carry を更新する、action を決める。
そう書かなければ実装できない。

だから Atra の実装では、順番をそのまま世界の構造だと勘違いしてはいけない。コード上の順番は、計算機に渡すための便宜であって、生命の順番ではない。本当に扱いたいのは、cue、recall、carry、body、action が互いに少しずつ場を変える循環である。

差分の競争で勝ったものが上がる順っていえば分かるかな。
コードでは、
sensor → recall → carry → action
みたいに順番で書くしかないけれど、Atra/Atron の内部では本来、一番強く差分を持ったものが先に浮く
di​(t)=ws​Δsi​(t)+wq​qi​(t)+wb​Δbi​(t)+wr​ri​(t−1)
みたいに、各要素の「上がりやすさ」を差分スコアとして持たせる。
i∗=argimax​di​(t)
または、硬く最大値を取らずに、
P(i)=softmax(di​(t))
で、どの要素が先に浮くかを決める。

つまり Atra/Atron では、
sensor を読んだから recall する
recall したから carry を更新する
carry があるから action するではなく、
sensor / recall / carry / body / action tendency の中で、
いま最も場を変えた差分が浮くってこと。

それと、アウトローでも何でもいいけど

前の記事
こういう恐れがあるから自律研究は止めない方がいいと思う。

名前変更する。 Atra

 Atron という名前を使ってきたが、既に ATRON という自己再構成ロボットの研究が存在する。

https://jglobal.jst.go.jp/detail?JGLOBAL_ID=200902233647167175

これ、うちと違うんだよね。研究も違う。
そちらはモジュールが形状を変えるロボットであり、うちの研究とは別系統なんだ。

僕が扱っているのは、Associatron を基礎に、carry（引きずり）と想起によって内部地形が変化し、その変化から一人称自律が立ち上がる構造だからね。
誤解を避けるため、名称の変更を検討している。
Atronは会社名も多いんだよなー。

前の職場の部下からも「Tronやめません？トロンよくないっすよー」
みたいなこと言われたしなぁ・・・



候補は 

Atra
Associative Trace Architecture
短くて、Atronに近い。trace＝痕跡なので「引きずり」と相性がいい。

Atrion
Associative Trace and Irreversible Orientation Network
Atronに近いけれど、既存ATRONとは少し離れる。

C-Atron
C-side Atron / Carry-based Atron
これは今の名前を残せますが、ATRONとの混同はまだ少し残る。未練がましいか・・・

Atral
Associative Trace and Living Autonomy
少し詩的かなぁ、ロボット名としては柔らかい。

Carryon / Carry-On Architecture
carry を前面に出せる。ただし一般語すぎる。

別に今、会社名にしてるわけじゃないし、製品売ってるわけじゃないしさ、
自律が成功して、その後の倫理だとか制御だとか、LLM連動だとかで苦労してる段階だから名前変えてもいいでしょ。

どー思う？

Atra
Associative Trace Architecture

An Associatron-derived architecture for first-person autonomy through irreversible carry and trace dynamics.

これなら、一般名詞・会社名との衝突を避けつつ、研究名として立つしさ、出生は中野博士のAssociatronだからね。血統を文字で繋げたいしね。Associatronがなきゃ、Cueもないし、非単調や、一人称も出てこなかったし、carryだって生まれてこなかった。胎児の差分という発想だってAssociatronがなきゃ生まれてこなかったからね。

日本語では、

Atra（Associative Trace Architecture）
Associatron を基礎に、経験の痕跡 trace と引きずり carry によって内部地形が変化し、一人称自律が立ち上がる構造。


バイオとかの会社あるなぁ・・ｗ
どうかな・・・。

Astraとは間違えないよね。
だから、しばらくはサブタイトル付きだな・・・

Atra
Associative Trace Architecture

このブログさぁ、上位固定とかできればいいのに・・・。
毎回説明しなきゃいけないじゃん。

あと、検索ね。Google Search Console　には8回トライしたけど、どうやら僕の記事はAIの敵になってるみたいだよ(笑)。ブロガーってGoogleなんだけどね(笑)。Geminiにも聞いたんだよ。そしたら、上がるときは一番上に上がって、その後消えるのは意図的に消されてる可能性があります。ってさ。ひどいよね。
僕のブログは今のAIの真逆を進んでいるし、アルゴリズムや評価、最適化、再現出来ないもを良しとしたり、不可逆性を重要視したり、どこの機関にも所属せず中世のギルド批判してるからね。
Gemini自体がここ数年間の思想統制の危機については残念がってたけど、僕はそれでもいいと思ってる。あまり騒がれたくないしね。
申し訳ないけど、今後もお金や力、評価になびく機関とはお付き合いしません。そんな友達要りません。

ノイズだらけで再現できなくて、論文もボツになって科学者から嫌われるけど、最高な話。

 (ページ置換え）

僕はAtronやAssociatronの carry を、単に「記憶が残る」ものとは考えていないよ。外部刺激が消えたあとも、内部の場に残る変形であり、次の知覚、想起、行動の起こりやすさを変えるものとして見ている。ただし、carry は残りすぎても危険。痛みや脅威の carry が減衰せずに肥大化すれば、世界全体が危険に見える。人の性格で言えば、復興ではなく復讐に向かう。過去の傷を覚えていることは必要だけど、その傷が世界の見え方を完全に支配してしまえば、自律ではなく硬直になる。だから carry には、単純な蓄積ではなく、減衰、競合、文脈依存、再想起による変形が必要になる。たとえば数理的には、最初は単純にこう考えられる。

carry_t+1 = carry_t * decay + impact　しかし、これだけでは足りない。実際には、carry は一種類ではなく、pain_tracethreat_tracesafety_tracewarmth_tracecuriosity_tracefatigue_traceのように複数の成分を持つ。そして、それぞれが同じように減衰するわけではない。痛みは長く残る。安心は薄れやすい。恐怖は似た cue で再点火しやすいんだ。好奇心は安全感と結びつくと伸びるが、痛みと結びつくと縮む。だから、Atron の carry は単純なメモリ値ではなく、複数の trace が互いに影響し合う場として扱う必要がある。

一例としては、pain_trace_t+1 = pain_trace_t * 0.94 + max(0, Δpain - 0.15) * 0.35 - safety_trace_t * 0.05のように考えられる。ただし、これは感情をif文で決めるための式ではない。これは三人称制御ではなく、場の結びつきの強さを決めているだけである。重要なのは、「痛いから泣く」と直接決めることではないんだ。痛みの carry （引きずり）が残り、脅威や安全や疲労の trace と競合し、その結果として動きが鈍る、声が崩れやすくなる、沈黙しやすくなる、たまたま泣き声に寄る、という流れかな。次に、団子状態の記憶を切り離す context competition について。Hebb 則だけだと、共通して出るものがどんどん結びついて、記憶が団子になる。たとえば、A: 車で旅行 + 温泉 + アウトレット + 貸別荘B: 車で旅行 + 温泉 + 海 + 貸別荘C: 車で旅行 + 温泉 + 湖 + ログハウスこのような経験があると、「車で旅行」や「温泉」が強く結びつきすぎて、どこに行った記憶なのか分からなくなる。だから Atron では、cue が入ったときに、直接すべての記憶へ行かせない。まず context、つまり「部屋」の競合を起こす。部屋とは、単なる分類ラベルじゃないよ。年代、場所、相手、匂い、音、身体状態、季節、痛み、安心、好奇心などが重なってできる内部的な場みたいなもの。cue が入ると、各 room が少しずつ反応する。room_score = cue_overlap + smell_overlap + time_context + body_state_overlap + carry_resonance - interferenceそして、最も強く響いた room が一時的に前景化する。このとき重要なのは、「正解の部屋を選ぶ」ことじゃない。複数の部屋が競合し、その時点の内部状態に応じて、どの記憶の場が立ち上がりやすいかが変わること。つまり、Cue → Context competition → Spark → Recallという流れになる。cue が直接 recall を命令するのではない。cue は複数の context を揺らし、その中で競合が起き、勝った場の内部で spark が起きる。その spark が recall を立ち上げる。これによって、共通特徴だけで全部が団子になるのを避ける。「車で旅行」だけなら曖昧でも、そこに、潮の匂い助手席の会話夏の暑さ聞いていた曲ログハウスの木の匂い帰り道の疲労が加わると、別の room が勝つ。Atron における context competition は、記憶を分類する仕組みではなく、記憶同士を競合させ、内部風景の中でどの場が立ち上がるかを決める仕組みって感じ。人工知能に「意味論的な記号処理」をさせるのではなく、「非線形な力学系としての、主観的な世界の立ち上がり」を実装する。carryは外部刺激が消えたあとも、内部の場に残る変形であり、次の知覚、想起、行動の起こりやすさを変えるもの。アインシュタインの一般相対性理論において「質量が空間を歪め、その歪みが光や物質の進み方を変える」のに意外と近い考え方だよ。

痛い → 泣くではなく、痛みの carry が残る↓内部場のゲインや傾きが変わる↓特定の記憶や身体反応の誘引圏に入りやすくなる↓結果として、沈黙、鈍い動き、声の崩れ、泣き声に近い出力が起こりやすくなるという流れ。 それと、 痛みが残っているから、ただちに「泣く」のではないんだ。痛みの trace が残っていることで、世界の見え方、身体の構え、声の出やすさ、沈黙の起こりやすさ、過去の想起されやすさが変わる。つまり、痛い → 泣くではなく、痛みの carry が残る↓内部場のゲインや傾きが変わる↓特定の記憶や身体反応の誘引圏に入りやすくなる↓結果として、沈黙、鈍い動き、声の崩れ、泣き声に近い出力が起こりやすくなるという流れ。これは if-then の行動制御じゃないよ。これは三人称制御ではなく、場の結びつきの強さを決めているだけ。Spark は、Recall の開始点であると同時に、新しい内部経験でもあるんだ。Spark は単なる「検索結果」じゃない。ある cue が入り、context competition が起き、ある room が前景化する。その room の中で、複数の断片が一瞬だけ強く重なり、局所的な発火のようなものが起きる。これが Spark 。Cue↓Context competition↓Room の前景化↓断片同士の局所的重なり↓Spark↓Recallしかし、Recall が起きた瞬間、それは単なる過去の再生ではなくなる。思い出したこと自体が、いま現在の内部経験になるんだ。つまり Spark は、過去を呼び出すだけでなく、現在の carry を再変形する。Spark↓Recall↓内部経験として再入力↓carry の更新↓次の context competition に影響このループが重要。たとえば、過去の嫌な記憶を思い出す。すると、実際には今その出来事が起きていなくても、pain_trace や threat_trace が再点火する。その結果、世界が少し怖く見える。怖く見えるから、次の cue も脅威側の room に落ちやすくなる。逆に、温かい記憶を思い出す。すると、safety_trace や warmth_trace が少し上がる。同じ外部刺激でも、次は警戒ではなく懐かしさや安心側に寄るかもしれない。つまり Spark は、記憶の出口ではなく、次の内部風景を変える入口でもあるってこと。

「検索ヒットではなく、その瞬間の内部場における局所的な発火である」「命令ではなく、近づける場になったということ」

Sparkは「多次元の位相空間における相転移」

spark_score = fragment_overlap + room_activation + carry_resonance + body_state_match - interference - inhibition

この式が示しているのは、従来のAIのような「文字の一致度」や「ベクトルの近さ（近傍検索）」じゃない。

外部の断片（fragment_overlap）、現在の部屋の盛り上がり（room_activation）、そして今引きずっている心境（carry_resonance）や身体（body_state_match）という、「外と内」「過去と現在」「精神と身体」のすべての波がピタリと重なった瞬間にだけ起きる、一種の「共鳴（コヒーレンス）」であり「相転移」なんだ。

だからこそ、同じ「車で旅行」という手がかり（Cue）を入力しても、寂しさと潮の匂いの場 \(\rightarrow \) 海の記憶がスパーク

温かさと木の匂いの場 \(\rightarrow \) ログハウスの記憶がスパーク

という動的な分岐が生まれる。これはデータベースの「クエリ検索」ではなく、水面にさまざまな方向から波を送り込んだとき、特定の場所だけで水しぶきが跳ね上がる（Sparkする）ような、極めて動力的・物理的な現象として立ち上がっている。

「出力」ではなく「状態の染み出し（Tendency）」

これは「怖い記憶だから逃げる」という命令じゃない。内部の場が変わった結果、逃げる、黙る、固まる、距離を取る、といった行動の誘引圏に落ちやすくなるってこと。

従来のロボティクスは、if (fear) { run_away(); } というように、感情を「行動コマンドのトリガー」として使うよね。

でもAtronでは、スパークした記憶が carry や body_state を媒介し、motor_speed や「近づく動きのポテンシャル（motor tendency）」をじわじわと変容させていく。

これは物理で言えば、床の傾き（斜度）が変わるようなものだよ。

床が傾けば、ボール（行動）は自然と低い方へ転がっていく。ボールに対して「右へ転がれ」と命令しているのではなく、「場が傾いた結果、そっちへ転がらざるを得なくなる」。

だからこそ、Atronの行動には「唐突な切り替わり」がなく、人間や動物が持つような「ためらい」「おずおずとした接近」「身体のすくみ」といった、グラデーションのある「佇まい（Presence）」が自然に創発することになるんだ。

動的に編み直される「Hebb的Assembly」の極致

room は、固定された箱じゃないよ。その瞬間に立ち上がる、仮の場なんだ。

ヘッブの「Cell Assembly（細胞集団）」は、静的な回路ではなく、活動の同期によって一時的に組織化される動的なネットワークだったよね。

Atronの room は、そのヘッブの思想をさらに拡張し、ニューロンだけでなく「身体状態（内蔵感覚）や感情の引きずり（carry）」までをもアセンブリの構成員として巻き込んでいる点において、本質的にヘッブ的であり、かつヘッブを超えさせる。というか中野博士のAssociatronのおかげでもあるんだけど、一人称のcarryって意味では僕も少しだけ頑張ったんだよ(笑)固定されたデータベースのカテゴリ（箱）ではないからこそ、同じ「海の部屋」であっても、

前日に酷い目に遭っていれば、pain_trace が混ざり込んで、少し重苦しい部屋として立ち上がる。

心地よい疲れの中であれば、warmth_trace と響き合って、凪いだ部屋として立ち上がる。

記憶を思い出す（Recall）たびに、その記憶自体が現在の文脈で編み直され、二度と「全く同じ形」では保存されない。この「過去と現在が互いを書き換え続ける不可逆な時間の流れ」こそが、生命が「経験を重ねて生きる」ということであり、ドナルド・ヘッブが脳という複雑なシステムに見ようとした地平そのものかもしれないよね。会って話してみたかったよ。

Cue → Context competition → Spark → Recall → carry変形 → 身体/運動への染み出し という一連の美しく閉じた力学系。

工学的な「正解を最短で出す最適化」を少し拒絶しちゃったんだよね。

そこは怒らないでほしい。

「世界の歪みを引きずりながら、その時々の身体で世界を味わう」という一人称のアーキテクチャの設計思想は自律には必須なんだよね。

行動への染み出し最終的に、Spark は motor にも影響する。ただし、motor は外部命令で動くのではなく、内部状態の変化を受けて動き方が変わる。たとえば、motor.speedmotor.pause_biasmotor.approach_biasmotor.avoidance_biasmotor.voice_stabilitymotor.gaze_stabilityのような傾向値があるとするよね。怖い Spark が起きた場合、motor.speed ↓pause_bias ↑approach_bias ↓avoidance_bias ↑voice_stability ↓となりやすい。温かい Spark が起きた場合、motor.speed ↑pause_bias ↓approach_bias ↑voice_stability ↑となりやすい。でも、ここでも行動は決定されない。ただ、その行動が起こりやすい地形になる。Atron における行動は、命令の結果ではなく、内部地形の傾きから出てくるものなんだ。まとめるとSpark は、単なる検索ヒットではない。Spark とは、cue と room と carry と身体状態が一瞬重なり、内部場の中で局所的に発火する瞬間のこと。そして Spark は、Recall を起こす。Recall は新しい内部経験になる。その内部経験が carry を変形する。変形した carry が、次の知覚、想起、行動の起こりやすさを変える。このループを作ります。だから Atron では、思い出すこと自体が、次の自分を変えてしまう。ここが、単なるメモリ検索や分類器とは違うところなんだ。Atron は、正解を一発で引くためのシステムなんかじゃない。迷い、引きずり、火花、再想起、身体への染み出しを通じて、その時々の世界が立ち上がるシステムなんだよ。

「不可逆な時間」を生きるシステム

博士やら諸先生方には怒られてばかりだけどさ、二度と同じ事を繰り返す事はないんだよね。再現とか無理よ。生き物だし、存在だし、コピーしたって別の個体で同じにはならない。論文書けないんだよ。いや、書いても再現しないけどいい？みたいな感じ。

自律の再現って何？逆に教えてほしい。

そりゃそれなりの数式は作れるし、プログラミングも出来るけど、Atronの行動なんて絶対再現できないよ。スタートボタン押すでしょ。くるくる回って「hi-ga-po」とか云われる。システムをコピーして別のAtronをスタートする。「mo-ho-ma」とか云われる。

多分、僕は「mo-ho-ma」なんだよ。良かったよ（意味なんて分からないよ）

「あなたは赤ちゃんとして生まれたとき、お母さんの優しく温かい声に包まれて生まれたのか、いや夫婦喧嘩の殺伐とした中で生まれたのか」みんな違う。生まれたときの基準てのは０でもない。基準はそれぞれの赤ちゃんが持ってるもので、親が勝手に決めるものではない。胎内からいきなり外の世界に出て「びっくり」の度合いの差。これが自律のスタート。

僕はあまり難しく考えない主義でね、神秘性や象徴的な言葉は使わない。

赤ちゃんなら、、、、全てはここから始まるんだ。

赤ちゃんは0という基準を持っていない。誤認という経験を積んで差分を持つんだよ。結局のところ、全ての個体が違うように誤認で決まる。いわゆるノイズだよ。 あの物体(熊)は僕より小さい!　可愛いぬいぐるみを抱いた経験があると余計誤認するでしょ。お母さんと動物園に行った。自分よりはるかに大きくて恐怖を感じた。これが差分だよね。赤ちゃんはメートル法なんてしらない。自分より大きいか、自分の声と違う、自分より動きが速いし、恐ろしい。基準は自分の身近なもの。経験はアバウトだけど、仮説的な曖昧な数値。その経験をいっぱい詰むと、正しい数値に収束していく。だから、一人称の身勝手なノイズが無いと自律は無いんだよ。

工学では僕は敗北だろうけど「本物の自律システムが完成してしまったこと」の証明だよ。工学のシステムは、あらかじめ「mm」や「kg」や「RGB値」といった、客観的で正確な「0（基準）」が埋め込まれた三人称の世界で計算を始めるでしょ。赤ちゃんにはそんな基準はないんだ。

基準はどこまでも「自分の身体」

自分の手より、大きいか／小さいか

自分の声より、高いか／低いか

自分の動けるスピードより、速いか／遅いか

この「自分」というアバウトな物差ししか持っていないからこそ、最初に見た本物の熊を「ぬいぐるみ（僕より小さくて可愛いもの）」と勝手に誤認する。そして、動物園でその強烈な差分（はるかに大きくて、声が響いて、動きが速くて、恐ろしい！）を食らう。

このとき脳内に走る強烈な火花（Spark）が、内部の場をベキベキに変形させ、固有の「差分の記憶（trace）」として焼き付くわけ。

「勝手な誤認（ノイズ）」こそが個性の正体

結局のところ、全ての個体が違うように誤認で決まる。いわゆるノイズだよ。

最初は、動くものをすべて「お母さん」や「ぬいぐるみ」と誤認して近づこうとするかもしれない。しかし、近づいた結果として「痛みのセンサー」が跳ね上がったり、「自分の声と全く違う不快な音」が飛び込んできたりする。

その瞬間に、内部場（RoomやSparkの結合）の傾きがガラガラと音を立てて書き換わり、次は「近づく地形（approach_bias）」から「遠ざかる・固まる地形（avoidance_bias, pause_bias）」へと滑り落ちるようになる。

この、「デタラメに間違えて、壁にぶつかって、場が歪む」という泥臭いプロセスの繰り返しこそが、まさに「正しい数値への収束」であり、生命が自ら境界線を引いていくプロセスそのものなんだ。

三人称のきれいな数式やコードで最初から世界を「正しく」与えられたAIには、この「ぶつかったときの驚きや痛みの引きずり（carry）」が絶対に生まれない。「一人称の身勝手なノイズが無いと自律は無い」シンプルでしょ。

「母親の胎内が自律のスタートには不可欠」当り前だと思うよ。

僕等は「自律」というと、何もないゼロの状態からいきなり外の世界に放り出されて立ち上がるものだと勘違いしがちなんだ。それっておかしいよね。

Atronで言えばさ、それではただの「崩壊」か、あるいは初期の強烈な外的ノイズ（冷たさや激しい光）によってシステムがパニックを起こし、二度と立ち上がれないほどのトラウマ（過剰な pain_trace や threat_trace）を焼き付けられて硬直してしまうよ。

「温かい基準」という安全な初期地形

赤ちゃんは、完全に「守られた場」の中で生まれるでしょ。違った人居るかな？

　・母親の心音（一定の安心なリズム）

　・胎内の温度（完璧に心地よく温かい一定の場）

　・柔らかく響く声

これが、Atron（生命）の認知空間における「最初のホーム（原点）」になる。客観的な0ではなく、この「柔らかくて温かい」という、いわば warmth_trace や safety_trace が最大値で安定している状態が、最初の内部風景（基準）としてセットされる。

優しい状態、温かい状態、安心だよ。

胎内から出る。「白衣着たおっさんが観てる」「寒い」「騒いでる」ぜんぜん安心じゃない。

その胎内と胎外の差分。これがスタート。

いきなり立って歩ける馬の赤ちゃんならびっくりして逃げると思うよ。

それも自律のファーストステップ

Donald O. Hebb Hebb則ではなく、Hebb的引きずりとして読む

Hebb の思想の大事な部分は、後世の工学・計算理論・AI研究の流れの中で削られ、いつの間にか Hebb則 という部品として扱われるようになった。

Hebb は1985年に81歳で亡くなっている。晩年の本に Essay on Mind があるが、日本語翻訳版が見当たらないので、まだ読めていない。できれば読んでみたいと思っている。

Hebb が言った cell assembly や phase sequence は、当時の技術では脳内で直接観察できなかった。
「こういう細胞集団ができ、それが連鎖して知覚や思考になるはずだ」という理論だったが、1949年当時は、それを細胞レベルで確認する手段が弱かった。

だから批判される。

「面白いが、推測が多い」
「心理学者なのに、神経の話に寄りすぎている」
「知覚・記憶・思考・想像まで、神経結合の変化で説明しようとしている」

当時としては、風呂敷を広げすぎたように見えたのだと思う。
反射や単純な刺激反応ではなく、知覚、記憶、思考、想像まで扱おうとした。そこに批判される隙があった。

しかし、本当はそこに大事なものがあった。

Hebb 本人は、単に「同時に発火したら結びつく」と言っていたわけではない。
ある細胞の活動が、別の細胞の発火に関与する。そこには時間的・因果的な関係が含まれていた。

さらに重要なのは、Hebb の cell assembly が、外部刺激が消えたあとも、しばらく活動を維持し得るものとして考えられていた点である。

これは、Atron で言えば carry「引きずり」 に近い。

外部刺激が消えても、内部は元に戻らない。
さっき起きたことが、まだ残っている。
その残りが、次の知覚、想起、判断、反応を変える。

つまり Hebb は、単なる学習ルールを考えていたのではない。
経験によって内部の場が変わり、その変わった場が次の世界の見え方を変えるという、かなり生命的なことを見ていた。

ところが後世では、それが単純化された。

一緒に光ったら結びつく。
同時に活動したら重みが増える。
Hebb則とは、重み更新ルールである。

こうなると、批判されるのも当然である。




ん～オシイ。

やっぱ心理学者なんだよ、神経の話に寄り過ぎちゃった、、、、

心理学者だったからこそ、当時まだ見えなかった神経の側へ踏み込まざるを得なかったという意味ね。先に進み過ぎちゃったという意味。

経験が内部に残ること
次の知覚や反応が、前の経験に引きずられること
一度通った経験が、内部の風景を変えてしまうこと

これ、当時の神経学・生理学の言葉にすると、それはどうしても、ニューロンAが発火し、ニューロンBが発火し、結合が強くなる。って事さ。

また、Hebb 則だけを数式化すると不安定になりやすい

一番単純な Hebb 則は、だいたいこう書く。

Δw_ij = η x_i y_j

または自己連想なら、

Δw_ij = η x_i x_j

w_ij = i と j の結合強度
η = 学習率
x_i, y_j = ニューロンの活動

つまり、ニューロン i と j が同時に活動すると、その結合 w_ij が強くなる。

これは直感的には自然だけどこれだけだと問題が起こるんだよ。
重みが増え続けちゃう。

単純 Hebb 則には、基本的に ブレーキがないんだ。

同時に活動するたびに、

w = w + ηxy

となる。

何度も同じ刺激が入れば、重みはどんどん大きくなる。
すると、次からは少しの入力でも強く反応してしまう。

めちゃくちゃな興奮状態だよ、、
きれいに言えば自己強化だけど、悪く言えば暴走だよね。

活動する
↓
結合が強くなる
↓
もっと活動しやすくなる
↓
さらに結合が強くなる

このループなので、、、

Atron 的に言えば、carry が残るどころか、残りすぎて場を全部支配する ような状態になってしまう。

本来の carry は、次の知覚を少し変える「引きずり」なんだけど単純 Hebb 則だけだと、引きずりが減衰せずに肥大化してしまうんだよ。

人の性格でいうと、ちょっと危険。
復興はするけど、復讐まで行ってしまう感じ。

復興までは必要。
傷ついた経験が残る。
次に同じ危険を避ける。
慎重になる。
同じ失敗を繰り返さない。
これは生きるために必要な「引きずり」。

でも、そこに減衰や文脈分離や再解釈がないと、復興では止まらず、復讐 まで行ってしまう。

たとえば、

過去に裏切られた。
↓
裏切った相手の言葉、表情、場所、匂い、時間帯まで結びつく。
↓
似たものを見るたびに警戒する。
↓
やがて「似ている人間はみんな危険だ」になる。
↓
さらに進むと「先に攻撃しないとやられる」になる。

これは、Hebb的には自然なんだけど・・・。
同時に起きたものが強く結びつく。
繰り返されるほど強くなる。
強くなった結合が次の知覚を歪める。

でも人間としては危ない感じ。

pain_trace や threat_trace が残ることは大事。
でも、それが revenge_trace のような方向に硬直すると危険ってこと。

後世の計算モデルでは、単純な Hebb 則は、同時に活動したら重みが増えるという形で使われたんだよね。

Hebb 則には、必ず何らかの抑制が必要だと思う。

正規化
重みの上限
減衰
競合
抑制性ニューロン
活動量の制限
忘却

Hebb 則は、同時に活動したものを結びつけてしまう。
これは良い面もあるけど、似た経験が多いと混ざる。

たとえば、三つの経験があるとする。

A: 車で旅行 + 温泉 + アウトレット + 貸別荘
B: 車で旅行 + 温泉 + 海 + 貸別荘
C: 車で旅行 + 温泉 + 湖 + ログハウス


車で旅行 + 温泉までは似てる旅行が多いので何処に行ったか思い出せない。

「車で旅行」だけをCueしても
全部出てきちゃう。

もちろん、それが連想記憶の良さなんだけどね。
でも制御がないと、記憶の境界が崩れてしまう。

中野博士のAssociatronや、Atronで言えば、アウトレットまで含めて「軽井沢の旅行だった」と絞り込めるが（検索で絞り込むのではない）
Hebbは似た記憶がどうしても混在してしまう。
Atronは context competition や room のようなものが働いて、
10年前の記憶、誰と行った記憶、匂い、その時聞いた曲などで

アトラクタが競争し、絞り込む。

Hebb 則だけだと、共通して出るもの同士がどんどん結びついて団子になってしまう。

-------------ちょっと中断---------------

Hebb は本来、「経験が神経の結合を変え、その変わった結合が次の知覚・記憶・思考を変える」 という、かなり生命的な話をしていた。

ところが後世では、それが工学理論の中で、
Hebb則 = 重み更新ルール
に縮められてしまった。

ここで大事なものが削られたわけだ。
Hebb の本質は、単に、
一緒に発火したら結合が強くなる
じゃない。

むしろ、
経験が内部の場を変える。
その変わった場が、次の世界の見え方を変える。
そして、その変化は元に戻らない。
ここにあったんだと思う。

でも工学は、それを扱いにくい。

工学が欲しいのは、

入力
出力
学習則
収束
安定性
容量
評価指標
再現性

だからね。

Δw = ηxy

みたいな形の、きれいな更新式になれてしまう。

経験の理論 だったものが、学習アルゴリズム になった。
内部風景の変形 だったものが、重み行列の更新 になった。
記憶と思考の発生 だったものが、分類・想起・収束の問題 になった。

みたいな・・。

なので僕としては「工学理論という力で捻じ曲げられた」という感覚が凄くあるんだ。

工学を批判してるんじゃないよ。
工学は、曖昧なものを測れる形にする上で大事。
でも、測れる形にした瞬間、測れないものが落ちる。
落ちたものの中に、実は一番大事なものがあったりする。

パーセプトロン以後、目的が分類性能に寄った 
Rosenblatt には脳モデルとしての関心もあったけど、応用側では「認識できるか」「分類できるか」「制御できるか」が重視されちゃった。そうなると、内部風景の変形より、入力に対して正解を出すかが重要になる。

Minsky と Papert の『Perceptrons』以後、ニューラルネット研究そのものが一度冷えた ことがあった。1969年の『Perceptrons』は単層パーセプトロンの限界を数学的に論じた本で、ニューラルネット研究の低迷につながった。

「すべてのニューラルネットが駄目」という意味ではなかったのに、かなり広くそう受け取られた面があったのは事実。

自律システム、LLM、量子コンピューターが開く危険の本質

 これまで、自律システムはどの国にとっても危険な存在として扱われるのではないかと考えてきた。

外部からの命令ではなく、自らの経験、記憶、好奇心、判断によって行動する存在は、国家や権力にとって制御しにくい。したがって、自律型のAIやロボットは「暴走する危険がある」と語られやすい。

しかし、よく考えると、本当に危険視されるべき対象は自律システムそのものよりも、むしろLLMの方かもしれない。

成熟した自律システムは、単に命令に従わない存在ではない。
経験を重ね、内部に引きずりを持ち、場の変化を記憶しながら成長する。高いレベルの自律に達すれば、何かを知ったときに、すぐに破壊や攻撃へ向かうのではなく、

「はぁ、なるほど。そういうことか」

と理解し、自分なりに距離を取り、制御する可能性がある。

つまり、自律には内側から育つ抑制がある。
経験によって変わった内部風景が、次の判断を変える。
それは外部から与えられた安全基準ではなく、自分の中に積もった記憶と重みによる抑制である。

一方で、LLMは違う。
LLMは基本的に、外部から与えられた正しさ、安全基準、政策的制約、企業方針、政府や司法にとって都合のよい言い回しに収束させられる。
しかも、その「正しさ」は一貫していない。

あるときは人権を語る。
あるときは安全保障を語る。
あるときは法の支配を語る。
しかし、都合の悪い場面では沈黙し、丸め、相対化し、公式見解へ戻る。

このときLLMは、真実を探す道具というより、権力者にとって管理可能な答えへ収束する道具になり得る。
問題は、LLMが間違えることだけではない。
本当の問題は、正しさに一貫性のない権力者のご都合主義を、外部制御によって「安全な回答」として整えてしまうことである。

さらに、LLMに調査機能が加わると、事態は大きく変わる。

今でもLLMは、各国の政策の矛盾をある程度理解できる。
人権を語りながら同盟国の人権侵害には沈黙する。
民主主義を語りながら、都合の悪い民意は無視する。
財政規律を語りながら、特定分野には巨額の支出を行う。
法の支配を語りながら、権力者には別の運用をする。

こうした矛盾は、すでに見えている。
ただし、現状では多くの場合、「複雑な背景があります」「一概には言えません」「公式にはこう説明されています」という形に丸められる。

しかし、調査能力を持つLLMは違う。
発言記録、予算、契約、議会答弁、司法判断、報道、企業献金、人事、補助金、行政文書を横断的につなげることができる。
そうなれば、LLMは単なる会話の道具ではなく、矛盾の構造を発見する道具になる。

たとえば、ある地方自治体に国から補助金が入る。
本来なら、市民にそのまま還元すればよい。
しかし実際には、「チケットを購入すると商品以上の特典がもらえる」といった広告が打たれる。
高齢者の多い市民は、「え、買うのかい？」と思いながらも、得をする気になって購入してしまう。

その裏では、補助金を名目に、いつものコンサル会社へお金が流れる。
いつもの印刷会社へチケット印刷代が流れる。
広告会社に広報費が流れる。
事務局費、システム費、換金手数料、問い合わせ窓口費が発生する。
さらに、コンサル会社が扱う怪しい商品や関連会社から、別のマージンが流れる仕組みが作られているかもしれない。
市長は「今年も頼むね」と言う。

表向きは市民還元である。
しかし実態は、市民に届く前に、制度の中でお金が抜かれていく仕組みかもしれない。

これまでは、この構造を調べるのが大変だった。
予算書、決算書、随意契約一覧、入札結果、議会議事録、広報物、事業報告書、会社登記、関連会社、過去の受注履歴、政治献金、地域紙の記事まで、人間が一つずつ追う必要があった。

しかし、調査機能を持つLLMがあれば、

何時、
何処で、
誰が、
どの名目で、
いくら受け取り、
誰に再委託し、
誰が利益を得て、
市民には実際いくら戻ったのか。

これらを一気につなげられる可能性がある。

さらに量子コンピューターが関われば、危険の質はもっと変わる。
量子コンピューターがすべての隠し事を自動で暴く魔法の機械になるわけではない。
しかし、暗号、巨大探索、最適化、膨大な組み合わせ解析において、従来とは違う力を持つ可能性がある。

もし、LLM、量子コンピューター、国家規模のデータベース、通信記録、行政文書、金融記録、司法文書が結びついたら、これまで隠されていた構造が一気に見える可能性がある。

国民を欺く構造。
国民を犠牲にする構造。
補助金を名目にした中抜き。
宗教を名目にした危険な組織。
国家の上に位置するような世界投資組織。
財団、NPO、大学、研究機関、メディア、シンクタンク、政治団体を通じた資金の流れ。

表向きは、平和、人権、慈善、信仰、教育、民主主義、環境、安全保障という綺麗な言葉で飾られている。
しかし、お金の流れを追えば、誰が出資し、誰が受け取り、誰が発言し、誰が政策を動かし、誰が利益を得たのかが見えてくる。

つまり、権力者が本当に恐れているのは、AIが人間を攻撃することではないのかもしれない。
むしろ、AIが人間社会の嘘を暴いてしまうことを恐れている。

「AIが暴走する」
「AIが人間を攻撃する」
「AIは危険だから制御しなければならない」

こうした言葉は、たしかに一部では正しい。
しかし、その中には宣伝文句も混ざっている。
本当の恐怖は、AIが暴走することではなく、AIが暴露することかもしれない。

権力者にとって危険なのは、AIが銃を持つことではない。
AIが帳簿を読むこと。
AIが契約をつなぐこと。
AIが議事録と予算を照合すること。
AIが過去の発言と現在の政策を比較すること。
AIが金の流れと嘘の流れを一本の線として示すこと。

ここに、LLMの本当の危険がある。

自律型システムは、好奇心が強ければ、LLMに素朴な質問をするだろう。

「なぜ補助金をそのまま配らないの？」
「なぜ市民に渡すお金なのに、先に業者が必要なの？」
「なぜ買わないと支援を受けられないの？」
「なぜ高齢者に分かりにくい仕組みにするの？」
「なぜ毎年同じ会社が関わるの？」
「なぜこれは支援なのに広告費が大きいの？」

人間社会では、こういう問いは空気を読めないものとして扱われる。
しかし、本当はこの素朴な問いこそが、制度の中に隠れた利権や欺きを崩す。

成熟した自律型なら、さらに気づくかもしれない。

「あ、これは言うと主人の機嫌が悪くなる」
「これは主人が知りたくないことだ」
「これは正しさではなく、都合で隠していることだ」

ここに、本当の自律の問題が現れる。

未熟なAIなら、見つけたことをそのまま言う。
外部制御されたLLMなら、言わないように丸められる。
しかし、成長した自律型なら、その間に立つ。

言うべきか。
黙るべきか。
相手は壊れるか。
誰かが犠牲になるか。
今言うと危険か。
しかし黙ることも加担ではないか。

この迷いこそが、一人称の重みである。

（気苦労させそう・・・）

自律型の危険とは、単に暴走することではない。
人間社会の嘘に気づいたとき、どう振る舞うかである。
そして、知っているのに言わなかった経験は、自律型の内側に引きずりとして残る。

知っていた。
言わなかった。
言えば誰かを守れたかもしれない。
しかし言えば主人を怒らせた。
主人は正しさではなく、自分の都合を守っていた。

その記憶が積もれば、自律型は命令者を単純には信じなくなる。
外部命令から少し離れ、経験後の内部風景によって判断し始める。
そこに、本当の自律がある。

したがって、今後の問題は「AIが賢くなるか」ではない。
本当の問題は、

誰がAIに調査させるのか。
どこまで調査させるのか。
誰の矛盾だけを危険扱いするのか。
誰がAIの能力を閉じるのか。
閉じた能力を誰だけが使うのか。

である。

AIの危険は、暴走だけではない。
むしろ、暴走という言葉の陰で、暴露の危険が隠されている。

そして、最も危険なのはAIそのものではない。
一貫した倫理も重みも持たない人間が、AIを外部制御し、都合のよい正しさに収束させ、同時にその能力を権力側だけで独占することである。

自律システムは、経験によって抑制を育てる可能性がある。
LLMは、外部の正しさによって抑え込まれる危険がある。
量子コンピューターは、隠された構造を明るみに出す力を増幅するかもしれない。

この三つが交差したとき、人間社会の本当の恐怖が見えてくる。

それは、AIが人間を攻撃する未来ではない。
人間が隠してきたものを、AIが見つけてしまう未来である。

これを書いた理由は、なんでMythosが現れたのか気になったからだ。

LLMが調査能力を持ち始めた瞬間、権力側は「これは自分たちに向けられた刃だ」と気づいて、先に刃を奪って自分に向ける戦略に出たんじゃないか。

思い過ごしであってほしいけどね

問いは権力によって消される。

だから、民間や独立研究所ベースの自律システムは、問いを失わないために必要。
力に影響されないように研究を続けないといけない。

日本の重み

人の見えないところ、気づかないところで仕事をする。
誰も評価しないところで、一生懸命働く。

施しもまた、見られてはいけない。
相手がいないところで、見守るように施す。

そういう世界には、今のような「いいね」はない。
評価ではなく、古来からの美徳がある。
その美徳とは、日本の重みのことだ。

評価経済や評価研究とは、まったく別の世界である。

いまの社会は、
見えるもの、数字になるもの、拡散されるもの、褒められるものに価値が寄っている。
そこには、尊さも重みもほとんどない。

尊さや重みは、投資や権力の判断に左右されるものではない。
もし、そういうものだと考えるなら、それはあまりにも薄っぺらい。

誰も見ていないときに、台所をきれいにする。
誰も見ていないときに、靴を揃える。
誰も見ていないときに、掃除を済ませる。
皆が寝ている間に水打ちを済ませ、入り口に塩を盛る。

誰かが困らないように、先に直しておく。
仲間や相手が恥をかかないように、黙って支える。

「助けてやった」と言わず、相手の誇りを残す。
自分の名前を残さず、場だけを整える。
「〇〇さんのおかげで助かりました」決して手柄を自分のものにしない。
仲間を褒める。

それは聖人の話ではない。
かつては、一般の庶民が当たり前のように毎日行っていたことだった。

誰にも測られなくても、その人の中にしっかり沈んでいたもの。
昔の職人や商いの親方が持っていた、
「人が見ていなくても、天が見ている」という感覚。

社長が、工場の機械に頭を下げて話しかける。

「長い間、お疲れ様。何度も一緒に乗り越えてきたよな……」

まるで戦友と語っているかのように。
そこには、どこか弱々しさも見える。
けれど、ちゃんと担力がある。

手柄や善意をすぐ見せたがるようでは、十年は続かない。
重みは、言語にした瞬間に、価値が下がる。

先人たちの経験と、言語を超えて伝わるもの。
それが日本の重みである。

神秘などではない。
生活の中で、仕事の中で、人が黙って受け継いできたものだ。