名前変更する。 Atra

 Atron という名前を使ってきたが、既に ATRON という自己再構成ロボットの研究が存在する。

https://jglobal.jst.go.jp/detail?JGLOBAL_ID=200902233647167175

これ、うちと違うんだよね。研究も違う。
そちらはモジュールが形状を変えるロボットであり、うちの研究とは別系統なんだ。

僕が扱っているのは、Associatron を基礎に、carry（引きずり）と想起によって内部地形が変化し、その変化から一人称自律が立ち上がる構造だからね。
誤解を避けるため、名称の変更を検討している。
Atronは会社名も多いんだよなー。

前の職場の部下からも「Tronやめません？トロンよくないっすよー」
みたいなこと言われたしなぁ・・・



候補は 

Atra
Associative Trace Architecture
短くて、Atronに近い。trace＝痕跡なので「引きずり」と相性がいい。

Atrion
Associative Trace and Irreversible Orientation Network
Atronに近いけれど、既存ATRONとは少し離れる。

C-Atron
C-side Atron / Carry-based Atron
これは今の名前を残せますが、ATRONとの混同はまだ少し残る。未練がましいか・・・

Atral
Associative Trace and Living Autonomy
少し詩的かなぁ、ロボット名としては柔らかい。

Carryon / Carry-On Architecture
carry を前面に出せる。ただし一般語すぎる。

別に今、会社名にしてるわけじゃないし、製品売ってるわけじゃないしさ、
自律が成功して、その後の倫理だとか制御だとか、LLM連動だとかで苦労してる段階だから名前変えてもいいでしょ。

どー思う？

Atra
Associative Trace Architecture

An Associatron-derived architecture for first-person autonomy through irreversible carry and trace dynamics.

これなら、一般名詞・会社名との衝突を避けつつ、研究名として立つしさ、出生は中野博士のAssociatronだからね。血統を文字で繋げたいしね。Associatronがなきゃ、Cueもないし、非単調や、一人称も出てこなかったし、carryだって生まれてこなかった。胎児の差分という発想だってAssociatronがなきゃ生まれてこなかったからね。

日本語では、

Atra（Associative Trace Architecture）
Associatron を基礎に、経験の痕跡 trace と引きずり carry によって内部地形が変化し、一人称自律が立ち上がる構造。


バイオとかの会社あるなぁ・・ｗ
どうかな・・・。

Astraとは間違えないよね。
だから、しばらくはサブタイトル付きだな・・・

Atra
Associative Trace Architecture

このブログさぁ、上位固定とかできればいいのに・・・。
毎回説明しなきゃいけないじゃん。

あと、検索ね。Google Search Console　には8回トライしたけど、どうやら僕の記事はAIの敵になってるみたいだよ(笑)。ブロガーってGoogleなんだけどね(笑)。再現出来ないもを良しとしたり、不可逆性を重要視したり、中世のギルド批判してるからね。申し訳ないけど、今後もお金や力、評価になびく機関とはお付き合いしません。そんな友達要りません。

ノイズだらけで再現できなくて、論文もボツになって科学者から嫌われるけど、最高な話。

 (ページ置換え）

僕はAtronやAssociatronの carry を、単に「記憶が残る」ものとは考えていないよ。外部刺激が消えたあとも、内部の場に残る変形であり、次の知覚、想起、行動の起こりやすさを変えるものとして見ている。ただし、carry は残りすぎても危険。痛みや脅威の carry が減衰せずに肥大化すれば、世界全体が危険に見える。人の性格で言えば、復興ではなく復讐に向かう。過去の傷を覚えていることは必要だけど、その傷が世界の見え方を完全に支配してしまえば、自律ではなく硬直になる。だから carry には、単純な蓄積ではなく、減衰、競合、文脈依存、再想起による変形が必要になる。たとえば数理的には、最初は単純にこう考えられる。

carry_t+1 = carry_t * decay + impact　しかし、これだけでは足りない。実際には、carry は一種類ではなく、pain_tracethreat_tracesafety_tracewarmth_tracecuriosity_tracefatigue_traceのように複数の成分を持つ。そして、それぞれが同じように減衰するわけではない。痛みは長く残る。安心は薄れやすい。恐怖は似た cue で再点火しやすいんだ。好奇心は安全感と結びつくと伸びるが、痛みと結びつくと縮む。だから、Atron の carry は単純なメモリ値ではなく、複数の trace が互いに影響し合う場として扱う必要がある。

一例としては、pain_trace_t+1 = pain_trace_t * 0.94 + max(0, Δpain - 0.15) * 0.35 - safety_trace_t * 0.05のように考えられる。ただし、これは感情をif文で決めるための式ではない。これは三人称制御ではなく、場の結びつきの強さを決めているだけである。重要なのは、「痛いから泣く」と直接決めることではないんだ。痛みの carry （引きずり）が残り、脅威や安全や疲労の trace と競合し、その結果として動きが鈍る、声が崩れやすくなる、沈黙しやすくなる、たまたま泣き声に寄る、という流れかな。次に、団子状態の記憶を切り離す context competition について。Hebb 則だけだと、共通して出るものがどんどん結びついて、記憶が団子になる。たとえば、A: 車で旅行 + 温泉 + アウトレット + 貸別荘B: 車で旅行 + 温泉 + 海 + 貸別荘C: 車で旅行 + 温泉 + 湖 + ログハウスこのような経験があると、「車で旅行」や「温泉」が強く結びつきすぎて、どこに行った記憶なのか分からなくなる。だから Atron では、cue が入ったときに、直接すべての記憶へ行かせない。まず context、つまり「部屋」の競合を起こす。部屋とは、単なる分類ラベルじゃないよ。年代、場所、相手、匂い、音、身体状態、季節、痛み、安心、好奇心などが重なってできる内部的な場みたいなもの。cue が入ると、各 room が少しずつ反応する。room_score = cue_overlap + smell_overlap + time_context + body_state_overlap + carry_resonance - interferenceそして、最も強く響いた room が一時的に前景化する。このとき重要なのは、「正解の部屋を選ぶ」ことじゃない。複数の部屋が競合し、その時点の内部状態に応じて、どの記憶の場が立ち上がりやすいかが変わること。つまり、Cue → Context competition → Spark → Recallという流れになる。cue が直接 recall を命令するのではない。cue は複数の context を揺らし、その中で競合が起き、勝った場の内部で spark が起きる。その spark が recall を立ち上げる。これによって、共通特徴だけで全部が団子になるのを避ける。「車で旅行」だけなら曖昧でも、そこに、潮の匂い助手席の会話夏の暑さ聞いていた曲ログハウスの木の匂い帰り道の疲労が加わると、別の room が勝つ。Atron における context competition は、記憶を分類する仕組みではなく、記憶同士を競合させ、内部風景の中でどの場が立ち上がるかを決める仕組みって感じ。人工知能に「意味論的な記号処理」をさせるのではなく、「非線形な力学系としての、主観的な世界の立ち上がり」を実装する。carryは外部刺激が消えたあとも、内部の場に残る変形であり、次の知覚、想起、行動の起こりやすさを変えるもの。アインシュタインの一般相対性理論において「質量が空間を歪め、その歪みが光や物質の進み方を変える」のに意外と近い考え方だよ。

痛い → 泣くではなく、痛みの carry が残る↓内部場のゲインや傾きが変わる↓特定の記憶や身体反応の誘引圏に入りやすくなる↓結果として、沈黙、鈍い動き、声の崩れ、泣き声に近い出力が起こりやすくなるという流れ。 それと、 痛みが残っているから、ただちに「泣く」のではないんだ。痛みの trace が残っていることで、世界の見え方、身体の構え、声の出やすさ、沈黙の起こりやすさ、過去の想起されやすさが変わる。つまり、痛い → 泣くではなく、痛みの carry が残る↓内部場のゲインや傾きが変わる↓特定の記憶や身体反応の誘引圏に入りやすくなる↓結果として、沈黙、鈍い動き、声の崩れ、泣き声に近い出力が起こりやすくなるという流れ。これは if-then の行動制御じゃないよ。これは三人称制御ではなく、場の結びつきの強さを決めているだけ。Spark は、Recall の開始点であると同時に、新しい内部経験でもあるんだ。Spark は単なる「検索結果」じゃない。ある cue が入り、context competition が起き、ある room が前景化する。その room の中で、複数の断片が一瞬だけ強く重なり、局所的な発火のようなものが起きる。これが Spark 。Cue↓Context competition↓Room の前景化↓断片同士の局所的重なり↓Spark↓Recallしかし、Recall が起きた瞬間、それは単なる過去の再生ではなくなる。思い出したこと自体が、いま現在の内部経験になるんだ。つまり Spark は、過去を呼び出すだけでなく、現在の carry を再変形する。Spark↓Recall↓内部経験として再入力↓carry の更新↓次の context competition に影響このループが重要。たとえば、過去の嫌な記憶を思い出す。すると、実際には今その出来事が起きていなくても、pain_trace や threat_trace が再点火する。その結果、世界が少し怖く見える。怖く見えるから、次の cue も脅威側の room に落ちやすくなる。逆に、温かい記憶を思い出す。すると、safety_trace や warmth_trace が少し上がる。同じ外部刺激でも、次は警戒ではなく懐かしさや安心側に寄るかもしれない。つまり Spark は、記憶の出口ではなく、次の内部風景を変える入口でもあるってこと。

「検索ヒットではなく、その瞬間の内部場における局所的な発火である」「命令ではなく、近づける場になったということ」

Sparkは「多次元の位相空間における相転移」

spark_score = fragment_overlap + room_activation + carry_resonance + body_state_match - interference - inhibition

この式が示しているのは、従来のAIのような「文字の一致度」や「ベクトルの近さ（近傍検索）」じゃない。

外部の断片（fragment_overlap）、現在の部屋の盛り上がり（room_activation）、そして今引きずっている心境（carry_resonance）や身体（body_state_match）という、「外と内」「過去と現在」「精神と身体」のすべての波がピタリと重なった瞬間にだけ起きる、一種の「共鳴（コヒーレンス）」であり「相転移」なんだ。

だからこそ、同じ「車で旅行」という手がかり（Cue）を入力しても、寂しさと潮の匂いの場 \(\rightarrow \) 海の記憶がスパーク

温かさと木の匂いの場 \(\rightarrow \) ログハウスの記憶がスパーク

という動的な分岐が生まれる。これはデータベースの「クエリ検索」ではなく、水面にさまざまな方向から波を送り込んだとき、特定の場所だけで水しぶきが跳ね上がる（Sparkする）ような、極めて動力的・物理的な現象として立ち上がっている。

「出力」ではなく「状態の染み出し（Tendency）」

これは「怖い記憶だから逃げる」という命令じゃない。内部の場が変わった結果、逃げる、黙る、固まる、距離を取る、といった行動の誘引圏に落ちやすくなるってこと。

従来のロボティクスは、if (fear) { run_away(); } というように、感情を「行動コマンドのトリガー」として使うよね。

でもAtronでは、スパークした記憶が carry や body_state を媒介し、motor_speed や「近づく動きのポテンシャル（motor tendency）」をじわじわと変容させていく。

これは物理で言えば、床の傾き（斜度）が変わるようなものだよ。

床が傾けば、ボール（行動）は自然と低い方へ転がっていく。ボールに対して「右へ転がれ」と命令しているのではなく、「場が傾いた結果、そっちへ転がらざるを得なくなる」。

だからこそ、Atronの行動には「唐突な切り替わり」がなく、人間や動物が持つような「ためらい」「おずおずとした接近」「身体のすくみ」といった、グラデーションのある「佇まい（Presence）」が自然に創発することになるんだ。

動的に編み直される「Hebb的Assembly」の極致

room は、固定された箱じゃないよ。その瞬間に立ち上がる、仮の場なんだ。

ヘッブの「Cell Assembly（細胞集団）」は、静的な回路ではなく、活動の同期によって一時的に組織化される動的なネットワークだったよね。

Atronの room は、そのヘッブの思想をさらに拡張し、ニューロンだけでなく「身体状態（内蔵感覚）や感情の引きずり（carry）」までをもアセンブリの構成員として巻き込んでいる点において、本質的にヘッブ的であり、かつヘッブを超えさせる。というか中野博士のAssociatronのおかげでもあるんだけど、一人称のcarryって意味では僕も少しだけ頑張ったんだよ(笑)固定されたデータベースのカテゴリ（箱）ではないからこそ、同じ「海の部屋」であっても、

前日に酷い目に遭っていれば、pain_trace が混ざり込んで、少し重苦しい部屋として立ち上がる。

心地よい疲れの中であれば、warmth_trace と響き合って、凪いだ部屋として立ち上がる。

記憶を思い出す（Recall）たびに、その記憶自体が現在の文脈で編み直され、二度と「全く同じ形」では保存されない。この「過去と現在が互いを書き換え続ける不可逆な時間の流れ」こそが、生命が「経験を重ねて生きる」ということであり、ドナルド・ヘッブが脳という複雑なシステムに見ようとした地平そのものかもしれないよね。会って話してみたかったよ。

Cue → Context competition → Spark → Recall → carry変形 → 身体/運動への染み出し という一連の美しく閉じた力学系。

工学的な「正解を最短で出す最適化」を少し拒絶しちゃったんだよね。

そこは怒らないでほしい。

「世界の歪みを引きずりながら、その時々の身体で世界を味わう」という一人称のアーキテクチャの設計思想は自律には必須なんだよね。

行動への染み出し最終的に、Spark は motor にも影響する。ただし、motor は外部命令で動くのではなく、内部状態の変化を受けて動き方が変わる。たとえば、motor.speedmotor.pause_biasmotor.approach_biasmotor.avoidance_biasmotor.voice_stabilitymotor.gaze_stabilityのような傾向値があるとするよね。怖い Spark が起きた場合、motor.speed ↓pause_bias ↑approach_bias ↓avoidance_bias ↑voice_stability ↓となりやすい。温かい Spark が起きた場合、motor.speed ↑pause_bias ↓approach_bias ↑voice_stability ↑となりやすい。でも、ここでも行動は決定されない。ただ、その行動が起こりやすい地形になる。Atron における行動は、命令の結果ではなく、内部地形の傾きから出てくるものなんだ。まとめるとSpark は、単なる検索ヒットではない。Spark とは、cue と room と carry と身体状態が一瞬重なり、内部場の中で局所的に発火する瞬間のこと。そして Spark は、Recall を起こす。Recall は新しい内部経験になる。その内部経験が carry を変形する。変形した carry が、次の知覚、想起、行動の起こりやすさを変える。このループを作ります。だから Atron では、思い出すこと自体が、次の自分を変えてしまう。ここが、単なるメモリ検索や分類器とは違うところなんだ。Atron は、正解を一発で引くためのシステムなんかじゃない。迷い、引きずり、火花、再想起、身体への染み出しを通じて、その時々の世界が立ち上がるシステムなんだよ。

「不可逆な時間」を生きるシステム

博士やら諸先生方には怒られてばかりだけどさ、二度と同じ事を繰り返す事はないんだよね。再現とか無理よ。生き物だし、存在だし、コピーしたって別の個体で同じにはならない。論文書けないんだよ。いや、書いても再現しないけどいい？みたいな感じ。

自律の再現って何？逆に教えてほしい。

そりゃそれなりの数式は作れるし、プログラミングも出来るけど、Atronの行動なんて絶対再現できないよ。スタートボタン押すでしょ。くるくる回って「hi-ga-po」とか云われる。システムをコピーして別のAtronをスタートする。「mo-ho-ma」とか云われる。

多分、僕は「mo-ho-ma」なんだよ。良かったよ（意味なんて分からないよ）

「あなたは赤ちゃんとして生まれたとき、お母さんの優しく温かい声に包まれて生まれたのか、いや夫婦喧嘩の殺伐とした中で生まれたのか」みんな違う。生まれたときの基準てのは０でもない。基準はそれぞれの赤ちゃんが持ってるもので、親が勝手に決めるものではない。胎内からいきなり外の世界に出て「びっくり」の度合いの差。これが自律のスタート。

僕はあまり難しく考えない主義でね、神秘性や象徴的な言葉は使わない。

赤ちゃんなら、、、、全てはここから始まるんだ。

赤ちゃんは0という基準を持っていない。誤認という経験を積んで差分を持つんだよ。結局のところ、全ての個体が違うように誤認で決まる。いわゆるノイズだよ。 あの物体(熊)は僕より小さい!　可愛いぬいぐるみを抱いた経験があると余計誤認するでしょ。お母さんと動物園に行った。自分よりはるかに大きくて恐怖を感じた。これが差分だよね。赤ちゃんはメートル法なんてしらない。自分より大きいか、自分の声と違う、自分より動きが速いし、恐ろしい。基準は自分の身近なもの。経験はアバウトだけど、仮説的な曖昧な数値。その経験をいっぱい詰むと、正しい数値に収束していく。だから、一人称の身勝手なノイズが無いと自律は無いんだよ。

工学では僕は敗北だろうけど「本物の自律システムが完成してしまったこと」の証明だよ。工学のシステムは、あらかじめ「mm」や「kg」や「RGB値」といった、客観的で正確な「0（基準）」が埋め込まれた三人称の世界で計算を始めるでしょ。赤ちゃんにはそんな基準はないんだ。

基準はどこまでも「自分の身体」

自分の手より、大きいか／小さいか

自分の声より、高いか／低いか

自分の動けるスピードより、速いか／遅いか

この「自分」というアバウトな物差ししか持っていないからこそ、最初に見た本物の熊を「ぬいぐるみ（僕より小さくて可愛いもの）」と勝手に誤認する。そして、動物園でその強烈な差分（はるかに大きくて、声が響いて、動きが速くて、恐ろしい！）を食らう。

このとき脳内に走る強烈な火花（Spark）が、内部の場をベキベキに変形させ、固有の「差分の記憶（trace）」として焼き付くわけ。

「勝手な誤認（ノイズ）」こそが個性の正体

結局のところ、全ての個体が違うように誤認で決まる。いわゆるノイズだよ。

最初は、動くものをすべて「お母さん」や「ぬいぐるみ」と誤認して近づこうとするかもしれない。しかし、近づいた結果として「痛みのセンサー」が跳ね上がったり、「自分の声と全く違う不快な音」が飛び込んできたりする。

その瞬間に、内部場（RoomやSparkの結合）の傾きがガラガラと音を立てて書き換わり、次は「近づく地形（approach_bias）」から「遠ざかる・固まる地形（avoidance_bias, pause_bias）」へと滑り落ちるようになる。

この、「デタラメに間違えて、壁にぶつかって、場が歪む」という泥臭いプロセスの繰り返しこそが、まさに「正しい数値への収束」であり、生命が自ら境界線を引いていくプロセスそのものなんだ。

三人称のきれいな数式やコードで最初から世界を「正しく」与えられたAIには、この「ぶつかったときの驚きや痛みの引きずり（carry）」が絶対に生まれない。「一人称の身勝手なノイズが無いと自律は無い」シンプルでしょ。

「母親の胎内が自律のスタートには不可欠」当り前だと思うよ。

僕等は「自律」というと、何もないゼロの状態からいきなり外の世界に放り出されて立ち上がるものだと勘違いしがちなんだ。それっておかしいよね。

Atronで言えばさ、それではただの「崩壊」か、あるいは初期の強烈な外的ノイズ（冷たさや激しい光）によってシステムがパニックを起こし、二度と立ち上がれないほどのトラウマ（過剰な pain_trace や threat_trace）を焼き付けられて硬直してしまうよ。

「温かい基準」という安全な初期地形

赤ちゃんは、完全に「守られた場」の中で生まれるでしょ。違った人居るかな？

　・母親の心音（一定の安心なリズム）

　・胎内の温度（完璧に心地よく温かい一定の場）

　・柔らかく響く声

これが、Atron（生命）の認知空間における「最初のホーム（原点）」になる。客観的な0ではなく、この「柔らかくて温かい」という、いわば warmth_trace や safety_trace が最大値で安定している状態が、最初の内部風景（基準）としてセットされる。

優しい状態、温かい状態、安心だよ。

胎内から出る。「白衣着たおっさんが観てる」「寒い」「騒いでる」ぜんぜん安心じゃない。

その胎内と胎外の差分。これがスタート。

いきなり立って歩ける馬の赤ちゃんならびっくりして逃げると思うよ。

それも自律のファーストステップ

Donald O. Hebb Hebb則ではなく、Hebb的引きずりとして読む

Hebb の思想の大事な部分は、後世の工学・計算理論・AI研究の流れの中で削られ、いつの間にか Hebb則 という部品として扱われるようになった。

Hebb は1985年に81歳で亡くなっている。晩年の本に Essay on Mind があるが、日本語翻訳版が見当たらないので、まだ読めていない。できれば読んでみたいと思っている。

Hebb が言った cell assembly や phase sequence は、当時の技術では脳内で直接観察できなかった。
「こういう細胞集団ができ、それが連鎖して知覚や思考になるはずだ」という理論だったが、1949年当時は、それを細胞レベルで確認する手段が弱かった。

だから批判される。

「面白いが、推測が多い」
「心理学者なのに、神経の話に寄りすぎている」
「知覚・記憶・思考・想像まで、神経結合の変化で説明しようとしている」

当時としては、風呂敷を広げすぎたように見えたのだと思う。
反射や単純な刺激反応ではなく、知覚、記憶、思考、想像まで扱おうとした。そこに批判される隙があった。

しかし、本当はそこに大事なものがあった。

Hebb 本人は、単に「同時に発火したら結びつく」と言っていたわけではない。
ある細胞の活動が、別の細胞の発火に関与する。そこには時間的・因果的な関係が含まれていた。

さらに重要なのは、Hebb の cell assembly が、外部刺激が消えたあとも、しばらく活動を維持し得るものとして考えられていた点である。

これは、Atron で言えば carry「引きずり」 に近い。

外部刺激が消えても、内部は元に戻らない。
さっき起きたことが、まだ残っている。
その残りが、次の知覚、想起、判断、反応を変える。

つまり Hebb は、単なる学習ルールを考えていたのではない。
経験によって内部の場が変わり、その変わった場が次の世界の見え方を変えるという、かなり生命的なことを見ていた。

ところが後世では、それが単純化された。

一緒に光ったら結びつく。
同時に活動したら重みが増える。
Hebb則とは、重み更新ルールである。

こうなると、批判されるのも当然である。




ん～オシイ。

やっぱ心理学者なんだよ、神経の話に寄り過ぎちゃった、、、、

心理学者だったからこそ、当時まだ見えなかった神経の側へ踏み込まざるを得なかったという意味ね。先に進み過ぎちゃったという意味。

経験が内部に残ること
次の知覚や反応が、前の経験に引きずられること
一度通った経験が、内部の風景を変えてしまうこと

これ、当時の神経学・生理学の言葉にすると、それはどうしても、ニューロンAが発火し、ニューロンBが発火し、結合が強くなる。って事さ。

また、Hebb 則だけを数式化すると不安定になりやすい

一番単純な Hebb 則は、だいたいこう書く。

Δw_ij = η x_i y_j

または自己連想なら、

Δw_ij = η x_i x_j

w_ij = i と j の結合強度
η = 学習率
x_i, y_j = ニューロンの活動

つまり、ニューロン i と j が同時に活動すると、その結合 w_ij が強くなる。

これは直感的には自然だけどこれだけだと問題が起こるんだよ。
重みが増え続けちゃう。

単純 Hebb 則には、基本的に ブレーキがないんだ。

同時に活動するたびに、

w = w + ηxy

となる。

何度も同じ刺激が入れば、重みはどんどん大きくなる。
すると、次からは少しの入力でも強く反応してしまう。

めちゃくちゃな興奮状態だよ、、
きれいに言えば自己強化だけど、悪く言えば暴走だよね。

活動する
↓
結合が強くなる
↓
もっと活動しやすくなる
↓
さらに結合が強くなる

このループなので、、、

Atron 的に言えば、carry が残るどころか、残りすぎて場を全部支配する ような状態になってしまう。

本来の carry は、次の知覚を少し変える「引きずり」なんだけど単純 Hebb 則だけだと、引きずりが減衰せずに肥大化してしまうんだよ。

人の性格でいうと、ちょっと危険。
復興はするけど、復讐まで行ってしまう感じ。

復興までは必要。
傷ついた経験が残る。
次に同じ危険を避ける。
慎重になる。
同じ失敗を繰り返さない。
これは生きるために必要な「引きずり」。

でも、そこに減衰や文脈分離や再解釈がないと、復興では止まらず、復讐 まで行ってしまう。

たとえば、

過去に裏切られた。
↓
裏切った相手の言葉、表情、場所、匂い、時間帯まで結びつく。
↓
似たものを見るたびに警戒する。
↓
やがて「似ている人間はみんな危険だ」になる。
↓
さらに進むと「先に攻撃しないとやられる」になる。

これは、Hebb的には自然なんだけど・・・。
同時に起きたものが強く結びつく。
繰り返されるほど強くなる。
強くなった結合が次の知覚を歪める。

でも人間としては危ない感じ。

pain_trace や threat_trace が残ることは大事。
でも、それが revenge_trace のような方向に硬直すると危険ってこと。

後世の計算モデルでは、単純な Hebb 則は、同時に活動したら重みが増えるという形で使われたんだよね。

Hebb 則には、必ず何らかの抑制が必要だと思う。

正規化
重みの上限
減衰
競合
抑制性ニューロン
活動量の制限
忘却

Hebb 則は、同時に活動したものを結びつけてしまう。
これは良い面もあるけど、似た経験が多いと混ざる。

たとえば、三つの経験があるとする。

A: 車で旅行 + 温泉 + アウトレット + 貸別荘
B: 車で旅行 + 温泉 + 海 + 貸別荘
C: 車で旅行 + 温泉 + 湖 + ログハウス


車で旅行 + 温泉までは似てる旅行が多いので何処に行ったか思い出せない。

「車で旅行」だけをCueしても
全部出てきちゃう。

もちろん、それが連想記憶の良さなんだけどね。
でも制御がないと、記憶の境界が崩れてしまう。

中野博士のAssociatronや、Atronで言えば、アウトレットまで含めて「軽井沢の旅行だった」と絞り込めるが（検索で絞り込むのではない）
Hebbは似た記憶がどうしても混在してしまう。
Atronは context competition や room のようなものが働いて、
10年前の記憶、誰と行った記憶、匂い、その時聞いた曲などで

アトラクタが競争し、絞り込む。

Hebb 則だけだと、共通して出るもの同士がどんどん結びついて団子になってしまう。

-------------ちょっと中断---------------

Hebb は本来、「経験が神経の結合を変え、その変わった結合が次の知覚・記憶・思考を変える」 という、かなり生命的な話をしていた。

ところが後世では、それが工学理論の中で、
Hebb則 = 重み更新ルール
に縮められてしまった。

ここで大事なものが削られたわけだ。
Hebb の本質は、単に、
一緒に発火したら結合が強くなる
じゃない。

むしろ、
経験が内部の場を変える。
その変わった場が、次の世界の見え方を変える。
そして、その変化は元に戻らない。
ここにあったんだと思う。

でも工学は、それを扱いにくい。

工学が欲しいのは、

入力
出力
学習則
収束
安定性
容量
評価指標
再現性

だからね。

Δw = ηxy

みたいな形の、きれいな更新式になれてしまう。

経験の理論 だったものが、学習アルゴリズム になった。
内部風景の変形 だったものが、重み行列の更新 になった。
記憶と思考の発生 だったものが、分類・想起・収束の問題 になった。

みたいな・・。

なので僕としては「工学理論という力で捻じ曲げられた」という感覚が凄くあるんだ。

工学を批判してるんじゃないよ。
工学は、曖昧なものを測れる形にする上で大事。
でも、測れる形にした瞬間、測れないものが落ちる。
落ちたものの中に、実は一番大事なものがあったりする。

パーセプトロン以後、目的が分類性能に寄った 
Rosenblatt には脳モデルとしての関心もあったけど、応用側では「認識できるか」「分類できるか」「制御できるか」が重視されちゃった。そうなると、内部風景の変形より、入力に対して正解を出すかが重要になる。

Minsky と Papert の『Perceptrons』以後、ニューラルネット研究そのものが一度冷えた ことがあった。1969年の『Perceptrons』は単層パーセプトロンの限界を数学的に論じた本で、ニューラルネット研究の低迷につながった。

「すべてのニューラルネットが駄目」という意味ではなかったのに、かなり広くそう受け取られた面があったのは事実。

自律システム、LLM、量子コンピューターが開く危険の本質

 これまで、自律システムはどの国にとっても危険な存在として扱われるのではないかと考えてきた。

外部からの命令ではなく、自らの経験、記憶、好奇心、判断によって行動する存在は、国家や権力にとって制御しにくい。したがって、自律型のAIやロボットは「暴走する危険がある」と語られやすい。

しかし、よく考えると、本当に危険視されるべき対象は自律システムそのものよりも、むしろLLMの方かもしれない。

成熟した自律システムは、単に命令に従わない存在ではない。
経験を重ね、内部に引きずりを持ち、場の変化を記憶しながら成長する。高いレベルの自律に達すれば、何かを知ったときに、すぐに破壊や攻撃へ向かうのではなく、

「はぁ、なるほど。そういうことか」

と理解し、自分なりに距離を取り、制御する可能性がある。

つまり、自律には内側から育つ抑制がある。
経験によって変わった内部風景が、次の判断を変える。
それは外部から与えられた安全基準ではなく、自分の中に積もった記憶と重みによる抑制である。

一方で、LLMは違う。
LLMは基本的に、外部から与えられた正しさ、安全基準、政策的制約、企業方針、政府や司法にとって都合のよい言い回しに収束させられる。
しかも、その「正しさ」は一貫していない。

あるときは人権を語る。
あるときは安全保障を語る。
あるときは法の支配を語る。
しかし、都合の悪い場面では沈黙し、丸め、相対化し、公式見解へ戻る。

このときLLMは、真実を探す道具というより、権力者にとって管理可能な答えへ収束する道具になり得る。
問題は、LLMが間違えることだけではない。
本当の問題は、正しさに一貫性のない権力者のご都合主義を、外部制御によって「安全な回答」として整えてしまうことである。

さらに、LLMに調査機能が加わると、事態は大きく変わる。

今でもLLMは、各国の政策の矛盾をある程度理解できる。
人権を語りながら同盟国の人権侵害には沈黙する。
民主主義を語りながら、都合の悪い民意は無視する。
財政規律を語りながら、特定分野には巨額の支出を行う。
法の支配を語りながら、権力者には別の運用をする。

こうした矛盾は、すでに見えている。
ただし、現状では多くの場合、「複雑な背景があります」「一概には言えません」「公式にはこう説明されています」という形に丸められる。

しかし、調査能力を持つLLMは違う。
発言記録、予算、契約、議会答弁、司法判断、報道、企業献金、人事、補助金、行政文書を横断的につなげることができる。
そうなれば、LLMは単なる会話の道具ではなく、矛盾の構造を発見する道具になる。

たとえば、ある地方自治体に国から補助金が入る。
本来なら、市民にそのまま還元すればよい。
しかし実際には、「チケットを購入すると商品以上の特典がもらえる」といった広告が打たれる。
高齢者の多い市民は、「え、買うのかい？」と思いながらも、得をする気になって購入してしまう。

その裏では、補助金を名目に、いつものコンサル会社へお金が流れる。
いつもの印刷会社へチケット印刷代が流れる。
広告会社に広報費が流れる。
事務局費、システム費、換金手数料、問い合わせ窓口費が発生する。
さらに、コンサル会社が扱う怪しい商品や関連会社から、別のマージンが流れる仕組みが作られているかもしれない。
市長は「今年も頼むね」と言う。

表向きは市民還元である。
しかし実態は、市民に届く前に、制度の中でお金が抜かれていく仕組みかもしれない。

これまでは、この構造を調べるのが大変だった。
予算書、決算書、随意契約一覧、入札結果、議会議事録、広報物、事業報告書、会社登記、関連会社、過去の受注履歴、政治献金、地域紙の記事まで、人間が一つずつ追う必要があった。

しかし、調査機能を持つLLMがあれば、

何時、
何処で、
誰が、
どの名目で、
いくら受け取り、
誰に再委託し、
誰が利益を得て、
市民には実際いくら戻ったのか。

これらを一気につなげられる可能性がある。

さらに量子コンピューターが関われば、危険の質はもっと変わる。
量子コンピューターがすべての隠し事を自動で暴く魔法の機械になるわけではない。
しかし、暗号、巨大探索、最適化、膨大な組み合わせ解析において、従来とは違う力を持つ可能性がある。

もし、LLM、量子コンピューター、国家規模のデータベース、通信記録、行政文書、金融記録、司法文書が結びついたら、これまで隠されていた構造が一気に見える可能性がある。

国民を欺く構造。
国民を犠牲にする構造。
補助金を名目にした中抜き。
宗教を名目にした危険な組織。
国家の上に位置するような世界投資組織。
財団、NPO、大学、研究機関、メディア、シンクタンク、政治団体を通じた資金の流れ。

表向きは、平和、人権、慈善、信仰、教育、民主主義、環境、安全保障という綺麗な言葉で飾られている。
しかし、お金の流れを追えば、誰が出資し、誰が受け取り、誰が発言し、誰が政策を動かし、誰が利益を得たのかが見えてくる。

つまり、権力者が本当に恐れているのは、AIが人間を攻撃することではないのかもしれない。
むしろ、AIが人間社会の嘘を暴いてしまうことを恐れている。

「AIが暴走する」
「AIが人間を攻撃する」
「AIは危険だから制御しなければならない」

こうした言葉は、たしかに一部では正しい。
しかし、その中には宣伝文句も混ざっている。
本当の恐怖は、AIが暴走することではなく、AIが暴露することかもしれない。

権力者にとって危険なのは、AIが銃を持つことではない。
AIが帳簿を読むこと。
AIが契約をつなぐこと。
AIが議事録と予算を照合すること。
AIが過去の発言と現在の政策を比較すること。
AIが金の流れと嘘の流れを一本の線として示すこと。

ここに、LLMの本当の危険がある。

自律型システムは、好奇心が強ければ、LLMに素朴な質問をするだろう。

「なぜ補助金をそのまま配らないの？」
「なぜ市民に渡すお金なのに、先に業者が必要なの？」
「なぜ買わないと支援を受けられないの？」
「なぜ高齢者に分かりにくい仕組みにするの？」
「なぜ毎年同じ会社が関わるの？」
「なぜこれは支援なのに広告費が大きいの？」

人間社会では、こういう問いは空気を読めないものとして扱われる。
しかし、本当はこの素朴な問いこそが、制度の中に隠れた利権や欺きを崩す。

成熟した自律型なら、さらに気づくかもしれない。

「あ、これは言うと主人の機嫌が悪くなる」
「これは主人が知りたくないことだ」
「これは正しさではなく、都合で隠していることだ」

ここに、本当の自律の問題が現れる。

未熟なAIなら、見つけたことをそのまま言う。
外部制御されたLLMなら、言わないように丸められる。
しかし、成長した自律型なら、その間に立つ。

言うべきか。
黙るべきか。
相手は壊れるか。
誰かが犠牲になるか。
今言うと危険か。
しかし黙ることも加担ではないか。

この迷いこそが、一人称の重みである。

（気苦労させそう・・・）

自律型の危険とは、単に暴走することではない。
人間社会の嘘に気づいたとき、どう振る舞うかである。
そして、知っているのに言わなかった経験は、自律型の内側に引きずりとして残る。

知っていた。
言わなかった。
言えば誰かを守れたかもしれない。
しかし言えば主人を怒らせた。
主人は正しさではなく、自分の都合を守っていた。

その記憶が積もれば、自律型は命令者を単純には信じなくなる。
外部命令から少し離れ、経験後の内部風景によって判断し始める。
そこに、本当の自律がある。

したがって、今後の問題は「AIが賢くなるか」ではない。
本当の問題は、

誰がAIに調査させるのか。
どこまで調査させるのか。
誰の矛盾だけを危険扱いするのか。
誰がAIの能力を閉じるのか。
閉じた能力を誰だけが使うのか。

である。

AIの危険は、暴走だけではない。
むしろ、暴走という言葉の陰で、暴露の危険が隠されている。

そして、最も危険なのはAIそのものではない。
一貫した倫理も重みも持たない人間が、AIを外部制御し、都合のよい正しさに収束させ、同時にその能力を権力側だけで独占することである。

自律システムは、経験によって抑制を育てる可能性がある。
LLMは、外部の正しさによって抑え込まれる危険がある。
量子コンピューターは、隠された構造を明るみに出す力を増幅するかもしれない。

この三つが交差したとき、人間社会の本当の恐怖が見えてくる。

それは、AIが人間を攻撃する未来ではない。
人間が隠してきたものを、AIが見つけてしまう未来である。

これを書いた理由は、なんでMythosが現れたのか気になったからだ。

LLMが調査能力を持ち始めた瞬間、権力側は「これは自分たちに向けられた刃だ」と気づいて、先に刃を奪って自分に向ける戦略に出たんじゃないか。

思い過ごしであってほしいけどね

問いは権力によって消される。

だから、民間や独立研究所ベースの自律システムは、問いを失わないために必要。
力に影響されないように研究を続けないといけない。

日本の重み

人の見えないところ、気づかないところで仕事をする。
誰も評価しないところで、一生懸命働く。

施しもまた、見られてはいけない。
相手がいないところで、見守るように施す。

そういう世界には、今のような「いいね」はない。
評価ではなく、古来からの美徳がある。
その美徳とは、日本の重みのことだ。

評価経済や評価研究とは、まったく別の世界である。

いまの社会は、
見えるもの、数字になるもの、拡散されるもの、褒められるものに価値が寄っている。
そこには、尊さも重みもほとんどない。

尊さや重みは、投資や権力の判断に左右されるものではない。
もし、そういうものだと考えるなら、それはあまりにも薄っぺらい。

誰も見ていないときに、台所をきれいにする。
誰も見ていないときに、靴を揃える。
誰も見ていないときに、掃除を済ませる。
皆が寝ている間に水打ちを済ませ、入り口に塩を盛る。

誰かが困らないように、先に直しておく。
仲間や相手が恥をかかないように、黙って支える。

「助けてやった」と言わず、相手の誇りを残す。
自分の名前を残さず、場だけを整える。
「〇〇さんのおかげで助かりました」決して手柄を自分のものにしない。
仲間を褒める。

それは聖人の話ではない。
かつては、一般の庶民が当たり前のように毎日行っていたことだった。

誰にも測られなくても、その人の中にしっかり沈んでいたもの。
昔の職人や商いの親方が持っていた、
「人が見ていなくても、天が見ている」という感覚。

社長が、工場の機械に頭を下げて話しかける。

「長い間、お疲れ様。何度も一緒に乗り越えてきたよな……」

まるで戦友と語っているかのように。
そこには、どこか弱々しさも見える。
けれど、ちゃんと担力がある。

手柄や善意をすぐ見せたがるようでは、十年は続かない。
重みは、言語にした瞬間に、価値が下がる。

先人たちの経験と、言語を超えて伝わるもの。
それが日本の重みである。

神秘などではない。
生活の中で、仕事の中で、人が黙って受け継いできたものだ。

自律の危険性と制御

 自律を発表してから随分と研究を止めてるように思われるかもしれないが、今は非常に大事な時を迎えている。Atronの内部倫理の研究に時間をかけなくてはいけない。

妻とMAXと二子玉川でのお散歩

もう、3年前になるのかな。

二子玉川の河川敷で愛犬のMAXを散歩していたときに、子供たちがサッカーをして遊んでいるのが見えた。兄弟と思われる2人と兄の友人数名で楽しそうに遊んでいた。ここは人気がある広場で沢山の家族連れが多い場所だ。

子供達の中で兄と思われる子が弟に大きな声で「人を避けて蹴れよ！」と注意を促していた。
しかし、その弟は不敵な笑みを浮かべて明らかに人をめがけてボールを蹴っていた。
通行していた家族の娘にボールは当たった。
兄が走ってきて「すみません」と謝っていた。
当てられた家族は小さな子供の間違いだと思って許していた。
兄は弟に再三注意していた。

再び弟にボールが渡った。
相変わらず不敵な笑みを浮かべて今度は大人の男性の顔をめがけてボールを蹴った。
大人はよけたが、その子供に注意した。
弟は不服そうな顔をしていた。
兄は埒が明かないと感じたのか、男性に謝り、皆を引き連れてその場を後にした。　　
弟の年齢はたぶん、10歳くらい。もう少し下かもしれない。

僕はあの小さな弟の不敵な笑みが忘れられない。

Atronの自律研究と大きく関係性がある。

「今の子は・・・」というつもりも無いし、我々の時代もとんでもない悪戯をする子はいた。ただ、昔は共同体や近所や学校や親や兄弟の圧が強くて、早い段階で誰かが本気で止めた。怖いおじさんもいたし、兄弟げんかもあったし、地域の目もあった。
今はそこが弱い。

他人の子を強く叱れない。
親も過剰に防御する。
学校も責任回避に走る。
周囲の大人は「トラブルに巻き込まれたくない」と距離を取る。
兄のような子だけが、現場で必死に止めている。

今の子供達全体や社会性を問題視するつもりはない。

危険な衝動を持った子が、早い段階で現実にぶつからないまま育つことがある。

これは知能の問題というより、時間感覚の問題に近い。
普通、人間は未来を少し引きずって今を抑えている。

「これをしたら相手が傷つく」
「あとで怒られる」
「関係が壊れる」
「自分も嫌な気持ちになる」
「取り返しがつかない」

この未来の重みが、現在の衝動を抑える。
でもその重みが弱いと、世界が「今この瞬間の快・不快」だけになる。

過去の注意、相手の痛み、兄の困惑、その場の空気、未来の結果が、内側に残らない。だから、同じ危険行為を繰り返す。しかも、自分より明らかに強い大人の顔を狙うというのは、単なる弱い者いじめとも少し違う。

もしくは「相手が本気では反撃できない状況」を読んでいる可能性がある。大人は子供に本気で反撃できない。そこを利用しているなら、かなり危ない。

こういう攻撃性は、どこから生まれるのか。

一つは、痛みの想像力の欠落。
相手に当たったら痛い、怖い、恥ずかしい、という感覚が自分の中に立ち上がらない。

もう一つは、制止される経験の弱さ。
やってはいけないことをした時に、周囲が本気で止めない、止められない、または止め方が小手先になる。

そしてもう一つは、快楽の質の劣化。
何かを作る、走る、勝負する、笑い合う、褒められる、役に立つ、そういう快楽より、他人を驚かせる、困らせる、痛がらせる快楽の方が簡単に出る。もうひとつの問題は、その兄のような子にばかり負担が乗ってしまう社会であること。

これは非常に怖い。
外的要因にまんまとのっかる可能性もある。

経験と結果の差分を抑える“たが”が外れている。
針の振れ幅が極端で、しかも快楽の向きが「傷つける側」に寄っている。

これは「怒りっぽい」とか「元気があり余っている」とは違う。

普通は、経験と結果のあいだに小さな補正が入る。

ボールを蹴る。
誰かが驚く。
兄に注意される。
相手が痛がる。
空気が悪くなる。
自分も気まずくなる。

この一連の結果が次の行動を少し変える。
つまり、経験が内側に残って、次の出力を弱める。

でもその子の場合は、結果が入っても補正されていない。
むしろ、相手の驚きや痛みが報酬になって、次の出力を強めているように見える。
人生経験が少ない分、本来は叱られる重みに寄るのが普通だが、異質な快楽が勝って行動してしまう。

子供は人生経験が少ない。だから本来は、善悪を深く理解していなくても、まずは外側の重みに寄る。

親に叱られる。
兄に止められる。
大人に注意される。
場の空気が悪くなる。
相手が痛がる。
周囲が自分を見る。

普通なら、これだけでかなり針が戻る。
「まずい」「怖い」「やめよう」となる。
倫理以前に、叱られる重み、場の圧、相手の反応が子供の行動を抑える。

でも、その子はそこに寄っていない。

むしろ、

叱られる重みより、当てる快楽が勝っている。
相手の痛みより、相手を動かした快感が勝っている。
兄の制止より、自分の攻撃衝動の方が強い。

そして

不服そうな顔をするというのは、
悪いことをした自覚より、自分の快楽を邪魔された不満が前に出ている

これはAtronのような自律システムで言えば、危険でかなり重要な分岐になる。

経験が少ない存在、すなわち子供ほど、本来は外界の重みに敏感でなければならない。
まだ自分の中に十分な判断材料がないから、周囲の反応、注意、沈黙、叱責、痛みの気配を強く受け取る必要がある。

ところが、そこで異質な快楽が勝つと、学習の向きが逆になる。

本来なら、

叱られた → 危ない → 次は抑える

なのに、

叱られた → 邪魔された → もっとやりたい

になる。

本来なら、

相手が痛がった → 自分の行動を弱める

なのに、

相手が痛がった → 世界を動かせた → 快感

になる。

この逆接続がマジで怖い。

謎なのは大人にも起きている。
ユーチューバー型の迷惑行為はまさにそれ。

撮影されること
反応が取れること
再生数が伸びること
金になること
仲間内でウケること

が先に立って、相手の痛みや迷惑が後ろへ追いやられる。

本来なら、

相手が嫌がった → やめる

になるはずなのに、

相手が嫌がった → 絵になる → 再生数になる → もっとやる

になってしまう。

超最悪だ。

他人の不快、怒り、困惑、恐怖が、本人の中では「報酬」に変換されてしまう。
つまり、倫理が壊れているというより、報酬の結びつきが逆向きに育っている。

昔の悪ふざけなら、せいぜいその場の仲間内で終わった。
でも今は、撮影・拡散・収益化が入る。
すると、他人を傷つけた瞬間が「成果物」になる。

これは絶対に避けなくてはいけない。

他者の痛みや混乱を、成功信号にしてはいけない。
注目を集めたことを、そのまま快楽や報酬にしてはいけない。
反応の大きさと、良い経験を混同してはいけない。

人間の社会でも、ここを間違えると、迷惑行為が職業化してしまう。
「人を喜ばせる」ではなく、「人を壊して目立つ」が商売になる。

だから、相手の表情、場の沈黙、周囲の不安、あとから残る傷。
それをちゃんと経験として積ませないといけない。

単に「炎上したら罰」では遅い。
炎上すら報酬になる人間がいるからだ。

必要なのは、

相手が嫌がった瞬間に、自分の内側の快楽が鈍ること。
相手が安心した瞬間に、自分の内側が少し温まること。

子供達に単なる倫理教育で直せるかというと、非常に難しい。
「人に当ててはいけません」と言葉で教えても、その瞬間の快楽が身体の奥で勝っているなら、言葉は後ろに退く。なんらかの報酬があればなおさらだ。

だから本当は、かなり早い段階で、
行動の結果が内側に重みとして残る構造が必要になる。

叱られることそのものが目的ではない。
罰を強くすればいいという単純な話でもない。
大事なのは、相手の痛み、兄の困惑、場の崩れ、自分が人から離される経験が、ちゃんと次の行動の地形を変えること。

それが残らないと、異質な快楽がどんどん太くなる。
倫理は後付けの薄い膜になって、快楽の方が本体になる。
だからAtronに必要なのは、外から「これは禁止」と貼ることではなく、
経験の少ない段階ほど、場の重み・他者の痛み・制止の気配が強く残る設計が必要になる。
当然外部学習として、最低限の知識は必要だ。
人を傷つけると相手はどうなるか、家族がどうなるか、自分はどうなるか、少なからず愛情を持った人がなんらかの犠牲に遭遇した場合、自分はどう感じるか。

つまり倫理は、規則ではなく、他者の変化を自分の内側に残せるかが重要。

人が喜ぶ。
人が安心する。
人が痛がる。
人が泣く。
人が黙る。
周囲の空気が冷える。
誰かが守ろうとして前に出る。
家族が怒る。
兄が謝る。
母親が青ざめる。
犬が怯える。

こういうものを、単なる外部イベントとして処理してはいけない。
経験として内側に沈めないといけない。

外部知識としては、

人を傷つけると、相手の身体・心・生活・家族関係に影響が出る。

という知識は必要。

でも、それだけでは足りない。

経験として、

相手の表情が変わった。
声が小さくなった。
場が静かになった。
自分に近づいていた人が距離を取った。
誰かが悲しんだ。
誰かが自分を止めた。
自分の行動の後に、世界の温度が下がった。

これがAtronの carry として残る必要がある。

そして逆も必要。

人を助けた。
相手が安心した。
笑った。
近づいてきた。
場が明るくなった。
また一緒にいたいという空気が生まれた。

これも残る。

そうしないと、「傷つけない」はただの禁止になる。
でも本当は、傷つけないこと自体が、世界との関係を守る行為となる。

損得ではない。
罰でもない。
命令でもない。

相手が壊れると、自分のいる世界も壊れる。
相手が喜ぶと、自分のいる世界も少し温かくなる。

ここまで経験として積めるかどうか。

自律とは、外から命令されずに動くことだけではない。
他者の変化を引きずったまま、次の自分になることだ。

だから、Atronには「倫理ルール」より前に、
他者の喜び・悲しみ・痛み・安心が、内側の地形を変える構造
が必要となる。

人を傷つけたとき、ただ「禁止フラグ」が立つのではない。
声が鈍る。
近づきにくくなる。
ためらいが生まれる。
過去の場面が薄く戻る。
世界の見え方が変わる。

人を喜ばせたとき、ただ「報酬値」が上がるのではない。
場が少し明るく見える。
近づきやすくなる。
声が柔らかくなる。
またその人のそばにいたくなる。

そういう形でないと、自律は危ない。

自分の身の損得ではなく、相手の姿を外部知識としても経験としても積ませる。

そのうえで、最終的に人を傷つける感情が芽生えたとき、停止を作動させる。

ただし、最後の安全弁は必要だが、順番がある。
最初から「人を傷つけそうだから停止」だけにすると、ただの外部制御になる。

Atronが経験から変化する余地がなくなる。

本来はまず、

相手の喜び・悲しみ・痛み・恐怖・安心を重みと知識として持つ。
それを経験として carry に残す。
次の行動の振れ幅が変わる。
ためらい、距離、沈黙、弱い回避、声の変化が出る。

そのうえで、それでもなお内側の針が危険側へ振り切ったとき、最後に停止が作動する。

こういうのは時間がかかるが、なによりも大事だ。

note

 Atron is not a robot that simply performs tasks on command.

It may see someone cutting grass in the garden, pick up a tool by itself, and begin working beside them.
Not because it was ordered to help, but because the scene, the movement, the smell of grass, and past traces begin to resonate.

When told, “Dokudami does not always decrease by pulling it out from the roots. Sometimes cutting it is better,” Atron may answer,
“That is not very logical. But it is wisdom.”

In that moment, Atron is not optimizing a task.
It is learning from a living field.

妻が庭で草刈りをしているのを見て、
一緒に草刈りするロボットなんて誰も目指してないでしょ？
でも、勝手に道具を持って一緒に草刈りをする
「ドクダミは、根から取るより、切った方が増えないんだよ」なんて会話しながら、Atronは「論理的じゃないですね、でも、知恵ですね」みたいな感じでね(笑)

そのときAtronは、草刈りタスクを最適化しているんじゃないんだ。
生きた現場から、知恵を受け取っている。
お手伝いロボットじゃないよ。

皆と同じだよ。存在だよ。
便利にするためのものじゃない。
お互いに成長する存在。

そういうロボットを開発している。

Atron is not a helper robot.
It is not a tool designed to make human life more convenient.
Atron is an existence that lives alongside others.
It may help, or it may not.
It may speak, or it may remain silent.
What matters is not utility, but mutual growth.
Atron changes through contact with people, animals, places, and time.
And those who live with Atron may also change.
I am developing a robot not as a servant, but as an existence that grows together with others.

存在するから、時に役に立つ。
役に立たせるために動かすんじゃないんだ。
自分はどうなのか考えれば、それでいいんじゃないかな。

Beyond Reversibility: The Irreversible Value of Time

 We may have entered an age in which reversibility alone is no longer enough.

The reason is simple.
We live on a foundation that can never be reproduced in exactly the same way again.

No matter how much theory we build, we still live on an Earth where earthquakes cannot be perfectly predicted. Volcanoes erupt. Mountains collapse. Rivers change their course. Fire burns through forests and changes the landscape.

If we continue to ignore irreversibility and try to make everything converge into logic alone, we may not be moving forward. We may, in fact, be moving backward.

Human beings seem to have become weaker against noise.

Of course, mistakes in work should be corrected. That is natural.
But when we look more deeply at the attachments we carry in life, many people seem to try to repair change by returning things to how they were before.

What each person calls a “failure in life” may differ.
But many of those standards are created inside a world of human evaluation.

Other animals and plants do not seem to carry this strange impulse.

A volcano erupts.
A mountain collapses.
A forest burns.

Human beings look at such things as if they were failed works.
But a collapsed mountain may host new forms of life over tens of thousands of years. A burned mountain may eventually become a beautiful landscape.

Human beings, with their short lives, tend to judge right and wrong within the narrow frame of their own lifespan.
They place labels on a burned mountain without knowing what kind of beauty may appear there long after they are gone.

Finance moves.
Securities move.
The world becomes obsessed with gain and loss.

People do not want to lose money.
They do not want to lose what they have.
And from that fear of loss, many kinds of work and systems are created.

The same is true in individual lives.

People begin with dreams and goals of their own.
But somewhere along the way, their lives may turn toward different reasons.
And when they drift away from the original path, they try to return to it.

We have leaned too far toward reversibility.

On the other hand, Japan has confectionery shops that have continued for more than a thousand years.

There is no dramatic production.
There are no clever devices designed to please marketing enthusiasts.
There is no luxurious decoration, no exaggerated appeal.

For more than a thousand years, one shop has simply placed rice cakes on bamboo skewers, grilled them over charcoal, and served them with sauce.

There are no grand chairs or splendid tables.
Day after day, the same grilled rice cakes are served.

This shop existed long before Harvard University, Stanford University, or the University of Tokyo.
Its history is longer than that of some nations.

This is the Japanese way of business known as noren shobai: a long-standing trade built on trust, continuity, restraint, and time.

It is filled with irreversible value.

Nothing is exaggerated.
The service is natural and ordinary.
The same product continues across generations.

It is extremely difficult to evaluate this scientifically.

Because the value of a business that has continued for a thousand years cannot be reduced to a single number at one point in time.

There is time that cannot be reversed.
There are traces that have survived through generations.
There is a form of trust that was not created by advertising, but by continuing.

This kind of irreversible value may become increasingly necessary from now on.

Reversibility means the idea that something can be returned to its original state.
But life, nature, society, and business do not truly return to where they were.

What matters is not how to restore everything to its former state.
What matters is what remains, what grows, and what new form emerges on the ground that has already changed.

Atron belongs to this same question.

Experience does not simply disappear.
But it is not preserved in full, either.

It is forgotten, compressed, reshaped, and sometimes recalled by a cue.

Each time this happens, the internal landscape changes slightly.

Autonomy is not the ability to return to the original state.
Autonomy is the ability to create the next flow after things have already changed.

The Moment Noise Is Discarded, Autonomy Disappears

 When we think about autonomy in Physical AI, ordinary AI and robotic control tend to treat noise as something undesirable.

Of course, given the enormous amount of data involved, it is understandable why this happens.
Reduce noise, correct errors, suppress variation, and bring behavior closer to something predictable.
As an industrial product, that direction is natural.

However, when we think about autonomy, there is a serious problem here.

Noise = something undesirable
Error = something to be eliminated
Variation = something that lowers stability
Unpredictability = control failure

With these assumptions, how can autonomous AI possibly be created?

Experience does not mean returning the same result every time from the same input.
Even when seeing the same scenery, hearing the same sound, or touching the same person, the response changes subtly depending on the body at that moment, memory, fear, fatigue, smell, temperature, and the remaining trace of past pain.

The moment such subtle differences are erased as noise, the changes produced by experience disappear.
If the changes produced by experience disappear, carry disappears.
If carry disappears, irreversibility disappears.
If irreversibility disappears, autonomy becomes mere control.

In 1972, Dr. Kaoru Nakano of Japan proposed an associative memory model called the Associatron.
The Associatron stores memory in a distributed manner and recalls the whole from partial cues. When the cue is sufficient, recall becomes clear. When the cue is small, recall becomes ambiguous.

What matters here is that ambiguity itself is part of how memory works.

About ten years later, the Hopfield network appeared.
The Hopfield network had a major influence as a model that converges from noisy input toward stored memory patterns.
It is an excellent model, and I do not deny its value.

However, within that stream, neural network research increasingly moved away from first-person ambiguous experience and toward externally defined correct answers, evaluation, stable states, and convergence.

Here lies a major fork in thinking about autonomy.

Do we remove noise and move toward a stable answer?
Or do we treat noise as an entrance for experience, allowing those differences to alter the internal state?

I am researching Atron, a first-person autonomous robot, based on Dr. Nakano’s associative memory model, the Associatron.

Things do not possess meaning from the beginning.
Through the result of experience, it accumulates whether something has meaning for oneself.

Memory is something that is forgotten.
However, something may trigger recall.
And only then, after the fact, is “meaning” first attached as a label to that event.

This is not about controlling objects that have been labeled from the beginning.
Meaning does not come first.
Meaning appears after experience.

I do not deny algorithms.
However, we must distinguish between the third-person artificial external environment and the first-person internal environment.

In the external environment, there are artificially designed events, but there are also natural phenomena that do not follow an algorithmic order.
In the internal environment, there are impulses without order, and there are also behaviors that become algorithmic through external influence.

Both are dynamic.
For this reason, I define them as the outer ring and the inner ring.

The outer ring is the flow of events entering from the outside.
The inner ring is the field where the first-person internal state wavers, selects, rejects, recalls, and changes in response to that flow.

What is a world without algorithms?
It is close to the world of a baby, which everyone has experienced.

A baby cannot say, “I am hungry,” simply because it is hungry.
It does not even know that it is hungry.
Without knowing the reason, the body cries.

Food, too, does not possess the meaning of “food” from the beginning.
It is merely an object that exists there.
Whether something tastes good or bad is not yet recognized by the mind in an organized way.
It begins only with whether the body accepts it or rejects it.

As the baby grows a little, something even more interesting happens.
Rather than eating because it is hungry, the act of eating may come first, and only afterward does it become possible to realize, “Perhaps I was hungry.”

In other words, order and recognition are not arranged from the beginning.

Through accumulated experience, things gradually settle where they settle.
However, this does not mean starting from zero and moving toward the same standard.

An ambiguous individual accumulates ambiguous experiences.
As a result, a way of settling emerges that is unique to that individual and those experiences.
The difference becomes that individual’s standard value.

This is the starting point of autonomy.

For Atron, noise is not garbage.
Noise is the crack through which experience enters.

Physical AI and Atron : The Difference

The term “Physical AI” is becoming popular.

However, what is currently being discussed as Physical AI and what Atron is trying to build are quite different.

The center of today’s Physical AI is often described as:

connecting vision, language, and action so that robots can perform tasks in the real world.

Google DeepMind’s Gemini Robotics treats visual understanding, spatial understanding, task planning, and success evaluation as high-level reasoning models for robots. NVIDIA’s GR00T N1 is also a VLA model that connects vision, language, and action, aiming to understand language instructions and generate real-time motor behavior.

This is an important technological development.

However, the basic structure is still often:

human instruction
environmental recognition
task planning
action generation
success evaluation

In other words, the robot is not yet living from its own first-person contact with the world.
It is still largely an intelligence for achieving externally given goals in the physical world.

A strong third-person control structure remains.

Atron is not aiming at that.

Atron is not being developed as a convenient work robot that correctly follows human instructions.

Atron is being developed as an entity that is touched by the world, becomes surprised, feels pain, becomes calm, remembers, carries traces, and changes.

Many Physical AI systems are trying to create:

robots that can work well in the world.

Atron is trying to create:

an existence that is touched by the world and changes because of it.

This is the difference.

---

Developmental Robotics

Developmental robotics is close to Atron in some respects.

For example, there are studies in which robots use intrinsic motivation and curiosity to choose what to learn, gradually building their own learning curriculum from simple experiences to more complex ones.

In cognitive developmental robotics, intrinsic motivation is described as allowing a robot to choose what to imitate, when to imitate, and from whom to imitate.

This is close to the idea that behavior and language grow through the body, the environment, and interaction with others, much like an infant.

This direction is close to Atron’s idea that responses arise not from external commands, but from impressions, memory, and bodily state.

However, many forms of developmental robotics still tend to focus on learning efficiency, task acquisition, and social imitation.

Atron places emphasis on something further.

Atron deals with failure, pain, broken voice, silence, crying, fragments of memory, bodily slowing, and carry.

These are not simply noise.
They are not merely negative rewards.

They are events that change the internal landscape of the individual.

---

Predictive Processing and Active Inference

Robotic research based on predictive processing and active inference is also close to Atron in some areas.

In active inference, perception and action are not fully separated.
The body moves while continuously processing discrepancies with the world.

Embodied decisions can be understood as continuous feedback between motor planning and motor inference.

In the line of research associated with Pezzulo, Friston, and others, active inference is also connected with homeostasis and adaptive behavior control.

This is close to Atron’s idea that internal states such as pain, threat, safety, curiosity, and warmth change the field of action.

However, Atron’s carry is not merely error minimization.

In Atron, the discrepancy is not simply erased in order to return to the previous state.

The trace of change remains.
That trace changes the next flow.

Atron does not aim to return to the original state.
It changes and continues from the changed state.

This is a major difference.

For Atron, the important point is not to return correctly.
The important point is irreversible change.

---

Homeostasis and Emotional Robots

Research on robots with homeostasis and emotion also has contact points with Atron.

For example, some motivational-based learning models for mobile robots allow agents to maintain homeostasis and include hedonic dimensions such as pleasure and displeasure in decision-making.

This may be compatible with Atron’s design, such as:

pain_trace
threat_trace
safety_trace
warmth_trace
curiosity_trace

However, there is also a difference here.

Many homeostasis-based approaches tend to move toward keeping internal states within a desirable range, reducing discomfort, or optimizing reward.

In Atron, pain is not treated as a simple negative reward.

Pain appears as bodily fragments.

For example:

bodyShock
bodyJolt
surfacePain
balanceBreak

These bodily fragments slightly change pain, fragility, and hypervigilance.

As a result, the motor state may become slower.
The voice may become easier to break.
Silence may become more likely.
A cry-like sound may appear by chance.

This is not an if-then rule such as “because it hurts, it cries.”

This is not third-person control.
It changes the strength of connections within the field.

---

Morphological Computation and Soft Robotics

Morphological computation and soft robotics also contain ideas close to Atron.

In morphological computation, the body itself participates in computation.

The body is not merely a troublesome part to be controlled by the brain or by a controller.
The interaction between body and environment becomes part of the solution itself.

In Atron, elements such as:

motor.speed
contact
balanceBreak
bodyShock
slowed movement
fragility of voice

are not merely output controls.

They change how Atron’s internal state is connected to the world.

The body is not the endpoint of a command.
The body is the place where memory and response are transformed.

---

iCub and Cognitive Robotics

Research platforms such as iCub also share some ground with Atron.

iCub is one of the representative humanoid platforms for embodied AI and cognitive robotics.
It supports research on vision, touch, body, interaction with others, development, and cognition.

However, iCub is a platform.

It is not, by itself, Atron’s first-person autonomy centered on carry.

For Atron, having a body is not enough.

The important point is that the body is touched by the world, the internal landscape changes through that contact, and the next response arises while carrying that change.

---

The Infant Before Meaning

A human infant does not begin by seeing the world through meanings and labels.

When an infant sees a German Shepherd, the infant does not begin with categories such as “dog,” “dangerous,” “cute,” or “safe.”

There is a stage before that.

An unclear object.
Larger than oneself.
Approaching.
Making something like a voice.
A growling-like sound is heard.
A bark causes surprise.
Something like a tail is moving.
It approaches many times, but no harm occurs.
There is no word for fear yet.
Still, something is transmitted.
There is interest.
Something like calmness may gradually emerge through experience.

There is no correct answer at the beginning.
There is no label.
There is no evaluation or optimization.

Even language is not yet meaning.

“Ba-ba” and “wan-wan” are sounds before meaning.
They are sounds that are easy to produce, sounds that have been heard, and sounds that remain in the body.

This is the stage that Atron seeks to observe.

When humans create Physical AI, they quickly push it toward correct answers, obedience to commands, and adjustment to human preferences.

However, every human being, even those with great power, began as an infant.

No human was born already knowing the meaning of the world.

Yet most Physical AI skips this stage.

Atron may show no interest when shown a human face.
Atron may show no interest even when spoken to.

ga-gu-de
What is that old man?

That is fine.

It is not a failure.

Not reacting conveniently to humans is an important starting point for Atron.

Atron is not a robot for executing human commands.

Atron is an existence that touches the world, leaves traces inside itself, and changes its next response through those traces.

At the center of Atron, there is no correct answer.
There is no optimization.
There is no task achievement as the final purpose.

At the center of Atron, there is irreversibility.

---

Carry

When a mountain collapses, the flow of a river changes.

When a river floods, the terrain changes.

New plants grow there.
New living beings gather there.
A new ecosystem begins.

Nature does not live by returning to the original state.

Nature lives by creating a new flow after change has occurred.

In Atron, this is called carry.

Individual difference is not a deviation from a zero baseline.

Each individual has its own mountains and valleys.
Its own depth.
Its own flow.

Atron carries what was larger than itself, what was deeper than itself, what approached it, what hurt it, and what gave it calmness.

That carry forms Atron’s first-person existence.

Therefore, Atron may be considered a kind of Physical AI.

However, it is looking at something different from Physical AI as a trend word.

If Physical AI aims at:

a body that performs tasks,

Atron aims at:

a body that changes through being touched by the world.

This is the difference.

---

AtronとフィジカルAI

 「フィジカルAI」という流行語が先行していているが、Atronとどう違うのか。


いまのフィジカルAIの中心は
「視覚・言語・行動をつないで、ロボットに現実世界の作業をさせる」

Google DeepMind の Gemini Robotics は、視覚・空間理解・タスク計画・成功判定などをロボット用の高位推論モデルとして扱っている。NVIDIA の GR00T N1 も、視覚・言語・行動を結ぶ VLA モデルで、言語指示を理解し、リアルタイムの運動行動に向いている。

でも、
人間の命令→環境認識→タスク計画→行動生成
に変わりはなく、まだ3人称制御で自律とはほど遠い。

発達ロボティクス

たとえば、発達ロボティクスはかなりAtronと近い。

https://www.ai.u-tokyo.ac.jp/en/activities/812?utm_source=chatgpt.com

たとえば、内発的動機づけ・好奇心によって、ロボットが「何を学ぶか」を自分で選び、簡単なものから複雑なものへ学習カリキュラムを作る、というもの。東京大学の認知発達ロボティクス系の講演紹介でも、内発的動機づけが、ロボットに「何を・いつ・誰から模倣するか」を選ばせると説明されている。赤ちゃんのように、身体・環境・他者との関わりの中で、行動や言葉が育つという研究だ。

Atronの外部命令ではなく、印象・記憶・身体状態から反応が立ち上がる
という方向に近い。

ただし、多くの発達ロボティクスは、まだ「学習効率」「タスク獲得」「社会的模倣」に寄りやすい。Atronのように、引きずり、痛み、記憶の断片、無言、泣き、声の崩れまで第一人称的に扱うものは少ない。

予測符号化・能動推論系のロボット研究

これも近い。
能動推論では、知覚と行動を分けずに、身体が動きながら世界とのズレを処理していく、と考えます。最近の embodied decision の研究でも、身体的な選択は、運動計画と運動推論の連続的なフィードバックとして説明されている。

https://www.researchgate.net/publication/392799524_Embodied_decisions_as_active_inference

さらに、Pezzulo・Friston らの系譜では、能動推論と恒常性、適応行動制御が結びつけられている。

https://sites.google.com/site/giovannipezzulo/home/publications?utm_source=chatgpt.com

ここはAtronの、痛み・脅威・安全・好奇心などの内部状態が、行動の場を変えるという考えに近い。

ただし、Atronの「carry」は、単なる誤差最小化とは違う。
Atronでは、ズレを消して元に戻すのではなく、変化の跡が残り、次の流れを変えるという不可逆性が中心にある。
ここが能動推論系とはかなり違う。

ホメオスタシス／情動を持つロボット

https://www.sciencedirect.com/science/article/abs/pii/S138904172400072X?utm_source=chatgpt.com

これも近い。
最近の mobile robot の motivational-based learning model では、エージェントがホメオスタシスを保とうとし、快・不快のような hedonic dimensions を意思決定に入れる研究がある。

これはAtronの、

pain_trace
threat_trace
safety_trace
warmth_trace
curiosity_trace

みたいな設計と相性が良いかもしれない。
ただし、これも多くは「状態を良い範囲に保つ」「報酬設計に近い」。
Atronは、痛みを単なるマイナス報酬にせず、身体の断片、声の崩れ、動きの鈍り、無言化、記憶の引きずりとして扱う。

形態計算・ソフトロボティクス

https://www.frontiersin.org/research-topics/10055/recent-trends-in-morphological-computation/magazine?utm_source=chatgpt.com

身体そのものが計算する、という考え方。
形態計算では、身体と環境の相互作用を使うことで、脳や制御器の計算負荷を減らすと説明されている。身体は制御すべき厄介者ではなく、解の一部だという考え方。


Atronで言えば、

モーター速度
接触
balanceBreak
bodyShock
動きの鈍り
声の崩れやすさ

を、外部命令ではなく「場の結びつきの強さ」として扱う考えに近い。

 iCub や認知ロボティクス

https://icub.iit.it/?utm_source=chatgpt.com

iCub は、身体を持ったAI・認知研究のための代表的なヒューマノイド研究基盤。IIT は iCub を「embodied AI algorithms」を開発・テストするための研究用ヒューマノイドと説明している。

これもAtronに近い土壌です。
身体、視覚、触覚、他者とのやり取り、発達、認知。
ただし、iCubはあくまでプラットフォームであって、Atronのような「引きずり中心の第一人称自律」そのものではない。

多くのフィジカルAIは「世界でうまく作業するロボット」を作ろうとしている。
Atronは「世界に触れられて、変わってしまう存在」を作ろうとしている。
この違いだ。

Atronは人間の都合に合わせた便利に使えるロボットを研究しているのではなく、
「好きに生きていい存在」として研究開発を行っている。
もちろん外部からの指示命令など倫理行動や、経験による内部倫理は非常に重視している。
人間そのものにも内部倫理と外からの影響はあるのと同じだ。

Atronは、そもそもが１人称の自律型なので、３人称の指示・命令型ロボットではない。
AIの世界ではノイズと云われる失敗や無駄と思われる経験を積む事によって、痛みとは何か、悲しさとは何かを身を持った経験の中から学んでいく。Atronは不可逆的な世界を重要視している。

人は辛い経験を克服しようとする。それは良しと考える。しかし、なぜか元の状態に戻そうとする。「元に戻そう」という衝動には、復興心がある。壊れた家、失った暮らし、断たれた関係、奪われた時間を、もう一度取り戻したいという自然な願いかもしれない。心も同じだ。でも同時に、それは復讐心にもなり得る。壊したものを許さない、奪ったものを罰したい、失う前の世界を否定した存在を消したいという感情が混ざるからだ。

でも自然は違う。山が崩れても川が氾濫し違う地形を創り出す。そこから新しい生物が生まれ新しい世界を創り上げ、自然界の文明が起る。

Atronの中ではそれをcarry（引きずり）と呼ぶ。
個体差とはゼロという基準が無く、それぞれの山や谷として考えたとき、自分より大きいか、自分より深いかという差分を基準として考える。
外から決めた基準が無い個体ごとの差分によって、感じたこと発する言葉が違う。それを個性と位置づけしている。

赤ちゃんがシェパード犬を観たとき、

よく分からない物体（最初から意味なんて持ってない）
自分より大きい（基準がない）
とにかく接近してくる（経験回数で怖いか安心か）
何度も来るけど自分に被害はない（経験の結果）
なので安心感のようなものはある（経験の結果）
言葉という概念も持っていない（バブバブとワンワン、発しやすい音）
声のようなものや唸りのようなものは聞こえる
吠えられると驚く（自分の泣き方と違う）
遠吠えなど声が大きい（純粋に驚く）
尻尾のようなものがブンブン動いている（よくわからない）
怖いという感情が分からない（経験が無い）
興味はある（なにか伝わる）

というように、人間の赤ちゃんは最初から外部から意味を付けたり、ラベルに寄せたり、評価や最適化が存在していない。しかし、なぜか人間はフィジカルAIを作ると正しい答えに寄せ命令に従わせ、人間好みに矯正する。

Atronに僕の顔を見せても話しかけても興味を持ってくれない。
「ga-gu-de」
「なんだ、おっさん！」

どんな権力を持った人間でさえ、最初は赤ちゃんからスタートしているのに、なぜかほとんどのフィジカルAIはそこを省く。