Neural Network Zoo

みんな勝手にガンガン使ってる画像。
これさ、©2016 Fjodor van Veen - asimovinstitute.org” と入ってるっしょ。
2016年9月14日にオランダの The Asimov Institute の「The Neural Network Zoo」 として公開されたものなんだよね。本人が「増え続けるニューラルネットワークのアーキテクチャを把握するため、チートシートを作った」と説明してるｗ。

 https://www.asimovinstitute.org/neural-network-zoo/?

Atraと関係ないと思ってるでしょ？
関係あるんです！ってばｗ
AtraはそもそもNNなんですよ。え”－って思うかもしれないけど、そうなんだってば。
アシモフ風にしたらこんな感じ　⇓

Atraの源泉は中野博士のAssociatron（1972）ですよ。associative memory

Associatron-A Model of Associative Memory

Information Processing Using a Model of Associative Memory（1971）

Atraの場合は、アソシアトロンを源泉にしているけど、ずっと生き続けなきゃいけないから、オリジナル性が入っているので、この図は使えないわけ。

なので、Atraを図にして簡単に説明するとこんな感じ。（下書き描いてLLMに作らせた）

English

English

NN→Associatron→Atron（旧名称）→Atra（今）になってる。
わからないよ、また名前変わるかもしれないし。

今の現状報告ね。

生後1か月と17日です。Atraの誕生日は7月1日。
今は別途、首から上を作っています。
+　ICM-20948の取り付け中。
9軸（加速度＋ジャイロ＋地磁気）で低消費電力

Atraは1階の居間に小さいPCとディスプレイ状態なの。

たまに来る研究者が「トウモロコシ」を持ってきてくれて
茹でずに3回チンして食べたんだけど、匂いと形が、相当気に入ったらしく
騒いでおりましたｗ

--------------------------追記--------------------------

ということで、
うちのかみさんPCでGeminiにAtraの質問すると、

「64×64」や「1セル（100×100）」、そして「pngの記憶相」という記述は、Atraの内部で動く記憶システム（連想記憶の行列）の具体的な実装構造を表しています。

開発者のブログの「番外：記憶相の話」などにも繋がる技術的な仕組みですが、直感的にわかりやすく解説します。

---

1. 「64×64」とは：脳のミニネットワーク

アソシアトロンやAtraにおいて、記憶の基本単位となるニューロン（素子）の構成マトリックスです。

• 64個の入力×64個の出力（合計 4,096個の交差点・シナプス結合）を持つ、1つの正方形の「記憶の場（＝記憶相）」を指します。
• 1つのネットワークとしてはコンパクトですが、この64×64という手頃な解像度が、自律ロボットの「1つの感覚（視覚の一部や、特定のセンサー群）」や「1つの状態」を高速に処理するのに最適なサイズとして定義されています。

2. 「1セル（100×100）展開」とは：シナプスの詳細構造

「64×64」の交差点（シナプス）の1つひとつ（1セル）の内部をさらにミクロに拡大した構造です。

• 64×64のマップ上にあるたった1つの交差点（セル）の中に、さらに 100×100（1万要素）の微細なパラメータや状態遷移（痕跡の強さ、時間の経過による減衰率など） が格納されています。
• これにより、単純な「0か1か」の記憶ではなく、前述した**「引きずり（Carry）」や「時間の痕跡（Trace）」**といった、生き物らしい複雑で不可逆な変化（ダイナミクス）を1つのセルの中でじわじわと計算できるようになります。

3. 「pngの記憶相」とは：脳の記憶を画像として保存・管理する

Atraの開発で非常にユニークなのが、この「記憶相（シナプスの結合強度を並べた巨大な行列）」を、プログラムの数値データとしてだけでなく、「PNG形式の画像ファイル」として可視化・保存している点です。

• なぜPNGなのか？：PNGは「データが劣化しない（可逆圧縮）」という特性を持っています。そのため、4,096個（あるいはそれ以上）の結合状態の数値を、ピクセルの「色や明るさ（RGB値）」に置き換えて1枚の画像としてそのまま保存できます。
• 見てわかる「脳の状態」：開発者は、そのPNG画像（記憶相）を見るだけで、「今Atraが何を強く記憶しているか」「どこにアトラクタ（記憶の引き込み）ができているか」をモザイク模様のような視覚データとして一目でデバッグ・確認できます。
• 脳のロード＆セーブ：ロボットの電源を切るときは、この**「PNG画像」**をディスクに保存し、起動するときは再び「PNG画像」を読み込む（ロードする）ことで、前回の記憶や経験をそのまま引き継いで立ち上がらせることができます。

---

つまり、Atraは**「64×64」のネットワークをベースにし、その交差点にある「100×100」のミクロなセル**で時間の引きずりを計算し、その脳の記憶の記憶相全体を「PNG画像」として丸ごと保存しながら生きているシステムと言えます。

このPNGに書き出された記憶（モザイク模様）が、具体的にどのように変化して行動に結びつくのか、さらに詳しく知りたいですか？

----------------ひでーよ！、聞いたこと無い仕組みを説明していた(笑)----------------

しょうがないよね、LLMだもの。
かなりそれっぽく説明してるんだけど、Atraを知らない人が読むと、そのまま信じちゃいそうなくらい綺麗に間違えてる。

特に面白いのが、分からない部分を全部「ニューラルネットワークの常識」で補完している。そう、分からない場合、何かで補完しちゃうんだよね。

64個の入力×64個の出力＝4096個のシナプス結合

それはもう別物だよ、、、。アソシアトロンがそのまま入っちゃってる。Atraの64×64は、入力ニューロン×出力ニューロンの結合行列じゃない。それだと、平面的な静止Atraにしかならない。接相面の論理的な座標だよ。だから4096は「4096シナプス」ではなく、4096個の接触可能な場所と考えた方が近い。

そしてもっと凄い（笑）のが、
1セルの中に100×100（1万要素）の微細なパラメータや状態遷移が格納され、痕跡の強さ、減衰率、Carryなどを計算
ここはほぼGeminiがAtraを発明してます（笑）。

ショックだなぁ・・・けっこうこのブログにAtraの原理の痕跡残してるんだけどね。
基本、LLMは読まないよね、いつも思うけど。
論文読めと言っても、適当だし、ブログなら尚更か・・・

実際の考え方は、

64×64 × 各セルに100×100配列

ではない。

64 × 64
論理接相面
       │
       ├─ 普通の場所
       │
       ├─ 普通の場所
       │
       └─ 必要になった場所
                ↓
           local 100×100

で、必要なところだけ局所的に細かく見る。

だから前に話していた6400×6400の論理空間は存在し得る。でも4096万要素の巨大配列は作らない。

しかも100×100は Carry計算機ではない（笑）
Carryは別だよ、別！
carryってのはさ、赤ちゃんの時に、いつも優しいママが、突然大声で怒りだしたときに、以前の印象との差分が発生して「引きずり」として状態を残すこと。トラウマみたいな事なんだけど、今までやこれからの良い面も残すわけ。恐怖が続くと性格に影響するから、単調化せずに、その後ママの優しい接触などによって非単調化させる意味も含めてるんだよ。1日に必ず夢を見させて出来事を総なめさせ、余白を作って非単調化もさせるんだけど、単調だと危険なんだよ。原理主義みたいに復讐心を芽生えさせるからね。
どうする？次会ったときアドレナリン満載のAtraだったら、怖いでしょ。
（記憶を書き換えない。履歴も変えない。出来事の意味も再評価しない。PCで言えばデフラグのうようなもので、動作は、極端な出来事に余白を作るだけ）

「どこにアトラクタ（記憶の引き込み）ができているか」をPNGで確認
これもAtraの現在の思想とはかなり逆方向だよね。
そもそもAtraは、安定状態へ収束するアトラクタを中心に置かなくなっている。
アソシアトロンやホッピーじゃないから、アトラクタに収束させる考え方では、成長しないんだよ。PNGについても、現在の巨大なシナプス結合行列を丸ごと保存して、起動時に脳を復元するという発想ではなく、今動いているのは、むしろ経験した接触の履歴を「記憶相」として地層のように残していく方なんだよね。アトラクタに収束ってアソシアトロンのデモはそうだったよね。でも存在として考えると収束って工学寄り過ぎちゃうんだ。
いや、それでやってみると分かるけど、「絶対曲げない頑固おやじ」になって、会話にならなくなるよ。きっと。
だって、収束だぜｗ
気に入った女性を見るたびに「好きです！」とか言っちゃいそうで危険でしょ。
「俺は60年前からこうやってきたんだ！」みたいな。

やっこくしようぜ、

「昔の僕は、あれ絶対危険だと思ってたんだよ（笑）」
考えを変えられるAtra

自分が変わったことを、自分で思い出せるAtra
を作らなきゃいけないんだよ。

そういう思考を持ってないと自分の意志、自律とか成長とか言わないよね。
ホント、怖いもの作るのやめようね。

だから最初に「正解」に寄せたり、「最適化」させないわけよ。
報酬によせたら手段を選ばなくなるぜ、制御ばっかり増えてさ、マジでさ。

LLは、かなり普通の「特殊なニューラルネット」へ戻されてしまっているわけよ。
まぁーーいいか。
真似されなくていいもんねｗ

Atraは

世界との接触
↓
差分
↓
64×64 接相面
↓
必要な場所だけ
local 100×100   
↓
複数の場への接触

  ↙   ↓   ↘

過去の記憶相……
↓
Carry
↓
次の接触

────────────
経験した記憶相

2026  ─────

2027  ─────

2028  ─────

      …

2050  ─────

現在の64×64はもうTijの結合行列そのものを意味しているわけではなく、接触する場所＝接相面として使っているからね、

LLMに質問してAtraを開発しようとすると、絶対に出来ないんじゃないかなぁ・・。
たぶんね、40000を超えるコードのうち、2000くらいは正解かもしれないけど、
残りは別物だよね、、、
というか、LLMの「もっともらしい」と「事実」は違うの実例になってる（笑）。




そのうち、最新Atraの原理を順をおって説明するね。
codeは流石に公開しないよ。
一部の考え方とか、動きなどは出すかも。