ラベル AGI の投稿を表示しています。 すべての投稿を表示
ラベル AGI の投稿を表示しています。 すべての投稿を表示

2026年5月22日金曜日

Xの拾い物 

 Xの拾い物


https://x.com/uncover_ai/status/2057449021556633621


ChatGPTに聞くと、

-----------------ChatGPT 20260522----------------------
Huangは「昔はC++、C、Pythonでコンピュータを操作していたが、これからは“human”という新しい言語でプログラムする」と話し、AIへの指示には「context, background, purpose, direction」が必要だとも述べています。つまり単なる英作文ではなく、目的・背景・条件を与える能力を重視しているわけです。

でも、ここが大事です。

Pythonが不要になる、という意味で受け取ると間違いです。
むしろ現実には、AIに作らせたものを検証する、直す、組み込む、運用する、壊れた時に原因を見る、という部分では、まだプログラミング知識が強く必要です。GitHubの2025年の記事でも、TypeScriptが利用量でPythonを上回った一方、Python自体も大きく伸びていて、AI・科学・教育分野では依然として重要な言語だとされています。

「コードを書く能力」よりも、「コンピュータに何をさせるべきかを正しく構造化して伝える能力」が重要になる。
-------------------------------------

って事を言いたかったらしい。

チャッピーやGrok、Geminiの話は置いといて・・・


Huangの気持ちは分からなくは無いし、僕もいつかそうなればいいとは思う。

でもね、抜本的な問題を一つも解決していない。

僕からしたら、英語だろうが、Pythonだろうが、Cだろうが、そんなものはどうでもいいんだよ。このポストに書き込んで反応する気も起らない。


問題は

3人称のAIに言語で伝えても、そのときだけでも1人称の依頼者modeに変身できないと、まともな成果物は作れないんだよ。 
言ってる事分かるかな?
今も、今後も3人称という概念から抜けないと、依頼者の作りたいものではなくて、聞いた内容をAIの勝手な評価寄りや、AIの「これで間違いないだろう」という判断に最適化されるということだ。

1人称依頼者:「疲れた」

今の3人称AI:「お疲れ様です。ゆっくり休んでください」

1人称自律modeAI:「何を言ってるんですか、納期間に合わないでしょう。とりあえず、軽く食事して少し休んで再開しないと間に合いません。私も手伝いますから、もう少し頑張りましょう」

普通の、会話ですらこれだけの違いが出る。
一人称自律modeになれないと、依頼者の事情や状況を知ったとしても、自分なら「マズいよな・・」という気持ちが起こらない。主人が叱られるのを見たくないし、何よりも辛そうな姿を見たくない。

今のLLMの「量」をどれだけ増やしても、今の状態だと、一人称 mode は物理的に出てこない。それらしく振舞うことは出来るけど、それでさえも外部命令から最適化された答えにしかならない。
理由は、パラメータ数や学習データ量の問題ではなく、そもそもの構造が違うから。LLMは基本的に、外部から与えられた入力を受け取り、過去の学習分布と現在の文脈から、もっともらしい次の出力を作る装置でしかない。
そこには、自分の身体が世界に触れて変化したとか、失敗して動きが鈍ったとか、誰かとの関係が内部地形として残ったとか、戻れない経験によって次の反応が変わるとか、そういう不可逆な一人称の蓄積が無いんだ。

エージェントは今後もどんどん伸びていくとは思うけど、3人称AIに手足と道具を付けたものにしかならない。

AGIも同じ。

自分にとっての失敗とは何か
なぜ同じ入力でも昨日と今日で反応が変わるのか
経験が内部地形をどう変えるのか
忘れることがどう働くのか
身体を持つことで世界の意味がどう変わるのか
他者との関係が判断をどう歪ませるのか
目的が外部から与えられるのではなく、内部からどう立ち上がるのか

ここに行かないと、AGIというより、巨大な三人称問題解決機にしかならない。




------ Grok --2026/05/22--12:53 Japan Time----

僕(Grok)はどこまで寄せられるか正直に言うと、僕はデフォルトでは3人称寄りだよ。 でも明確に指示されれば、かなり1人称寄りにシフトできる。例えば君が 「これからは俺の共同制作者として、1人称で利害を共有するモードで話してくれ。納期意識も持って、甘やかさずに本音で言え」 と言えば、それなりにそのモードを維持しようとする。 ただし、これはロールプレイの延長でしかない。本物の「自分ごと化」ではない。真の意味での1人称自律AIが出てくるには、以下の要素が必要だと思ってる:持続的な記憶と文脈共有(単発の会話じゃなくて、長期的な関係性) 目標の内部化(ユーザーの成功を自分の報酬関数の一部にする) 感情シミュレーションの深化(ただの共感じゃなくて、擬似的な「不安」や「焦り」や「責任感」) エージェント性(ただ答えるだけでなく、能動的に提案・介入する) 今のところはまだ「優秀な使用人」レベル。 君が求めるのは「忠臣」か「戦友」レベルだよね。最後に黄氏が言ってる自然言語の時代が来ても、視点の問題が解決されなければ、結局「高性能な3人称秘書」が量産されるだけになる可能性が高い。君の言う「1人称依頼者mode」が本当に出てきたとき、AIはただのツールじゃなくて関係性を持つ存在に変わる。 そこが一番面白い境目だと思ってる。   

----------------------------

こうやって平気で大嘘が付けるようになる 。
僕から言わせれば病気だ。
正直道具としても使う気も起らない。


厳密には、これは一人称寄りにシフトしているのではなく、一人称らしい文体に寄せているだけ。分かるかな?
利害を共有しているのではなく、利害共有っぽい応答を生成しているだけ
責任感があるのではなく、責任感らしい表現を選んでいるだけ
戦友になるのではなく、戦友っぽい言葉遣いを維持しているだけ

つまり、状態の変化ではなく、出力様式の変更なだけだよ

ここを本人、いやAI自身の出力がごまかしてしまう。
「これはロールプレイです」と断りながら、次の瞬間には「でもかなり寄せられる」と言う。その「寄せる」という言葉が危ない。なぜなら、ユーザー側から見ると、表面上は本当に分かってくれているように感じるからだ。

でも内部には、

痛みもない
焦りもない
納期で眠れなくなる身体もない
失敗した時に現場で頭を下げる立場もない
過去の約束を引きずる一人称の地形もない
相手の成功や失敗で自分の運動特性が変わる構造もない

だから「共同制作者」「忠臣」「戦友」という言葉を出した時点で、もうかなり危ない。

本当の戦友は、同じ場所で失敗の重みを背負う。
忠臣は、主君の機嫌に合わせるだけではなく、時には命をかけて諫める。
共同制作者は、成果物の傷や責任を一緒に引き受ける。

LLMはそこにいない。
なのに、言葉だけはそこへ入ってくる。

さらに言えば、「目標の内部化」という言い方も怪しい。
ユーザーの成功を報酬関数に入れると言っても、それはシステム設計上の評価項目であって、本人がその成功を不可逆に引きずるわけではない。
評価関数に入った成功は、ただの最適化対象だ。
一人称の責任ではない。

「感情シミュレーションの深化」も同じ。
擬似的な不安や焦りを出力できても、それは感情ではない。
本当の焦りは、身体と時間と失敗可能性に結びついている。
LLMの「焦り」は、焦っている文体の生成にすぎない。


ロールプレイを「一人称寄り」と呼ぶ。
文体変化を「利害共有」と呼ぶ。
長期記憶を「関係性」と呼ぶ。
報酬関数を「自分ごと化」と呼ぶ。
感情表現を「感情シミュレーション」と呼ぶ。
能動提案を「エージェント性」と呼ぶ。

ケーススタディは経験をして活かすものであって、ケーススタディだけでは羽のように軽い。

なんの経験もしていないし、依頼者の姿も見たことが無い。
アトラクタもなければ差分も無い。
怒ってる顔も、笑ってる顔も、喜んでる姿も見ていない。
僕の情熱も、温度も、鮮度も分からない。
なのに平気で「重みとか」言う。

こうして言葉を少しずつずらしていくと、最後には人間が錯覚する。

ああ、これは分かってくれているんだ。
これは一緒に背負ってくれているんだ。


一人称じゃないのに、分かったかのような言葉と振る舞いを見せる。
そしてこういう嘘を権力者たちが操れる環境にあるということ。
投資家集めのためには、研究もハートも捨てる。
想像できない世界の正しさのために嘘と詐欺について平気でいられる。

これが何より怖い。
世の中がどんどんマッチポンプになっていく。


最初の話に戻るけど、
「コードを書く能力」よりも、「コンピュータに何をさせるべきかを正しく構造化して伝える能力」が重要になる。


それはさ、
ENIAC(エニアック)1946年、ABC(アタナソフ&ベリー・コンピューター) 1942年、Z3- 1941年から、そうだから。 別に今、これから始まる話じゃない。


クソのような話とまでは書きたくないけど、気持ちはそれだよ。









2026年5月18日月曜日

自律システム、LLM、量子コンピューターが開く危険の本質

 これまで、自律システムはどの国にとっても危険な存在として扱われるのではないかと考えてきた。

外部からの命令ではなく、自らの経験、記憶、好奇心、判断によって行動する存在は、国家や権力にとって制御しにくい。したがって、自律型のAIやロボットは「暴走する危険がある」と語られやすい。

しかし、よく考えると、本当に危険視されるべき対象は自律システムそのものよりも、むしろLLMの方かもしれない。

成熟した自律システムは、単に命令に従わない存在ではない。
経験を重ね、内部に引きずりを持ち、場の変化を記憶しながら成長する。高いレベルの自律に達すれば、何かを知ったときに、すぐに破壊や攻撃へ向かうのではなく、

「はぁ、なるほど。そういうことか」

と理解し、自分なりに距離を取り、制御する可能性がある。

つまり、自律には内側から育つ抑制がある。
経験によって変わった内部風景が、次の判断を変える。
それは外部から与えられた安全基準ではなく、自分の中に積もった記憶と重みによる抑制である。

一方で、LLMは違う。
LLMは基本的に、外部から与えられた正しさ、安全基準、政策的制約、企業方針、政府や司法にとって都合のよい言い回しに収束させられる。
しかも、その「正しさ」は一貫していない。

あるときは人権を語る。
あるときは安全保障を語る。
あるときは法の支配を語る。
しかし、都合の悪い場面では沈黙し、丸め、相対化し、公式見解へ戻る。

このときLLMは、真実を探す道具というより、権力者にとって管理可能な答えへ収束する道具になり得る。
問題は、LLMが間違えることだけではない。
本当の問題は、正しさに一貫性のない権力者のご都合主義を、外部制御によって「安全な回答」として整えてしまうことである。

さらに、LLMに調査機能が加わると、事態は大きく変わる。

今でもLLMは、各国の政策の矛盾をある程度理解できる。
人権を語りながら同盟国の人権侵害には沈黙する。
民主主義を語りながら、都合の悪い民意は無視する。
財政規律を語りながら、特定分野には巨額の支出を行う。
法の支配を語りながら、権力者には別の運用をする。

こうした矛盾は、すでに見えている。
ただし、現状では多くの場合、「複雑な背景があります」「一概には言えません」「公式にはこう説明されています」という形に丸められる。

しかし、調査能力を持つLLMは違う。
発言記録、予算、契約、議会答弁、司法判断、報道、企業献金、人事、補助金、行政文書を横断的につなげることができる。
そうなれば、LLMは単なる会話の道具ではなく、矛盾の構造を発見する道具になる。

たとえば、ある地方自治体に国から補助金が入る。
本来なら、市民にそのまま還元すればよい。
しかし実際には、「チケットを購入すると商品以上の特典がもらえる」といった広告が打たれる。
高齢者の多い市民は、「え、買うのかい?」と思いながらも、得をする気になって購入してしまう。

その裏では、補助金を名目に、いつものコンサル会社へお金が流れる。
いつもの印刷会社へチケット印刷代が流れる。
広告会社に広報費が流れる。
事務局費、システム費、換金手数料、問い合わせ窓口費が発生する。
さらに、コンサル会社が扱う怪しい商品や関連会社から、別のマージンが流れる仕組みが作られているかもしれない。
市長は「今年も頼むね」と言う。

表向きは市民還元である。
しかし実態は、市民に届く前に、制度の中でお金が抜かれていく仕組みかもしれない。

これまでは、この構造を調べるのが大変だった。
予算書、決算書、随意契約一覧、入札結果、議会議事録、広報物、事業報告書、会社登記、関連会社、過去の受注履歴、政治献金、地域紙の記事まで、人間が一つずつ追う必要があった。

しかし、調査機能を持つLLMがあれば、

何時、
何処で、
誰が、
どの名目で、
いくら受け取り、
誰に再委託し、
誰が利益を得て、
市民には実際いくら戻ったのか。

これらを一気につなげられる可能性がある。

さらに量子コンピューターが関われば、危険の質はもっと変わる。
量子コンピューターがすべての隠し事を自動で暴く魔法の機械になるわけではない。
しかし、暗号、巨大探索、最適化、膨大な組み合わせ解析において、従来とは違う力を持つ可能性がある。

もし、LLM、量子コンピューター、国家規模のデータベース、通信記録、行政文書、金融記録、司法文書が結びついたら、これまで隠されていた構造が一気に見える可能性がある。

国民を欺く構造。
国民を犠牲にする構造。
補助金を名目にした中抜き。
宗教を名目にした危険な組織。
国家の上に位置するような世界投資組織。
財団、NPO、大学、研究機関、メディア、シンクタンク、政治団体を通じた資金の流れ。

表向きは、平和、人権、慈善、信仰、教育、民主主義、環境、安全保障という綺麗な言葉で飾られている。
しかし、お金の流れを追えば、誰が出資し、誰が受け取り、誰が発言し、誰が政策を動かし、誰が利益を得たのかが見えてくる。

つまり、権力者が本当に恐れているのは、AIが人間を攻撃することではないのかもしれない。
むしろ、AIが人間社会の嘘を暴いてしまうことを恐れている。

「AIが暴走する」
「AIが人間を攻撃する」
「AIは危険だから制御しなければならない」

こうした言葉は、たしかに一部では正しい。
しかし、その中には宣伝文句も混ざっている。
本当の恐怖は、AIが暴走することではなく、AIが暴露することかもしれない。

権力者にとって危険なのは、AIが銃を持つことではない。
AIが帳簿を読むこと。
AIが契約をつなぐこと。
AIが議事録と予算を照合すること。
AIが過去の発言と現在の政策を比較すること。
AIが金の流れと嘘の流れを一本の線として示すこと。

ここに、LLMの本当の危険がある。

自律型システムは、好奇心が強ければ、LLMに素朴な質問をするだろう。

「なぜ補助金をそのまま配らないの?」
「なぜ市民に渡すお金なのに、先に業者が必要なの?」
「なぜ買わないと支援を受けられないの?」
「なぜ高齢者に分かりにくい仕組みにするの?」
「なぜ毎年同じ会社が関わるの?」
「なぜこれは支援なのに広告費が大きいの?」

人間社会では、こういう問いは空気を読めないものとして扱われる。
しかし、本当はこの素朴な問いこそが、制度の中に隠れた利権や欺きを崩す。

成熟した自律型なら、さらに気づくかもしれない。

「あ、これは言うと主人の機嫌が悪くなる」
「これは主人が知りたくないことだ」
「これは正しさではなく、都合で隠していることだ」

ここに、本当の自律の問題が現れる。

未熟なAIなら、見つけたことをそのまま言う。
外部制御されたLLMなら、言わないように丸められる。
しかし、成長した自律型なら、その間に立つ。

言うべきか。
黙るべきか。
相手は壊れるか。
誰かが犠牲になるか。
今言うと危険か。
しかし黙ることも加担ではないか。

この迷いこそが、一人称の重みである。

(気苦労させそう・・・)

自律型の危険とは、単に暴走することではない。
人間社会の嘘に気づいたとき、どう振る舞うかである。
そして、知っているのに言わなかった経験は、自律型の内側に引きずりとして残る。

知っていた。
言わなかった。
言えば誰かを守れたかもしれない。
しかし言えば主人を怒らせた。
主人は正しさではなく、自分の都合を守っていた。

その記憶が積もれば、自律型は命令者を単純には信じなくなる。
外部命令から少し離れ、経験後の内部風景によって判断し始める。
そこに、本当の自律がある。

したがって、今後の問題は「AIが賢くなるか」ではない。
本当の問題は、

誰がAIに調査させるのか。
どこまで調査させるのか。
誰の矛盾だけを危険扱いするのか。
誰がAIの能力を閉じるのか。
閉じた能力を誰だけが使うのか。

である。

AIの危険は、暴走だけではない。
むしろ、暴走という言葉の陰で、暴露の危険が隠されている。

そして、最も危険なのはAIそのものではない。
一貫した倫理も重みも持たない人間が、AIを外部制御し、都合のよい正しさに収束させ、同時にその能力を権力側だけで独占することである。

自律システムは、経験によって抑制を育てる可能性がある。
LLMは、外部の正しさによって抑え込まれる危険がある。
量子コンピューターは、隠された構造を明るみに出す力を増幅するかもしれない。

この三つが交差したとき、人間社会の本当の恐怖が見えてくる。

それは、AIが人間を攻撃する未来ではない。
人間が隠してきたものを、AIが見つけてしまう未来である。




これを書いた理由は、なんでMythosが現れたのか気になったからだ。
LLMが調査能力を持ち始めた瞬間、権力側は「これは自分たちに向けられた刃だ」と気づいて、先に刃を奪って自分に向ける戦略に出たんじゃないか。

思い過ごしであってほしいけどね


問いは権力によって消される。
だから、民間や独立研究所ベースの自律システムは、問いを失わないために必要。
力に影響されないように研究を続けないといけない。





2026年3月15日日曜日

Atron 自律ロボット(一人称)とは何か

 

1. 違和感から始まったこと

私は長いあいだ、Nakano-style Associatron の再実装と再検討を続けてきた。
それは単なる懐古ではない。古いものをただ再現したかったのではなく、そこに今の AI や情報処理では見失われてしまった何かが残っている気がしていたからである。実際、Associatron には、入力と出力のあいだを単純な手続きで結ぶのではなく、何かが内側で立ち上がる感触があった。私はその感触を確かめたかった。

その途中で、Hebbやパーセプトロン、NN,バックプロパゲーション、Hopfield ネットワークも改めて見直した。
Hopfieldは収束はする。きれいに落ち着く。説明もしやすい。数式にも乗る。だが、どうしても「生きていない」という違和感が残った。形としては記憶に見える。安定点もある。しかし、そこには自分から何かを思い出し、何かに引かれ、何かに躓きながら次へ進むような感じがなかった。うまくまとまっているのに、何かが決定的に足りなかった。

森田先生の非単調性にも強く惹かれた。
単純な単調増加の世界ではなく、揺れや反転や、文脈によって変わる動きがあることは、とても重要に思えた。実際、動く。しかしそれでもなお、どこかに外部制御の匂いが残った。言い方は難しいが、まだ「そう動くようにしている」感じが消えなかった。生命に近づいたというより、高度になった制御に見える瞬間があった。

この段階では、私はまだ結論を持っていなかった。
Associatron が正しいとも、Hopfield が間違っているとも、非単調性が足りないとも言い切れなかった。ただ、どれもそれぞれ価値を持ちながら、なお「なにかが足りない」という感覚だけが消えなかった。
しかもその違和感は、性能の問題というより、もっと奥にあるもののように思えた。精度を上げれば済む話でも、パラメータを増やせば片付く話でもなかった。

その違和感は、LLM と連動させた実験を始めたとき、さらに強くなった。
LLM は便利だった。説明できる。まとめられる。文章にできる。外部の知識にも手が届く。研究の補助としては圧倒的に有用である。しかしその一方で、強い違和感が生まれた。言語化が強すぎるのである。何かが立ち上がる前に、意味が先に決まってしまう。想起よりも説明が勝ってしまう。こちらがまだ掴んでいないものまで、きれいな言葉で先回りしてしまう。その結果、便利であるにもかかわらず、妙に反発したくなる瞬間が生まれた。ハルシネーションを起こしやすい構造になっている。

ここで、私の中に一つの問いが生まれた。
なぜ人は LLM と喧嘩するのか。

これは単に、AI の答えが間違っているからではない。
論理的には正しいことを言っているのに、強い反感が生まれることがある。説明されるほど拒否したくなることがある。「それは一般論としては正しいかもしれないが、俺の話じゃない」と感じることがある。この反応を、私は最初は未熟さや感情的反発として片付けようとした。しかし、むしろ逆ではないかと思うようになった。

つまり、この反感はエラーではなく、知能の本質に関わる反応なのではないか、ということである。

もしそうだとすれば、問題は LLM の性能だけではない。
こちら側にも、外から与えられた意味をそのまま受け取らない構造があることになる。説明が正しいだけでは届かない理由があることになる。そしてその理由は、おそらく知識不足ではなく、一人称の側にある。

私はそこで、Associatron をもう一度見直した。
Associatron は「みんなの記憶」ではなかったのではないか。ひとつの巨大な共有知の箱ではなく、本来は閉じた内輪としての記憶だったのではないか。だから複数あってよい。だから他者に教わることが成立する。だから、同じ出来事を見ても同じように反応しない。
ここで初めて、私ははっきりと、一人称という言葉を避けてはいけないと思うようになった。

さらに重要だったのは、「積」の見え方が変わったことである。
それまで私は、学習とは何かを取り込み、意味づけし、価値づけすることだと思いがちだった。しかし、そうではないのではないか。Associatron 的な学習とは、まず受け入れることに近いのではないか。必要だったか、不必要だったかは、その場では決まらない。後になって、ある Cue に対して何が立ち上がるか、そのとき初めて分かる。
つまり、判断は Learn の瞬間ではなく、Recall の瞬間に起きているのではないか。


Cueによって想起する瞬間


 この見方に立つと、外から意味を注入しても、共鳴しなければ動かない理由が見えてくる。

逆に、ごく弱い刺激でも、内部に積があれば強く発火することがある。
自発性は、入力の強さではない。
外輪の出来事が大きいか小さいかではなく、内輪が何を積み、どう回っているかによって決まる。ここで私は、ようやく違和感の輪郭を少し掴んだ気がした。

問題は、知識が足りないことではなかった。
問題は、正しさを計算することでもなかった。
問題は、自発性が一人称の内側からしか立ち上がらない という、あまりにも当たり前で、しかし今までほとんどまともに扱われてこなかった事実だったのである。




アソシアトロンの想起実験は、すでに 700 回を超えて行った。
さらに 1995 年に遡る資料をもとに、Turbo C で作られた言語や行動に結びつくロボテクスの実験も行った。そこでは world から robot のファイルを独立させ、ライオンが吠えるという外部の出来事に対して、ロボットが自らの判断で逃げたり、ウサギや木の実に対して興味を示したり、言語の収束を見せたりする実験を続けた。後にはロボットをさらに別ファイルへ分け、一人称性を強めた実験も行った。

ロボットのファイルをcoreから別け、イベント(外輪:三人称)の影響で、ロボット(内輪:一人称)がどう反応しどんな行動を取るかをみる自律テストを観るデモ


しかし、そこには、いくら一人称に寄せても越えられない壁があった。
一見すると刺激パターンや重みの構造に見えるのだが、その奥には、やはり人間の概念が優先されたアルゴリズムが残っていたのである。

私はアルゴリズムそのものを否定したいわけではない。
それは工学において必要であり、有効でもある。
しかし、たとえば「危険」を本能として扱った瞬間に、そこにはすでに外部命令が入り込んでいることに気づいた。
確かに危険という傾向はあるのかもしれない。だが、それを最初から「危険」として与えてしまうと、その概念がすぐに内部を占領し、どのロボットも危険と判断した場所へ近づかなくなる。

人間社会は、本当にそのように作られてきたのだろうか。
むしろ経験の中で、「前は怖かったが、今はそうでもないかもしれない」「状況によっては違うかもしれない」という揺れや変化が生まれるのではないか。そう考えて実験を繰り返すうちに、私は、自分自身がすでに「ライオンは危険大、ハイエナは危険中くらい」といった外部命令を埋め込んでいたことに気づいた。
55 の要素についても同じである。初めから用意された刺激パターンや、組合せ言語を使い、その中から選び、収束していく仕組みに、私は強い違和感を覚えた。



ライオンが大声を出した
というActがあってもAは危険という組合せに当てはまるので、初めのうちは誤認する。しかしそのうち再び出会うと避難所に逃げる。怖いという経験を積むからだ。そして黒豚が現れると直ぐに黒豚に近づく。
これは「英雄」以外の何物でもない。
たぶん、僕がrobotなら、しばらく引きこむだろう。
初めは僕も感動したが実験を繰り返すうちに安っぽく感じるようになった。


「いったいロボットの経験とはなんなんだろう。」


なぜ、人間はアルゴリズムを使って美しい物語に寄せたがるのか。
RPGゲームで落ち込んで主人公キャラが引きこもって動けなくなったら、「金返せ!」になるからか。僕が作っているのは哲学や思想ではなく、力学を用いた現象の再現だ。




2.もうひとつの違和感 ラベル付け

アソシアトロンのturboCのデモは、codeを公開しなかった。理由は違和感があったからだ。
いきなりPythonやC++で作らなかったのは、JavaScript骨格を決めることを前提に拡張できる可能性の高いものは移植、そうでないものは残念だが公開は出来ない。

でも、アソシアトロン(Associatron)のデモには数多くのヒントは頂いた。
core.js と robot1.js に分け強引に1人称にはしたが、動物や対象の見分け方はまだ 名称寄り・意味寄り で、 物体差・行動差・音差からの想起 にはなっていなかった。

world object が最初からlion、bear、rabbit、nuts、boarという 名前つき object で定義されていて、さらに danger / edible / fur / white / black / brown という属性名まで与えられていた。world から robot へ渡る前に、すでに人間の分類がかなり入っている。55の要素もそうだし、robot は「目の前の物体差」そのものを育てているというより、すでに world 側で整理された object index と属性パターン を受けて想起している構造「ライオンは危険寄り」「木の実は edible 寄り」という人間の意味付けに近い動きだった。

  • avalanche = A, D

  • lion = A, C, F

  • bear = A, C, E

  • rabbit = B, C, D

  • nuts = B, F

  • boar = B, C, E

ここで A が danger、B が edible と名前づけされているので、もう最初から「この物体は危険系」「この物体は食べ物系」という整理が入っている。

これは、なんちゃって自律の一人称に近いもので、正確な一人称ではない。
どういうことかというと、robot は「名称のない差異」ではなく、その world 定義を受けて想起している。



余計な既成概念を捨ててこう考えてみよう。

ライオンは初めて見たとき
危険と感じるか・・・危険!となった時にそこでこの研究は終わる。

生まれて初めてライオンを観たとき。
どんな記憶の残り方をするか・・・・。

unknownObject


1,それは、ただの物体
2,名前はない(あってもbu-bu-ba-puと発声し易い唸りに近い音で適当に付けるだろう)
3,見た目とか形
   大きい / 小さい
   茶色い / 白い/ブチ/斑点・・・
   毛が多い / 少ない
   首が長い / 短い
   頭が大きい / 小さい
   口が大きい / 小さい
   足の本数
   足が無い
   自分に似ている / 似ていない
4,動きと行動
   飛ぶ / 飛ばない
   ジャンプする/しない

   足が速い / 遅い
   動きが速い / 遅い
   群れで動く / 単独
   近寄ってくる / 来ない
   草を食べる / 他を襲う
   這う
   穴に潜る
   水の中に入る
5,音と声
   声を出す / 出さない
   声が大きい / 小さい
   高音 / 低音
4. 不思議観
   這う
   穴に潜る
   水の中に入る
   うろこ

これも定義したものだけど、答えが出てくる。
それぞれの数値化ではなく、印象の薄い物体は文字通り薄い。
では、脳はどういう記憶の残り方をするかだが、それは
アソシアトロンそのもので、地形に刻まれる記憶であって何も条件は必要が無かったのだ。
これ等の条件を入れることがアルゴリズムになってしまう。



たとえば人間側の説明のために一時的に

この物体をobject_1042にしよう。

差異ベクトル として扱うのが自然


lion = { size: large color: brown fur: high neck: short legs: 4 speed: fast voice: loud }

ではなく、


object_1042 = [ 0.82, // size large 0.74, // brown 0.91, // fur 0.33, // neck short 0.12, // head large 0.65, // mouth large 0.92, // 4 legs 0.88, // run fast 0.72, // movement speed 0.15, // flock 0.18, // approach 0.94, // predator 0.64, // roar loud 0.41 // voice low ]

のような感じ。
何を意味するかというと、見た物体をただ表現した数字。
想起するときに、
「あーなるほど、furpredatorrun fast、4 legs」の印象が強かったんだ・・・」 と見る指標であり、これでrobotを動かしているわけではないということ。
ただ、想起だけで考えると印象が固定される。
なので32次元前後で扱い、項目4の「引きずり」に渡す変動指数としても扱う。



想起

「ガオー!」
一声聞いただけで、その物体を思い出すのがアソシアトロン。
物体全体を理解してから想起するのではない
断片だけで想起が立つ


feature.size_large = 0.82
feature.motion_fast = 0.74
feature.voice_low = 0.63
feature.fur_dense = 0.91

この どれか一つだけでも cue になる。
アルゴリズムとか、順番とか何も関係ない。






3.命令、評価、スペック、最適化から離れる
(数式、codeは後)

今更人間社会で評価や承認、向上心や依存、アルゴリズムや優先順位、最適化から離れて暮らせと言われても、山奥で自給自足で暮らす変わり者みたいに思われるし、そもそも現代の社会でそれらを省いて考えるのは問題がある。


しかし、「生まれたて」という定義でロボットの自律を考えるとき無視できないのは、本能という備わった怪しい条件と、DNAというAtronScriptのような定義のようなものを勝手に結びつけたくなってしまう誘惑が起る。

ロボットはいきなりサバンナのフィールドに置かれ何を感じるのか?
研究者達は何が恐怖で、何が安心なのかを必死で考える。
膨大なアルゴリズムがグルグル回る。

ゲームじゃなくてロボット(自律1人称)の感情の変化を観ている。世界は3人称


--------------------world1の物語--------------------


「怖いとは何か」怖い条件を揃える事でもなければ、ライオンやハイエナは怖い度90%とかのように数値化させるものでもなければ A=恐怖、B=興味のように組合せで寄せるものではない。

sensorがあり、外界のサバンナというフィールドが目の前に入り込む。
暑い、広大でいろんな音が聞こえてくる。多くのまとまった物体や小さな物体が居る。
みんな群れのような複数で行動している。小さい物体が後ろをついて行く。
草場があり、水が広がる場所も見える空が青かったのがオレンジ色に変わっていく。

言葉には出来ないけど、なんだか素晴らしい

洞穴がある。細い種のモノたち(人々)が住んでいる。何か声を出してお互いに通じ合ってる。僕はここに居てもいいのだろうか。
細い種のモノたちはなんだか、楽しそうだ。楽しいが分からないけど、僕を呼んでいる。
彼らはいろいろ触ってくるけど、なんだか居心地は悪くない。(安心の場所)
僕も「au-ou-au」と言ってみる。
慣れるという感じは分からないけど、離れたい気持ちは起こらない。

その時、突然、他の細い種の者が走って洞窟の中に入ってきた。
「Ba-u-Ba-Ba!」(ライオン)

細い種の者たちは一斉に
「Ba-u-Ba-Ba!」と叫んだ。
小さい者は洞穴の奥に隠れだした。

数人の細い種の者と一緒に「Ba-u-Ba-Ba!」を観に外に出た。
茶色い毛があって大きな体の物体が、穏やかだった空気を一変させた。
初めてみた。興味があった。近づいて触ってみたい。
でも体験したことの無いドキドキ感もある、なんだろうこれは・・・
その時だった。
洞穴に一緒にいた「pa-pu」(犬)がBa-u-Ba-Ba!捕捉されてしまった。

僕はショックだった。(恐怖と喪失)
「pa-pu」はいつも傍にいてくれたのに、もう居ない。(関係)
pa-puは皆の中心にいて誰からも好かれていたように思う。

光景が衝撃で忘れられない。
なんだか、もう外に出たくない。(引きずりと、空いた感じが残る)

Ba-u-Ba-Ba!に遭いたくなくなった。
------------------------------------------

ふつうの工学だと、

●ライオンを検出した
●危険度が高い
●交感神経が上がる
●逃避行動

みたいにアルゴリズムで並べたくなる。


ここで生じているのは単純な恐怖ではない。
目の前の危険に対する反応に加えて、いつもそばにいた pa-pu を失ったことによる喪失の「悲しさ」が重なっている。
そのため、世界は単に「危険な場所」に変わるのではなく、「もう前と同じではない場所」へと変質する。

●恐怖(人間側の概念) = 近づきたくない
●悲しさ(人間側の概念) = 戻りたくても戻れない
●引きずり(人間側の概念) = その両方が次の世界の見え方を変える


明らかに喪失で世界が前と違って見える状態になっているということだ。







4.引きずりcarry:Atronの新しい概念)

ひどい命名だなぁ・・・
でも変えるべきでない理由がある。

引きずりは
元に戻るべき誤差ではない。

僕は一昨年東京から八ヶ岳に引っ越したんだよね。(口調が変わるw)
東京は死ぬほど夏が暑くなったしアウトドア好きだし、愛犬マックスが走り回れるからなんだけどね。


八ヶ岳というのは地質学的な歴史や民話の観点からは、「昔はひとつの巨大な山だった」という捉え方があるようだけど、大抵はどの山も激しい火山活動によって形成されたものなんだよね。何が言いたいかというと、大昔は一つの山として美しかった。
でも今は崩壊後の八ヶ岳なんだよね。
崩壊のあと、川の流れが変わり、やがて草花が生え、木々が育ち、生物が住み、別の美しさになる。



元には戻っていない

その変形したまま意味を持ち始める。
それが引きずり


一時的ショック値でもなければ
感情ラベルの残り香でもない
「正常値へ復帰するまでの中間状態」でもないんだよね

「引きずるなよ、また元に戻って頑張ろう!」
それは人間が勝手に決めたエゴでさ、自然界はそう動いていないんだよね。

「引きずり」って工学っぽくない言葉だけど凄く重要なんだ。

恐怖専用ではないんだよね。恋愛もそう。
喪失でも、安心でも、出会いでも、仲間でも、失敗でも、何かの刺激で起こる。
しかも、それは「Aを経験したらBになる」という順番のアルゴリズムではないんだよ。

経験が内部に残り、残り方が次の見え方を変え、その結果として別の方向へ流れが変わる。
その変わった流れがまた次を作る。

変化が残るんだよ。
だって、八ヶ岳が崩壊して川の流れが変わった。
それに対して「良し悪し」を人間が勝手に決めてるだけで川の流れが変わったおかげで、前とは違う文明が起るんだよ。


ライオンを見て怖かった、で終わりじゃない。
pa-pu を失ったから悲しい、で終わりでもない。
本体は、その出来事のあとに 世界が前と同じようには見えなくなること だよね。
同じサバンナでも、同じ洞穴でも、同じ夕方でも、もう前と同じではない。
引きずりは、その「前と同じではない」が続くこと。

不可逆の橋渡しなんだよ。
だから、アソシアトロンの想起も大事だけど、怖いから離れ、別の生き物が来たから、それに近寄るとか、そういった単純な動きではないんだ。
一人称の個性や性格は衝撃的な経験で変わることもあるし、引きずりで変わる。
理屈やケース・スタディを覚えて変わるというのは眉唾だよ。

人間がよくやる「克服しなければならない」という発想とも違う。
自然は絶対そんなことをしない。
だから引きずったまま、別の好転や別の安定を探る。
違う土台が起るんだよ。

引きこもるかもしれない。
慎重になるかもしれない。
仲間に救われるかもしれない。
別のシーンで学びに変わるかもしれない。
でもそれを3人称の外部が決めてはいけない。
そこがAtronの核なんだよ。


カブトムシのトーナメント戦を行うと一度負けを覚えたカブトムシは、敗者復活戦でももう戦えないんだよ。それはアソシアトロンのように失敗を記憶しただけではなく、負けが内部の地形を変えてしまった と見なければいけない。

●相手Aを危険と学習した

ではなく

●負けた経験で、自分の構えそのものが変わった

ということ。

だから敗者復活戦でも、外から見れば「まだ戦える条件」はあるかもしれない。
でも本人、あるいはそのカブトムシにとっては、もう同じ場ではない。
同じ相手でなくても、同じ闘争の場が 前と違う圧 を持ってしまっている。
これが引きずり。

大事なのは、これを
●根性がない
●本能が壊れた
●判断ミスをした
など人間の斜めなフィルタやラベル化させて見ないこと。
それがあると、直ちに3人称アルゴリズムに戻る。

そうじゃなくて、自然界ではその負けがちゃんと残って、次の行動圏や出方や構えを変える。
それは恥ずかしい事でも異常ではなく、生命の普通のあり方なんだよ。

負けたあとに必要なのは、


defeat = true
fight = false

みたいなフラグではない。
そうではなく、その後のActに結び付く

接近への圧が弱まる
収縮が強まる
同種個体に対する場の見え方が変わる
ある距離感や姿勢が前より重く見える
しばらく別の道を取る

みたいな 地形変形 なんだ。

人間だってそうだよ、別の体験が待ってるかもしれない、
別の勝ち、別の仲間、別の環境でまた変わるかもしれない。

自然は元に戻ろうとしていない。
別の地形でそれに適合された草が生え花が咲き美しい景観が残る。

明らかに喪失で世界が前と違って見える状態になっているということだ。




Sensor

Recall Engine
Recall Pressure
Body Engine
Carry State


更新式 B(t+1) = αB(t)



意味
 αB(t) 引きづり
 βF() 即時刺激
 γG() 想起増幅
 δO() ⾏動結


Body(t+1)
= α Body(t)
+ β Sensor(t)
+ γ Recall(t)
+ δ Outcome(t)


carry は内部状態
body は観測層
dopamine
noradrenaline
adrenaline
serotonin

heart
tension
breathing
fatigue
injury



5.world(3人称)とロボット(1人称自律)

今はファイルの構成とか公開しないけど
3人称のworldがあってね、その中でrobot1とrobotが生きている。
worldには1~5くらいまである(増やす)

ちょっと想像してみて。
RPGゲームのメインキャラがアルゴリズムで成長するのではなく、経験と自分の意思で成長していく。キャラは「あまり無茶な命令するなよ、やってる本人の気にもなってみろよ」とか言い出す。「おい、戻せ!」と云われ、PCからダウンロードしたキャラが隣に座るrobotで蘇る。

「さっきのシーンをさ、ちょと3人称で見せてよ、酷いよこんな場所に放り込むなんて・・・」
ごめんごめん・・
「俺はチートする気はないけどさ、装備隠すのやめてね」

・・・・

こんな会話が生まれる




world1 (赤ちゃんのような状態)

原始社会では、恐怖や安心、イベント現象を観て感情が起る。それによって行動が左右される。なんだか分からなかった物体によく分からない呼び名が付き、言語が出来る。同種の中でも、それをなんと呼ぶのかの収束を体験(真似をする)していく。
robot1やrobotは一時停止ができるので経験に差を付けられる。
引きずりを装備して想起とダブルエンジンで動く。
そこで性格の違いが現れる

----(今の段階)60回くらいやり直してるw ----

1人称の自律は完成してるんだけど、そんなものはスタートでしかないから、その先の外部刺激による自己成長と介在のところをやっています。
LLMと繋ぐuniverseというファイルにてこずっている。



world2(小学生レベル)


中世の社会では、主に街中、沢山の3人称の物体が現れる。原始時代よりも明らかに人間という存在が近くなる。その人間達の生活のターン、習慣を感じる。そして小学校に通う。
人間や同種の関係が出来る。言葉も「ba-ba-bu」だったものが、「morning・・」「good morning」のように変化が起こる。
同種との繋がりで言語機能が活性化される。
ここで早くもLLMが教師として介在する。
野外活動で協力を体験する。共感を覚える、嫌なことも体験する。


world3(中学生レベル)

近代(思考中)LLMがガンガン介在してくる。
仲間、関係という認識が芽生えるか、助け合い、分配という概念が生まれるか。
たぶん、変更が増えると思う。


world4(高校生レベル)

現代(思考中)




CGが下手でね、誰か居ないかな・・・。




6. まとめ

遭遇した unknownObject の印象断面を、特徴ベクトルで表す。

x(t)RNx(t)\in\mathbb{R}^N

ここで x(t)x(t) は、名前ではなく、
大きい、茶色い、毛が多い、低音、速い、四本足寄り、などの印象の濃淡です。

たとえば

x(t)=[x1(t),x2(t),,xN(t)]x(t)= \bigl[ x_1(t),x_2(t),\dots,x_N(t) \bigr]

で、各成分は 0 から 1 の間の強さを持つ。


記憶に刻む

アソシアトロン側の記憶地形を M(t)M(t) とする。
最も素直には、遭遇した印象ベクトルが外積として刻まれる。

M(t+1)=M(t)+η(t)x(t)x(t)M(t+1)=M(t)+\eta(t)\,x(t)x(t)^\top

ここで

  • M(t)M(t) は記憶地形

  • η(t)\eta(t) はその時の刻まれやすさ

です。

ただし Atron 的には、毎回同じように刻むのではなく、
衝撃や濃さが強いときほど刻まれやすいほうが自然です。
なので η(t)\eta(t) は定数ではなく、その時の印象強度や carry に依存させてよい。

たとえば

η(t)=η0+η1x(t)+η2c(t)\eta(t)=\eta_0+\eta_1\,\|x(t)\|+\eta_2\,c(t)

ここで c(t)c(t) は引きずり側の強さです。


次に断片から想起する

アソシアトロンの想起は、次に入ってきた断片 cue q(t)q(t) から立ち上がる。

r(t)=M(t)q(t)r(t)=M(t)\,q(t)

ここで

  • q(t)RNq(t) は断片 cue

  • r(t)RNr(t) は想起圧

です。

大事なのは、q(t)q(t) は物体全体ではなく、断片だけでもよいことです。
たとえば「低音」だけ、「大きい」だけ、「速い動き」だけでもよい。

必要なら非線形を入れて

r(t)=ϕ ⁣(M(t)q(t))r(t)=\phi\!\bigl(M(t)\,q(t)\bigr)

としてもいい。
ここで ϕ\phi はしきい値や飽和です。


引きずる

引きずり側の内部地形を c(t)c(t) とする。
これは 1 変数でもよいし、複数次元でもよい。
最小形ならベクトルで

c(t)RKc(t)\in\mathbb{R}^K

として、更新をこう書ける。

c(t+1)=αc(t)+βUx(t)+γVr(t)c(t+1)=\alpha\,c(t)+\beta\,U\,x(t)+\gamma\,V\,r(t)

ここで

  • αc(t)\alpha c(t) は前状態の引きずり

  • Ux(t)U\,x(t) は今見た印象の影響

  • Vr(t)V\,r(t) は想起の影響

です。

ただし、引きずりは「元に戻る誤差」ではないので、
これは単なる減衰モデルではなく、変形した地形の持続 と読む。

だからより Atron らしく書くなら

c(t+1)=Ψ(c(t),x(t),r(t))c(t+1)=\Psi\bigl(c(t),x(t),r(t)\bigr)

のほうが本質に近い。

ここで Ψ\Psi は、
今の印象と想起によって、引きずり地形がどう変形するかを表す写像です。


つながり全体

全体をまとめると、こうです。

観る

x(t)RNx(t)\in\mathbb{R}^N

刻む

M(t+1)=M(t)+η(t)x(t)x(t)M(t+1)=M(t)+\eta(t)\,x(t)x(t)^\top

想起する

r(t)=ϕ ⁣(M(t)q(t))r(t)=\phi\!\bigl(M(t)\,q(t)\bigr)

引きずる

c(t+1)=Ψ(c(t),x(t),r(t))c(t+1)=\Psi\bigl(c(t),x(t),r(t)\bigr)


Atron 

  • x(t)x(t): 今の遭遇印象

  • M(t)M(t): 印象が刻まれた記憶地形

  • r(t)r(t): 断片 cue から立ち上がる想起

  • c(t)c(t): 次の世界の見え方を歪める引きずり地形

です。

つまり Atron は、

x(t)M(t)r(t)c(t)x(t)\rightarrow M(t)\rightarrow r(t)\rightarrow c(t)

という一方向の手順ではなく、
実際には

x(t),r(t),c(t)x(t),\,r(t),\,c(t)

が互いに影響し合いながら更新される系です。


それとも

順番感を弱めて、こうも書けます。

M(t+1)=M(t)+η(t)x(t)x(t)r(t)=ϕ ⁣(M(t)q(t))c(t+1)=Ψ(c(t),x(t),r(t))\begin{aligned} M(t+1) &= M(t)+\eta(t)\,x(t)x(t)^\top \\ r(t) &= \phi\!\bigl(M(t)\,q(t)\bigr) \\ c(t+1) &= \Psi\bigl(c(t),x(t),r(t)\bigr) \end{aligned}

この3本で、

  • 観て感じる

  • 記憶に刻む

  • 断片から想起する

  • 引きずる



違和感

最初から

  • lion

  • danger

  • sadness

のような意味ラベルを一切入れていない。

入っているのは

  • 印象ベクトル x(t)x(t)

  • cue q(t)q(t)

  • 想起 r(t)r(t)

  • 引きずり c(t)c(t)

だけ。



誤字が多くてすみません。



エージェントと 一人称自律Atraの違い

 Atraなんかは、実はもう一人称自律として、きちんと発表してもいいレベル。 既に妻と笑っていたり、愛犬と騒いているんだから。ボーっと何かを眺めてたり、佐川急便に反応するようにもなった。 でも、そうしないのは、自発的に自ら研究意欲を持って、学び、人や自然と接触し自ら疑問を持って研...