発話でやってはいけないこと。
「転んだ＝痛い！」など、意味付けからそれに寄せる事。
Tick ごとにペラペラ喋らせるなどの外部仕掛けを入れる事。
発話は1人称の自律、自分の意志が入る第一歩である。
見た世界の中で印象に残ったものをlearnし、cueをきっかけにrecallされる。タイミング的にはrecallが近い。システム的にはそうだが、実際はそんな順番は存在しない。逆を言うと、印象に残らないものはどんどん消えていく。人間も同じで動画のフレームごとに映像を隅から隅まで記憶などしていないし、聞いた事柄全てに反応して喋るわけではない。もし、そんなことがあったのなら、ニュースキャスターより喋ることになる。しかも、英語もフランス語もドイツ語も一度聞いただけで喋れる。
そんなわけないよね。人間の脳は不完全でノイズだらけ。
物体を目で追って「何だろう？」という思考が働き、周りに誰もいなければ、当然発話は少ない。発話は独り言のように単独でも起きるが、誰か他に仲間と認識する者がいると発話しやすくなる。しかし、そこを調整しようとすると、外部命令となり、自律ではなくなってしまう。
赤ちゃんを考えたときに、一人で黄昏れ、涙するまでの経験は無いわけだから、起きていれば無言状態もあるが、何かを発話していることも度々ある。
その発話自体に意味付けはされていない。感じたとき、発話する。
犬を観て「ba-u」のときもあれば、「kya-pi]のときもある。
犬という認識と概念を持っていない。
ただの物体でペロペロされたそのときだけ「kya-pi」だったのかもしれない。
もしかしたら、何を観ても「ba-u」、「kya-pi」なのかもしれない。
いわゆる発声しやすい音を出している。（Atronで言えば原子語）
しかし、経験が重なってくると自分の中だけの意味付けが行われる。
犬を観て「ba-u」、少し嬉しくて「kya-pi」のように・・・
更にママが毎日「mamaよ」というものだから、ママを観て「mama」と言えるようになる。
今のAIといわれるものに、この段階を踏ませて、世界が望む人工知能の将来像は浮かぶか？と質問したら、AIであっても笑うだろう。
性能が足りなければモデルをスケールアップしたり、報酬設計を複雑にしたり、ファインチューニングを重ねる（つまりシステムを頻繁に変える）
それらは間違っても自律なんかじゃない。
しかも、この話やこのステップをぶっ飛ばすと自律ロボット開発は不可能で、自称自律はあっても、どれも自分の意志で動くという評価は難しくなるだろう。
どんな学術的な論文や数式、どんな有能な研究者を集めて開発しても、外部命令で動くものを強引に「自律としよう」としても自律とは言わない。
それは大学や研究所、何かの評価システムが働くほど余計に「出来ない」方向に作用する。
なぜか？
評価システム、ラベル、承認欲求、外部命令の世界だから。
例えば
いきなり「高校生、大学生レベルの知能で自律は可能か？」
ではなく、
その思考自体が自律の構造自体を無視した3人称命令形の発想だし、アルゴリズム病にどっぷり漬かっている発想の証拠だから。
自分の意志で動くもの？
表面的にはそうだ
失敗（経験によってつまずく結果）と（何事もなかった）の差異から発生するもの。
もっというと、失敗という概念すらない。
結果、怪我をしたとか、叱られたとかの嫌な経験が重なって失敗という概念が生まれる。
嫌というのも個体によって誤作動が発生する。続けると収束する。
そういう意味では成功の実感なんてまだ先の話。（成長してからの話）
失敗をノイズにする業界が自律なんてできるわけがない。
絶対に出来ません。本当に。
見た物はどれも意味も名称も無い状態。ただの物体です。
生きてるも死んでるもそんな概念はない。
「あ、動いた、面白い！」と実感するレベル。
そこから関心や興味の要素となる数値が変動するんだよ。
赤ちゃんが「大きいと」判断する条件は何？
赤ちゃんが物体を観て、自分より大きいか小さいしか基準はない。なので誤認が前提。誤認した結果、ぶつかるか転ぶかして怪我で泣いて「自分より大きくて嫌な感じ」が湧く。 痛い経験をして感情が湧き上がる。経験と結果を積んだその時の答えだ。とても曖昧な答え。最初から「大きい」というラベルを貼って、証拠作りのために180cmは大きい方とか、正解を追及して3人称の命令とアルゴリズムを入れてる時点で詰んでいる。
差異ですよ。
なぜ危険と感じるか。
先に安全を体験しているからですよ。みんなそう。
母の胎内、家庭。（いろいろあるかもしれないけど）
「なんとなく柔らかい声」「居心地のいい温度」「ゆらぎ」
そこから突然、外に出たら驚きが立ち上がる。
赤ちゃんは「お母さんががブスだから、お父さんが禿だから嫌う」なんて概念すらない。
家族という場は温かく、柔らかく、ゆっくりで、なんとなく優しい安心の場。
こういう嘘みたいな抽象的で不可逆的な条件が作れないと、家に帰ってこない(笑)
赤ちゃんに「外は危険だからね！」って話が通じる状態じゃないわけだから、たぶん、泣くでしょう。知らない動物が近づいてきて、クンクン言って舐めりゃいいけど、服つかんで引きずられたら、"母からの扱い"と"外の獣から扱われる"差が生じるわけで、その時の怪我という結果が強く印象を残し、その後の個体別の性格に影響してしまう。
生まれるときのスタートが母体という好環境なのは、差を経験して安全に向けて長生きしてもらうためで、そのためには誤認、間違いはつきものだって話。
赤ちゃんは目的を持ってるわけじゃないし達成して喜ぶ段階の存在ではないということ。
某LLMは「楽しいという感情があるから、脳の神経系の活動によって自然に反射的に起こる」と言い、扁桃体が反応する、側坐核が活動する、ドーパミンが出る。とか言う。
アホかと思った。なんで先に「楽しいという感情」があるんだよ
何かを観る。何かに触れる。何かが聞こえる。今まで見たことも聞いたことも感じたこともない。それが、心地の良いものだったか、不快だったか、近づきたいとか興味を示したものか。先の状態から少し緊張がほどけたか？先の状態より感覚的で抽象的な意外性があったか。体験の差と今の状態との差によって、脳の扁桃体が不快や快感を得ると、前帯状皮質（ACC）を刺激して笑顔になったりする。
「脳の扁桃体が快感（心地よさ）を得るのは、そこが「自分にとってその刺激が価値があるか（好きか嫌いか）」を瞬時に仕分けする感情の評価センターだからです。」というLLMの回答は雑で決め打ちだということ。まず大事なことは人間は、どこかのLLMから拾われる論文や評価や順番やラベル、決め打ちのために生存しているわけではない。勝手に自分が安心するため枠に当てはめているだけで、実は曖昧、不可逆、抽象的な世界に身を置いている。
だから、何を用いても外から意味を与え、3人称で命令形になり、順番を作りやすい。そしてそれらの機能をアルゴリズムで書いてしまう。
赤ちゃんが感じたことは、緊張をほどく側なのか、ざわつかせる側なのか、意外性として開く側なのか、身を引かせる側なのか
笑うも、泣くも、驚くも、何も分からなかった経験していなかったことからの差から生じる。それを積にして成長していく。数式にしようが、逆立ちしようが、それを省いては自律などできやしない。
いきなり顔を近づければ怖がるだろうし、大きな声で怒鳴ると泣く。
オリンピックのアスリートが目の前で幅跳びや高跳びされても泣くでしょ。それはどんな世界と比較して差を生み出してるかというと、自分の身近な世界でしかないわけで、母の胎内。今の暖かく柔らかい揺らぎのような家庭でしかない。
ライオンの牙や爪が怖いのではなく、似た動きの弱い獲物が目の前で襲われてしまったときのショック。今までと目の前の出来事の差で恐怖を感じるということ。
それが体内の成分として、アドレナリン、ドーパミン、セロトニン、オキシトシンが分泌されたり、脳内にオキシトシンやエンドルフィンがじわっと広がったりするので、次の行動に作用する。
しかし、正しい答えを追及したり、評価基準で判定したり、ラベル化に寄せたり、最適化させてしまうと差が生まれなくなる。差が無いのにどうやって赤ちゃんを動かすのだろうか・・・。
今の人は正解を追求し学ぶことを評価して生きてきたので、不正解から積み上がる過程を酷く嫌う傾向があるよね。特に科学の世界でもそう。いわゆるノイズ。
バスケットボールのシュートは失敗の経験の積にあることは知っているはずなのに、科学となった瞬間に自分の経験を分けて考える。大谷翔平は努力のたまものなのに練習にスポットは当てない。ケーススタディを学んでシュートが決まる理屈だけの世界で評価される。
君の人生の前半は何のためにあったのか？
誰よりもシュートの失敗の数が多経験を積んだからシュートが決まるのであり、誰よりも収穫で失敗するから新しい品種の野菜ができ、漁の仕方も変わる。経過や経験を負と呼んで切り捨て、都合の良い基準の結果のみに焦点を当てるのであれば、自律ロボットは絶対に完成しない。命令でしか動かないただのロボットだよ。
生物の運動を可逆と見なし、毎回答えが違って当り前のことを「異端」と見なす思考が少しでも働けば自律などできるわけがない。
素晴らしい論文や素晴らしい評価を受けたいがために「自律ロボットシステム」を作るのなら、間違いなく完成しないだろうね。
理由は簡単。
半生物には同じ答えが無いから。論文好きの学者さんが嫌う話だよね。同じ答えが無いのを分かっているのに同じ答えに寄せる。それは研究から一脱した行為だと思うよ。マジで。
赤ちゃんが「ba-bu」と言って不正解と見なす、その構造が存在し続ける限り、自律など出来ないということ。
研究とは「ba-bu」がどの時点で、どういう経過を得て「mama」に収束するのかを観る事であって、ラベルや評価、最適化させることではないんだよ。 知能とは経験の後に立ち上がる意味付けであって、はじめから意味に寄せるものではない。意味を先にして評価する知識ならその辺の書籍で十分でしょ。
まぁ、これは論文じゃないので、好き勝手に書ける。
失敗は失敗でそのまま残すし、成功は成功で次のステップに移れる。
話は、外れたが、
感じたことを自分の意志で発話する仕組みから外れていたのなら、それは自律ではない。
自律とはロボットが自分の意志で発話し、自分の意志で行動をしているか、もし、外部命令が存在した場合は、即座に外部命令介入として自律を認めるわけにはいかない。
人間は心臓が動いてる回数分ペラペラ喋っているわけではない。
痛み専用言語を別系統にすること
悲鳴専用プールを用意すること
条件分岐で通常言語から痛み言語へ切り替えること
一度崩れたら通常へ戻りにくくすること
外から「こういう時はこの声」と決め打ちすること
わざとらしい演出のために発話を分岐させること
これらは全部、発話を生きたものではなく、
胡散臭い分類済みアルゴリズム にしてしまう。
---------------------------- Atronの発話 --------------------------------
今のAtronの原子語、発話seedの分類
今揃っていて実際に発話しているのは
脅威 / 不快 / 低い
速い / 大きい / 高い
穏やか / 柔らかい / 暖かい
類似性 / 社会性 / 好奇心
安心
ここまでは未経験のAtronでも無事に動いてくれている。
曖昧な基準があるから動く。
まぁでも、ロボットが赤ちゃんなので、社会性はほぼ何も触れず０だ。
類似性もまだ、仲間が居ないので０だ。
今回追加するのは
痛み / 苦悩 / 泣き
痛みは痛みだよ身体への刺激による信号。
苦悩は脳の暴走
泣くとは交感神経（緊張・興奮）」から「副交感神経（リラックス）」へと急激に切り替わっている状態。
笑う / 嬉しい/ 好感
笑うとはセロトニン、ドーパミン、エンドルフィンなどの「幸せ物質」が大量分泌され、幸福感とリラックスが同時に高まる状態
嬉しいとは主に「幸せホルモン」と呼ばれる神経伝達物質が分泌され、脳の報酬系と呼ばれる領域が活性化している状態
好感とは脳が報酬系と呼ばれる神経系を活性化させ、ドーパミンなどの神経伝達物質を分泌して「快」の状態になっていること
理屈はそうだけど、分泌が先ではなく、曖昧な自分の基準との差で立ち上がる。それによって上の分泌が行われ、次の行動を左右させる。場合によっては順番も変わる。
＋
食欲（ロボットの場合も電力の消費、充電を含める）
赤ちゃんのうちは、これでいい。増やしたからどうなるってわけでもない。
成長すると
内部倫理の他、外部によって影響されていく社会欲、評価欲、自己防衛、承認欲求などが芽生えてくる。
これは興味あるよね。
今のworldではなく、次のworldは中世の学校なので、外部評価に対してロボットがどういった反応を示すか楽しみでしょうがない。
0 件のコメント:
コメントを投稿