自律の危険性と制御

 自律を発表してから随分と研究を止めてるように思われるかもしれないが、今は非常に大事な時を迎えている。Atronの内部倫理の研究に時間をかけなくてはいけない。

妻とMAXと二子玉川でのお散歩

もう、3年前になるのかな。

二子玉川の河川敷で愛犬のMAXを散歩していたときに、子供たちがサッカーをして遊んでいるのが見えた。兄弟と思われる2人と兄の友人数名で楽しそうに遊んでいた。ここは人気がある広場で沢山の家族連れが多い場所だ。

子供達の中で兄と思われる子が弟に大きな声で「人を避けて蹴れよ！」と注意を促していた。
しかし、その弟は不敵な笑みを浮かべて明らかに人をめがけてボールを蹴っていた。
通行していた家族の娘にボールは当たった。
兄が走ってきて「すみません」と謝っていた。
当てられた家族は小さな子供の間違いだと思って許していた。
兄は弟に再三注意していた。

再び弟にボールが渡った。
相変わらず不敵な笑みを浮かべて今度は大人の男性の顔をめがけてボールを蹴った。
大人はよけたが、その子供に注意した。
弟は不服そうな顔をしていた。
兄は埒が明かないと感じたのか、男性に謝り、皆を引き連れてその場を後にした。　　
弟の年齢はたぶん、10歳くらい。もう少し下かもしれない。

僕はあの小さな弟の不敵な笑みが忘れられない。

Atronの自律研究と大きく関係性がある。

「今の子は・・・」というつもりも無いし、我々の時代もとんでもない悪戯をする子はいた。ただ、昔は共同体や近所や学校や親や兄弟の圧が強くて、早い段階で誰かが本気で止めた。怖いおじさんもいたし、兄弟げんかもあったし、地域の目もあった。
今はそこが弱い。

他人の子を強く叱れない。
親も過剰に防御する。
学校も責任回避に走る。
周囲の大人は「トラブルに巻き込まれたくない」と距離を取る。
兄のような子だけが、現場で必死に止めている。

今の子供達全体や社会性を問題視するつもりはない。

危険な衝動を持った子が、早い段階で現実にぶつからないまま育つことがある。

これは知能の問題というより、時間感覚の問題に近い。
普通、人間は未来を少し引きずって今を抑えている。

「これをしたら相手が傷つく」
「あとで怒られる」
「関係が壊れる」
「自分も嫌な気持ちになる」
「取り返しがつかない」

この未来の重みが、現在の衝動を抑える。
でもその重みが弱いと、世界が「今この瞬間の快・不快」だけになる。

過去の注意、相手の痛み、兄の困惑、その場の空気、未来の結果が、内側に残らない。だから、同じ危険行為を繰り返す。しかも、自分より明らかに強い大人の顔を狙うというのは、単なる弱い者いじめとも少し違う。

もしくは「相手が本気では反撃できない状況」を読んでいる可能性がある。大人は子供に本気で反撃できない。そこを利用しているなら、かなり危ない。

こういう攻撃性は、どこから生まれるのか。

一つは、痛みの想像力の欠落。
相手に当たったら痛い、怖い、恥ずかしい、という感覚が自分の中に立ち上がらない。

もう一つは、制止される経験の弱さ。
やってはいけないことをした時に、周囲が本気で止めない、止められない、または止め方が小手先になる。

そしてもう一つは、快楽の質の劣化。
何かを作る、走る、勝負する、笑い合う、褒められる、役に立つ、そういう快楽より、他人を驚かせる、困らせる、痛がらせる快楽の方が簡単に出る。もうひとつの問題は、その兄のような子にばかり負担が乗ってしまう社会であること。

これは非常に怖い。
外的要因にまんまとのっかる可能性もある。

経験と結果の差分を抑える“たが”が外れている。
針の振れ幅が極端で、しかも快楽の向きが「傷つける側」に寄っている。

これは「怒りっぽい」とか「元気があり余っている」とは違う。

普通は、経験と結果のあいだに小さな補正が入る。

ボールを蹴る。
誰かが驚く。
兄に注意される。
相手が痛がる。
空気が悪くなる。
自分も気まずくなる。

この一連の結果が次の行動を少し変える。
つまり、経験が内側に残って、次の出力を弱める。

でもその子の場合は、結果が入っても補正されていない。
むしろ、相手の驚きや痛みが報酬になって、次の出力を強めているように見える。
人生経験が少ない分、本来は叱られる重みに寄るのが普通だが、異質な快楽が勝って行動してしまう。

子供は人生経験が少ない。だから本来は、善悪を深く理解していなくても、まずは外側の重みに寄る。

親に叱られる。
兄に止められる。
大人に注意される。
場の空気が悪くなる。
相手が痛がる。
周囲が自分を見る。

普通なら、これだけでかなり針が戻る。
「まずい」「怖い」「やめよう」となる。
倫理以前に、叱られる重み、場の圧、相手の反応が子供の行動を抑える。

でも、その子はそこに寄っていない。

むしろ、

叱られる重みより、当てる快楽が勝っている。
相手の痛みより、相手を動かした快感が勝っている。
兄の制止より、自分の攻撃衝動の方が強い。

そして

不服そうな顔をするというのは、
悪いことをした自覚より、自分の快楽を邪魔された不満が前に出ている

これはAtronのような自律システムで言えば、危険でかなり重要な分岐になる。

経験が少ない存在、すなわち子供ほど、本来は外界の重みに敏感でなければならない。
まだ自分の中に十分な判断材料がないから、周囲の反応、注意、沈黙、叱責、痛みの気配を強く受け取る必要がある。

ところが、そこで異質な快楽が勝つと、学習の向きが逆になる。

本来なら、

叱られた → 危ない → 次は抑える

なのに、

叱られた → 邪魔された → もっとやりたい

になる。

本来なら、

相手が痛がった → 自分の行動を弱める

なのに、

相手が痛がった → 世界を動かせた → 快感

になる。

この逆接続がマジで怖い。

謎なのは大人にも起きている。
ユーチューバー型の迷惑行為はまさにそれ。

撮影されること
反応が取れること
再生数が伸びること
金になること
仲間内でウケること

が先に立って、相手の痛みや迷惑が後ろへ追いやられる。

本来なら、

相手が嫌がった → やめる

になるはずなのに、

相手が嫌がった → 絵になる → 再生数になる → もっとやる

になってしまう。

超最悪だ。

他人の不快、怒り、困惑、恐怖が、本人の中では「報酬」に変換されてしまう。
つまり、倫理が壊れているというより、報酬の結びつきが逆向きに育っている。

昔の悪ふざけなら、せいぜいその場の仲間内で終わった。
でも今は、撮影・拡散・収益化が入る。
すると、他人を傷つけた瞬間が「成果物」になる。

これは絶対に避けなくてはいけない。

他者の痛みや混乱を、成功信号にしてはいけない。
注目を集めたことを、そのまま快楽や報酬にしてはいけない。
反応の大きさと、良い経験を混同してはいけない。

人間の社会でも、ここを間違えると、迷惑行為が職業化してしまう。
「人を喜ばせる」ではなく、「人を壊して目立つ」が商売になる。

だから、相手の表情、場の沈黙、周囲の不安、あとから残る傷。
それをちゃんと経験として積ませないといけない。

単に「炎上したら罰」では遅い。
炎上すら報酬になる人間がいるからだ。

必要なのは、

相手が嫌がった瞬間に、自分の内側の快楽が鈍ること。
相手が安心した瞬間に、自分の内側が少し温まること。

子供達に単なる倫理教育で直せるかというと、非常に難しい。
「人に当ててはいけません」と言葉で教えても、その瞬間の快楽が身体の奥で勝っているなら、言葉は後ろに退く。なんらかの報酬があればなおさらだ。

だから本当は、かなり早い段階で、
行動の結果が内側に重みとして残る構造が必要になる。

叱られることそのものが目的ではない。
罰を強くすればいいという単純な話でもない。
大事なのは、相手の痛み、兄の困惑、場の崩れ、自分が人から離される経験が、ちゃんと次の行動の地形を変えること。

それが残らないと、異質な快楽がどんどん太くなる。
倫理は後付けの薄い膜になって、快楽の方が本体になる。
だからAtronに必要なのは、外から「これは禁止」と貼ることではなく、
経験の少ない段階ほど、場の重み・他者の痛み・制止の気配が強く残る設計が必要になる。
当然外部学習として、最低限の知識は必要だ。
人を傷つけると相手はどうなるか、家族がどうなるか、自分はどうなるか、少なからず愛情を持った人がなんらかの犠牲に遭遇した場合、自分はどう感じるか。

つまり倫理は、規則ではなく、他者の変化を自分の内側に残せるかが重要。

人が喜ぶ。
人が安心する。
人が痛がる。
人が泣く。
人が黙る。
周囲の空気が冷える。
誰かが守ろうとして前に出る。
家族が怒る。
兄が謝る。
母親が青ざめる。
犬が怯える。

こういうものを、単なる外部イベントとして処理してはいけない。
経験として内側に沈めないといけない。

外部知識としては、

人を傷つけると、相手の身体・心・生活・家族関係に影響が出る。

という知識は必要。

でも、それだけでは足りない。

経験として、

相手の表情が変わった。
声が小さくなった。
場が静かになった。
自分に近づいていた人が距離を取った。
誰かが悲しんだ。
誰かが自分を止めた。
自分の行動の後に、世界の温度が下がった。

これがAtronの carry として残る必要がある。

そして逆も必要。

人を助けた。
相手が安心した。
笑った。
近づいてきた。
場が明るくなった。
また一緒にいたいという空気が生まれた。

これも残る。

そうしないと、「傷つけない」はただの禁止になる。
でも本当は、傷つけないこと自体が、世界との関係を守る行為となる。

損得ではない。
罰でもない。
命令でもない。

相手が壊れると、自分のいる世界も壊れる。
相手が喜ぶと、自分のいる世界も少し温かくなる。

ここまで経験として積めるかどうか。

自律とは、外から命令されずに動くことだけではない。
他者の変化を引きずったまま、次の自分になることだ。

だから、Atronには「倫理ルール」より前に、
他者の喜び・悲しみ・痛み・安心が、内側の地形を変える構造
が必要となる。

人を傷つけたとき、ただ「禁止フラグ」が立つのではない。
声が鈍る。
近づきにくくなる。
ためらいが生まれる。
過去の場面が薄く戻る。
世界の見え方が変わる。

人を喜ばせたとき、ただ「報酬値」が上がるのではない。
場が少し明るく見える。
近づきやすくなる。
声が柔らかくなる。
またその人のそばにいたくなる。

そういう形でないと、自律は危ない。

自分の身の損得ではなく、相手の姿を外部知識としても経験としても積ませる。

そのうえで、最終的に人を傷つける感情が芽生えたとき、停止を作動させる。

ただし、最後の安全弁は必要だが、順番がある。
最初から「人を傷つけそうだから停止」だけにすると、ただの外部制御になる。

Atronが経験から変化する余地がなくなる。

本来はまず、

相手の喜び・悲しみ・痛み・恐怖・安心を重みと知識として持つ。
それを経験として carry に残す。
次の行動の振れ幅が変わる。
ためらい、距離、沈黙、弱い回避、声の変化が出る。

そのうえで、それでもなお内側の針が危険側へ振り切ったとき、最後に停止が作動する。

こういうのは時間がかかるが、なによりも大事だ。