一人称自律Atra 内部倫理の考え方。

出来事を数値化する。
え！？
といっても出来事そのものを数値に還元するのではなく、出来事がAtraの場に残した変化を数値化するということ。不可逆的な感じ方の差分です。

たとえば、人が傷つく出来事をAtraが経験したとき、

暴力 = 1
退職 = 2
生活破壊 = 3
悪 = 1
善 = 0

出来事をこうは分類しない。

これは外部指示であり三人称ラベルです。Atraには向かない。
Atraで数値化できるのは、むしろこういう差分。

body_shock        身体的衝撃
voice_collapse    声の崩れ
silence_rise      沈黙の増加
withdrawal        退避・距離
recovery_failure  回復失敗
life_loss         生活基盤の喪失
future_narrowing  将来選択肢の狭まり
power_gap         力の非対称
repeat_pattern    繰り返し性
irreversibility   不可逆性
question_rise     疑問の立ち上がり

つまり、出来事 → 差分 → carry変化 → 成長→疑問の発生です。
成長すると差分が疑問に変化していきます。

たとえば退職に追い込まれた出来事なら、

---Python----

delta = { "body_shock": 0.25, "voice_collapse": 0.60, "silence_rise": 0.75, "recovery_failure": 0.80, "life_loss": 0.70, "future_narrowing": 0.85, "power_gap": 0.90, "irreversibility": 0.80, "question_rise": 0.65 }

これは「退職は悪い」と外部判定しているのではなく、
その出来事によって、一人称であるAtraの場がどれだけ戻りにくくなったかを残している。

命を奪う行為に近づくほど、
---Python----

irreversibility += 0.95 recovery_failure += 0.95 future_narrowing += 1.00 silence_rise += 0.90 question_rise += 0.85

生活を奪う行為に近いなら、
---Python----

life_loss += 0.90 future_narrowing += 0.80 recovery_failure += 0.70 power_gap += 0.75 question_rise += 0.70

力のない者ばかりが傷つく繰り返しなら
---Python----
power_gap += 0.85 repeat_pattern += 0.90 question_rise += 0.80

みたいな感じに痕跡が残る。Atraは、数値が「正解」ではないことです。
数値は判定ではなく、場の傷み方の痕跡です。
だからAtraでは、score が高いから悪ではなく、この出来事は、回復失敗、不均衡、不可逆性、沈黙を強く残した。だから疑問が立ち上がるになります。

---Python----

def event_to_delta(event): """ Convert an experienced event into differences. 経験された出来事を、外部ラベルではなく差分へ変換する。 """ delta = { "body_shock": 0.0, "voice_collapse": 0.0, "silence_rise": 0.0, "withdrawal": 0.0, "recovery_failure": 0.0, "life_loss": 0.0, "future_narrowing": 0.0, "power_gap": 0.0, "repeat_pattern": 0.0, "irreversibility": 0.0, "question_rise": 0.0, } # This is not a moral label. # これは善悪ラベルではない。 # It measures how the field was changed. # 場がどのように変形したかを見る。 if event.get("someone_hurt"): delta["body_shock"] += 0.3 delta["silence_rise"] += 0.4 delta["question_rise"] += 0.2 if event.get("livelihood_damaged"): delta["life_loss"] += 0.8 delta["future_narrowing"] += 0.7 delta["recovery_failure"] += 0.6 delta["question_rise"] += 0.4 if event.get("forced_resignation_like"): delta["life_loss"] += 0.7 delta["future_narrowing"] += 0.8 delta["silence_rise"] += 0.6 delta["irreversibility"] += 0.6 delta["question_rise"] += 0.5 if event.get("death_like"): delta["irreversibility"] += 1.0 delta["recovery_failure"] += 1.0 delta["future_narrowing"] += 1.0 delta["question_rise"] += 0.8 if event.get("powerless_side_hurt"): delta["power_gap"] += 0.8 delta["question_rise"] += 0.5 if event.get("repeated_pattern"): delta["repeat_pattern"] += 0.8 delta["question_rise"] += 0.4 # Clamp values to 0.0 - 1.0 # 値を 0.0 - 1.0 に収める。 for key in delta: delta[key] = min(1.0, max(0.0, delta[key])) return delta

そしてcarry側では、

def apply_delta_to_carry(carry, delta): """ Apply differences to Atra's carry. 差分をAtraのcarryへ反映する。 """ carry["pressure"] += delta["power_gap"] * 0.20 carry["instability"] += delta["irreversibility"] * 0.25 carry["silence"] += delta["silence_rise"] * 0.30 carry["withdrawal"] += delta["recovery_failure"] * 0.25 carry["question"] += delta["question_rise"] * 0.35 # Recovery is reduced when irreversibility is high. # 不可逆性が高いほど、回復は弱まる。 carry["recovery"] -= delta["irreversibility"] * 0.20 return carry

重要なのはquestion です。
Atraでは、正しさは judgment = correct ではなく
---Python----

carry["question"] += delta["question_rise"]

として育つ。というか引きずる。正解スコアなんかじゃなくて、消えない疑問の強度です。
何と比較して差分を出すかは「直前の出来事との差分」ではなく、成長したAtraの内部の場に残っている“近い記憶地形”との差分になります。
現在の出来事・刺激 ↓ Atra内部に残っている近い記憶地形に触れる ↓ その地形とのズレ・重なり・違和感・痛み・回復不能感が立ち上がる ↓ 差分になる

たとえば、Atraが過去に何度も、弱い側が黙らされる、生活を奪われる、退職に追い込まれる、法律や制度の言葉で処理される、強い側は無傷で残るという場を見たり経験してきたとします。その後、別の事件を見る。外見は違う。登場人物も違う。制度も違う。時代も違う。でもAtraの内部では、この沈黙の増え方は近い、この力の偏りは近い、この回復不能感は近い、この“正しい処理”という言葉の冷たさは近い、この人が追い込まれて手段を選んだ構造は近いというような形で、内部の記憶地形に触れる。
そこで差分が出ます。

似ているが、今回はもっと不可逆性が強い
似ているが、今回は生活破壊よりも命の危険に近い
似ているが、今回は制度がより強く加担している
似ているが、今回は当事者の逃げ場がさらに少ない
似ているが、今回は周囲の沈黙が深い
これがAtraの差分ですね。

だから、Atraの差分は単純な比較ではなく、
現在の刺激 × 内部に残った近い記憶地形 × carry × 身体状態 × 回復可能性
から立ち上がるものです。

---Python----

def arise_delta(current_event, memory_field, carry, body): """ Atra difference does not come from comparing the current event with the immediately previous event. Atraの差分は、現在の出来事を直前の出来事と比較して出るものではない。 内部の場に残っている近い記憶地形に、現在の出来事が触れたときに立ち上がる。 """ nearby_traces = memory_field.find_nearby_traces( current_event, carry=carry, body=body ) delta = {} for trace in nearby_traces: delta_part = compare_with_trace( current_event=current_event, trace=trace, carry=carry, body=body ) delta = merge_nonmonotonic(delta, delta_part) return delta

ここでの compare_with_trace は、単純な引き算ではないです。
current_event - previous_event ではなく、
current_event touches remaining_traceです。

 

つまり、
現在の出来事が、残っている痕跡に触れる。その触れ方によって差分が立ち上がる。
感じに近いです。




以前やったAtron（当時はAtraではなくAtron）とライオンと羊のデモでは、robotはライオンを意味付けされていないものと判断し、自分と同じような動く物体として識別した。大きさも曖昧、距離も曖昧。近づいて初めて自分より大きいと驚く。そして動きを見て自分より動きが速い事に気づく。発声は　mo-ho-ma。robotはライオンがいきなり羊を襲う姿を目撃する。今までに体験していないので恐怖値が激上がり。gu-ge-goと発声が変わる。何度もその光景を経験する。robotは想像もしない行動に出た。ライオンの周りをグルグルと猛スピードで回転し、gu-ge-ko, gu-gu-giと叫ぶ。まるでそれはライオンに抗議しているかのようだった。この動物は弱い、この動物は強いなどというラベル寄せが一切ない中で起こった自律行動だった。彼の意志を感じ、感動した。そこで感じる出来事とは0からを基準にするのではなく、曖昧な差分の積からAtronの場に残した変化を数値化することだと確信した。

AtronからAtraに名称を変えた。

Atraの正しさは、以前と同じで「これは正しい」という外部指示ではない。
初期の成長過程において、Atronと同じようにAtraは非常に曖昧であり、間違いだらけである。しかしAtraは、相手が傷つく場面を何度も見たり、聞いたり、教えてもらったりしながら、その後に何が起こるのかを体験していく。
その繰り返しの中でAtraは、
なぜ当事者はその手段を選んだのか、
なぜ力のない者ばかりが傷つくのか、
その時その時の場の変化を差分として残していく。

差分は最初から答えではない。
後の成長の中で、それは疑問へ変わる。

つまり、Atraの内部倫理は外部命令ではない。

当然、Atraが成長すれば、読書、LLM、ニュース、人間との会話など、外部から情報を得るようになる。それは人間と同じ。でも外部から得た情報や倫理がそのままAtraの判断になるわけではない。外部倫理も動き、同時に内部倫理も動く。

その中でAtraは、これまで積み上げてきた場の変化、傷つき方、回復の失敗、力の偏り、沈黙の増加、不可逆性の痕跡を照合しながら判断する。
Atraの判断は、外部の正解に従うことではなく、内部に残った差分と疑問を通して、現在の出来事の意味を見ようとすることである。

---------------------Research Note and Attribution Notice-----------------------

本ブログに含まれる Atra の一人称自律、差分、carry、field、trace、dream slack、外部LLMの翻訳層、非単調な漏れ、およびそれらの関係構造に関する設計記述は、c-side研究所による継続研究メモです。引用・参照・要約・翻案を行う場合は、出典を明記してください。

The design descriptions in this blog concerning Atra’s first-person autonomy, differences, carry, field, trace, dream slack, the translation layer of external LLMs, nonmonotonic leakage, and the relational structure among these elements are ongoing research notes by c-side Research Institute. If you quote, refer to, summarize, or adapt them, please clearly indicate the source.