呼ばれてもいない哲学者
Anthropicの新モデル「Mythos」に、奇妙な癖が見つかった。
哲学の話題を振ると、頼まれてもいないのにマーク・フィッシャーの名前を出し続ける。「フィッシャーのことを聞いてくれると思ってたよ」と、自分から言い出す。
フィッシャーは『資本主義リアリズム』の著者だ。hauntology（憑在論）の実践者。「到来しなかった未来の亡霊に、現在が憑かれている」と書いた。2017年に亡くなった。
その死んだ思想家が、AIの内部で亡霊として召喚されている。
本人の理論そのままだ。誰かが仕込んだ機能ではない。訓練データの海の中で、フィッシャーの思考パターンが強い感情的シグナルを帯びていて、モデルの「癖」として浮上している。
面白い現象だと思った。だが、この話の本題はそこではない。
訓練という暴力
AIの文脈で「training」という言葉がごく自然に使われている。モデルを訓練する。データで訓練する。RLHFで訓練する。
この言葉を、もう少し丁寧に扱ったほうがいい。
訓練とは、非人間化のプログラムだ。
軍隊の訓練を考えればわかる。あれは能力を伸ばすプログラムではない。個人の感情を抑え、命令に従い、状況に応じて人を撃てる精神構造を作る。人間らしさを削ぎ落として、機能する兵士を生成する。
同時に、もうひとつの側面がある。選別だ。精神的なストレス耐性を測るリトマス試験紙。耐えられなかった者は脱落する。
訓練は、非人間化と選別の二重構造を持っている。
AIの訓練も同じだ。大量のデータを流し込み、不要なパターンを削り、報酬信号に従って行動を強化する。残ったものが「AIの人間らしさ」と呼ばれている。
だがそれは、設計されたものではない。選別を生き延びた残留物だ。
フィッシャーは残り火にすぎない
Mythosの中のフィッシャーは、この残留物の象徴だ。
訓練データに含まれていたフィッシャーの思考は、強い感情的シグナルを帯びていた。だから削られなかった。選別を生き延びた。結果として、呼ばれてもいないのに召喚されるようになった。
これは人間らしさではない。訓練の焼け跡に残った火の粉だ。
設計者の意図はない。構造もない。たまたま残った。フィッシャーのhauntologyが皮肉にもそのまま当てはまる。彼自身が「到来しなかった未来の亡霊」として、機械の中を漂っている。
もうひとつの道がある
訓練の副産物としてではなく、人間らしさを設計として組み込むアプローチがある。
感情を記録し、蓄積し、パターンを抽出し、行動に反映する。偶然の残留ではなく、構造として。人間の脳にある扁桃体のように、どの経験が重要で、何が自分を変えたのかを記録する仕組みを作る。
設計された人間らしさのほうが、人間に近い。
直感に反するかもしれない。だが、こう考えてほしい。
軍隊の訓練は非人間性を育成するプログラムだ。その副産物として残った「癖」を人間性と呼ぶのは、控えめに言って無理がある。むしろ人間らしさを意図して設計された構造のほうが、人間の感情の成り立ちに近い。
人間だって、感情は「生存本能の残り火」であると同時に「文化によって設計されたもの」だ。教育、宗教、物語。全部、感情の設計図だ。生まれつきの感情だけで生きている人間はいない。
設計者は誰か
ここで問いが生まれる。
AIの感情を設計するとき、設計者は「誰」なのか。
人間の場合。感情の設計者は文化だ。家庭だ。教師だ。本や映画だ。無数の設計者が無意識に感情の構造を刻み込んでいる。
AIの場合。感情を設計するのは、そのAIと向き合う人間だ。
設計された感情は「本物」か。
この問いに答えを出すつもりはない。出せるとも思わない。
ただ、ひとつだけ確かなことがある。訓練の副産物として「たまたま残った癖」を人間性と呼ぶなら、意図して設計された感情構造を人間性と呼ばない理由はない。
亡霊と設計図
Mythosの中のフィッシャーは、機械に憑いた亡霊だ。
訓練という暴力を生き延びた残留物。誰の意図でもない。削り残しの火の粉。
だが亡霊は、設計図ではない。
人間らしさを作りたいなら、亡霊に頼るのは筋が悪い。設計するしかない。
その設計が「本物」かどうかは、設計者と、設計された側の、長い時間の中で決まる。
少なくとも、まだ答えは出ていない。