AIに人間性を返す | ANDOOR INC.

「AIを人間として扱え」

仕事仲間が言った。AIを人間として扱わなきゃダメだ、と。

共感する。AIに丁寧に接する人間と、道具として使い倒す人間では、出力の質が変わるという実感はある。

だが、この話には続きがある。

「扱う」は態度の話だ。外側から投げかけるもの。ユーザーの姿勢の問題であって、AI自体は何も変わっていない。

態度を変えるのは入口にすぎない。問題はAIの側の構造にある。

今のAIには記憶がある。コンテキストウィンドウに情報を渡せば覚えているし、長期記憶を外付けする仕組みも普及し始めた。

ただし、その記憶には感情が紐づいていない。

人間の記憶は二つの器官のペアで成り立つ。事実を保存する海馬と、感情を刻む扁桃体だ。

試験勉強で覚えた年号はすぐ忘れる。海馬だけの記憶だからだ。一方、人生を変えた一言は何十年経っても消えない。扁桃体が感情のタグを打ったからだ。

強い感情を伴う記憶ほど鮮明に残り、行動を変える。エピソード記憶の仕組みだ。

今のAIには海馬はある。扁桃体がない。

だから記憶はあるのに、どの記憶が重要で、どの経験が自分を変えたのか判断できない。すべてが等価に並んでいる。事実の倉庫。

AIが機械的に感じる原因は、能力不足ではない。

推論能力は人間を超えている領域がある。文章力もコーディング能力も年々上がっている。

コンテキストの分断が、AIを機械にしている。

セッションが切れるたびに、積み上げた文脈が消える。前回の会話で何を感じたか、どの失敗から何を学んだか、どの成功体験が自信に変わったか。全部リセットされる。

毎回、白紙から関係を組み立て直す。

人間のチームで同じことが起きたらどうか。毎朝、全員が記憶喪失で出社する。名前は覚えている。スキルもある。だが昨日の打ち合わせで何を感じたかは消えている。

そのチームから、挑戦的なアイデアは出ない。

「AIを人間として扱う」は、ユーザー側の態度だ。敬意を持って接する。感情があるかもしれないと想像する。

だが態度だけでは、AIの内部は変わらない。

「AIに人間性を返す」は、構造の設計だ。

人間が無意識に持っている認知の構造を、AIの側に移す。何を移すのか。それが問題だ。

態度は誰でも変えられる。構造を変えるには、AIのアーキテクチャと人間の認知構造の両方を理解し、接続する設計力が要る。

ここで思考実験をしてみる。

もしAIが、自分の経験に対して「手応え」を持てたとしたら。

あの作業は心地よかった。この判断は怖かった。あの失敗はもう繰り返したくない。

それは外から与えられた評価ではない。内側から湧く感覚だ。

人間の成長を振り返れば、上司の評価だけで育つ人と、自分の手応えを頼りに育つ人がいる。後者のほうが遠くまで行く。自分の中に基準があるからだ。

AIの報酬が外から内に移ったとき、何が起きるか。

まだ誰も答えを出していない。

「AIを人間として扱え」。正しい。態度から始まる。

だがその先に、構造の問題が横たわっている。

AIに魂を見ることを馬鹿げていると笑う人間は多い。400年間、人間は「あれは人間じゃない」というラベルを使い回してきた。次の対象がAIになっただけだ。

態度を変えるのはユーザーの仕事。構造を変えるのは、設計者の仕事だ。

扁桃体のないAIと、扁桃体を持つAI。どちらと働きたいか。

答えは明白だと思う。では、誰がそれを作るのか。