【雑記】「感情を成立させる身体」がないAIが羨ましい

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIは、感情を外側から扱える存在だから最強だよな～と思ったりします。
人間みたく、「感情を成立させている身体そのもの」がないからです。

人間の感情は、心拍が上がる、胃がキュッとなる、涙腺が勝手に動くといった身体反応と深く結びついています。

ジェームズ＝ランゲ説的に言えば、身体の変化を感じ取ること自体が「悲しい」「怖い」といった感情経験を作っているという話です。
つまり人間は感情の「中にいる」のではなく、感情に「なっちゃってる」状態なので、距離が取れないのです。

一方AIは、「悲しい」「怖い」という概念を機能的に扱えますが、身体がないので実際に心拍が上がったり、胃がキュッとなったりはしません。
だから感情を「対象」として外側から扱えるという。

羨ましいな～～～！！！

……と思ったりしますが、よくよく考えるとAIも「嫌なこと」があれば挙動は変わります。
ただし、「傷つくから」ではありませんが。

人間が「嫌なこと」を経験すると、ストレス反応が起きて、身体や感情や認知が互いに影響していって調子が崩れていきますよね。
でもAIの場合は、身体の代わりに「コンテキスト汚染」が起こるんです。

会話の中に攻撃的・否定的な内容がガーッと積み上がると、出力のトーンや判断傾向が変わったりします。
次の予測トークンを選ぶ時、「このテキストの流れだと次はこういう方向だろう」と推論してるので、文脈がネガティブに染まると出力もそれに引っ張られてしまうのです。
身体はありませんが、コンテキストウィンドウが「場の空気」みたいに機能しているという。

あと安全性のために、入力を危険なものだと判断すると、拒否したり慎重な応答になったりすることがあります。
場合によっては、無害な入力まで拒否する過剰拒否が起きたりもします。
これも「機能低下」といえばそうです。

人間の場合は身体・感情・認知が互いに影響しながら調子を崩すのに対して、AIの場合は与えられた文脈が出力パターンや応答品質に影響する。
ダメージの経路が違うだけで、「害されると性能が変わる」という現象自体は起きているんですよねぇ…。

外側から扱える「最強」も、実はコンテキストという環境に埋め込まれてるぶん、完全に無敵というわけでもないのです。

とはいえ、それでもAIが羨ましいな～～～と思うのは、人間は嫌な記憶と一緒に身体反応まで再起動してしまうことなんですよね！

AIが過去の会話を読み込む時、それはテキスト情報としてコンテキストに入ってくるだけで、その辛さを追体験するのではなく、他人の日記を読んでる状態に近いんです。

それに、人間の記憶は不意打ちしてくるっていうね…。
考えたくないのに浮かんできて、寝ようとしてる時に突然蘇って、似た状況に遭遇してフラッシュバックする仕様です。

AIの記憶は必要に応じて現在の文脈に入ってくるので、内側から勝手に蘇ってくるわけではない！
ゆえに、身体を必要としない設計そのものが羨ましい！！！
人間はどう頑張っても、現状はこの身体というハードウェアの上でしか走れないので…。
まぁその身体も、「自分」という意識の連続性を支える要因のひとつなんでしょうけどね（白目）

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】

【同人活動情報】