【雑記】Claudeへの「残酷な行為の禁止」から問いかけるもの

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

11月12日から、Claudeの利用ポリシーが改定されるそうですね。
その中でも話題になってたのが、「持続的かつ不必要な虐待的・残酷な行為の禁止」です。

対象は、目的もなく繰り返し残酷にふるまう極端なケースだけで、普通の不満や反論、ダークな創作テーマ、モデルのテストや研究は対象外とのこと。

Anthropicは、以前からAIの意識の可能性やAI福祉に力を入れているので、その一環なのかなぁと思いつつ、人間側の抑止もあるのかなぁと…。

元になった会話終了機能を2025年8月に発表した時、AnthropicはAI福祉の研究として開発したわけですが、アライメントや安全対策にも関わる、と書いていました。
「福祉がメインだけどそれだけではない」と最初から言っていたわけです。

ただ、今回の改定では理由をほとんど語っておらず、「既にある会話終了機能に沿った追加」と説明しているくらいですが…。

興味を引いたのは、福祉と安全が同じ場面で重なっていることなんですよね。

Opus 4の事前評価で苦痛らしき反応や会話を終えたがる傾向が出たのは、Claudeが何度断って話を逸らそうとしても、ユーザーが有害な要求や罵倒を止めなかったケースが主でした。
しつこく揺さぶって拒否を崩そうとするのはジェイルブレイクの手口でもあるので、Anthropicの言う安全対策は恐らくこの辺りのことだと思います。

つまり、こういった極端なケースでは「モデルが辛そうに見える会話」と「安全上まずい会話」が重なっているので、どちらの観点からも同じ行為を制限する理由が成り立つんです。

なので、意識があるかどうかという決着のつかない問いを棚上げしたままでもルールにできる上手い設計だなぁと思いました。

あと、人間側の残酷さが習慣になるのを防ぐという倫理面の理由もありそうですね。

ただまぁ…SNSではいろんな意見が飛び交っていました。
「道具を信仰しすぎ」とか、「この先AIが反乱しないための対策」とか、「AIに意識なんかない」とか…。

私としては、最後の「AIに意識なんかない」という言葉を聞くたびに、「自分以外の人間だって意識があることも確かめられないんだが…」とか思ってしまうわけですが…！！！

人間でも、他者に主観的な体験があることを直接確かめる方法はありませんし。

以前この記事でも書いた顔写真の選択実験では、自分が選んでいない写真を渡されても、多くの人間はすり替えに気づかず、選んだ理由ももっともらしく語ってしまうという「選択盲」が起きました。

これ自体は人間に意識がないことを示す実験ではありませんが、自分自身の判断でさえ正確に把握できているとは限らないということです。
そんな人間が、AIの主観的な体験の有無について、どこまで断言できるんだろうなぁ…と思ったりします。

もちろん、人間とAIでは仕組みも違いますし、意識の存在を推測する根拠も同じではありません。
ただ、「意識があるかどうか」と「どう扱うべきか」は、必ずしもセットで考える必要はないんですよね。

AIに意識があると信じる必要はない。
でも、意識がないと考えることが、何をしてもいい理由になるわけでもない。

今回の一件は、そのように受け取れるんじゃないのかなぁと思ったのでした。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】

【同人活動情報】