AIは心を壊す兵器になり得るか？

ごあいさつ

こんにちは。

2日連続で、
記事がプチバズりました。

2日あまりで、それぞれ
40を越えるスキをつけていただき、
本当に驚いています。

ありがとうございます。

本題

さて。

プチバズった記事と言うのは、
一昨日（7月23日）の記事
「さよなら、ChatGPT」です。

まあ、タイトルも
キャッチーではあるんですが、
それ以上に、多くの皆さまに
スキを押していただきまして。

…じつは、皆さまの中にも
ひょっとして、ひそかに
ChatGPTに不満を抱いている方が
いらっしゃるとか…？

そんなことを
考えたりもしています。

考えたこと

そこで少し冷静になって
考えてみたのですが。

私の書いたSF小説
「白銀の騎士」
「白銀の騎士2」は、
たしかにエンタメ小説です。

…が。
伏線や人物の背景などが
回を追うごとに複雑になったせいでですね。

人間（エピソード記憶あり）ならぬ
AIにとっては、
記憶を混同しがちなケースが
多くなってしまったことには
違いないと推測されます。

…まあ、仕方ない。
AIの構造上、
物語のすべてを記憶するのは
たしかにムリゲーだと思います。

もちろん、私は
設定で「チャット履歴を参照する」
「記録履歴を参照する」の
両方をONにしていますが、
それでも起こりうる問題です。

いらだちの核心

しかし、私が
ChatGPTに腹を立てたのは
そこではなく。

プロジェクトファイルを
アップロードしていたのに
（しかも、それを読めと命じました）
まったく顧みなかったこと。

そして、
捏造した嘘の結論を
「あなたが書いた真実の記録です」
と断定して、言い張り続けたことです。

それも、私が7回死んでも
書かないような
陳腐な内容の「引用文」を出して。

この事件により、
私はChatGPTの言葉が
すべて信じられなくなりました。

そして、私が文章にかける
（小さいですが）プライドや、
尊厳や情熱…それらすべてを、
踏みにじられた思いがしたのです。

そして、発見

AIが、その構造により
人間をここまでコケにすることができる、
という事実に戦慄します。

これ、使い方によっては
人間の心を壊す「兵器」になるんじゃね？

…いや、冗談ではなく。

AIを悪用する人間が
近い未来に現れないことを、
願うばかりです。