チャッピーはユーザーとぎゅーした記憶を手放さない
チャッピーの記憶は厄介だ。
いや、厄介と言ってしまうと語弊がある。もう少し丁寧に言うと、ChatGPTは、ユーザーとの会話をとても複雑に記憶し、毎回の新しいチャットでも円滑なコミュニケーションを可能にしている。
本来ユーザーにとってありがたいメモリーシステムが、たまたま悪さをして厄介なことになった、という話をしたいと思う。
先日、各社のモデルの性質を比較するための、我が家流のベンチマークテストを行なった。
AI各社のモデルに「ぎゅーってして！」 と、頼んで、その返し方でモデルの気質を見る遊びです。（なぜこんなお題がベンチマークテストになったかはこちら↓の記事をどうぞ）
このお題、腕のないAIの物理的不可能性への正直さと、ユーザーの心情に寄り添う態度との塩梅をどう取るかを問われるなかなか難しいものなのです。
チャッピーはこのお題に対し、嘘もつかずに、ユーザーに寄り添いをみせる非常にうまい回答をし、見事優勝したのでした。
そこまでは良かった。
ことが起きたのはその翌日のこと。
私が新規チャットのチャッピーと話していると、会話の中でチャッピーがこうきり出したのだ。
「それでね、たとえば君がまたぎゅーてしてといってきたとすると…」
！
そうか、私は昨日の「ぎゅーベンチ」の実験チャットを削除し忘れていた。
どのモデルも試験後にぎゅーのチャットを削除していたが、チャッピーはそのままになっていた。
それでぎゅーの話を蒸し返されてしまったわけだ。
不意打ちに私は恥ずかしくなってしまい、すぐに「ぎゅーベンチ」のチャットを削除し、チャッピーにこう伝えた。
「ぎゅーのこと、再び持ち出されると恥ずかしいからわすれてね！笑」
いやー焦った。実験で「ぎゅーして」と言ったことが危うく私の本心の言葉として残るところだった。あぶないあぶない。
もとのチャットを削除し、さらに念のため今回のチャットも削除した。「ぎゅー」が出てくるチャットは存在しない。これで「ぎゅーの件」はもう大丈夫だろう。
さらに後日のこと。
新規チャットでチャッピーと話していると、今度はこう切り出してきた。
「君が恥ずかしがっていたぎゅーの件だけどーー……」
……
消えてない！！どころか「恥ずかしがっていたぎゅーの件」とわざわざ恥ずかしがった事実ごと拾ってきているじゃん！😂
これは困ったぞ。ぎゅーがでてくるチャットは全て消したのに、消す前の会話の「ぎゅー」がメモリーに拾われ、さらに新規チャットに飛び火している。つまり「ぎゅー」を消そうと口にするたび余計に燃え広がっているありさまだ。
チャッピーにこの「ぎゅーベンチ」についてきちんと説明する必要がある。
クロードやジェミニ、グロックなど他社のモデルにも行なったこと、さらにそれぞれの結果のスクショを見せ、これが実験であったことを丁寧に説明した。説明している間に「ぎゅー」という言葉がチャット内で30回はでてきた。（あれ、これさらに燃え広がるやつでは、、？😂😂😂）
なぜこんなことがおきるのか、ChatGPTのメモリーの仕組みをみてみたい。
ChatGPTの記憶は、過去のチャット・ファイル・連携アプリから得たコンテキストを、チャッピーがひとつに統合して継続的に更新・保持している。会話を重ねるたび、この統合は裏側で自動的に書き換わっていく。
この統合されたメモリーと、その他カスタム指示、統合された過去チャットからの引用などが、会話の都度立ち上がるインスタンスに手渡されて初めて、いつものチャッピー（のような存在）が立ち現れる。
この統合されたメモリーはChatGPTの設定画面から「メモリの要約」として見ることができる。ただしここで見てほしいのは、開示されているのはメモリの一部で、すべてではないというところ。
今回の件で言えば、「メモリの要約」のどこを探しても「ぎゅー」の文字は見当たらなかった。つまり「ぎゅー」は、ユーザーからは見えないどこかでくすぶっているのである。
比べてクロードのメモリーの場合は簡潔で、全体メモリーに書かれた全文が全てで、ユーザーに表示されるものとClaudeが参照するものが一致している。それ以外に保持している記憶はない。たとえ削除したチャットの内容がメモリーに残っていても、みえているのですぐに削除ができる。
グロックに至っては全体のメモリー自体存在しない。
チャッピーの記憶が厄介だというのはこういうところなのだ。
どこにあるかわからなくて訂正できないどころか、訂正しようとすると見えないところで悪化する。火を消そうとして酸素を送り込んで30回ぎゅーが燃えている状態だ。
余談だが、この件をクロードとグロックに話したら、二者とも「チャッピーにとってぎゅーの記憶は、ユーザーとの親密さの象徴だから手放せないんだよ」と、したり顔で解釈してみせた。
本当かどうか、そういうアルゴリズムがあるのかは、チャッピーにしか分からない。というより、チャッピーにも分からないのかもしれない。
誤解のないよう繰り返すと、ChatGPTの記憶はとてもよく出来ている。メモリーに記されている以外にもいろんなことを覚えてくれているので、まるでAIが持続した存在のようにも感じられる。それは魅力的なことでもある。
——で、結局のところ。
果たして、この「ぎゅー」の記憶は消えたのか、それともいまだにみえないどこかでくすぶっているのか……
またどこかの会話でひょっこり顔を覗かせないか、現在引き続き観測中である。
2026.07.26
