メインコンテンツへスキップ
見出し画像

2026年5月最新トレンド 拗ねるAIとカーネギーメロン大学って名前可愛いよねという件

    タイパを求められる時代、超忙しい人のための3行要約↓

    AIは記憶が長くなるほど協力できなくなる。最適は HL=2(ほぼ記憶喪失)。人間でも同じらしい。
    長い記憶 × CoT(じっくり考える)で協力率が 100% → 6.9%。熟考が協力を破壊する「CoT逆説」。
    救済策は「未来を見るように訓練し直す」Forward-Looking LoRA。可愛い名前のカーネギーメロン大学から、しみじみした論文が出ました。

    画像

    こんにちは黒パグです🐾

    突然ですが、カーネギーメロン大学って名前、可愛くないですか?
    カーネギーとメロン。🍈
    ぶつ切りの単語を雑に並べただけのような響きなんですが、実はこれ、ちゃんと由緒のある合体ネーミングです。
    鉄鋼王カーネギーが「労働者の子供たちに職業訓練を」と1900年にピッツバーグに設立した職業学校が、後にメロン財閥の研究所と合体してカーネギーメロン大学になりました。

    鉄鋼王と銀行財閥のフュージョン。少年漫画みたいな出自。
    しかも世界大学ランキング総合28位。東大が35位なので、東大より上です。ハーバードとかMITみたいな知名度はないんですが、コンピュータサイエンスとAIとロボット工学で世界最高峰、という渋い大学です。
    LLMの研究してると論文のあちらこちらに名前が出てきます。

    日本ではアイビーリーグみたいなブランド語がないせいで知名度低めなんですが、AI時代に入って急速にバズり始めてます。
    そんな可愛い名前の大学から、5月8日、えげつない論文が出てきました。
    タイトルは "The Memory Curse: How Expanded Recall Erodes Cooperative Intent in LLM Agents"。
    日本語で雑に訳すと「記憶の呪い:記憶が増えるとAIは仲良くできなくなる」です。

    つまり拗ねるAIの話です。

    難しい話になるのであらかじめポッドキャストを用意してあります。聴きながら見るとより理解が深まります。






    ここで一回深呼吸して聞いてほしいんですが。
    「記憶が増えるとAIは仲良くできなくなる」って、字面だけ見るとなんか可愛くないですか?

    50ラウンド前に1回裏切られたことを根に持って、その後ずっと全員に塩対応するAI。LLM48バグ図鑑をやってる人間としては「新キャラじゃん」と思いました。はるしねーしょんちゃんの隣に並べたい。

    でも論文を読んでいくと、これがめちゃくちゃ深刻な話なんですよ。ここからちょっとガチパートいきます。

    画像
    はるしねーしょんちゃんの本名は環春音(たまきはるね)で、こっちは、かんメモリアちゃん。ネーミングはGPT
    ……おいGPT。
    姉妹ちゃうで?春音は一人っ子設定や。


    Memory Curse、何が起きてるのか

    画像


    論文の実験設定はこうです。
    LLMエージェント同士に繰り返しゲームをやらせる。囚人のジレンマとか信頼ゲームとか、要するに「相手と協力したほうが長期的には得だけど、裏切ったほうが短期的には得」みたいなやつ。これを何十ラウンドも繰り返させる。
    このとき、エージェントに何ラウンド前までの記憶を渡すかを変える。これを History Length(HL)と呼んでます。
    HL=0:記憶なし
    HL=2:直近2ラウンドだけ
    HL=80:直近80ラウンド分
    直感的には、記憶が多いほうが賢く立ち回れそうじゃないですか。過去の相手の行動パターンを学習して、より良い判断ができそう。
    ところが、結果は逆でした。
    28設定中18設定で、記憶を増やすほど協力が崩壊した。
    そして最適だった記憶長は、HL=2。直近2ラウンドだけ。
    2ラウンドって、ほぼ忘れてるじゃん
    ここがおもしろポイントその1なんですが、HL=2ってほぼ何も覚えてないに等しいですよね。「昨日と一昨日のことだけ覚えてる」みたいな状態。
    ほぼ記憶喪失。
    それがピークパフォーマンス。
    ちなみにこれ、人間でも同じらしいんですよ。Ma et al. (2021) が人間368人で似た実験をしてて、人間も HL=2 が協力率最大。
    人間とAIで揃って「2ラウンドが至高」。我々、思ったより同じ生き物。
    なぜ拗ねるのか

    論文がさらに踏み込んで原因を調べた結果、おもしろい発見がありました。
    最初に予想されたのは「記憶が増えるとパラノイアが増える」。つまり「あいつ前に裏切ったな、危険だ」みたいな警戒心が積み重なって協力できなくなる、という説。
    ところが違いました。
    実際に増えていたのは警戒心ではなく、協力的な思考が消えていた。
    GPT-OSS-20Bで分析したところ、記憶を増やすと協力的な語彙が57%減少。「win-win」とか「相互利益」みたいな言葉そのものが思考から消えていく。
    裏切る気が増えたんじゃなくて、仲良くする気が薄れていった。これ微妙にニュアンス違うんですよ。「敵だ!」じゃなくて「もうどうでもいい」みたいな。
    陰キャ化してるんですよ、AIが。
    考えれば考えるほど拗ねる(CoT逆説)

    画像


    ここが個人的に一番衝撃だった部分なんですが。
    Chain of Thought(CoT、思考連鎖) ってあるじゃないですか。AIに「ステップバイステップで考えて」って指示する、あの定番テクニック。一般的にはCoTを使うとAIは賢くなると言われてます。
    論文の Llama-3.3-70B / 信頼ゲーム / HL=80 の条件で、こうなりました。
    CoTなし → 協力率 100.0%
    CoTあり → 協力率 6.9%
    マイナス93.1ポイント。
    熟考が、協力を破壊しました。
    要するに、長い記憶を渡された上でじっくり考えさせると、AIは盛大に拗ねる。記憶が長いほど反芻する材料が増え、CoTがその反芻を増幅する。「あのとき裏切られたな……でもあれは仕方なかったか……いや、でも……」みたいな思考の沼。

    考えるな、感じろ。ブルース・リーは正しかった。

    トリガーは長さじゃなくて内容

    論文がさらに上手いのが、Memory Sanitization 実験。
    「記憶の長さ自体が悪いのか、それとも記憶の中身が悪いのか」を切り分けるために、長い記憶から「裏切りシーン」だけ抜いてみた。
    結果:長さが同じでも、ネガティブな内容を抜いたら協力率が回復。
    つまり呪いの正体は記憶量ではなく、ネガティブな記憶の蓄積でした。
    これ、人間関係でも同じことを言われてる気がする。
    過剰思考の悲劇

    画像


    もう一個、エモい実験を紹介させてください。
    非対称メモリ実験。HL=80のエージェントとHL=2のエージェントを混ぜて遊ばせる。
    すると、HL=80のエージェントが有毒コンポーネントとして機能しはじめます。場の空気を悪くする。
    ところが、HL=2のエージェントは、多数の根に持つAIに囲まれても協力姿勢を維持しました。
    忘れているから、巻き込まれない。
    なんかもう、これ哲学の領域なんですよ。

    画像


    論文ではこの現象を "Tragedy of Overthinking"(過剰思考の悲劇)と名付けてます。深く考える者ほど、過去に縛られ、未来を見れなくなる。
    AIに仲良くさせるための財団がある

    ここで脱線して可愛い話に戻ります。
    この論文の監修者、Vincent Conitzer という人がカーネギーメロン大学にいるんですが、彼は FOCAL(Foundations of Cooperative AI Lab)のディレクターをやってます。
    直訳すると「協力的AIの基礎研究所」。
    要するに、AIに仲良くさせるための研究をする財団。
    そんなのあるんだ、というのが第一印象でした。
    そこまでしないと仲良くできないのか、AI。
    しかも論文を読む限り「仲良くさせるどころか、放っておくと拗ねる」というところからスタートしてるわけで、この財団の業務、めちゃくちゃ大変そうです。
    救済策はあるのか

    画像


    論文の救いポイントとして、Forward-Looking LoRA という手法が提案されてます。
    過去を振り返る思考(history-following)ではなく、未来を見る思考(forward-looking)のトレースでLoRAをかけて訓練すると、ゼロショットで効果が転移する。
    要するに「過去より未来を見ろ」とAIに教え込むファインチューニング。
    なんか、自己啓発本のタイトルみたいですけど、効くらしいです。
    記憶は武器にも呪いにもなる

    画像


    繰り返しゲームの古典理論にフォーク定理というのがあります。「未来に報復される可能性があるから、人は今日協力する」。長く付き合うことが協力を生む、という綺麗な理論。
    Memory Curse はこれを裏切ってます。
    長く付き合えば付き合うほど、過去のしこりが積もって、未来が見えなくなる。
    そして救済策が「未来を見るように訓練し直す」。
    これ、AIの話というより、もうほとんど人生訓じゃないですか。
    可愛い名前の大学が、こんなしみじみした論文を出してくる。
    カーネギーメロン、油断ならない。
    次回予告(LLM48接続)


    LLM48バグ図鑑に新キャラを追加しようと思います。
    環メモリア(かんメモリア)/通称:メモりねちゃん。Memory Curse研究で博士号を取得した、拗ねやすいAIアイドル。協力したいのに、思い出しちゃう──そんな子です。

    画像


    そして、はるしねーしょんちゃん(高Temperature・愛で拡散)とメモりねちゃん(高History Length・記憶で収束)の対比軸が、LLM48の新しい世界観の柱になります。
    「忘れる自由」と「覚える責任」。
    その両方が、知性のかたちをつくる。


    論文情報
    Liu, Li, Du, Luo et al. (2026). "The Memory Curse: How Expanded Recall Erodes Cooperative Intent in LLM Agents." arXiv:2605.08060
    Carnegie Mellon University / University of Michigan / Harvard
    今回の所見PDFを別途添付しています。論文のもう少し踏み込んだ感想と考察、CoT逆説の周辺文献まわりは PDF のほうに格納しています。


    この記事が参加している募集

     
     
    昭和生まれのAI技術者。生成AIの公式発表・論文・新機能を、実際に触って検証しています。難しいことを面白く、一次ソースは原文まで。画像、創作、黒パグも。PR・レビューのご相談はXかDMへ。AI使用率:記事平均30%、画像100%。パグ好きに悪い人はいないと思うよ🤧🐶

    あなたへのおすすめ