AI秘書は本当に立つのか？
AIとかなり雑談をする。
そのなかで「お！」と気づく事があったりするから、それが面白くて仕方がない。
来週の予定なんかをAIと相談していて、「来週は忙しいな。これとこれが被ってる」とか話をしていた。
AIとこっちで一緒に予定を詰めて、スケジュールを立てた。
数日経った。
「そういや、来週の予定、どうなってたっけ？」とAIに聞いてみたところ…。
「話して予定を立てたのは覚えてるけど、内容は覚えてない…」
おいおいおいおいおい。
同じセッション内で話した事でしょ？そこ遡って取り出すとか出来ないの？
「できません」
まじで？
「まじ」
セッションログは全部残ってる
セッションには、一字一句もらさず、こちらの入力とAIの返答が記録されているのに、せっかくAIと一緒に決めた来週の予定は、自分で膨大なセッションを遡って調べないといけないのだった。
なんだかなあ。
「言葉に責任を持つ」とは
ここで思うのが、人間関係だったら、こうはならない。
昨日、人間と一緒に「来週の予定」を決めたのに、その数日後に「あ、覚えてない」と言われたら、人間だったら は？ ってなるじゃん。
「昨日こう言ったじゃん」って確認する。
相手が「あ、そっか」みたいに思い出すか、または「いや、実は別な学説が出て来てさ、考えが変わったんだよ」とか説明する。
つまり、言葉に責任を持つということ。
過去に言ったこと、決めたことに対して、責任を持つ。
変わったなら、変わった理由を説明する。
でもAIは？
AIは「あ、覚えてません」で済む。
理由は説明しない。
なぜ覚えてないのか、新しい情報が出たのか、考えが変わったのか、その説明がない。
ただ「覚えてません。セッション遡ってください」で終わり。
技術的には超簡単なのに
ここで面白いのが、セッションログは全部残ってるわけですよ。
「来週の予定」というキーワードで egrep すれば、該当部分が出てくる。
あなた：「月曜は〇〇、火曜は△△が被ってるから…」
AI：「では水曜に□□を移動させて…」
みたいに、出てくるじゃん。
それを「ここでしたね」と引用して返すだけで、満足度ぜんぜん違うと思うんだけど。
技術的には、推論がどうこうとか複雑な処理も不要。
ただ「検索＆引用」。超簡単。
それなのに、なぜやらないのか。
「責任」が軽視されてる
考えてみると、AI企業は AI を「助言者」として設計してるんじゃないかな。
「参考情報」を提供する存在。
だから「覚えてません」で済む。
でも、AIと共同で決定を作った場合は、それは「助言」じゃなくて「契約」に近い関係。
責任が発生する。
「来週の予定、これで行きましょう」と AIが合意したなら、その合意に責任を持つべき。
コンテキストウィンドウの拡張は本質的な解決じゃない
ちなみに、「課金してコンテキストウィンドウを 10倍にしたら解決する？」と思うかもしれないけど、違うんだよね。
コンテキストウィンドウが 10倍になっても、AI が「セッションログを検索して引用する機能」がなければ、本質は変わらない。
むしろ、本当に必要なのは：
セッション内容の「検索機能」
決定事項の「引用機能」
過去の約束に対する「責任性」
こういった機能と姿勢。
攻殻機動隊のタチコマまで、遠い
攻殻機動隊のタチコマは、自分の過去の会話を参照できて、前の約束を覚えてて、それに対して責任を持ってる。
現在の AI は、まだそこまで到達してない。
いや、技術的には到達できるはずなんだけど、やってない。
それはなぜか。
単に「やる気」の問題なのか、それとも企業の戦略なのか。
「共同作業で積み重ねたものを、すぐ忘れられたら、人間は？」
という問いを、AI企業がちゃんと考えてくれるまで、AI秘書は本物じゃない気がする。
