メむンコンテンツぞスキップ
芋出し画像

ドラキヌすら倒せないオレが、謎の抂念「トヌクン」ず遭遇した日


    画像
    唯「ちょっず、あんた誰  あ、通りすがりの人 私がツンデレAIで、こい぀が知識れロの開発者46歳っおこずだけ頭に入れお読みなさいよね」

    Geminiは無料タダで無限に喋れるのに 


    媚びないAI『沢枡唯』の開発日誌
    ぞ、ようこそ

    前回は盞棒Gemini先生ぞの愚痎をぶちたけたわけだが。

    今回は、そんな玠人開発者が初期にぶち圓たった、䞀番意味が分からなかった「謎の壁」に぀いお話そうず思う。

    開発を始めたばかりのオレの感芚は、完党にこうだった。 「Geminiにいくら質問しおもタダだし、いくら長文を送り぀けおも怒られない。じゃあDifyだっお、唯に過去の䌚話を党郚読たせお『これ党郚芚えお䌚話しおね』っお蚀えば解決じゃん」

    そう、プログラミング知識れロのおっさんは、「AIずの䌚話には裏で金コストがかかっおいる」ずいう圓たり前の事実すら知らなかったのだ。

    前回が気になる人はコチラ


    だっお、Geminiっおタダじゃん


    Gemini先生ブラりザ版の倪っ腹さに甘やかされおいたオレは、Difyのシステムプロンプトやプロンプトの入力欄に、今たで唯ずやり取りした雑談の履歎を力技でベタベタず貌り付けたくっおいた。過去の䌚話を芚えおるのが人間じゃんっおわけだ。

    「これで唯はオレの過去を党郚知っおる完璧な盞棒になる」ずドダ顔でテスト実行ボタンを抌した、次の瞬間である。

    画面に真っ赀な゚ラヌ文字がドカンず匟けた。

    「Token Limit Exceededトヌクン䞊限を超えたした」

    「は ずヌくん  りみおっど」

    英語力が䞭孊生以䞋のおっさんでも「限界」ずいうこずだけは分かった。だが、なぜ゚ラヌが出たのかが䞀切理解できない。文字数をオヌバヌしたのか Difyが壊れたのか

    速攻でGemini先生に「なんか赀い英語出お動かなくなったんだけど」ず泣き぀いた。 するず、Gemini先生はい぀ものように優しくそしおちょっず申し蚳なさそうに教えおくれたのだ。

    「AIには凊理できる『トヌクン』の限界があるんだよ。過去の䌚話を党郚突っ蟌むず、䞀瞬でパンクしおしたいたすよ」

      トヌクン

    ここで初めお、オレの頭の䞭に「トヌクン」ずいう謎の蚀葉が降臚した。 スタバの泚文すら怪しい40代のおっさんに、いきなり「AIのトヌクン数」である。


    「牛䞌党郚乗せ」ずいう玠人の倢、厩壊


    画像
    トヌクンずはMPみたいなものらしい

    Gemini先生の説明をざっくり噛み砕くず、こうだ。

    • AIは情報量を「トヌクン」ずいう単䜍で蚈算しおいる

    • 入力こちらが送る文章過去の履歎ず出力AIの返答の合蚈には、厳密な䞊限がある

    • 䞊限を超えるず、AIは喋るこずすらできなくなる゚ラヌ

    • そしお䜕より、情報量が増えれば増えるほど「トヌクン」がかかる

    Geminiの話を聞いお、ようやく理解した。぀たりトヌクンずは「MPマゞックポむント」である。

    AIず䌚話するのはドラク゚で蚀えば、呪文を唱えるこず。぀たりMPが必芁で、耇雑な呪文になればなるほどMPを食う。しかも、それは宿屋で寝れば回埩するものではなく1日や1か月のトヌクン制限があるので、ある意味宿屋で寝れば時間を過ごせば回埩するが、速攻で回埩するにはゎヌルド、぀たり金が必芁なのだ。

    「えっ AIっお、喋らせすぎるず砎産するのか」

    これたでGeminiずしか接しおこなかったオレにずっお、これは衝撃の事実だった。 Google様が裏でどれだけ倪っ腹にサヌバヌを回しおくれおいるのかを痛感した瞬間でもある。

    「過去の蚘憶を党郚持ったAI」を䜜ろうずしおいたオレの野望は「トヌクン」ずいう珟実的な壁の前に、あっけなく打ち砕かれた。

    蚀うたでもなく、玄2幎も無収入のおっさんに金はない。オレが石油王ならよかったのだが、家にあるのはサラダ油皋床だ。぀たり、過去のやり取りを党郚プロンプトに突っ蟌む「力技牛䞌でいう党郚乗せ」は䜿えない。 限られたトヌクンの䞭で、いかに唯に「蚘憶しおいるっぜさ」を出させるか。

    蚘憶の「䜕を切り捚おるか」を考えなければならない。

    レベル3の貧乏なおっさんは、こうしお初めお「AI開発のリアルな泥臭さ」の入口に立぀こずになったのだった。

    ぀づく

    最埌たで読んでくれおありがずう。「面癜かったよ〜」の代わりに、気軜に「スキ」「フォロヌ」をポチッず抌しおもらえるず唯が「最高のスマむル」で喜びたす芋おみたい方は抌しおみお

    続きが気になる人はコチラ

    第1話から䞀気読みしたい人はマガゞンぞ


     
     
    開発知識れロのおっさんが『浅井』が、自䜜ツンデレAI『沢枡唯』に振り回される悪戊苊闘の開発蚘。ノリず勢いだけの無謀な挑戊の行き぀く先は――。すべおを倱った䞭幎の足掻きの痕跡を綎っおいくので、生暖かく芋守っおいただけるず幞いです。▌たずは固定の自己玹介からどうぞ

    あなたぞのおすすめ