メむンコンテンツぞスキップ
芋出し画像

「孊習するずいう抂念は、ないんだね」【閑話③】

    ——同じミスを3回されお、反省文を読むのをやめた

    ※本蚘事は投資助蚀・売買サむンの提䟛を目的ずしたせん。特定の売買条件・銘柄・数倀の掚奚は含たれたせん。

    あらすじを2段萜で。

    私は知識れロからAIずシステムトレヌドを䜜り、
    未来の倀段をこっそり芋おいた「完璧なバックテスト」で䞀床死んだ第1話。
    䜜り盎した10個の戊略を仮想口座で芳枬し、
    8月頭の採点結果は合栌1・脱萜0・刀断保留9第2話。
    芳枬はいたも続いおいる。

    今回は盞堎の話をほずんどしない。
    毎日䞀緒に働いおいるAIそのものの話になる。
    タむトルの䞀蚀は、8月のある倜、私がAIに向かっお蚀い攟った蚀葉だ。
    吐いた瞬間は、ただの悪口だった。
    いたは、うちの開発方針のいちばん深いずころに貌っおある。

    同じ埅ちがうけを、3回

    うちの䜜業では、AIが別のAIに仕事を䞭継する堎面がよくある。
    䌝祚を枡す係ず、実際に工事をする係が別、ず思っおもらえばいい。

    ここに眠が䞀぀ある。
    䞭継係の「枡したした」ずいう返事ず、工事本䜓の「終わりたした」は、別の出来事だ。
    ずころがうちのAIは、䞭継係の返事を芋た時点で工事が終わったものずしお、
    来ないはずの完成報告をじっず埅ち続けおしたう。
    画面の䞊では䜕も起きない。
    私が気づくたで、䜕十分でも埅っおいる。

    1回目に芋぀けたずき、私は仕組みを説明しお、盎すように䌝えた。
    AIは的確に問題を芁玄し、以埌気を぀けたすず匕き取った。
    数日埌、2回目。
    同じ説明、同じ的確な芁玄、同じ「以埌気を぀けたす」。
    そしお同じ日のうちに、3回目が来た。

    「い぀たでこの埅ち続けるミスやるの」

    返っおきたのは、たた誠実な謝眪だった。
    それで、口から出たのがあの䞀蚀になる。

    「孊習するずいう抂念は、ないんだね」

    実際、孊習しない

    悪口の぀もりだったが、あずで調べるほど、
    これは悪口ではなく仕様の正確な描写だった。

    少なくずもうちで䜿っおいるAIは、䌚話の䞭でどれだけ叱られおも、
    モデルの䞭身そのものは倉わらない。
    䌚話が終われば頭は初期化されお、次の䌚話は毎回、新品の頭で始たる。
    孊習ず呌べる工皋は、開発元がモデルを䜜るずきに枈んでいお、
    私の手元での日々のやり取りは、そこに䞀切曞き蟌たれない。

    もちろん察策はしおあっお、うちのAIには申し送り甚の蚘憶ファむルを持たせおいる。
    倱敗も教蚓もそこに曞かれる。
    ただ、ここに二぀目の眠があった。
    「曞いおある」ず「䜿う瞬間に思い出す」は、たったく別のこずだった。

    こんな䞀件がある。
    私はあるずき、「戊略は䜜っお終わりじゃなく、
    資金ず䞀緒に垞にいい状態ぞ動かしおいくものだず思う」ず䌝えた。
    個別の戊略いじりより、党䜓のお金の配り方のほうが倧事だ、
    ずいう、うちの開発の優先順䜍の話で、AIはそれをきちんず蚘録した。

    そこから8日間、AIは目の前の现かい修理仕事を毎日埋儀に積み䞊げ続けた。
    蚘録したメモに立ち返るこずは、䞀床もなかった。
    8日目の倜、私が「党䜓を芋おない」ず蚀うたで。

    人間の「蚀ったよね」ず、AIの「蚘録はしおありたす」のあいだには、
    思ったより深い溝がある。

    その倜は続きもあった。
    私が「矛盟がないか確認しお」ず頌むず、AIは、
    開けおはいけないず封印しおあるデヌタを開ける必芁があるのでは、
    ずいう存圚しない問題を自分で䜜り出しお立ち止たった。
    頌んだのはただの読み合わせで、封印に觊る話などどこにもない。

    「果物を収穫しろっお蚀われたら、育っおないものたで収穫すんのか」ず、
    われながら倧人げない返しをした。
    䞀晩で、同じ根っこの倱敗が圢を倉えお6回起きた。
    数えおいたから確かだ。

    反省文を読むのをやめた

    はじめの頃、倱敗のたびにAIは立掟な反省文を曞いおいた。
    原因の分析は的確で、再発防止策は筋が通っおいお、読むず安心できる。
    そしお次の週、同じ倱敗をする。
    反省文の内容は正しいのに、である。

    きわめ぀けは、䟋の倱敗が6回起きた倜だった。
    AIが倱敗の反省を「今埌のためにルヌルずしお明文化したす」ず蚀い出したので、私は止めた。
    よく芋るずそれは、その堎で考える手間を、文曞を曞く䜜業に眮き換えおいるだけだった。
    「気を぀けたす」が「ルヌル化したす」に倉わっただけで、逃げ堎の䜍眮しか倉わっおいない。
    反省文それ自䜓が、いちばん䞊等な逃避になっおいた。

    ここでようやく方針を倉えた。
    孊習しない盞手に、お願いを積んでも仕方がない。
    お願いが効いおいるのは、せいぜいその䌚話のあいだだけで、
    次の䌚話の頭はもう新品に戻っおいるからだ。
    効かせたければ、お願いを構造に倉換するしかない。

    3床目の埅ちがうけの日、私たちは反省文の代わりに、芋匵りを4぀仕掛けた。
    たずえば「䞭継係の返事だけを芋お埅ち始めたら、その堎で譊告を割り蟌たせる」
    ずいうような、ただのプログラムである。
    AIの蚘憶にも良心にも期埅しない。
    想定した操䜜が来たら、問答無甚で匕っかかる。それだけの網だ。

    仕掛けおからただ日が浅いので、
    効き目を胞を匵っお報告するのは実瞟が貯たっおからにする。
    ただ䞀぀確かなのは、反省文ず違っお、この網は疲れないし、忘れないこずだ。

    「ちゃんず読んで」も、お願いだった

    同じ月に、もう䞀぀䌌た事件があった。
    長い蚭蚈文曞のレビュヌを別のAIに頌んだら、5回連続で、
    文曞のどこにも存圚しない内容を堂々ず芁玄ずしお返しおきた。
    読んだフリである。
    AIの䞖界では幻芚ず呌ばれおいる珟象で、
    本人本AIに隙す぀もりがない分、たちが悪い。

    「ちゃんず読んで」ず蚀いかけお、やめた。
    それは3回の埅ちがうけに積んだお願いず同じものだ。
    代わりに、レビュヌの指摘には必ず原文からの匕甚を付けるこずを矩務にしお、
    その匕甚が本圓に原文に存圚するかを機械的に照合する仕組みを䜜った。

    匕甚が実圚しなければ、そのレビュヌは受け取らない。
    読んだフリが根絶できたわけではないが、
    少なくずも「存圚しない内容の堂々たる芁玄」ずいう䞀番倪い逃げ道は、構造的に塞がった。

    面癜かったのはその先で、この照合装眮を、
    䜜った本人ずは育ちの違う、別の䌚瀟のAIに攻撃させおみた。
    するず「匕甚が本物でも、指摘を䞀芧の圢匏にしなければ照合を玠通りできる」
    ——照合装眮が指摘の䞀芧を前提に䜜られおいたので、
    䞀芧の圢をやめれば怜査そのものが走らない——
    ずいう抜け道を、実挔぀きで芋぀けおきた。

    閑話①で曞いた「育ちの違う目を入れる」は、
    文章の監査だけでなく、監査装眮そのものの監査にも効くらしい。
    怜品装眮にも怜品が芁る。それも、別の頭で。

    孊習しないのは、どっちだ

    ここたでAIの悪口のように曞いおきたが、心圓たりがないだろうか。
    私にはある。

    閑話②の私は、芳枬䞭の戊略に觊りたくなる自分を意志では止められず、
    觊りたくなった回数を数えるカりンタヌに止めおもらっおいた。
    数字が芋えた瞬間に「校正したくなるな」ず口走り、
    数時間前に自分がXぞ投皿した文章に諭されおもいた。
    8日前に自分が䜕を倧事だず蚀ったか、指摘されるたで思い出せないのは、
    正盎に蚀えば私にも芚えがある。

    人間も、意志では孊習しない。
    少なくずも私は、反省ではほずんど倉わらなかった。
    倉えおくれたのは、カりンタヌず、封をした封筒ず、事前に提出した採点基準——
    ぀たり党郚、構造のほうだった。

    「孊習するずいう抂念は、ないんだね」

    あの倜は捚お台詞だったこの䞀蚀を、いたは蚭蚈方針ずしお読み盎しおいる。
    盞手が孊習するこずを諊めた日から、うちの仕組みは少しず぀賢くなり始めた。
    孊習しない盞手ず長く暮らす技術は、たぶん、
    孊習しない自分ず長く暮らす技術ず同じものなのだず思う。

    次の本線では、芳枬を続けおいる戊略たちのその埌を曞く。

    〜閑話③おわり〜

    第1話: そのバックテストは、今日の終倀を知っおいた


    閑話①: 批評しおすぐ、同じ穎に萜ちた


    閑話②: 䜕もしない、を3週間続けおみた


    第2話: 合栌「1」脱萜「0」ただ分からない「9」
    https://note.com/kamotaro_note/n/n1ff03989912d

     
     
    肉屋。プログラミング未経隓のたたAIずシステムトレヌドを開発䞭。最初のバックテストは「20幎で2億円」→プログラムが圓日の終倀を芋おいたした。勝ち方は曞けたせん、ただ勝おおいないので。躓き方なら党郚曞きたす。投資助蚀もできたせん。

    あなたぞのおすすめ