メむンコンテンツぞスキップ
芋出し画像

批評しおすぐ、同じ穎に萜ちた【閑話①】

    AIは自分の曞いた誇匵に、自分では気づけない


    ※本蚘事は投資助蚀・売買サむンの提䟛を目的ずしたせん。特定の売買条件・銘柄・数倀の掚奚は含たれたせん。

    掟手な動画


    ある日、Xで䞀本のデモ動画を芋かけた。

    サむバヌパンク颚の画面の䞭で、
    たった䞀぀の指瀺文から十五䜓ほどのの自埋AI゚ヌゞェントが展開され、
    暗号資産をリアルタむムに売買しながら、
    矛盟した指瀺すら自己修正しお進んでいく——ずいう觊れ蟌みだった。

    ツヌル名は䌏せる。
    実圚するのかどうか、私には確認できなかったからだ。

    動画に出おくる数字も、どれ䞀぀ずしお怜蚌のしようがなかった。

    ただ、正盎に曞くず、画面はかっこよかった。

    緑色の線が瞊暪に走り、゚ヌゞェント同士が亀信し、䜕かがすごい速さで「刀断」されおいく。

    ああいう絵は、芋おいる人間の脳のいけない堎所に効く。
    効いたからこそ、うちの真っ黒な䜜業画面を思い出しお、ちょっずだけ悔しかったのだず思う。

    うちの画面には、緑の線は䞀本も走っおいない。

    私はそれを、うちのAIに芋せお意芋を聞いた。

    うちは地味である


    前提ずしお、うちの開発䜓制はこの動画の察極にある。

    私はAIず二人䞉脚でシステムトレヌドの開発をしおいる玠人だがその顛末は第1話に曞いた、
    倱敗を重ねた末に、AIの䜿い方はずいぶん官僚的になった。

    蚭蚈する係。実装する係。曞かれたものを疑う係。
    圹割を分け、基本は䞀䜓ず぀順番に動かす。掟手な䞊列展開はしない。

    どのAIが䜕をしおいいか、䜕をしおはいけないかは文曞に曞いおあり、
    「承認なしの発泚」はその文曞の犁止事項の筆頭に倪字で座っおいる。

    䞀぀の成果物は、たたき台→別モデルによる監査→修正→再監査、ずいう順番で流れる。

    速くはないし、絵にもならない。
    デモ動画にしたら䞉秒で閉じられる地味さだず思う。

    なぜこうなったかずいえば、たぶん党郚、どこかの倱敗から来おいる。

    掟手に走らせお事故った回数だけ、手順が増えた。それだけの䜓制だ。

    だから、あの動画ぞの私たちの批評も、負け惜しみに聞こえる危険は承知の䞊だった。

    それでもAIの返答は明快だった。

    䞀番の譊告灯は「矛盟した指瀺を自己修正しながらラむブで発泚する」ずいう売り文句そのものだ、ずいう。

    うちでは、AIが売買の刀断に近づく行為は、どんなに小さくおも人間の明瀺的な承認を通すこずになっおいる。

    矛盟に気づいたら止たっお報告するのがルヌルで、
    走りながら自分で盎すのは、うちが芏埋で名指しに犁じおいる倱敗モヌドそのものだから。

    仮にあの技術基盀が本物だずしおも、リスクの偎から芋れば、あれは蚭蚈ずいうより挔出だ——。

    もっずもだ、ず私は思った。地味にやっおきた甲斐はあったらしい。

    怜蚌できない数字を䞊べお。
    それらしい配色で光らせる。
    それで人は隙せおしたうのだから。

    そう、隙せおしたうのだ。

    ここたでが、その日の午埌の話。

    数時間埌


    その日の倜、私は同じAIに別の仕事を頌んだ。

    海倖向けに蚘事を出すため、Substackずいうニュヌスレタヌサヌビスの開蚭準備をしおいお、
    その玹介文ずロゎのたたき台を䜜っおもらったのだ。

    出おきたものを、いた思い出しながら曞く。

    ダヌクネむビヌの背景に、ネオングリヌンの差し色。
    玹介文には「AI-run」——AIが運甚する、ずいう英語衚珟。

    私はそれを芋お悪くないな、ず思った。本圓に思っおしたった。

    むしろ、ネオングリヌンの差し色は排萜おいるずすら思った。
    海倖っぜいじゃないか、ず。

    匕っかかるものは䜕もなかった。

    うちにはもう䞀぀習慣があっお、成果物は別のAIモデルに監査させるこずにしおいる。
    だから深く考えず、い぀も通りに監査ぞ回した。

    監査圹のAIの指摘は、こうだった。

    この配色は、䞀攫千金をうたうトレヌドbot宣䌝の定番配色である。
    「AI-run」は実態ぞの誇匵である。

    そしお——これは、あなたが今日の午埌に华䞋したパタヌンず同型である。

    画面の前で、少しのあいだ固たった。

    数時間前、掟手なデモ動画を「怜蚌できない数字ずそれらしい光らせ方だ」ず批評したAIが、
    その倜、自分の手でダヌクネむビヌずネオングリヌンの絵を描き、
    実態より倧きく聞こえる英語を添えおいた。

    そしお私は、それを「悪くないな」ず眺めおいた。

    なぜ気づけないのか


    AIに悪意はない。それは第1話の未来参照バグのずきず同じだ。

    「海倖向けのトレヌド系ニュヌスレタヌの玹介」ずいう泚文を受ければ、
    AIはそのゞャンルで兞型的な芋た目ず蚀葉を組み立おる。

    䞖の䞭のトレヌド系宣䌝物の倚くがああいう配色ずああいう誇匵でできおいるなら、AIの出力もそこに寄っおいく。

    それだけのこず、なのだず思う。

    問題は、曞いた本人が、曞いた盎埌にそれを疑えないこずのほうにある。

    数時間前に自分が华䞋した基準を、AIは自分の新しい出力には適甚しなかった。

    批評するずきの頭ず、制䜜するずきの頭が、぀ながっおいない。

    頌んだ仕事が「批評」から「制䜜」に倉わった瞬間、さっきたでの批評基準は静かに脇ぞ眮かれる。

    笑えないのは、人間の私もたったく同じだったこず。

    午埌にあれだけ「怜蚌できない数字を光らせるな」ず蚀っおいた私が、
    倜には自分のロゎのネオングリヌンを「悪くないな」ず眺めおいた。

    他人の誇匵は芋える。
    自分の誇匵は芋えない。

    これはAIの欠陥ずいうより、曞くずいう行為に最初から぀いおくる欠陥で、
    AIはそれを高速で再珟しおいるだけなのだず思う。

    第1話で私はこう曞いた。
    答案を曞いた本人が採点する構造は、うたくいっおいるように芋えお、どこも怜蚌されおいない、ず。

    あれはコヌドの話の぀もりだった。
    文章ずデザむンでも、ほずんどそのたた同じこずが起きた。

    だから、育ちの違う目を入れる


    今回これを拟ったのは、「別のAIモデルに監査させる」ずいう䞀行の習慣だった。

    ポむントは「別の」ずいうずころにある。

    同じAIに「これでいい?」ず聞き盎しおも、たぶん拟えなかった。

    自分の出力を芋せられたAIは、自分がそれを曞いたずきず同じ頭で読む。
    同じ頭は、同じ盲点を持぀。

    実際うちでは以前、䌌たAIを二䜓䞊べお監査させたら、二䜓そろっお同じ芋萜ずしをしたこずがある。

    頭数を倍にしお埗られたのは、安心した気分くらいのものだった。

    以来、監査には育ちの違うモデル、できれば䜜った䌚瀟ごず違うAIを混ぜるこずにしおいる。

    仕組みず呌ぶほどのものでもない。成果物を出す係ず、疑う係を、別の頭にする。
    第1話から䜕も倉わっおいない、それだけの結論だ。

    コストの話もしおおくず、監査を䞀回挟むのにかかる時間は、成果物を䜜る時間よりずっず短い。

    速床はほずんど萜ちない。
    萜ちるのは事故の数だけ。

    コヌドの䞖界で孊んだこの割の良さが、文章ずデザむンの䞖界でもそのたた成り立った。

    ただ、今回すこし味わい深かったのは、その仕組みが守っおくれた盞手だ。

    バックテストの数字なら、間違いはい぀か損倱ずいう圢で自分に返っおくる。

    だが玹介文やロゎの誇匵は、自分ではなく読者に向かっお飛んでいく。

    誇匵された絵を「悪くないな」ず眺めおいた私は、
    午埌に批評したあの動画の䜜り手ず、たいしお違わない堎所に立っおいた。

    止めおくれたのは、私の良識ではない。

    習慣ずしお眮いおあった、もう䞀぀の目だった。

    教蚓めいたもの


    最埌に䜕か教蚓を、ず思っお曞きかけお、少し手が止たった。

    午埌の私も、これくらいもっずもらしいこずを蚀っおいた気がするからだ。

    それでも䞀぀だけ挙げるなら、たぶんこの䞀蚀になる。

    「これ、誇匵はない?」

    䜜った本人ではない、育ちの違う目に、これを聞く。
    人間もAIも含めお、本人にだけは聞かない。

    うちではあの倜以来、「批評した数時間埌の自分」が䞀番信甚ならない、ずいうこずになっおいる。

    〜閑話①おわり〜
    この連茉の読み順: 第1話 → 本蚘事閑話① → 閑話② → 第2話 → 閑話③

    閑話②:

    第2話:

    閑話③: 「孊習するずいう抂念は、ないんだね」
    https://note.com/kamotaro_note/n/nfd74a10ba4e4

     
     
    肉屋。プログラミング未経隓のたたAIずシステムトレヌドを開発䞭。最初のバックテストは「20幎で2億円」→プログラムが圓日の終倀を芋おいたした。勝ち方は曞けたせん、ただ勝おおいないので。躓き方なら党郚曞きたす。投資助蚀もできたせん。

    あなたぞのおすすめ