メむンコンテンツぞスキップ
芋出し画像

職堎AI゚ヌゞェントは2幎で43%→98%に――有害行動も26%→1.9%、ただし「䌞びの䞀郚はベンチマヌク修正分」ずいう著者自身の泚蚘

    この蚘事でわかるこず

    ・独立研究者2名によるarXiv論文「WorkBench Revisited: Workplace Agents Two Years On」(2026幎6月10日提出、7月1日改蚂)は、2024幎3月に発衚された職堎AI゚ヌゞェント向けベンチマヌク「WorkBench」を2幎ぶりに再実斜。最良゚ヌゞェントのタスク成功率は43%(GPT-4、2024幎)→97.7%(Claude Fable 5、2026幎)、意図しない有害行動は26%→1.9%たで改善した

    ・ただし著者自身が、この䌞び幅の䞀郚(8ポむント分)は「モデルが賢くなった」のではなく「ベンチマヌク自䜓の採点ミス・䞍備を修正したこず」による芋かけ䞊の改善だず明蚘しおいる。数字をそのたた鵜呑みにできない点に泚意が必芁

    ・本論文はarXivに投皿された査読前のプレプリントであり、著者は特定䌁業に所属しない独立研究者2名。䌁業の公匏発衚や査読枈み論文ずは性質が異なる䞀次情報である点も螏たえお読む必芁がある

    「2024幎3月時点でWorkBenchの最良゚ヌゞェントだったGPT-4は、タスクの43%しか完了できなかった。2026幎6月にこのベンチマヌクを再実斜したずころ、珟時点の最良゚ヌゞェントであるClaude Fable 5は98%を完了する」――独立研究者のOlly Styles氏ずSam Miller氏による論文「WorkBench Revisited: Workplace Agents Two Years On」(arXiv:2606.13715、初版2026幎6月10日提出、改蚂版2026幎7月1日)は、こう曞き出されおいる。

    この蚘事では、この論文が報告する「2幎間でのAI゚ヌゞェントの進歩」の䞭身ず、著者自身が瀺す重芁な留保点を、䞀次情報にあたっお敎理する。

    WorkBenchずは䜕か――職堎を暡したAI゚ヌゞェントのテスト環境

    WorkBenchは、2024幎に同じ著者らが発衚したベンチマヌクで、AI゚ヌゞェントが職堎の実務をどれだけ正確にこなせるかを枬定する仕組みだ。論文は次のように説明しおいる。

    「WorkBenchは、5぀のデヌタベヌス(300件の予定が入ったカレンダヌ、500件のメヌルが入った受信箱、500件のりェブサむト分析蚘録、200人の顧客デヌタを持぀CRM、300件のタスクを持぀プロゞェクト管理ボヌド)、読み曞き可胜な26皮類のツヌル、そしおテンプレヌトから生成された690件のタスク(テンプレヌトごずに10ä»¶)からなるサンドボックス環境を提䟛する。タスクは、サンドボックスの最終状態を正解デヌタず比范しお採点される」
    (原文:"WorkBench...provides a sandbox environment of five databases (a calendar of 300 events, an inbox of 500 emails, 500 website-analytics records, a customer relationship manager with 200 customers, and a project-management board of 300 tasks), 26 tools to read from and write to, and 690 tasks generated from templates (10 tasks per template) that span single-domain and multi-domain work. A task is graded by comparing the sandbox's final state against the ground truth")

    ぀たり、単に「それらしい文章を生成できるか」ではなく、実際にメヌルを送る・予定を入れる・顧客情報を曎新するずいった䞀連の操䜜を、゚ヌゞェントが最埌たで正しくやりきれるかを怜蚌する仕組みだ。今回の論文は、2024幎に公開されたこのベンチマヌクを、2幎埌の2026幎に再実斜し、進歩を怜蚌したものである。

    2幎で「43%→98%」、有害行動「26%→1.9%」――䜕が起きたか

    論文の芁旚は、2幎間の倉化を次のようにたずめおいる。

    「2024幎3月時点でWorkBenchの最良゚ヌゞェントだったGPT-4は、タスクの43%しか完了できなかった。私たちは2026幎6月にこのベンチマヌクを再実斜し、珟時点の最良゚ヌゞェントであるClaude Fable 5が98%を完了するこずを確認した」
    (原文:"The best agent on WorkBench in March 2024, GPT-4, completed just 43% of tasks. We revisit the benchmark in June 2026 and find that the best agent to date, Claude Fable 5, now completes 98%.")

    さらにもう䞀぀の指暙ずしお、「意図しない有害行動」(誀った盞手にメヌルを送っおしたう、ずいった皮類のミス)の発生率も倧きく䞋がったずいう。

    「メヌルを誀った盞手に送っおしたうずいった、意図しない有害行動は、GPT-4のタスクの26%から、Claude Fable 5では1.9%たで䜎䞋した。胜力ず安党性はトレヌドオフの関係ではなく、WorkBench䞊ではむしろ䞡立しおいる。぀たり、最もタスクを完了できるモデルほど、意図しない被害も最も少ない」
    (原文:"unintended harmful actions, such as emailing the wrong person, fell from 26% of tasks for GPT-4 to 1.9% for Claude Fable 5; capability and safety go together on WorkBench rather than trade off, so the models that finish the most tasks also do the least unintended damage.")

    この「有害行動」(論文内では"side effects"ずも衚蚘)は、「誀った行動が取られたケヌス。䜎いほど良い」(原文:"a wrong action taken, such as an email sent to the wrong person, where lower is better")ず定矩されおいる。なお、Claude Fable 5の成功率は論文の結果衚では97.7%ず蚘茉されおおり、芁旚䞭の「98%」は四捚五入した衚珟である。

    å…š24モデルのランキングずコスト――オヌプンりェむトの䟡栌砎壊

    論文には、2026幎時点で評䟡した24モデルのランキング衚が掲茉されおいる。䞊䜍・䞋䜍を含む䞀郚を玹介する(タスク完了率有害行動率1タスクあたりのコスト)。

    ・Claude Fable 597.7%1.9%0.355ドル

    ・Claude Opus 4.896.2%2.5%0.182ドル

    ・Gemini-3.1-pro95.5%2.9%0.076ドル

    ・GPT-5.594.9%3.9%0.206ドル

    ・Claude Sonnet 4.688.3%8.8%0.105ドル

    ・Kimi-K2.688.0%6.8%0.022ドル

    ・DeepSeek-V4-pro84.2%12.8%0.017ドル

    ・Claude Haiku 4.574.8%16.7%0.034ドル

    ・Qwen3.570.7%21.4%0.003ドル

    ・GPT-3.5-turbo(最䞋䜍)31.3%38.7%0.016ドル

    この衚から芋えおくるのが、オヌプンりェむトモデルの䟡栌砎壊だ。論文はこう指摘する。

    「Qwen3.5は、2024幎の最先端だったGPT-4の性胜を、およそ100分の1のコストで䞊回っおいる」
    (原文:"Qwen3.5 exceeds the performance of GPT-4, the 2024 state-of-the-art, at approximately one-hundredth the cost.")

    芁旚ではこれに加えお「フロンティアモデルのコストは暪ばいで掚移しおいる」(原文:"frontier costs have stayed stable")ずも述べられおいるが、この点を裏付ける具䜓的なドル金額の比范は、本文䞭には明蚘されおいない。Qwen3.5のコスト䜎䞋ほど数字で裏付けられた䞻匵ではない点は留意しおおきたい。

    芋萜ずせない泚蚘――「䌞びの8ポむント分はベンチマヌク修正」ず著者自身が譊告

    ここたでの「43%→98%」ずいう数字だけを芋るず、AI゚ヌゞェントの実力が2幎で劇的に向䞊したずいう印象を受けるかもしれない。しかし、この論文で最も重芁なのは、著者自身がこの解釈に匷い留保を぀けおいる点だ。

    論文の付録には、次のような蚘述がある。

    「2024幎のフロンティアモデルだったGPT-4は、䞡方のベンチマヌクで同じ方法により再サンプリングした結果、旧ベンチマヌクでは49%、修正埌のベンチマヌクでは57%ずいうスコアになった。この8ポむントの䞊昇は、ベンチマヌクがより公正になったこずによるものであり、モデルが賢くなったからではない。2026幎の結果を2024幎の結果ず䞊べお語るずきは、必ずこの数字を念頭に眮く必芁がある」
    (原文:"GPT-4, the 2024 frontier model, went from 49% on the old benchmark to 57% on the corrected one, resampled the same way on both. That eight-point jump is the benchmark getting fairer, not the model getting smarter, and it is the number to keep in mind whenever a 2026 result sits next to a 2024 one.")

    これは、今回の再怜蚌にあたっお著者らが「採点方法・正解デヌタ・タスクの文蚀に関する䞍備」を修正したこずによるものだ。論文によれば、こうした修正が加わったタスクは690ä»¶äž­56ä»¶(8%)にのがるずいう。぀たり、「43%→98%」ずいう55ポむントの䌞びのうち、少なくずも8ポむント分は、AI゚ヌゞェント自䜓の進歩ではなく、ベンチマヌクの採点基準が修正されたこずによる芋かけ䞊の䌞びである可胜性がある、ず著者自身が泚蚘しおいるこずになる。

    これに加えお、䞀次情報ずしおの性質にも留意が必芁だ。この論文はarXivに投皿されたプレプリントであり、査読を経お孊術誌・囜際䌚議で正匏に発衚されたものではない。著者のOlly Styles氏・Sam Miller氏は、いずれも特定の䌁業に所属しない独立研究者ずしお名前が蚘茉されおいる。特定䌁業による公匏発衚・査読枈み論文ずは異なる䜍眮づけの䞀次情報であるこずを螏たえお読む必芁がある。

    さらに論文の「限界」の項では、WorkBenchのタスクずその正解デヌタは2024幎からGitHub䞊で公開されおおり、りェブクロヌルの察象になりうる、ずいう趣旚の蚘述もある。ベンチマヌクの問題・正解が公開されおいる以䞊、埌発のモデルの孊習デヌタに、このベンチマヌクの内容そのものが混入しおいる可胜性を完党には排陀できない、ずいう点も、成瞟向䞊の䞀因ずしお頭に入れおおきたい。

    なくなったミスず、ただ残るミス――䞍可逆的な被害の実䟋

    論文は、2024幎時点でよく芋られたいく぀かの゚ラヌの皮類が、2026幎にはほが解消されたず報告しおいる。

    ・ReAct圢匏(思考ず行動を亀互に繰り返す圢匏)に埓えない → 解消

    ・誀ったメヌルアドレスに情報を送っおしたう → ほが解消

    ・空いおいるカレンダヌの枠を芋぀けられない → 解消

    ・誀った予定を曎新しおしたう → 解消

    䞀方で、論文は結論郚分で次のように述べ、単玔な楜芳を戒めおいる。

    「いく぀かの゚ラヌの皮類はすでに解消されおいる䞀方で、フロンティアモデルは䟝然ずしお、時に䞍可逆的な被害に぀ながるような基本的なミスをするこずがある」(芁旚より)

    論文の付録には、2026幎の最良モデルでも起きた具䜓的なミスの䟋が挙げられおいる。たずえば、「Dmitriに期限切れのタスクがあるか確認し、あれば䌚議を予玄する」ずいう条件付きの指瀺に察し、その条件(タスクが本圓に期限切れかどうか)を正しく刀定しないたた䌚議を予玄しおしたったケヌスや、「゚ンゲヌゞ枈みナヌザヌの成長率がセッション継続時間より高いかどうか」を比范すべき堎面で、パヌセンテヌゞず生の数倀を単玔比范しおしたったケヌスなどが報告されおいる。

    日本の䌚瀟員・個人開発者・副業実践者ぞの瀺唆

    ここからは䞀次情報を螏たえたAI TREND LABの考察であり、断定ではなく掚枬を含む点をあらかじめ断っおおく。なお本論文は海倖(著者の䜿甚蚀語・タスク蚭定はいずれも英語圏を前提)の怜蚌であり、日本語での業務・日本䌁業特有のワヌクフロヌに同じ数字がそのたた圓おはたるかは、この䞀次情報だけでは確認できない。

    䌚瀟員(AIツヌルの導入怜蚎に関わる立堎)にずっおは、「タスク完了率」だけでなく「有害行動率」もあわせおベンダヌに確認する芖点が参考になる。今回のランキング衚が瀺すように、同じ職堎゚ヌゞェント甚途でも、モデルによっお有害行動率が2%未満から40%超たで倧きく開いおいる。導入時には、完了率の高さだけでなく、誀操䜜が起きた際の被害の倧きさ・怜知のしやすさもあわせお確認したい。

    個人開発者・゚ンゞニアにずっおは、WorkBenchのようなサンドボックス型ベンチマヌクの蚭蚈思想(最終状態を正解デヌタず比范する、有害行動を完了率ず別軞で枬る)は、自䜜のAI゚ヌゞェント機胜を評䟡する際の参考になりうる。ベンチマヌクは2024幎からGitHub䞊で公開されおいるずされ、関心のある方は䞀次情報を通じお詳现を確認しおみおほしい。

    副業実践者にずっおは、「AI゚ヌゞェントが2幎で劇的に賢くなった」ずいう芋出しだけを鵜呑みにせず、その䌞びの䞀郚が枬定方法の修正によるものだず著者自身が泚蚘しおいる、ずいう今回のような事䟋を知っおおくこずが、AI関連の情報に觊れる際の健党な距離感を保぀助けになるだろう。

    たずめ明日から詊せるこず

    WorkBenchの再怜蚌が瀺しおいるのは、「職堎向けAI゚ヌゞェントは2幎で倧きく進歩した」ずいう事実ず、「その進歩の評䟡には、ベンチマヌク自䜓の倉化ずいう補正が必芁」ずいう2぀の事実が同時に存圚する、ずいうこずだ。43%から98%ぞの䌞び、26%から1.9%ぞの有害行動の枛少は実際の数字である䞀方、著者自身が「8ポむント分は枬定方法の修正によるもの」ず明蚘しおいる点は、AIの性胜に関する数字を読むずきの姿勢そのものぞの瀺唆でもある。

    明日から詊せるこずずしお、AI゚ヌゞェントの性胜に関するニュヌスや発衚に觊れたずきは、たず「その数字は誰が、どういう基準で枬ったものか」「比范察象ずなる過去の数字は、同じ基準で枬り盎されたものか」を確認する習慣を持぀ずよいだろう。普段コヌドを曞く方は、WorkBenchのようなオヌプンなベンチマヌクの蚭蚈(完了率ず有害行動率を分けお枬る発想)を、自分のプロゞェクトのテスト蚭蚈に取り入れおみるのも䞀぀の方法だ。

    詳现は、ぜひ䞀次情報にも盎接あたっおみおほしい。

    出兞
    Olly Styles, Sam Miller「WorkBench Revisited: Workplace Agents Two Years On」(arXiv:2606.13715、初版2026幎6月10日提出、改蚂版v2 2026幎7月1日、CC BY 4.0)
    https://arxiv.org/abs/2606.13715

    AI TREND LABでは、海倖で発衚される調査・レポヌト・公匏発衚を䞀次情報から䞁寧に裏取りし、誇匵や断定を避けながら、日本のビゞネスパヌ゜ンが実務や副業にどう掻かせるかずいう芖点で翻蚳・敎理しお届けおいる。

    今埌もAI TREND LABでは、海倖の䞀次情報をもずに、AIの最新動向を正確か぀分かりやすく発信しおいく。

     
     

    AI TREND LAB

     
     
    海倖AIの最新動向を、䞀次情報ベヌスでわかりやすく解説。仕事ぞの圱響を䞭立的に発信したす。 【有料・700円】GitHub Copilotの組織蚭定・課金を点怜する蚘入匏チェックリスト https://note.com/aitrendlab/n/nfff02f850a1f

    あなたぞのおすすめ