メインコンテンツへスキップ
見出し画像

AIは「嘘の判例」を20件でっち上げた——「AI使ってません」が致命傷になった日 2026年3月最新トレンド④


    🐾黒パグからご案内🐾
    ⚠️ 本記事についての注意事項
    本記事は、2026年3月20日にネブラスカ州最高裁判所が公開した判決(Prososki v. Regan, No. S-25-295, 321 Neb. 38)を題材にしていますが、法的アドバイスを提供するものではありません。AIの仕組みと人間の確認プロセスの重要性について、LLMエンジニアの視点から技術的・実務的に考察するものです。
    なお、本件は懲戒手続が継続中であり、最終処分は確定していません。
    ※黒パグは弁護士ではありません。作中のキャラクターとして呼称しています※


    追記(08:15)
    少し難しい話になるのでノートブックLMでポッドキャスト作りました。綺麗に解説しているので聞きがなら記事を見るとかなり理解ができます


    本編はこちら🐾

    導入:弁護士のキャリアが揺らいだ

    画像


    2026年3月20日——判決が出たばかりの、超速報です。
    ネブラスカ州最高裁判所が、ある離婚事件の控訴審で異例の判断を下しました。事件名は Prososki v. Regan(事件番号 S-25-295)。
    弁護士が裁判所に提出した書面(「ブリーフ」といいます。裁判で自分の主張を整理した文書のことです)に、架空の判例が20件含まれていました。
    存在しない事件。存在しない引用。存在しない判決文。
    そして弁護士は、こう言い張りました。
    「AIなんて使っていません。」
    前回の記事(③)で、こう書きました。「ハルシネーションは設計から生まれる。確認する手間は、まだ人間のものだ」と。
    今日は、その確認をしなかった人間が、実際に裁かれた話です。
    💡 一行まとめ:
    「AI使ってません」と言い張ったことが、事態をさらに悪化させました。
    第一章:何が起きたか——架空の判例、20件

    画像


    まず前提を一つだけ。
    LLM(大規模言語モデル)は、判例データベースではありません。「次に来る確率の高い言葉」をつなげて文章を作るシステムです。だから、存在しない判例を——自信満々に——作り上げることがあります。これを「ハルシネーション(幻覚)」と呼びます。(詳しくは前回③で解説しています)
    では、何が起きたのか。
    Prososki v. Reganは、離婚・財産分与・子の監護権(親権)をめぐる控訴事件でした。夫側の代理人弁護士が、控訴のためのブリーフを裁判所に提出しました。
    裁判所がこのブリーフを精査したところ、問題のある引用が合計20件見つかりました。

    画像


    たとえば:
    Kennedy v. Kennedy という判例は5回引用されていましたが、そもそもこの事件自体が存在しませんでした。完全な架空です。
    Simons v. Simons(2022年) や Bergmeier v. Bergmeier(2017年) は実在する判例ですが、判決文に書かれていない文言が「引用」として付されていました。
    裁判所は判決文の中で、これらを "fictitious cases"(架空の事件) や "fabricated citations and quotations"(捏造された引用と引用文) と呼んでいます。
    💡 一行まとめ:
    提出された法的根拠のうち20件が、存在しないか、内容が捏造されていました。
    第二章:否定したことが、むしろ致命傷になった

    画像


    問題が発覚したあと、裁判所は代理人弁護士に釈明を求めました。
    弁護士の回答は、こうでした。
    「AIは使っていない。」
    そして、こう説明しました。
    「Westlaw(法律専門のデータベース)からコピー&ペーストした際に、確認を怠った。」
    「ノートパソコンの画面が壊れていて("catastrophic screen crack"——原文ママです)、内容の精査ができなかった。」

    画像
    画像


    裁判所は、この説明を退けました。
    理由はシンプルです。「コピー&ペーストの確認不足では、完全に架空の判例が生まれることは説明できない」からです。Westlawは法律の専門データベースですから、そこからコピーしたものに「存在しない判例」が混ざることは、通常あり得ません。
    ここで重要なのは、裁判所が問題にしたのは「AIを使ったこと」ではないという点です。
    AIを使うこと自体は、(少なくともこの判決の論理では)問題ではありません。問題だったのは:
    内容を確認しなかったこと
    確認しなかったことについて、正直に説明しなかったこと
    AIを使ったこと自体ではなく、それを隠そうとした——あるいは隠さざるを得なかった——「不誠実さ」こそが、彼の首を絞めることになります。
    💡 一行まとめ:
    「使っていない」と言い張ったことが、誠実義務違反を確定させる方向に働きました。

    第三章:裁判所の論理——新しいルールは要らない

    画像


    裁判所の対応は、三段階でした。
    第一に、ブリーフの抹消。 提出された書面を無効としました。
    第二に、上訴の却下。 ブリーフが無効になった以上、上訴の根拠がなくなりました。
    第三に、代理人弁護士をネブラスカ州最高裁判所の懲戒委員会(Counsel for Discipline)に付託しました。 これは「処分が決まった」という意味ではなく、「処分すべきかどうかの調査を開始する」という段階です。

    画像
    画像


    裁判所が援用した規則は、すべて既存の弁護士倫理規定です:
    § 3-503.3(a)(1):裁判所に対する誠実義務(虚偽の事実や法を述べてはならない)
    § 3-501.1:有能な代理の義務(十分な準備と知識をもって業務にあたる)
    § 3-508.4(c):不誠実、詐欺、欺罔、虚偽表示の禁止
    注目すべきは、ここにAI専用の新ルールは一つもないということです。
    ネブラスカ州法務長官室の Zachary B. Pohlman 氏が、法廷助言者(amicus curiae)として意見を提出しています。その立場は明確でした:「既存の弁護士倫理規定で十分に対処できる。AI専用の新規則は不要である。」
    裁判所もこの立場を採用しました。

    画像


    ここで、2023年の事件との対比が浮かびます。
    2023年、アメリカでMata v. Avianca事件(No. 22-cv-1461, S.D.N.Y.)が話題になりました。弁護士がChatGPTの出力を信じて架空の判例を提出し、制裁を受けた事件です。今回のPrososki v. Regan判決では、この事件が複数回にわたって明示的に引用されています。
    2023年は、「AIが嘘をついた」が話題になりました。
    2026年は、「人間が確認しなかった」が裁かれました。

    3年で変わったのは、AIの能力ではありません。問われる対象が、AIから人間にシフトしたのです。
    💡 一行まとめ:
    「AIだから」ではなく「確認しなかったから」裁かれた。これが2026年の基準です。
    第四章:エンジニアから2つだけ——3年後の生存マニュアル

    画像


    この判決を読んで、LLMエンジニアとして感じたことがあります。
    これは弁護士だけの問題ではありません。
    AIを業務で使うすべての人間に、この判決は一つの基準線を引きました。ここから先、「知らなかった」は通用しない。だからこそ、エンジニアの視点から、今後3年を生き残るための予測を2つだけお伝えします。
    予測1:AI使用を「言える」人間だけが生き残る


    (「AI使ってません」vs「AIを使用し、私がすべて確認しました」)
    この判決が示した最大の教訓は、「AIを使ったこと」が問題なのではなく、「使ったと言えなかったこと」が致命傷になった、ということです。
    隠すことのリスクが、使うことのリスクを完全に超えた——これが2026年3月の転換点です。
    「AI使いました。でもここは自分で確認しました。」
    この一言が言える人間は、誠実です。そして誠実さは、これからの時代に最も価値のあるスキルになります。
    逆に、「使ってません」と言い張らざるを得ない人間は——確認をしていないから、使ったと胸を張れないのです。この弁護士と同じ構造に、すでに片足を突っ込んでいます。
    予測2:検証レイヤーが「今日からできる最強の武器」になる

    画像


    ソフトウェアエンジニアの世界では、テストを書かないプログラマーは現場にいられません。コードを書いたら、テストする。これは当たり前です。
    AIの出力も、同じです。
    AIが生成した文章を、テスト(検証)せずにそのまま世に出す——これは、テストを書かずにコードを本番環境にデプロイするのと同じことです。
    「確認する人間」は、「AIを使える人間」の上位互換です。AIが仕事を奪うのではなく、確認しない人間が、確認する人間に仕事を奪われる。この流れは、あと3年で不可逆になると思います。
    💡 一行まとめ:
    「AI使いました、確認しました」と言える人間だけが、次の3年を生き残ります。
    第五章:あなたが今日できること——検証の境界線

    (※この章は「検証の境界線」と連動しています)
    「AIの出力を全部確認するなら、AI使う意味なくない?」
    この疑問は正しいです。だから、境界線を引きましょう。
    🔴 必ず裏を取るもの(一次情報)

    固有名詞(人名・組織名・事件名)
    数字(日付・金額・統計値)
    引用文(「○○は△△と述べた」の部分)
    法律・規則の条文番号
    🟢 AIを信頼していいもの(整形・補助)

    文章の構成・てにをは・言い回しの磨き上げ
    要約のトーン調整
    アイデア出し・壁打ち
    ⏱️ 今日からできる「1分ルール」

    固有名詞+数字+引用だけは、必ず1回、Googleか公式サイトで裏を取る。
    たった1分です。この1分が、昨日ネブラスカ州で起きたような事態を、あなたの身に起こさせない最大の防御線になります。
    💡 一行まとめ:
    全部確認する必要はありません。「名前・数字・引用」だけ。それだけで十分です。
    まとめ:2023年→2026年、3年で何が変わったか

    画像


    2023年 Mata v. Avianca 2026年 Prososki v. Regan
    何が起きたか AIが架空判例を生成 AIが架空判例を生成
    人間の対応 気づかずに提出 「AI使ってない」と否定
    裁判所の対応 制裁金 ブリーフ抹消+上訴却下+懲戒付託
    問われたこと AIの信頼性 人間の誠実さ
    3年で変わったのは、AIの性能ではありません。
    人間の仕事が「つくること」から「たしかめること」に、静かにシフトしていた——ということです。
    前回の記事で書きました。ハルシネーションは設計から生まれる、と。
    でも、その設計を知ったうえで確認するかどうかは、人間の選択です。
    AIは嘘をつきます。でもそれは悪意ではなく、設計です。
    確認するかどうかは、あなたの選択です。

    画像

    参考資料:
    Prososki v. Regan, No. S-25-295, 321 Neb. 38(2026年3月20日判決)
    判決原文PDF(ネブラスカ州裁判所公式)
    Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023)
    前回記事(③):AIは「嘘の回答」に-500点を食らう——ディープリサーチが変えた調査の概念と、消えない幻覚の話
    🐾 この記事は、「2026年3月最新トレンド」シリーズの最終回です。


    ③ AIは「嘘の回答」に-500点を食らう

     
     
    昭和生まれのAI技術者。生成AIの公式発表・論文・新機能を、実際に触って検証しています。難しいことを面白く、一次ソースは原文まで。画像、創作、黒パグも。PR・レビューのご相談はXかDMへ。AI使用率:記事平均30%、画像100%。パグ好きに悪い人はいないと思うよ🤧🐶

    あなたへのおすすめ