メインコンテンツへスキップ
見出し画像

AI時代に、誰が「NO」と言う権利を持つのか――AIへの委任を拒否する自由と、人間の尊厳を守る制度設計


    はじめに――AIが正しいとき、人間は拒否できるのか

    ある病院で、AIが患者の検査結果や診療情報を分析し、治療方針Aを推奨したとする。

    医師は、その推奨が医学的に合理的であり、患者の予後を改善する可能性が高いと判断している。

    しかし、患者は別の治療方針Bを希望している。副作用への不安、生活上の事情、本人が大切にしている価値観など、AIの計算だけでは十分に表現できない理由があるからだ。

    このとき、患者はAIの推奨を受け入れない選択ができるだろうか。

    別の場面を考えてみたい。

    行政機関がAIを用いて給付金の審査を補助している。申請者は不支給という結果を受け取った。しかし、その判断に誤りがあると感じている。

    人間による再確認を求めることはできるとしても、その手続きが複雑で、時間がかかり、専門知識まで必要だとしたらどうだろうか。

    これらは、問題を考えるための仮想事例である。しかし、AIが医療、行政、教育、雇用などに関与する範囲が広がるにつれて、こうした問題は現実の制度設計に関わる課題になっていく。

    私たちはこれまで、AIの精度をどう高めるか、誤作動や差別をどう防ぐか、人間による監督をどう実現するか、AIが起こした問題について誰が責任を負うのか、といった問いを重ねてきた。

    いずれも重要である。

    しかし、もう一つ、十分に掘り下げられていない問いがある。

    AIが関与することを、人間は拒否できるのか。

    そして、拒否した場合にも、必要な医療、行政サービス、教育、雇用機会へのアクセスを維持できるのか。

    AIの判断が人間より正確になることと、人間がその判断に従わなければならないことは、同じではない。

    技術的な正確性は、社会的な正当性を自動的に保証しない。

    本稿では、この問題を「拒否する自由」という観点から整理し、AIと人間の関係を設計するための原則を検討する。


    1.AIの正確性と、人間が受け入れる自由は別の問題である

    AIの性能が向上すれば、診断、予測、分類、最適化などの領域で、人間より高い精度を示す場面が増える可能性がある。

    そのとき、社会には一つの誘惑が生まれる。

    「AIの方が正しいのだから、AIの判断に従う方が合理的ではないか」

    確かに、一定の条件下ではAIの判断を採用することが望ましい場合もある。

    しかし、判断の精度と、その判断を受け入れるべきかどうかは異なる問題である。

    例えば医療では、ある治療法が統計的に高い成功率を示していても、患者が重視する生活の質、治療に伴う負担、家族との関係、本人の人生観まで、単一の指標で決定できるわけではない。

    行政においても、効率的な分類や審査が実現したとして、それだけで個人の事情を考慮しなくてよいことにはならない。

    教育では、AIが学習効率の高い方法を提示しても、学ぶ人が何を理解したいのか、どのような過程を大切にするのかは別の問題である。

    雇用では、AIが生産性を予測できたとしても、その予測を根拠に人間の働き方や評価を一方的に決定してよいとは限らない。

    重要なのは、AIの判断を採用するかどうかを決める権限と、その判断によって影響を受ける人の主体性を、制度の中でどう位置づけるかという問題である。

    AIが優れた選択肢を提示することと、人間がその選択肢を受け入れる義務を負うことの間には、論理的な飛躍がある。

    人間の自律性は、常に最も効率的な選択をすることだけを意味しない。

    自分にとって何が重要なのかを考え、他の選択肢を検討し、必要ならば提示された選択を受け入れないことも、自律性の一部である。

    したがって、AI時代の人間の自由を考えるとき、私たちは「何を選べるか」だけでなく、「何を選ばないことができるか」にも目を向ける必要がある。


    2.既存のAI倫理・ガバナンスは、この問題をどこまで扱っているのか

    「拒否する自由」は、既存の研究や制度と無関係に生まれた概念ではない。すでに、近接する重要な研究領域が存在する。

    2-1.人間の自律性

    Catena(2026)は、AI倫理における人間の自律性に関する研究を整理し、AIが人間の熟慮、意思決定、行動に及ぼす影響を検討している。

    このレビューは、AIによる情報提供や意思決定の支援が、人間の自律性を支える可能性を持つ一方で、AIによる活動の媒介や自動化が、自律的な選択や行動の条件を変える可能性も示している。

    AIが人間の自律性を支援するのか、それとも徐々にその余地を狭めるのか。

    この問いは、拒否する自由を考えるための重要な出発点になる。

    2-2.Meaningful Human Control(意味のある人間の制御)

    Santoni de Sioとvan den Hoven(2018)は、自律型システムに対する「意味のある人間の制御」を哲学的に整理した。

    彼らは、システムが人間の関連する理由や環境の事実に適切に反応すること、そしてシステムの結果を設計・運用に関わる人間へ遡って追跡できることを、重要な条件として論じている。

    この考え方は、単に人間がシステムの近くにいるだけでは、実質的な人間の制御とはいえないことを示している。

    人間がAIの出力を理解できず、介入する権限もなく、結果への責任も曖昧な状態では、形式的に人間が関与していても、意味のある制御は成立しにくい。

    2-3.異議申立てと救済

    AIによる判断に問題があった場合、その判断を争い、再検討を求めることができるかという「Contestability(異議申立て可能性)」も重要な研究領域である。

    Yurritaら(2025)は、公共分野のアルゴリズム判断を想定したシナリオを用い、21人への半構造化インタビューを通じて、判断の対象となる人々が意味のある異議申立てを行うために必要な条件を検討した。

    その研究では、判断の意味を理解するための協力、異議申立ての行動を支える支援、責任の適切な帰属などが重要な要素として示されている。

    また、Fanniら(2023)は、AIシステムにおける救済(Redress)が人間の主体性を高める可能性を論じている。

    これらの研究は、AIの判断を受ける側が、単に説明を受けるだけでは十分ではないことを示唆している。

    しかし、本稿がさらに問いたいのは、AIによる判断が行われた後に争えるかどうかだけではない。

    そもそも、AIの関与や判断への委任を受け入れない選択を、実質的に行えるのか。

    ここに、拒否する自由を独立した分析対象として検討する意義がある。


    3.「拒否」「異議申立て」「救済」は同じではない

    この議論を進めるためには、似ているようで異なる三つの概念を区別する必要がある。

    拒否(Refusal)

    AIの利用、関与、出力の採用、判断の委任などを受け入れないこと。

    例えば、患者がAIを用いた診療支援の利用を希望しないことや、専門職がAIの推奨を採用しないことが含まれる。

    異議申立て(Contestability)

    AIが関与した判断や手続きについて、説明を求めたり、誤りや不当性を指摘したり、再検討を求めたりすること。

    例えば、行政機関のAI支援による審査結果について、人間による再確認を求めることが該当する。

    救済(Redress)

    AIの関与によって不利益や損害が生じた場合に、その是正、回復、補償などを求めること。

    例えば、誤った判断によって給付が停止された場合に、判断の訂正や必要な給付の回復を求めることが考えられる。

    この三つは相互に関係するが、同じものではない。

    拒否できても、拒否した後に必要なサービスを利用できなければ、実質的な選択肢とはいえない。

    異議を申し立てられても、判断を再検討する仕組みが機能しなければ、形式的な手続きに終わる。

    救済制度があっても、被害が発生する前にAIへの委任を制限できるとは限らない。

    したがって、AI時代の人間の主体性を守るには、これらを区別したうえで、相互に接続する必要がある。


    4.拒否する自由は、誰のための自由なのか

    AIへの拒否を考えるとき、すべての人間を同じ立場に置くことはできない。

    AIに関わる主体には、少なくとも三つの異なる立場がある。

    4-1.AIの影響を受ける個人

    患者、住民、学生、労働者、サービス利用者などである。

    この立場の人は、自分の生活や権利に関わる場面で、AIの関与や利用を受け入れない選択を必要とする場合がある。

    ここで問われるのは、本人がAIの関与を知り、その影響を理解し、選択できるかどうかである。

    4-2.AIを利用する専門職・運用担当者

    医師、教員、行政職員、管理職などである。

    この立場では、AIの推奨を採用しないこと、AIに委任した判断を停止すること、AIの権限を取り消すことなどが重要になる。

    専門職がAIの出力を疑問に感じても、組織の方針や業務評価によって採用を事実上強制されるならば、専門的判断の自由は制約される。

    4-3.AIを導入・運用する組織

    病院、学校、企業、行政機関などである。

    組織には、AIの導入を見送ること、利用範囲を限定すること、問題が発生した際に運用を停止することなどが求められる。

    ただし、組織の拒否と個人の拒否は同じではない。

    組織がAIを導入しない判断をすることと、組織が個人にAIの利用を強制することを防ぐことは、異なる制度課題である。

    この三つの主体を区別しなければ、誰が、何を、どの範囲で拒否できるのかが曖昧になる。


    5.四つの社会領域に見る「拒否する自由」の課題

    拒否する自由は、抽象的な倫理原則だけでは評価できない。実際にAIが導入される社会領域を比較することで、必要な制度条件が見えてくる。

    5-1.医療――患者がAIの関与を選べるか

    医療では、AIが画像診断、検査結果の解釈、治療方針の提案、患者モニタリングなどに関与する可能性が広がっている。

    ここで重要なのは、患者がAIを利用するかどうかを選べるかという点だけではない。AIを利用しない場合にも、医学的に妥当な代替手段へアクセスできるかが問題になる。

    Yu(2026)は、医療AIのガバナンスにおいて、患者がAIの関与を知り、その関与を選択・異議申立てできること、そして意味のある人間の関与にアクセスできることを論じている。

    これは招待レターとしての論考であり、実証研究によって有効性が確認されたという意味ではない。しかし、患者の主体性を医療AIの安全設計に組み込む必要性を示す議論として重要である。

    一方で、医療における拒否は単純ではない。

    緊急時、意思決定能力が十分でない場合、代替手段が存在しない場合などには、本人の意思、医学的妥当性、他者の安全との調整が必要になる。

    また、患者の自己決定を尊重することは、医療者が専門的な助言や支援を放棄することを意味しない。

    拒否する自由は、医療者の責任を患者に押しつける仕組みであってはならない。

    必要なのは、患者の意思を尊重しながら、専門的な説明、代替案の提示、継続的な意思決定支援を行うことである。

    5-2.行政――拒否や異議申立ての負担は誰が負うのか

    行政サービスでは、AIやアルゴリズムによる分類・審査・優先順位付けが、住民の生活に直接影響する可能性がある。

    ここで問題となるのは、AIの判断が正しいかどうかだけではない。住民が判断に納得できない場合、どのように異議を申し立てられるかである。

    Karusalaら(2024)は、インドの土地・住宅関連サービスと米国の住宅支援を対象に、制度利用や不利益な結果への対応、異議申立てをめぐる実態を質的に調査した。

    重要な注意点がある。この研究の調査対象となったサービス自体が、アルゴリズムによって運用されていたわけではない。研究者らは、公共サービスにアルゴリズムによる意思決定が導入される場合を見据え、既存の制度利用や異議申立ての経験から設計上の示唆を導いている。

    研究では、権利を行使するための知識や手続き上の障壁に加え、NGO職員や法律専門家などの仲介者が、人々の異議申立てを支える役割を果たすことが示されている。

    ここから見えてくるのは、制度に異議申立ての窓口が存在するだけでは不十分だということだ。

    申立ての方法を理解すること、必要な資料を集めること、期限を守ること、専門的な説明を読み解くこと。

    こうした負担が個人に集中すれば、権利を利用できる人と利用できない人の差が広がる可能性がある。

    2026年のデジタル行政サービスに関するシステマティックレビューも、デジタル化されたサービスが、資源の少ない人や複雑な事情を抱える人にとって、新たな行政負担を生み得ることを整理している。

    したがって、AIを拒否する、あるいはAIの判断に異議を申し立てるための制度は、個人の努力だけに依存してはならない。

    説明、相談支援、対面窓口、人間による再審査などを、制度側がどこまで用意するかが重要になる。

    5-3.教育――AIを使わない選択は学ぶ機会を損なわないか

    教育では、生成AIが学習支援、文章作成、評価、教材の個別最適化などに利用され始めている。

    しかし、学習者や教員がAIを使わないことを選んだ場合、その選択によって不利益を受ける可能性がある。

    例えば、AIを利用した学習が事実上の標準になり、利用しない学生が授業や評価で不利になるとしたらどうだろうか。

    逆に、AIを使う学生が、学習過程を十分に理解しないまま成果だけを得ることができるとしたら、教育の公平性や学習の意味はどう変化するのだろうか。

    Zagami(2026)は、高等教育におけるAI拒否を、単純な不使用ではなく、役割や状況に応じた選択の幅として論じている。

    そこには、利用しないこと、利用を制限すること、利用を延期すること、限定的に利用すること、組織として導入を見送ることなどが含まれる。

    この論考は概念的なコメント論文であり、特定の教育制度で拒否の自由が実証されたことを意味しない。

    しかし、教育におけるAIの利用を一律に促進するのではなく、学習者と教育者がその利用の意味を考えられる環境を設計する必要性を示している。

    教育において守るべきものは、単なるAI利用の有無ではない。学ぶ人が、自分の理解や判断を形成する過程に主体的に関われることである。

    5-4.雇用――AIの判断を拒否できない労働環境

    雇用領域では、AIやアルゴリズムを利用した業務配分、勤務管理、業績評価、採用、配置などが広がっている。

    OECDが2025年に公表した調査では、フランス、ドイツ、イタリア、日本、スペイン、米国の6か国における6,000人超の中間管理職を対象に、アルゴリズム管理ツールの導入状況が調べられた。

    日本では、調査対象企業の40%が少なくとも一つのアルゴリズム管理ツールを導入していると報告された。

    また、こうしたツールを利用する管理職のほぼ3分の2が、労働者への影響について少なくとも一つの懸念を示している。

    ただし、ここでいうアルゴリズム管理ツールは、AIだけを意味するものではない。この数字をAI導入率として解釈することはできない。

    それでも、職場におけるアルゴリズムによる管理が、すでに具体的な制度課題になっていることは分かる。

    労働者がAIによる評価や業務配分に疑問を持っても、それを拒否すれば評価が下がる、配置に影響する、雇用上の不利益を受けるという状況なら、形式的な選択肢があっても実質的な拒否は困難になる。

    ここで必要なのは、労働者個人にすべての対応を委ねることではない。

    労働者への説明、労使協議、異議申立ての仕組み、報復的な不利益の防止、組織による責任ある運用が必要になる。


    6.拒否する自由を実質化する三段階

    ここまでの議論から、拒否する自由を制度として評価するためには、少なくとも三つの段階を考える必要がある。

    第1段階:拒否を選択できる条件

    最初に必要なのは、本人がAIの関与を知り、何が委任されているのかを理解できることである。

    AIがどの情報を利用し、どの判断に影響し、どこまでの権限を持っているのかが分からなければ、拒否するかどうかを選ぶことは難しい。

    必要となる条件は、次のようなものである。

    • AIが関与していることを知ることができる。

    • AIの役割や権限の範囲を理解できる。

    • AIを利用する場合と利用しない場合の選択肢を把握できる。

    • 拒否した場合に何が起こるのかを事前に確認できる。

    第2段階:拒否を実行できる条件

    選択肢が存在しても、実際に拒否できなければ意味がない。

    AIの出力を採用しないこと、AIへの委任を停止すること、利用を撤回すること、別の手段に切り替えることなどが、実際に可能でなければならない。

    必要となる条件は、次のようなものである。

    • AIの利用や関与を拒否できる。

    • AIの出力を採用しない選択ができる。

    • 既に委任した権限を停止・撤回できる。

    • 人間による確認や代替手段にアクセスできる。

    • 拒否の手続きが過度に複雑ではない。

    第3段階:拒否した後も尊厳と選択肢が維持される条件

    最も重要なのは、拒否した後である。

    AIを利用しないことを選んだ人が、必要なサービスを受けられなくなったり、過度な時間的・金銭的負担を負ったり、周囲から不合理な不利益を受けたりするならば、その拒否は実質的な自由とはいえない。

    必要となる条件は、次のようなものである。

    • 拒否を理由とする不合理な不利益が生じない。

    • 必要なサービスや社会参加へのアクセスが維持される。

    • 代替手段が現実的に利用できる。

    • 拒否に伴う追加負担が特定の個人に過度に集中しない。

    • 問題が生じた場合に再検討や救済を求められる。

    この三段階は、現時点で実証的に妥当性が確立された尺度ではない。本稿が提案する、拒否する自由を分析するための暫定的な枠組みである。

    今後、異なる領域での検証を通じて、各条件の定義や測定方法を精緻化する必要がある。


    7.拒否の負担を誰が引き受けるのか

    拒否する自由を制度として考えるとき、避けて通れない問題がある。

    それは、拒否に伴う負担を誰が引き受けるのかという問題である。

    例えば、AIによる行政審査を拒否した住民が、人間による審査を受けるために何度も窓口へ足を運び、膨大な書類を準備しなければならないとする。

    あるいは、AIを利用しない患者が、代替の診療経路を探すために追加の時間や費用を負担しなければならないとする。

    このとき、制度は形式上、拒否を認めている。

    しかし、拒否するための負担を個人に集中させている。

    結果として、時間、経済的資源、知識、支援者を持つ人ほど拒否しやすく、それらを持たない人ほどAIの利用を受け入れざるを得なくなる可能性がある。

    これは、形式的な権利と実質的な自由の間に生じる格差である。

    行政負担研究では、制度を利用するために必要な学習コスト、手続き上のコンプライアンスコスト、心理的コストなどが論じられてきた。

    この視点をAIへの拒否に適用すれば、拒否に伴う負担も制度設計の評価対象になる。

    ここで、負担を個人、組織、社会のどこに配分するかが重要になる。

    個人が拒否を希望するたびに、専門知識を身につけ、手続きを調べ、代替手段を探し、追加費用を負担する仕組みでは、実質的な自由を保障できない。

    AIを導入する組織には、利用目的や影響を説明し、適切な代替手段を整備し、拒否や異議申立てに対応する責任がある。

    社会には、個人の資源や能力によって拒否の可能性が大きく左右されないよう、制度的な支援を整える役割がある。

    拒否する自由を保障することは、拒否する負担を個人に押しつけることではない。

    むしろ、拒否を実行可能にするための負担を、誰がどのように引き受けるべきかを設計することである。


    8.拒否する自由は、無制限の拒否権ではない

    ここまでの議論は、あらゆるAIの利用を個人が無条件に拒否できるようにすべきだという主張ではない。

    現実の社会では、他者の権利、安全、法的義務、公共の利益との調整が必要になる。

    例えば、緊急医療の場面では、十分な説明や選択の時間を確保すること自体が難しい場合がある。

    公共の安全に関わる業務では、個人の希望だけで制度全体の運用を停止できるわけではない。

    また、専門職がAIの判断を採用しない場合にも、その判断について説明責任を負う必要がある。

    したがって、拒否する自由は、責任を免れるための権利ではない。

    重要なのは、拒否が認められる範囲と条件を、利用場面、リスク、影響を受ける人、代替手段の有無などに応じて明確にすることである。

    同時に、拒否を制限する場合には、その理由が説明可能であり、必要性と比例性が検討され、適切な再検討の機会が用意されなければならない。

    拒否する自由は、AIを使うか使わないかという単純な二択ではない。

    AIとの関係をどの範囲で受け入れ、どこから人間の判断や責任を維持するのかを決めるための、制度的な原則として考える必要がある。


    9.既存の制度は何を保障し、何を保障していないのか

    拒否する自由を検討するうえでは、既存の法制度との関係も整理しなければならない。

    9-1.EU AI Act

    EUのAI Act(人工知能法)第14条は、高リスクAIシステムについて、人間による効果的な監督が可能となるように設計・開発することを求めている。

    その監督には、システムの出力を理解し、必要に応じて介入し、出力を無視・覆し、システムの運用を停止できる能力などが関係する。

    これは、人間がAIの出力にただ従うだけの存在にならないための重要な制度的基盤である。

    ただし、第14条は高リスクAIに対する人間の監督に関する規定であり、あらゆる個人に対して、あらゆるAI利用を拒否できる一般的な権利を保障するものではない。

    この区別は重要である。

    9-2.日本の個人情報保護法

    日本の個人情報保護法にも、一定の条件のもとで、本人が保有個人情報の開示、訂正、利用停止などを請求できる仕組みがある。

    しかし、これらは個人情報の取扱いに関する権利であり、AIによる判断やAIの関与そのものを包括的に拒否する権利と同じではない。

    例えば、行政機関等が保有する個人情報について、利用停止請求が認められるのは法律上定められた要件に該当する場合であり、AIが関与しているという理由だけで、あらゆる利用を停止できるわけではない。

    9-3.医療における意思決定支援

    医療では、インフォームド・コンセントや本人の意思決定支援が重要な原則となっている。

    厚生労働省の意思決定支援に関する指針も、本人の意思確認を基本とし、本人の意思決定能力に応じた支援や、十分な話し合いを重視している。

    一方で、自己決定を尊重することは、専門職が必要な説明や助言を放棄することを意味しない。

    医療者と患者が協働して意思決定を行うことが重要である。

    ここでも、既存の患者の意思決定に関する原則と、AIの関与を拒否する制度的な権利は、区別して検討する必要がある。

    以上から分かるのは、既存の制度や研究には、拒否する自由を支える重要な要素がすでに存在するということである。

    しかし、それらは異なる目的や対象に基づいて設計されており、AIの関与を受け入れない選択を、社会のさまざまな領域で実質的に保障する統一的な枠組みが完成しているわけではない。

    本稿の提案は、既存の権利を置き換えることではない。

    既存の制度を接続し、AIへの関与や委任を拒否する選択が実際に機能するための条件を、横断的に検討することである。


    10.CCIからの研究仮説――拒否できる社会は、何を変えるのか

    ここまでの整理を踏まえ、本稿では三つの研究仮説を提示する。

    これらは現時点で実証された結論ではなく、今後の研究で検証すべき仮説である。

    仮説1:形式的な拒否可能性と、実質的な拒否可能性には差がある。

    制度上は拒否できても、情報不足、手続きの複雑さ、代替手段の不足などによって、実際には拒否できない状況が生じる可能性がある。

    この差は、AIの導入領域や制度設計によって異なると考えられる。

    仮説2:拒否に伴う負担が個人に集中するほど、拒否可能性の格差は拡大する。

    時間、経済的資源、専門知識、支援者などを持つ人は拒否を実行しやすい一方、それらを持たない人はAIの利用を受け入れざるを得なくなる可能性がある。

    この仮説は、拒否する自由を個人の能力だけでなく、社会的な資源配分の問題として捉えるものである。

    仮説3:拒否後の代替手段と救済制度が整備されるほど、AIへの委任はより自律的な選択になる。

    拒否した場合にも必要なサービスへのアクセスが維持され、再検討や救済を求められるならば、人間はより安心してAIへの委任を選択できる可能性がある。

    ここで重要なのは、AIを拒否する自由が、AIの利用を妨げるだけのものではないという点である。

    拒否できるからこそ、利用することも自分の意思で選べる。


    11.今後の実証研究に向けて

    本稿の三段階モデルを実証的に検討するためには、具体的な制度やサービスを対象にした調査が必要になる。

    例えば、行政サービスを題材に、次のような条件の異なる仮想シナリオを提示することが考えられる。

    • AIによる審査結果を受け入れる以外に選択肢がない場合。

    • AIの判断に異議を申し立てられるが、手続きは本人がすべて行う場合。

    • 人間による再審査が可能で、申立てを支援する窓口がある場合。

    • AIを利用しない経路も用意され、サービスの利用条件が不合理に悪化しない場合。

    これらの条件を比較することで、拒否する自由の実質性に影響する要素を検討できる。

    評価項目としては、少なくとも次の観点が考えられる。

    • AIの関与を認識できるか。

    • AIの役割や判断の影響を理解できるか。

    • 拒否や委任の撤回を実行できるか。

    • 代替手段にアクセスできるか。

    • 拒否に伴う時間的・経済的・心理的負担はどの程度か。

    • 拒否によってサービスや社会参加の機会が損なわれないか。

    • 再検討や救済を求めることができるか。

    また、本人の属性や置かれた状況によって、これらの条件がどのように異なるかも検討する必要がある。

    例えば、デジタルリテラシー、経済的資源、障害の有無、年齢、言語、専門的な支援へのアクセスなどによって、拒否の実行可能性が変わる可能性がある。

    さらに、個人だけでなく、専門職や組織がAIへの委任を停止できる条件も研究対象に含める必要がある。

    こうした研究を通じて、拒否する自由を単なる理念ではなく、制度設計と評価が可能な研究対象へと発展させることができる。


    おわりに――拒否できるからこそ、委任する自由も守られる

    AIが人間より高い能力を持つ領域は、今後さらに増えていくだろう。

    私たちは、AIを利用することで、これまで困難だった問題を解決できるかもしれない。

    医療の質を高め、行政サービスを改善し、教育の可能性を広げ、働き方を変えることもできるだろう。

    その可能性を否定する必要はない。

    しかし、AIが社会の重要な判断に関与するようになるほど、私たちは別の問いにも向き合わなければならない。

    AIを利用できるかどうかだけではない。

    AIを利用しないことを選べるか。

    AIの判断を採用しないことができるか。

    一度委任した権限を取り戻せるか。

    そして、その選択によって人間が不合理な不利益を受けないか。

    これらは、技術の進歩を妨げるための問いではない。

    むしろ、人間がAIと安心して協働するための条件である。

    拒否する自由とは、AIを敵視し、社会から排除するための考え方ではない。

    AIとの接続を選び、必要ならば制限し、いつでも再検討できるようにするための、主導権の設計である。

    人間がAIに判断を委ねることと、人間が判断する主体でなくなることは違う。

    人間がAIの提案を受け入れることと、受け入れる以外の選択肢を失うことも違う。

    AIが優れた判断を提示できる社会だからこそ、その判断を採用するかどうかを考える余地を残さなければならない。

    そして、その余地は、個人の勇気や知識、経済力に依存するものであってはならない。

    制度として保障され、誰もが実際に利用できるものでなければならない。

    拒否できるからこそ、委任することも自由な選択になる。

    AIに何を任せるのか。
    何を任せないのか。
    どこで人間が判断し続けるのか。

    その境界を決める主体は、技術そのものではなく、人間と社会である。

    文明意識研究所(CCI)は、AIの能力を高めることだけでなく、AIが関与する社会の中で、人間の尊厳、自律性、選択可能性をどのように維持できるかを研究課題として位置づける。

    異なる存在を、支配せずにつなぐ。

    人間とAIの関係もまた、その原則から考え直す必要があるのではないだろうか。


    本稿の研究上の位置づけと限界

    本稿は、AIへの関与や判断の委任を拒否する自由について、既存の研究・制度を整理し、今後の研究に向けた分析枠組みと仮説を提示する概念的研究である。

    本稿で示した三段階モデルおよび研究仮説は、実証的な妥当性が確立されたものではない。今後、医療、行政、教育、雇用などの領域で、制度的・実証的な検証が必要である。

    また、「拒否する自由」は、本稿において提案する研究上の概念であり、現行法上、あらゆるAI利用を拒否できる包括的な権利がすでに確立していると主張するものではない。

    既存の法制度、専門職の責任、他者の権利、安全、公共の利益との関係を踏まえ、適用範囲と制度的条件を慎重に検討する必要がある。

    参考文献

    Catena, E. (2026). AI and human autonomy: a literature review. AI and Ethics, 6, Article 126. https://doi.org/10.1007/s43681-025-00958-4

    Fanni, R., Steinkogler, V. E., Zampedri, G., & Pierson, J. (2023). Enhancing human agency through redress in Artificial Intelligence Systems. AI & Society, 38(2), 537–547. https://doi.org/10.1007/s00146-022-01454-7

    Karusala, N., Upadhyay, S., Veeraraghavan, R., & Gajos, K. Z. (2024). Understanding Contestability on the Margins: Implications for the Design of Algorithmic Decision-making in Public Services. Proceedings of the CHI Conference on Human Factors in Computing Systems (CHI ’24). https://doi.org/10.1145/3613904.3641898

    OECD. (2025). How widespread is algorithmic management in workplaces? OECD Publishing. https://doi.org/10.1787/cda7a114-en

    Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, 5, 15. https://doi.org/10.3389/frobt.2018.00015

    Yurrita, M., Verma, H., Balayn, A., Alfrink, K., Gadiraju, U., & Bozzon, A. (2025). Identifying Algorithmic Decision Subjects' Needs for Meaningful Contestability. Proceedings of the ACM on Human-Computer Interaction, 9(7), Article CSCW234. https://doi.org/10.1145/3757415

    Yu, L. (2026). Preventive governance for patient-centred medical AI. Clinical and Translational Medicine, 16(10), e70872. https://doi.org/10.1002/ctm2.70872

    Zagami, J. (2026). AI refusal in higher education: the right to refuse, the duty to understand and the diagnostic value of non-use. Higher Education Research & Development, 45(7), 2287–2294. https://doi.org/10.1080/07294360.2026.2694409

    Administrative burden in digital service provision: a systematic literature review and research agenda. (2026). Perspectives on Public Management and Governance, 9(3), 171–190. https://doi.org/10.1093/ppmgov/gvag004

    European Parliament and Council. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Article 14.

    個人情報保護委員会『個人情報の保護に関する法律についてのガイドライン(行政機関等編)』。

    厚生労働省『適切な意思決定支援の指針』。



    関連する研究・知識共有について

    本稿で提示した「拒否する自由」は、AIの利用を否定するための考え方ではありません。

    AIが社会に深く関与する時代に、人間が自分の判断、選択、尊厳をどのように維持できるのか。そのための制度や仕組みを考える研究課題です。

    このテーマには、AI研究、法学、医療、行政、教育、労働、社会科学など、異なる専門領域からの検討が必要だと考えています。

    文明意識研究所(CCI)では、異なる専門性や経験を持つ人々の知識をつなぎ、個人の視点だけでは見えない課題や可能性を探る研究活動を進めています。

    研究の背景やCCIの活動について

    人と人との知識をつなぐ研究ハブへ|文明意識研究所(CCI)が目指すもの

    専門知識や実務経験を持つ方との知識共有について

    CCI 集合知への参加・知識共有について

    CCIの研究活動を継続的に支えてくださる方へ

    CCIの活動を支える

    AIと人間の関係を、効率性や技術性能だけでなく、人間の尊厳と選択可能性から考える。

    この問いを、さまざまな専門性と経験を持つ人々とともに深めていきたいと考えています。

    文明意識研究所(CCI)
    Civilizational Consciousness Institute

    あなたへのおすすめ