AIは「便利な道具」で終わらない。

NHK『日曜討論』で考えた、盾にも矛にもなる技術との付き合い方

NHK『日曜討論』で、「AI」の今とこれからが取り上げられていました。

AIと聞くと、まず思い浮かぶのはChatGPTのような対話型AIかもしれません。文章を整える。調べものを助ける。プログラムを書く。画像を作る。そうした使い方は、すでに私たちの生活にも入り始めています。

ただ、番組で語られていたAIは、そこに留まりませんでした。

今回の議論で見えてきたのは、AIが「便利な道具」から、社会の仕組みそのものに関わる技術へ移りつつあるということです。

盾にも矛にもなるAI

番組の中心にあった一つが、AnthropicのAIモデル「Claude Mythos」でした。番組では「クロード・ミュトス」と紹介され、Mythosはギリシャ語で「神話」を意味すると説明されていました。

このAIが注目された理由は、セキュリティ上のぜい弱性を見つける能力です。

ぜい弱性とは、簡単に言えば、プログラムやシステムにある欠陥のことです。そこを攻撃されると、情報漏えいやシステム停止につながることがあります。

番組では、Claude Mythosが人間の指示のもとで、数千の欠陥を自律的に発見したと説明されていました。さらに、27年間誰も気付かなかった欠陥を突き止めた例も紹介されていました。

ここで大切なのは、この能力が「よいこと」にも「危ないこと」にも使える点です。

システムの欠陥を早く見つけられれば、企業や社会インフラを守る力になります。つまり、AIは盾になります。

一方で、同じ能力が悪用されれば、電力、通信、水道、金融システム、物流などを攻撃する手段にもなります。つまり、AIは矛にもなります。

AIそのものが善か悪かではありません。問題は、誰が、どの目的で、どのような管理のもとで使うのかです。

この「盾にも矛にもなる」という見方は、AIを考えるうえで、とても分かりやすい整理だと思います。

一般公開できないほど強いAI

番組では、Claude Mythosについて、性能が高く、悪用されるリスクがあるため、一般公開が見送られたと説明されていました。

その一方で、Google、Apple、Microsoft、NVIDIAなど、約200の企業や組織には限定公開され、システムのぜい弱性検出やプログラム修正に使われることも示されていました。

さらに日本では、政府と三菱UFJ銀行、三井住友銀行、みずほ銀行が利用できるようになったことも紹介されていました。

これは、AIを「使わせない」という話ではありません。むしろ、防御のためには使う必要がある。ただし、誰にでも開放するには危険が大きい。そうした難しさが表れているように見えます。

Fable 5と安全対策

番組では、その後に「Claude Fable 5」も紹介されていました。

Fable 5は、番組内で「ミュトス級」の性能を持つAIとして説明されていました。ただし、Claude Mythosとは異なり、安全対策を入れたうえで公開されたモデルとして扱われていました。

たとえば、悪用リスクのある指示に対しては、より古いバージョンのAIが代わりに応答する仕組みが紹介されていました。これは、危険性の高い場面では、最も強力なモデルを直接使わせないための工夫と考えられます。

しかし、それでも問題は残りました。

番組では、アメリカ政府が国家安全保障を理由に、Fable 5などについて外国人によるアクセス禁止を命令したと伝えていました。これを受けてAnthropicは、顧客への提供を停止したと説明されていました。

AIは、もはやIT業界だけの話ではありません。金融、社会インフラ、安全保障に直結する技術になっています。

開発競争の裏側にあるもの

AI開発競争も、急速に進んでいます。

番組では、Anthropic、OpenAI、SpaceXの3社が競う構図が示されていました。OpenAIについては「GPT5.5サイバー」、SpaceXについては「AIシフト」の加速が紹介されていました。

SpaceXはナスダック市場に上場し、過去最大のおよそ750億ドル、日本円で約12兆円を調達したと説明されていました。

ここで見えてくるのは、AI開発にはとてつもない資金が必要だということです。

ただし、必要なのはお金だけではありません。番組では、AI開発に必要なものとして、電力、水、データセンターが示されていました。AIを動かすには、大量の計算資源が必要になります。その計算資源を支えるために、電力も水も必要になります。

AIは効率化の技術です。しかし、その裏側には、資源と環境負荷の問題もあります。

便利さだけを見ると、この点は見落としやすいところです。

AIへの不安は、技術だけの話ではない

番組では、AIへの不安も整理されていました。

技術面では、誤判定、不適切なバイアス、虚偽やハルシネーション、安全性やセキュリティ、制御の喪失が挙げられていました。

ハルシネーションとは、AIがもっともらしい誤情報を出してしまうことです。AIが自然な文章で答えるほど、受け取る側はそれを正しい情報のように感じてしまいます。

社会面では、プライバシーへの依存、ディープフェイクによる信用低下、不正・攻撃目的の利用、仕事の代替による経済影響、財産権への影響、環境負荷が示されていました。

つまり、AIのリスクは一つではありません。

間違った答えを出すことだけが問題ではありません。社会の信頼、仕事、財産、環境にも影響します。

規制はどうあるべきか

では、社会はAIにどう向き合えばよいのでしょうか。

番組では、AI規制の強さについて、EU、日本、アメリカを比較する図が示されていました。EUは規制が強い側、日本は中間、アメリカは開発を重視する側に置かれていました。

ただし、アメリカも単に規制を弱めているだけではありません。最新AIモデルについて、公開予定の最大30日前から政府がアクセスできる仕組みも示されていました。開発は進めるが、安全保障上の関与は強める。そうした姿勢が見えます。

日本については、AI基本法を施行し、規制よりも開発と利活用に重点を置く立場として紹介されていました。また、官民連携で国産AIを開発していく方針も示されていました。

このあたりは、日本にとって重要な論点です。

世界最先端のAIをすべて自国だけで作ることは簡単ではありません。一方で、教育、医療、金融、防衛、基幹インフラのような領域では、どのAIに、どのデータを渡すのかが重要になります。

AIを使う力だけではなく、AIをどう管理するかも問われています。

「使うか、使わないか」では足りない

ここで大事なのは、AIを「使うか、使わないか」という二択で考えないことだと思います。

AIは、すでに文章作成や検索の補助だけではなく、プログラミング、科学技術、医療、金融、マーケティング、軍事・安全保障、生物学分野にまで関わり始めています。

便利だから何でも使う。危ないからすべて止める。

そのどちらでも、現実には対応できません。

必要なのは、どの場面で使うのか。誰が責任を持つのか。どのようなルールと確認の仕組みを置くのか。そうした社会側の設計です。

AIは盾にもなります。矛にもなります。

だからこそ、過度に恐れず、過度に信頼しないことが大切です。

AIのない時代に戻るのではなく、AIがある社会をどうつくるのか。

この番組が投げかけていたのは、その問いだったように思います。

出典・参考資料

1. NHK『日曜討論』「徹底解説！『AI』の今とこれから」
   NHK総合、2026年6月14日放送。番組内容、画面表示、出演者発言をもとに整理。

2. Anthropic
   “Project Glasswing: Securing critical software for the AI era”
   2026年4月7日公開。Claude Mythos Previewのサイバーセキュリティ能力、限定提供、Project Glasswingについての公式説明。

3. Anthropic
   “Claude Fable 5 and Claude Mythos 5”
   2026年6月9日公開。Claude Fable 5、Claude Mythos 5、安全対策、fallbackの仕組みについての公式説明。

4. Anthropic
   “Statement on the US government directive to suspend access to Fable 5 and Mythos 5”
   2026年6月12日公開。米政府の指示とFable 5、Mythos 5のアクセス停止に関する公式声明。

5. OpenAI
   “Scaling Trusted Access for Cyber with GPT-5.5 and GPT-5.5-Cyber”
   2026年5月7日公開。GPT-5.5-CyberとTrusted Access for Cyberに関する公式説明。

6. Reuters
   “Musk's SpaceX prices record $75 billion IPO at $135 a share”
   2026年6月11日公開、6月12日更新。SpaceXのIPOと調達額に関する報道。

7. European Commission
   “AI Act | Shaping Europe’s digital future”
   EU AI Actの概要、施行時期、適用スケジュールに関する公式情報。

8. The White House
   “Promoting Advanced Artificial Intelligence Innovation and Security”
   2026年6月2日公開。先端AIモデルについて、公開前最大30日間、連邦政府がアクセスできる仕組みに関する大統領令。

9. 内閣府
   「人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）」
   AI法の公布・施行、AI開発・活用とリスク対応に関する公式説明。

10. Pew Research Center
    “How Americans View AI and Its Impact on People and Society”
    2025年9月17日公開。米国成人のAIへの期待と不安に関する調査。

11. 国際連合大学
    「国連大学から新報告書：AIの電力使用による環境コスト」
    2026年6月4日公開。AIとデータセンターの電力、水、土地利用への環境負荷に関する報告。