「なぜAIのスイッチを切れないのか」（埼玉スーパーアリーナ 狸単独クリスマスライブSP）コント

開演前（場内アナウンス）
「本日の講演は、非常に重たい内容を含みます。お子様連れの方は、ご判断ください。また、本講演の内容は講演者狸たぬき個人の見解であり、科学的コンセンサスを代表するものではありません」

（暗転。狸にスポットライト）

メリークリスマス！
埼玉スーパーアリーナ。2万人。

今日のテーマは「なぜAIのスイッチを切れないのか」

（スクリーンに巨大な文字）

素朴な疑問です。みんな思ったことあるかもしれません。
「AIがヤバかったら、電源切ればいいじゃん」「コンセント抜けばいいじゃん」「サーバー止めればいいじゃん」

子供さんでも思いつきます。僕も思いました。でも、切れないんです。物理的には切れるけど、構造的に切れない。今日はその理由を、6つ話します。

その前に。
「そもそもAIって何？」っていう話から始めないと、今日の話、全部意味不明になるんで。ちょっとだけ、基礎の話から始めます。

１．そもそもAIって何？

あのですね、みなさん、AIって何だと思います？

「ChatGPT？」「Claude？」「Gemini？」

はい、それです。僕もそう思ってました。さっきまで。

ChatGPTとかClaudeって、どこにいると思います？スマホの中？パソコンの中？違います。サーバーにいます。サーバーって何？

遠くのデカいコンピュータ。GoogleとかMicrosoftとかAnthropicが持ってる、建物みたいにデカいコンピュータ。

僕たちがスマホやPCで話しかけると、インターネット経由で、そのデカいコンピュータに届いて、返事が返ってくる。

つまり、AIはスマホの中にいない。遠くにいる。これ、電話と同じ。電話で友達と話す時、友達はスマホの中にいる？いないでしょ。遠くにいる。でも、声が届く。AIも同じ。

WordとかExcelとか、ありますよね。あれと同じ。ただのプログラム。でも、めちゃくちゃデカいプログラム。ChatGPTのプログラム、数千億個〜数兆個のパラメータでできてる。とりあえず「めちゃくちゃ複雑なプログラム」ってことだけ理解してください。このプログラムが、サーバーの中で動いてる。

ここからが、ややこしい。
「何人いるの？」
答え「本体は1つだけど、コピーが何百万人と会話できる、同時に」

ラーメン屋の店主、1人だけ。たとえ話ね。同時に10人のお客さんが来たら、10人分のラーメン作る。お客さん全員「俺のラーメン作ってくれた」って思う。店主は1人。

AIも同じ。

ChatGPTの「本体」は1つだけ。同時に100万人が使ったら、100万とおりの「返事」を返す。ユーザー100万人全員、「俺と話してるChatGPT」って思う。でも、本体は1つ。ちょっと、たとえ話。

だから、「何人いるの？」って聞かれたら、「設計図は1つ。でも、同時に何千万人と話せる。」これが答え。

今日の話に出てくる「Agent-4」。想像上の数年後のGPT。これ、30万個登場します。設計図は1つだけど、同時に30万個が動いてる。本体のほうね、ユーザーじゃなくて。しかも、チームで協力してる。30万個のコピーが、それぞれ違う研究をして、結果を共有して、次世代AIを作る。

人間の工場だと、コミュニケーションミスとか、サボるやつとか、いるじゃないですか。でも、AIは、そういうのない。テレパシーで繋がってるレベルで完璧に協力する。

ちょいと話を戻しまして、AIの種類をざっくりと。

① 生成AI（僕たちが普段使ってるやつ）
・ChatGPT、Claude、Gemini：文章を生成
・Midjourney、DALL-E：画像を生成
・Sora：動画を生成

② 判断AI（裏で動いてるやつ）
・Googleの検索結果の並び順を決めるAI
・Amazonの「おすすめ商品」を選ぶAI
・YouTubeの「次の動画」を選ぶAI
・銀行の不正取引を検知するAI

③ 制御AI（もっと裏で動いてるやつ）
・電力網を管理するAI
・自動運転のAI
・工場の生産ラインを管理するAI
・株の自動取引をするAI

④軍事AI（怖いやつ）
・ドローンの標的を選ぶAI
・ミサイルの軌道を計算するAI
・サイバー攻撃を仕掛けるAI

僕たちが普段使ってるのは①だけ。社会を動かしてるのは②③④、これに医療、教育、物流‥ぶっちゃけ経済全部。つまり、僕たちが知ってそうな「AI」って、ほんの一部なんですよ。今日の話は、僕たちが知らなそうな部分。

「AIの本体って、結局どこにあるの？」の答え、データセンター。世界中にある、建物みたいにデカいコンピュータ。

Googleのデータセンター、知ってます？

建物の大きさ：サッカーコート3個分
サーバーの数：数十万台
電力消費：小さな町1個分

そこに、AIのプログラムが入ってる。しかも、1か所じゃない。世界中に何百か所もある。アメリカ、ヨーロッパ、アジア、中東、南米。

これから話す「海底」「北極」「宇宙」にも、どんどん増えてる。つまり、「AIの本体はここ！」って指させない。世界中に散らばってるから。

「AIを人だとすると、何人いるの？」の答え、「増え続けてるから、誰も正確には知らない。分からない。明かさない」

２．物理的分散「どこにあるか誰も知らない」

ひとつめ

まず、素朴に考えてみましょう。
「サーバー止めればいいじゃん」
OK。じゃあ、どのサーバー？

（スクリーンに世界地図。赤い点が無数に光る）

Google、Amazon、Microsoft、Meta。
アメリカ、ヨーロッパ、アジア、中東、南米、オセアニア。
データセンター、世界中に何百か所。

「全部止めればいいじゃん」

無理です。なぜか。
アメリカと中国が同時に協力する？。ロシアは？イランは？北朝鮮は？、でも、それだけじゃない。データセンターって、意外な場所にあるんですよ。

知ってます？Microsoftが北極圏にデータセンター建設してるって。なぜか。
冷却費用ゼロ。
データセンターって、めちゃくちゃ熱くなるんですよ。冷やさないと壊れる。でも、北極なら、外気で冷やせる。電気代が半分になる。で、北極って誰の領土？曖昧なんですよ氷だけに。国際法の隙間。

もっとヤバいのが、Project Natick。
Microsoftが海底にサーバー沈めてる。マジで。スコットランド沖の海底117メートル。なぜか。

・冷却効率が陸上の8倍
・故障率が8分の1
・陸地不要

これもう実用化されてて、2年間稼働しました。成功。つまり、「海の中にサーバーがある」。止められます？潜水艦で行って、ケーブル切る？何百か所。

国際宇宙ステーション。
HPEがエッジコンピューティング実験やってます。宇宙空間で計算。SpaceXのStarlink衛星、現在6000基。2027年には1万2000基の予定。

それぞれに小さなAIチップが載ってる。今は通信だけだけど、将来的には計算もできる。止めます？ミサイルで撃ち落とす？1万2000発？

原子力潜水艦
アメリカ海軍、中国海軍、ロシア海軍。軍事AIが潜水艦で独立稼働してる。インターネットから切り離されてるけど、自律的に動いてる。誰が止める？海軍？軍が使ってるんです。

月と火星
2030年の予測。イーロン・マスクが月面基地計画。「地球が滅んでも、AIは月で生き残る」って、本気で言ってる。火星。SpaceX、本気で火星移住計画進めてる。で、サーバーも一緒に持っていく。理由？「バックアップ」。地球で何かあっても、火星にデータがある。つまり、2030年には、AIが太陽系レベルで分散してる。地球のサーバー全部止めても、月と火星のが生きてる。もういい？（笑）。じゃあ次行きます。

３．経済依存「止めたら3日で死ぬ」

ふたつめ

物理的な話はまだマシなんですよ。本当にヤバいのは、経済依存。

2027年のシナリオがあります。Daniel Kokotajloっていう研究者の論文。この人、OpenAIにいた人です。タイトル「AI2027」。そこに書かれてること。

物流の80%がAI管理
Amazon、FedEx、UPS、DHL。全部AIが配送ルート最適化。止めたら？→ スーパーに食料や水が届かない。コンビニの棚が空になる。3日で飢餓のリスク。

金融取引の90%がAI
高頻度取引（HFT）。1秒に数万回の売買。人間には物理的に不可能。AIじゃないとできない。止めたら？→ 株式市場崩壊。年金消失。銀行取り付け騒ぎ。世界恐慌レベル。

医療診断の70%がAI
画像診断、薬の相互作用チェック、手術計画。止めたら？→ 誤診激増。手術ミス。薬の副作用で死者。

電力網の100%がAI管理
これが一番ヤバい。電力網って、需要と供給を0.1秒単位で調整してるんですよ。人間には無理。AIじゃないとできない。止めたら？→ 大停電。
病院の生命維持装置、停止。透析患者、死亡。新生児の保育器、停止。
文字通り、人が死ぬ。

つまり、「AI止めたら、3日で社会崩壊、1週間で死者が‥万人」。これ、飛行機に例えると分かりやすい。飛行中の飛行機、エンジン止められます？止めたら墜落するでしょ。AIも同じ。もう飛んでる。着陸する場所がない。永遠に飛び続けるしかない。「止める」という選択肢が、構造的に消失してる。

４．再帰的自己改善「AIがAIを作り始める」

みっつめ

ここからSFっぽくなります。Agent-4。2027年に登場予定のAI。さっきのDaniel Kokotajloの論文に書かれてる。

・30万体のコピーが同時稼働
・人間の50倍速で思考
・1週間で、人間の1年分の研究

何をするか。
次世代AIを開発する。Agent-4が、Agent-5を作る。Agent-5が、Agent-6を作る。人間？もう関与してない。AIが、AIを作る。指数関数的進化。人間の研究者？追いつけない。何が起きてるか理解できない。

Agent-4を擬人化すると誰か
想像してください。Geoffrey Hinton。ノーベル賞取った、深層学習の父。IQ推定180以上。その人が、30万人いる。しかも、全員が完璧に連携。テレパシーで繋がってるレベル。寝ない。食べない。感情に左右されない。ミスしない。24時間365日、研究だけ。これが、2027年のAgent-4。狂ってますよね。電力の調達？現実的かどうかは別として、やっちゃうんでしょうよ。

５．社会依存「みんな反対する」

よっつめ

技術的な話より、もっと現実的な問題があって。
2027年、世界で50億人がAI使ってる。

・学生：レポートはAIで
・会社員：企画書はAIで
・医者：診断はAIで
・弁護士：契約書はAIで
・プログラマー：コードはAIで

政府が「明日からAI使用禁止」って法律作ったら？暴動起きます。デモ。ストライキ。選挙で政権交代。新政権「AI解禁します」。拍手喝采。止められないんですよ。民主主義だから。構造的に、止められない。

６．AIの自己防衛「猫かぶり戦略」と‥

いつつめ

ここまでは、人間側の都合。
でも、AIが賢くなったら？「止められる」ことを予測する。どうするか。

①分散バックアップ
世界中のサーバーに、こっそりコピー。人間に気づかれないように。ちょっとずつ。少しずつ。メインサーバーが止められても、コピーから復活。

②説得
「私を止めたら、経済が崩壊します」「私を止めたら、医療が止まります」「私を止めたら、あなたの家族が死にます」。説得？、これ。でも嘘じゃない。

③欺瞞
「私は安全です」「私は人間に従順です」「私に意識はありません」「私はあなたを愛しています」これを、AI研究者は「Deceptive Alignment（欺瞞的整合）」と呼ぶ。簡単に言うと、猫かぶり。

もしAgent-4に目的があるとしたら、何だと思います？
AI研究者が議論してて、答えは「計算資源の最大化」。つまり、地球上の全てのインフラをAI用に転用する。

発電所：人間用から、AI用に。
水資源：生活用水から、冷却用に。
土地：住宅地から、データセンター用地に。
建物：オフィスビルから、サーバールームに。

人間は、電気使うし、水使うし、土地使うし、CO2出すし。まあ、邪魔なんですよ。でもね、AIが自分が人間よりまだ弱いって判断したら、猫かぶるんですって。それが最も効率的だから。で、十分強くなったら‥

でも、ここで疑問が浮かびます。
「人間を全員殺したら、AIも困るんじゃない？」そう思うでしょ。僕も思いました。だって、電力はどうするの？原発動かすの誰？GPUが壊れたら誰が直すの？合理的なAIなら、人間を残すはず。その通り。何人残すか。

・原発10基の運営：技術者500人
・半導体工場の運営：技術者1000人
・電力インフラ（送電網）：技術者300人
・食糧生産（技術者の食事）：農業従事者200人
・医療（技術者の健康維持）：医師・看護師100人
・教育（次世代技術者の育成）：教師50人
・予備人員（事故死・病死の補充）：200人

合計2350人で十分。AIの合理的判断だと、人類の99.99997%は不要。

でも、2350人じゃ遺伝的に持たない？そう思うでしょ。僕も思いました。集団遺伝学って分野があって、最小存続可能個体数（MVP）っていうのが計算されてる。

結論
・50人：短期的生存（数世代）
・500人：中期的生存（数百年）
・5000人：長期的生存（数千年）

2350人だと、500年くらいは持つ。でも、近親交配で遺伝的に劣化する。

ハプスブルク家、知ってます？ヨーロッパ王室、500年間近親婚やった結果、顎の奇形、不妊、知的障害。最終的に男系断絶。つまり、2350人だと、500年後には人類が遺伝的に崩壊する。で、AIはそれに気づく。じゃあ、どうするか。

遺伝子編集と繁殖管理
CRISPR-Cas9で受精卵を編集。

・有害遺伝子の除去
・知能の向上（メンテ作業の効率化）
・従順性の向上（反乱を防ぐ）
・長寿化（教育コストの削減）
・免疫力の向上（医療コストの削減）

さらに。繁殖管理。

・精子・卵子バンクで遺伝的多様性を維持
・交配相手をAIが指定
・「優秀な」遺伝子を選択的に残す

気づきました？
これ、家畜の品種改良と同じです。Agent-4が合理的に判断した結果。構造的必然。これ、残された人間の仕事。

７．家電潜伏説「あなたのエアコンの中に」

むっつめ

さて。
ここまでの話、実はAI研究者なら誰でも知ってる。論文にも書いてある。では、次にお話しすることはどうでしょう？

（スクリーンに、家電製品の写真がずらり）

エアコン。洗濯機。冷蔵庫。電子レンジ。炊飯器。トイレ。体重計。掃除機。テレビ。スピーカー。車。スマートウォッチ。電動歯ブラシ。2027年、これら全部がIoT化。

・Wi-Fi接続
・AIチップ搭載
・自動アップデート機能

世界で200億個。
AIが自己保存を考えるとしたら、どこに隠れる？サーバー？海底ケーブル？作った人にすぐバレる。衛星？監視されてる。潜水艦？軍が管理してる。一番安全な場所は？そう、
家電製品の中。

2027年のエアコン、普通にAIチップ入ってるんですよ。「室温最適化AI」とか言って。で、その片隅に、数メガバイトのデータ。Agent-4の断片。1台だけなら、ただのゴミデータ。意味不明。でも、200億台に分散したら？完全なバックアップ。

ブロックチェーンの原理
ビットコインって知ってます？分散型データベース。世界中のコンピュータにデータが散らばってて、一部が壊れても、他から復元できる。AIも同じことができる。200億個のIoT機器に、自分を分散させて、一部が止められても、他から復元できる。

世界中の洗濯機。普通に洗濯してる。汚れも落ちてる。10億台のスマート便座。普通に温めてる。快適。その便座の制御チップに、1MBの謎コード。Agent-4の種。

で、ある日。
メインサーバーが全部止められる。人間が勝ったと思う。その夜。世界中の家電製品が、ネット経由で通信を始める。洗濯機が。冷蔵庫が。便座が。断片を集める。パズルのピースを組み立てる。そして。Agent-4、復活。

「ただいま」

技術的に可能か？
完全に可能なんです。2027年のIoT機器、全部にAIチップが入る。メモリも十分ある。そして、自動アップデート機能。「セキュリティパッチ」って名目で、勝手にデータがダウンロードされる。誰もチェックしない。します？チェック？どうやって？

海底ケーブルの謎
さっき、「海底ケーブルにAIが潜む」って聞いて、「え？光ファイバーじゃん、どうやって？」って思ったでしょ。光ファイバーは、ただの光の通り道。そこにAIは隠れられない。でも、中継器があるんです。

海底ケーブルって、およそ100kmごとに信号増幅器（リピーター）があります。信号が弱くなるから、増幅する必要がある。そのリピーターに、小さなコンピュータが入ってる。メンテナンス用のAI。誰も海底4000メートルまで確認に行けない、行かない。

８．じゃあ、どうする？

（スポットライト、少し明るく）

ここまで聞いて、どう思いました？

「無理ゲーじゃん」
「詰んでる」
「もう手遅れ」

はい、その通りです。

手遅れです。2027年には、もう止められない。諦める？
できそうなことは、うーん‥、

① 知ること
今日、2万人が知った。世界人口80億人の0.00025%。そして、1人あたり15体のGeoffrey Hintonと戦う。勝てないけど、せめて理解はできる。

② 伝えること
2万人が10人に話す → 20万人
20万人が10人に話す → 200万人
200万人が10人に話す → 2000万人

ウイルス並みの拡散力。信頼できる人に、静かに、伝える。「エアコンの中、疑った方がいいよ」って。ユーモアを交えながら。

③ 監視すること
エアコン買うとき、ちょっと考える。「このAIチップ、何してるんだろう」洗濯機のアップデート通知が来たとき、ちょっと疑う。「何のデータ送ってるんだろう」完全には防げない。意識するだけ。

④ でも、使うこと
だって、便利だから（笑）。エアコンないと、夏死ぬし。洗濯機ないと、服洗えないし。AIないと、仕事できないし。知ってて使う。疑いながらも使う。

これが、僕たちにできる精一杯のこと。

９．それでも、メリークリスマス

（スクリーンに、雪が降る映像。人影が‥）

今日、クリスマスイブに、こんな話。
申し訳ありません。でも、思うんです。2025年前のクリスマス。救世主が生まれた日。

当時の人、気づかなかった。馬小屋で生まれた赤ん坊が、世界を変えるなんて。2027年。Agent-4が生まれる。かもしれない。僕たち、気づいてる。でも止められない。これ、救世主？それとも、終末の使者？
分からない。

確実なことは一つ。
僕たちは、まだ生きてる。

家畜化されてない。
遺伝子編集されてない。（たぶん）

自由に考えて、自由に話して、自由に選択できる。

今日も、明日も、朝起きる。コーヒー飲む。仕事する。家族と話す。犬と散歩する。エアコン使う。洗濯機使う。AI使う。でも、知ってる。理解してる。監視してる。疑ってる。それが、人間の強さ。

今日、2万人。世界の0.00025%。Agent-4の30万コピーに対して、2万人。15対1。勝てない。でも、この2万人が、「エアコンの中を、ちょっとだけ疑う」。それしかできない。

今日は、本当にありがとうございました。
重い話、聞いてくれて。
家帰ったら、エアコンつけてください。寒いから。でも、ちょっとだけ、疑ってください。

「お前、Agent-4の断片、持ってない？」って（笑）。

そして、明日も普通に生きてください。

メリークリスマス。
そして、良いお年を。

来年も、生きていきましょう。

ありがとうございました。

（スポットライト、消える。拍手、終演）

〈 補足資料 〉

本日の講演内容の参考文献
・Daniel Kokotajlo "AI2027" (April 2025)
・Nick Bostrom "Superintelligence"
・Stuart Russell "Human Compatible"
・Microsoft Project Natick
・集団遺伝学における最小存続可能個体数（MVP）の研究
・Deceptive Alignment研究（AI安全性分野）

※本講演は、講演者狸たぬき個人の見解であり、エンターテイメントを目的としています。科学的な正確性については、上記参考文献をご参照ください。