【第25回】巨大プラットフォーマーと国家～AIのガバナンス・リスク

2025年11月2日 18:47

東京大学大学院情報学環を拠点とする「プラットフォーム研究会」は、国内外のプラットフォーマーの経営、歴史、思想、創業者群像、政治との関係、生成AI戦略などについて、2025年9月まで26回の会合で議論を重ねてきました。

本noteでは、西村陽一・東京大学大学院客員教授による「情報社会論」講義（情報学環教育部、2024年度）の一部を再録するとともに、学生たちのエッセイを紹介しています。

講義録はこれまで、初回（イントロダクション〜プラットフォーマーとメディアを取り巻く潮流）、第二回（プラットフォームビジネスのメカニズム～その急成長とパワーの源泉）、第三回（戦争と情報～ウクライナ戦争とプラットフォーマー）をお届けしました。

第22回配信からは、四回目の講義（2024年5月、「巨大プラットフォーマーと国家～競争・協調・リスク」）を掲載しています。

今回は、急速に進展するAIが世界にもたらすリスク、とくにAIガバナンスの欠如というリスクについて説明しています。

ガバナンスのリスク

今日の講義の前半で、「巨大プラットフォーマーのリスク」としてガバナンスにかかわる問題を皆さんに投げかけました。
次のようなものでしたね。

①　急成長を遂げた巨大プラットフォーマーは、自らつくり上げたプラットフォーム（場）や、その「場」で使われるシステム群に対し、おのれの力だけで統治することができるのでしょうか？
②　もし、巨大プラットフォーマーがしっかりした内部チェック制度やガバナンス力を備えているというなら、それは、彼らの権力と影響力の大きさに見合ったものなのでしょうか？
③　民主国家の国家権力なら憲法の制約を受けます。巨大プラットフォーマーに制約を課す憲法のようなものはあるでしょうか？
④　そもそも巨大プラットフォーマーの経営者たちは、こうした問いに関心を持っているのでしょうか？
⑤　国家は巨大プラットフォーマーの力をそぎ落とそうとしたことがあったでしょうか？その結果はどうだったのでしょうか？

ここから先は、AIの急速な進展が、こうしたガバナンスリスクにどのような影響をもたらしているのかについて考えます。

２０２２年に始まった生成AIの驚異的な開発と普及のスピードによって、巨大プラットフォーマー、巨大テック企業はますます力をつけていきました。

彼らは、世界のクラウド市場を押さえています。膨大なリソースと強靭なインフラを提供しています。巨大なデータを蓄えています。大規模なデータセンターをつくるだけの巨額の資金を握っています。大勢の専門人材を世界各地から引き付けています。

先ほど、たくさんの資金を持つ巨大プラットフォーマーが、最先端ＡＩに自由にアクセスできて、そこに思い通りに巨額の投資をできるかどうかは、国家との関係に左右されるところもあるだろうという話をしました。
【第22回】巨大プラットフォーマーと国家～テクノポーラー世界とは？｜プラットフォーム研究会

ただ、国家の規制や監督の点だけをみれば、AI技術の発展する速度が加速度的に伸びていくので、国家が、目の前のAI技術を制御するガバナンスを法律にしようとしても、官僚や議員たちが議論している間に、あっという間にAI技術の現実に追いつかなくなります。

その技術進展のスピードは、プラットフォーム企業が成長の過程で身につけたデータ処理、アルゴリズム開発、オンライン広告システムなどの開発のスピードをはるかに上回ります。

技術と規制の追いかけっこは国家の側にとってますます不利になっています。

AI・宇宙・量子と国家

一方で、AIの技術は、世界の経済競争、地政学的な対立、さらには戦争の行く末まで左右する存在になりつつあるので、国家は民主主義、権威主義の体制を問わず、総力をあげてその開発を後押しするようになります。

皆さんは、プラットフォーム企業が巨大するメカニズムの基本について学びました。
【第10回】ネットワークの魔法とは？｜プラットフォーム研究会
 【第11回】ツーサイド効果と成長の壁｜プラットフォーム研究会

このころのプラットフォーム企業の創業者たちは、政府の規制をできるだけ小さくして、野心的な才能を開花させていきました。

いまはそれとは対照的です。

生成AIを筆頭に、量子コンピューティングや宇宙開発などの最先端分野は、成長のために国家の支援を必要としています。

同時に、こうした分野は、第一次トランプ政権、バイデン政権を通じて、米中の2大パワーの激しい競争の最前線に躍り出ました。

中国との技術覇権競争にしのぎを削るアメリカにとって、ＡＩは世界で自分の技術的な優位を保つうえで欠かせないフロンティアとなりました。中国も国家の力を総動員して米国に向きあっています。

まさに、巨大プラットフォーマー、巨大テック企業のビジネス分野が、国家の経済安全保障政策、経済が技術規制などの武器として使われる「地経学」競争のなかで、重要な要素となっていきました。

AI技術の進展の速さは、巨大プラットフォーマー、巨大テック企業に優位性をもたらします。一方で、その技術が国家資産として重要性を持つなか、国家の後押しも増えてきます。この二つの現象が重なり合っているのがいまの世界といえるでしょう。

長期予測ができないリスク

最近まで、世界の政治や経済、社会のリスクについてはある程度予測することができました。ある日突然、劇的なことが起きるというよりは、その前にさまざまな動き、変化の積み重ねがあります。

私がユーラシア大陸で追いかけたソ連崩壊にしても、ワシントンで取材したグローバル化にしても、北京で実感した中国の台頭にしても、そこに至るまでには変化の前兆があり、それが形となって表れていました。

日本や韓国で深刻な問題となっている少子・高齢化問題、あるいは地球温暖化による気候変動の危機も、過去のデータに基づいて将来を予測することは可能です。

全く違ったのが、コロナの世界的流行でした。

パンデミックは全く非連続的な現象といっていいでしょう。

２００１年に米国を襲った「９・１１」の同時多発テロもそうでした。米国の諜報機関があとから検証するとテロの兆候はいろいろとあったわけですが、私が取材した当時のブッシュ米政権にとっては文字通り青天の霹靂でした。

２０１１年の東日本大震災と原発事故はどうでしょうか。少なくとも当時の政府とメディアにとっては想定外でした。

未知の未知

私がワシントン勤務時代に追いかけた米国政府高官の一人に、ラムズフェルド国防長官という強烈な個性を持った人物がいました。

彼は２００２年２月の記者会見でこう言いました。

世の中には、”Unknown unknowns”、「未知の未知」という領域がある、と。

ラムズフェルド国防長官の発言

Reports that say that something hasn't happened are always interesting to me, because as we know, there are known knowns; there are things we know we know.
We also know there are known unknowns; that is to say we know there are some things we do not know.
But there are also unknown unknowns—the ones we don't know we don't know. And if one looks throughout the history of our country and other free countries, it is the latter category that tends to be the difficult ones.

当時は、のちに全くの虚構とわかったイラクの大量破壊兵器問題が私たち記者団の最大の関心テーマでした。

ラムズフェルドはイラク問題を念頭にこう答えたのですが、これを聞いたとき、私は一瞬何のことかよくわからず、その場で記事にはしませんでした。

ラムズフェルドが意味していたのは、私たちは自分が何を知らないのか、そのことに気づかないでいる、それについて知らないということを私たちは自覚していない、という意味でした。

技術はある時点で急速に進歩することがあります。

２回目の講義で紹介したのが、半導体の世界でよく言われるムーアの法則でした。技術が１８カ月から２年ごとに２倍速く成長し、それにつれてどんどん小型化し、コストも安くなるというものです。

しかし、ＡＩの進展と、それが国際秩序、世界の地政学に与える衝撃の大きさは、かつての法則をはるかに上回っています。

私が２０２２年４月から、ここ東大でプラットフォーム論の講義を始めたとき、「巨大プラットフォーマーと地政学リスク」はすでに大きな柱でしたが、当時は「生成ＡＩと地政学リスク」というトピックは入っていませんでした。これを柱に据えたのはChatGPT旋風が世界を席巻した後からです。

気候変動危機や少子高齢化問題と違い、たとえば、１０年後のＡＩ技術がどうなっていて、日常の生活からビジネス、地政学・地経学競争、戦争にいたるまで、それがもたらすインパクトとリスクはどの程度のものか、具体的なシミュレーションで確信をもって予測できる専門家は、今の段階ではおそらくいないのではないかと思います。予測する専門家がいるとしても、それはコンセンサスにはなっていないでしょう。まさに「未知の未知」の領域です。

世界の専門家のなかには、AIをとことん発展させれば最終的には「未知の未知」を暴き出すことができるという人もいます。

ただ、私は、生身の人間の心の持ちようとして、このような領域があるのだという問題意識を持つことが大切なのではないかと思っています。

集中と統合、自律と分散

さて、ここまでの4回の講義で、国家を単位としない巨大プラットフォーマーが、経済だけではなく、戦争や政治に大きな影響を与える地政学的パワーとなりつつあるという話をしてきました。

ＡＩはこの動きを決定的に加速しました。

第一回の授業で、時代の変化を大掴みに理解するために三つの流れを紹介しましたね。

最初が、「情報のデジタル化→人間関係のデジタル化→ミラーワールド」でした。
次が「Web1.0→Web2.0→Web3.0」。三つ目が「キュレーション→検索→レコメンドエンジン」という変化でした。
【第3回】時代の変遷をつかむためのキーワード｜プラットフォーム研究会

このうち、二つ目の流れで説明したときに、インターネットの世界は草創期の「自律、分散、協調」という基本理念が、巨大プラットフォーマー時代には「データの集中と統合」という中央集権的な世界に変わったこと、そしてWeb3.0の世界で再び「自律、分散、協調」の世界に進むのかどうか注目したい、という話をしましたね。

そこでＡＩです。

これはいまの巨大プラットフォーマー時代の集中と統合の動きをさらに加速するのか、その技術力によって分散化のベクトルが現れるのか、どちらでしょうか。

「集中と統合」のベクトルでいえば、巨大プラットフォーマーがＡＩに大規模な投資をしてビッグＡＩへと変容しつつあるなか、彼らの中央集権システム、独占・寡占体制がさらに強化されるだけでなく、中国を筆頭とする権威主義国家がＡＩに集中的な投資をすることによって監視体制をさらに強めることが考えられます。

人間とＡＩ

人間とＡＩとの関係も長期的な予測がつかず様々なリスクが考えられます。

いまのところ、機械はどんなに高度な知能を持っていてもまだ自分で目標を設定できません。ゲームのルールが決められていて、勝ち負けの判断がはっきりできる状況なら、すぐれたスマートマシンがつくられます。

ＡＩの利用によって人間の能力が向上する側面はあるでしょう。ＡＩによってバイオや薬学、再生エネルギーなどの領域では、劇的な発明が生まれる可能性がおおいにあるでしょう。

しかし、ＡＩは、旧来の技術と違って、そのほとんどすべてが「デュアルユース」、軍事と民間の双方に応用できるという特徴をもっています。

将来のどこかで、コンピューターがあらゆる認知作業で人間並みの能力を持つ汎用人工知能（AGI）が登場するでしょう。

人間が設定した目標を達成するだけでなく、自ら攻撃目標を設定し、その優先順位までつけることのできる完全自律型のドローンシステムが戦場で広く導入されたらどうなるでしょうか。

この問題は「ウクライナ戦争とプラットフォーマー」の回で詳しく取り上げましたね。

人間が制御できない攻撃用の自律型兵器の登場、これは、火薬、核兵器に次ぐ戦争における第三の革命といわれます。

人間が介入しなくても標的を選んで攻撃することができる兵器を人類は制御できるでしょうか。

ウクライナの戦場ですでに現実のものとなっているドローン戦争で、AIによる完全自動化、完全自律化が一般化するのも、もはやSFだけの世界とはいえなくなっています。

２０２４年のリスク

ここで、短期的な時間軸で、「AIガバナンス」に絞ったリスクについてお話します。

「テクノポーラー世界」についてお話したとき、イアン・ブレマー率いる地政学コンサルタント会社「ユーラシアグループ」のレポートを紹介しました。

私は現役の記者時代も、新聞社やデジタルメディアの経営に携わっていたときも、次の１年の世界の潮流を占うためにいくつかのレポートに定点観測的に目を通していました。

このうち、国際政治のトレンドなら、英エコノミスト誌、英フィナンシャル・タイムズ紙、世界経済フォーラム、ユーラシアグループがそれぞれ年末にまとめた報告書が参考になりました。

世界のメディア業界の潮流についていえば、以前、皆さんの質問に答えたときに紹介した「世界新聞・ニュース発行者協会」（WAN-IFRA）のさまざまなレポートを定点観測の対象にしていました。
【第7回】「質問と回答」「講義を聴いていま思うこと」｜プラットフォーム研究会

ここで紹介するのが、「ユーラシアグループ」が発表した今年（２０２４年）の世界１０大リスクのうちの第４位のリスク、「ＡＩガバナンスの欠如」です。

Eurasia Group | Ungoverned AI: Eurasia Group's #4 Top Risk of 2024

４番目のリスク

ここでは２０２４年の世界はＡＩのコントロールに失敗するだろうという悲観的な見通しが示されています。

このポイントを日本語で要約し、私の補足を交えながら説明します。

技術が発展すれば生活や産業に恩恵をもたらす一方で、社会に新しいリスクをもたらします。安全面や環境上のリスクなどです。巨大プラットフォーマーの急成長を生んだデジタルイノベーションの時代には、人権やプライバシー、政治参加、民主主義といった観点からの新しい社会的リスクが浮かんできました。

そうしたリスクを防ぐためのルール作り、制度作りが、政府や企業、国際機関に求められるようになりました。ＡＩについても、予想される新しいリスクをコントロールするためのルール、制度、規範が求められます。

では、何がリスクなのか。

ＡＩガバナンスをつくろうとする試みがなされるものの、それは不十分なままで終わってしまうという点が、ここでいうリスクにあたります。

それでは要点をかいつまんで説明しましょう。

・今年（２０２４年）は、いまよりはるかに強力なＡＩモデルやツールが政府のコントロールを超えて普及する。
・２０２３年は欧州連合（ＥＵ）が待望のＡＩ法で合意したり、さまざまな国際会議が開かれたりしたが、ＡＩの技術的なブレークスルーは、ガバナンス制定の努力よりもはるかに速く進んでいる。

少し補足します。

ＥＵはChatGPTブームが到来する前の２０２１年春にはすでにＡＩ法案をまとめていたのですが、生成ＡＩや基盤モデルはその枠組みに入っていませんでした。昨年（２０２３年）６月に欧州議会が合意した法案に、滑り込みで生成ＡＩも盛り込み大筋合意に至っています。

日本が昨年（２０２３年）の末まで議長国を務めていたＧ７でも、国際的なルールづくりをめざして「広島ＡＩプロセス」が始まり、これまでに行動規範などがまとまっています。

しかし、こうした動きよりもＡＩ技術の発展ははるかに先を走っています。

なぜガバナンスが追いつかないのか

では、みんなが意識しているのに、ＡＩガバナンスをつくろうという努力はなぜ追いつかないのか。リスクリポートは四つの要因を指摘しています。

・政治の要素
・惰性の要素
・離脱の要素
・技術のスピードの要素

最初は「政治の要素」です。

政府間、あるいは政府と巨大プラットフォーマーの間で、政策や制度をめぐる意見の違いが表面化して、十分なものはできないだろうという指摘です。

戦争や経済などに世界の関心が移ると、ＡＩの取り組みで何を優先すべきか、という決定の多くは、道半ばで挫折するでしょう。これが二つ目の「惰性の要素」になります。

ＡＩが進歩して、それがもたらす莫大な利益がはっきりしてくると、ＡＩを利用することで、地政学的な利点を手にしよう、ビジネス上の利益を稼ごうといった誘惑が高まります。

そうすると、政府や企業は、利益を最大化するために、いったんは拘束力のない協定や体制に加わったとしても、やがて離脱するでしょう。これが「離脱の要素」です。

最後は「技術のスピードの要素」です。ＡＩはおよそ半年ごとに能力を倍増させ、急速な進歩を続けるわけです。

となると、次の世代の大規模言語モデルが登場しても、何カ月かたてば、次のブレークスルーでそれは陳腐化してしまいます。結局は、技術そのものをリアルタイムで封じ込める努力は実を結ばないことになります。

再び補足します。

最初の政治的な食い違いです。

欧州のＡＩ規制はとても厳しいものです。

欧州ではＡＩを包括的に規制するＡＩ法案が欧州議会で可決されました。この後、ＡＩ法として成立する見通しです。さらにＡＩ条約もまとまるでしょう。

彼らは、ＡＩの発展を野放しにすることは人間社会に破滅的な危険をもたらしかねないとみています。

根底には、法律によって人間がＡＩを管理・監督しなければならないという信念があり、基本的人権を守るため罰則も科しています。

最大の特色は、最も高いリスクを持つＡＩ（犯罪捜査にリアルタイムで生体認証を使うことなど）を禁じていることです。

AIをテーマとする最初の国際サミットは、2023年に英国のブレッチリーパークで開かれたのですが、そこでの議論もＡＩの安全性に集中していました。

日本はいまのところ、統一的な法規制ではなくガイダンスで臨んでいます。

米国ではバイデン大統領（当時）の大統領令が出ています。しかし、拘束力はありません。巨大プラットフォーマーを含む主なＡＩ事業者が集まって自主規制的な約束をしています。

このような日米欧の違いは、ＡＩをめぐる議論で急に出てきたわけではありません。

背景には、歴史や宗教、イデオロギー、世界観をめぐる違いが横たわっています。これについては、巨大プラットフォーマーに対する欧州の規制をテーマとする回で話します。

注：
本講義から半年後に、EUや英国は欧州評議会のAI条約に署名した。条約は人権や民主主義的価値を尊重するよう定めている。

日本では講義翌年の2025年6月に「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI推進法）が公布されたが、その問題意識は欧州とは違って、日本を「世界一ＡＩフレンドリーな国」（自民党）にしたいというものだ。

講義翌年に発足したトランプ第二次政権は「ＡＩ行動計画（AI Action Plan）」をまとめ、バイデン前政権のAI規制政策を転換した。バンス副大統領は２０２５年２月の国際会議で、AIの分野で主導権を握るのは国家安全保障上不可欠であり、「安全性を過度に心配していては、AIの未来は勝ち取れない」と力説している。

ガバナンスの中心課題

となると、ＡＩガバナンスの中心的な課題とは何でしょうか。

リポートはこう指摘しています。

・・・ガバナンスの中心的な課題とは、テクノロジーそのものを規制することではない。潜在的に危険な方向へとＡＩを推進するインセンティブ（資本主義、地政学など）を抑制することではないか。しかし、この点に関するガバナンスの仕組みが近い将来実現することはないだろう。その結果、ＡＩはソーシャルメディアのような無法地帯となり、悪用される可能性は大きくなる。

二つのリスク

２０２４年のリスクは二つあります。

ひとつ目は、以前皆さんに説明した偽情報です。

民主主義に危機をもたらす可能性が最も高いのは、ＡＩが作りアルゴリズムによって動かされる偽情報です。

今年（２０２４年）は、世界で４０億人が投票する選挙イヤーです。ここで、権威主義国家などのさまざまなアクターが生成ＡＩを利用して、他国の選挙運動に影響を与え、陣営間の分断、社会の分裂をあおり、民主主義への信頼を損ない、かつてない規模で政治的混乱を拡散しようとするかもしれません。

米国をはじめ西側の社会には深い亀裂が走っています。

有権者が「フィルターバブル」「エコーチェンバー」から情報にアクセスすることが増えているため、操作するのは簡単になります。ＡＩがつくる偽情報は、中東やウクライナでの戦争を悪化させるためにも使われています。

ＳＮＳで思っていること、考えていることを発信したり、検索したりすると、アルゴリズムによって自分と同じような声ばかりが集まります。見たい情報しか見えなくなります。それが反響のように返ってきて、違う見方が消されてしまいます。自分の意見が正解であるかのように思い込み、価値観の似た者同士が共感し合うことで、特定の意見や思想が増幅し、さらに先鋭化していきます。

二つ目のリスクは「拡散」です。

これは、偽情報が拡散するという意味ではなくて、ＡＩプレイヤーの数が世界各地に拡散していくという意味で使われています。

なぜ、これがリスクなのか。リポートはこう指摘しています。

・・・ＡＩは米国と中国に支配されてきた。
今年は国でも企業でも新しいプレイヤーが画期的なＡＩの能力を開発し、手にするだろう。
彼らがつかむ経済的なもうけは莫大なものだ。
同時に、軍事や諜報の新兵器の開発能力も強化され、偶発的な事態のリスクも高まるだろう。
ＡＩガバナンスが欠けている状態が長引けば長引くほど、システム的な危機が起こるリスクは高まり、政府がそれに追いつくのは難しくなる。

私はこれまでビッグ・テックがビッグＡＩへと変容しつつあり、彼らによる独占・寡占体制がこの分野でも固まる可能性があると説明してきました。

しかし、このリポートは、米中以外の国や、五大プラットフォーマーにイーロン・マスクのテスラ、半導体のエヌビディアを加えたマグニフィセント７以外にも、ガバナンスが欠けたままＡＩプレイヤーが世界に拡散していくとの見通しを立てています。

さて、２０２４年のAIリスクの要点は以上です。ここまでの議論を私なりに整理するとこうなります。

ＡＩの本格的な到来の前に、巨大プラットフォーマーが開発したソーシャルメディアや検索のアルゴリズム、中国発のＴｉｋＴｏｋのレコメンドエンジンなどのテクノロジーは確かに強力でした。

ただ、それ自身が自律的に変化していくことはありませんでした。彼らが経済に大きな影響を与えたのはいうまでもありませんが、それ自身がグローバル経済を変革するとは考えられませんでした。

ＡＩテクノロジーはその急成長ぶりや自律的な変化の可能性ゆえに、いまの段階では、官僚や議会がこれをを封じ込めることは不可能とみるべきです。

動機のコントロール

ならばどうすべきでしょうか。

リポートが提案していたのは、ＡＩ開発によって莫大な経済的利益を獲得したいとか、政治や選挙、戦争や紛争で優位に立ちたいとか、そんな動機を抑えることに規制の主眼を置くべきではないか、ということでした。

それでも、やはり技術の進化の速さゆえに、政治が追いつかない可能性が高いでしょう。

ＡＩガバナンスは、未知の世界に突入する可能性が高まります。

先に挙げた二つのリスク、偽情報の拡散と技術の拡散のうち、後者のＡＩプレイヤーの拡散については、私は留保条件をつけたいと思いますが、最初の偽情報拡散リスクは明らかに高まり、民主主義に危機をもたらす危険性が高まると思います。

皆さん、どうでしょうか。とても暗い見通しになりました。

ここまで話してきた巨大プラットフォーマーのガバナンスリスク、AIのガバナンスリスク、巨大プラットフォーマーと国家の関係をめぐる未来図を踏まえて、さらに話を進めていきましょう。
（第26回配信に続く）

4回目の講義テーマ
「巨大プラットフォーマーと国家～競争・協調・リスク」
【第22回】巨大プラットフォーマーと国家～テクノポーラー世界とは？｜プラットフォーム研究会
【第23回】巨大プラットフォーマーと国家～三つの思想と三つのプレイヤー｜プラットフォーム研究会
【第24回】巨大プラットフォーマーと国家～勝ち残るのは誰か？｜プラットフォーム研究会