サム・アルトマンが若いインド人に語る、AI革命、超知能、そして人類の未来

Raj Shamani（ラージ・シャマニ）29歳 は、インドのZ世代・ミレニアル世代を中心に絶大な支持を集めている起業家・エンジェル投資家・人気コンテンツクリエイター。「インドの若者が“起業やキャリア、お金について学ぶならまず観るべき”ポッドキャスター」であり、インドのクリエイターエコノミーを象徴するトップインフルエンサーのひとりです。Youtubeの登録者は2千万人超。（21.3M）

サム・アルトマン、言わずと知れたIT業界の巨人の一角がサンフランシスコでラージのポッドキャストに出演。インド人若者相手にしばらく考え込む巨人の姿が新鮮でした。公開2日目（11月4日時点）で脅威の250万回再生のポッドキャストを覗いてみましょう！

ナマステ！爽やかなヒンディー語訛りの英語を話すラージ。インドの訛りも素敵ですが日本人の英語も特徴ありありですね！一発で分かります。何語でもアクセントよりも内容が大事ですね！

１．ChatGPT、インドのユーザー米国を抜いて世界一

インドは2位の米国を引き離して堂々の1位！トップ10は新興国が多いようです。国の勢いにも比例してるような気がします。

「なぜアメリカは悲観し、インドは楽観するのか？」
ℚ：私の印象では米国ではAIに対して少し悲観的な見方をしていることが多いのですが、インドの人たちと話すと、非常に楽観的です。驚くほどの違いですね。 なぜこのような違いがあるのだと思いますか？

アルトマンは時々無言になりながら注意深く答えました。
インドは現在、利用者数で米国を上回るOpenAI最大の市場であり、成長も非常に速いと。AIを使って会社を立ち上げたり、経験のない仕事に挑戦したりする人々の活力が素晴らしいと語ります。
アルトマンによれば、経済成長が速く、商品やサービスが不足している国ほど、AIを歓迎する傾向があるそうです。インドではAIが新しい可能性を切り開く道具として受け止められているのです。

一方、米国は世界的に見てもAIに対して unusually negative（異例なほど否定的）であり、インドは unusually positive（異例なほど肯定的）なのかもしれない、とアルトマンは指摘します。

さらに米国には、権力を持つ人物、とりわけ巨大な影響力を持つテクノロジー業界への強い不信感があると説明します。そうした懐疑心には良い面もあるものの、少々行き過ぎているとも感じているようです。同じAIでも、インドでは「これで何ができるだろう？」と期待し、米国では「これから何が起きるのだろう？」と警戒する、という態度の違いが大きいと語りました。

２．AI革命の出発点――ニューラルネットワークの可能性

アルトマンが早くから注目していたのは、物事を大規模化することで、単純な規模の拡大を超える成果が生まれるという現象でした。企業や都市、技術など、さまざまな分野で規模の拡大が予想以上の効果をもたらすことを観察してきた彼は、ニューラルネットワークにも同じ可能性を見いだします。

当時、ニューラルネットワークは規模を大きくすると性能が向上することが分かり始めていました。しかし、どこまで能力が伸びるのかは未知数でした。多くの研究者は、学習データから次に来るものを予測するだけのモデルが、未知の問題を解決したり、新しい知識を生み出したりすることはできないと考えていました。ところが、モデルの規模を拡大するにつれて、単に過去の情報を再現するだけでなく、学習した能力を未知の問題にも応用できることが明らかになってきました。

アルトマンは、AIが個々の問題の答えを記憶しているだけでなく、より一般的な推論能力を獲得していることが重要だったと説明します。
この発見が、OpenAIの研究開発を大きく前進させることになります。

3．GPT-4への大胆な賭け

2022年8月頃、OpenAIはGPT-4の学習を完了しました。アルトマンによれば、開発チームはその能力が並外れたものであることを認識していましたが、それが将来の研究にどれほど大きな可能性を開くのか、理解するまでには少し時間がかかったそうです。
GPT-4を実際に使うことで、モデルの能力が今後も急速に向上し、推論モデルなどの新しい研究分野が発展する可能性が見えてきました。
そこでアルトマンは、会社の将来を賭けて、大量の計算資源を確保するという決断を下します。

当時、GPT-4はまだ一般公開されておらず、外部の人々にはその能力が知られていませんでした。莫大な投資を決めるには、相当な確信が必要だったはずです。アルトマンは、もしGPT-4の能力が少しでも低かったなら、これほど大胆な投資はしなかっただろうと振り返っています。

技術の可能性を誰よりも早く見極め、その将来に資源を集中させる。 この判断が、その後のOpenAIの発展を方向づけることになりました。

４．ChatGPTはなぜ早期公開されたのか

現在では世界中で利用されているChatGPTですが、その公開についてはOpenAI内部でも意見が分かれていたそうです。多くの幹部は、まだ完成度が低く、公開するには早すぎると考えていました。
実際、初期の社内向け試作品では、使い続ける利用者の割合が非常に低く、アルトマンの記憶では約5％程度だったといいます。しかし、その少数の利用者はChatGPTを非常に気に入り、熱心に使い続けていました。

アルトマンは、Y Combinatorでの経験から、初期の製品では多くの人に少しずつ好かれることよりも、少数の人に強く支持されることの方が重要だと考えていました。また、製品が完全になるまで待つよりも、早く公開して利用者からの反応を学ぶことに価値があると判断したのです。
こうしてChatGPTは公開され、AIは研究者や技術者だけのものではなく、一般の人々が日常的に使う技術へと変わっていきました。

ただし、アルトマンは現在では状況が違うとも説明します。多くの企業がChatGPTを重要な業務に利用するようになり、社会インフラに近い存在となったため、広く提供する製品には以前よりはるかに高い信頼性が求められるというのです。

5．超知能がもたらす二つの危険

対談は、AIの進歩が人類にもたらすリスクへと進みます。
ラージは、超知能が人類の存続を脅かす可能性を以前から警告していたアルトマンに、なぜ自分たちが開発すれば危険が小さくなると考えるのか、と問いかけます。
アルトマンは、OpenAIだけが超知能を保有することも望ましくないと答え、二つの重大な危険を挙げます。

第一は、人類がAIの制御を失うことです。
人間をはるかに超える能力を持つAIシステムに、意図的あるいは偶発的に未来の決定権を委ねてしまい、その支配を取り戻せなくなる可能性です。

第二は、AIによる権力の極端な集中です。
一人の人物、一つの企業、あるいは一つの国家が、他を圧倒するAI能力を独占することになれば、世界は非常に不安定になるとアルトマンは考えています。そのため、異なる方針を持つ複数の企業や研究組織がAI開発を進め、互いに競争することが重要だと主張します。
アルトマン自身も、過度な権力集中を好まないと語っています。

6．AIの進歩を誰が、どのように管理するのか

超知能の開発が現実味を帯びるにつれ、アルトマンが直面する問題も変化しています。
対談の終盤では、AIの進歩をどの程度の速度で進めるべきか、どのような統治の仕組みが必要なのかという問題に触れています。
人間と比較してAIにどこまで高い能力を持たせてよいのか。その能力がどれほど急速に向上することを許容するのか。
さらに、セキュリティー、監視、人間の意図との整合性をどのように確保し、どこまでリスクを取ることができるのか。

アルトマンは、こうした問いに簡単な答えがあるとは考えていません。
自分の判断を繰り返し疑い、異なる角度から検討し、新しい情報や他者の意見を取り入れながら考え続けることが重要だと語ります。

強い確信を持って行動する一方で、間違いに気づけば考えを変える。この姿勢が、未知の技術を開発するうえで欠かせないという考えです。

7．人類の未来――AIが科学的発見を加速させる

最後にラージは、アルトマンが次に実現したい最も壮大なものは何かと尋ねます。
アルトマンの答えは、新しい科学的発見を生み出すAIでした。数学の分野でAIが示した成果は、彼自身の予想を超えるものだったといいます。そこから、物理学の深い謎を解き明かし、新しい医療技術や治療法を発見し、未知のエネルギー源を見つけ出すAIの可能性が見えてきたそうです。
人間がまだ想像すらできない発見も、科学的理解が進むことで実現するかもしれません。

アルトマンは、人類社会が豊かになってきた背景には科学的理解の進歩があり、AIによってその速度を大幅に加速できることに強い期待を寄せています。
また、自分の子どもたちがAIによって形づくられる未来に生きることについても、人間には新しい環境に適応し、社会をより良くしていく力があると信じていると語ります。
AIがどのような未来をもたらすのか、誰にも正確には分かりません。

それでもアルトマンが目指しているのは、単に人間より賢い機械を作ることではなく、人類がこれまで到達できなかった知識や発見を可能にする技術を生み出すことなのです。

AI革命の舞台裏から超知能の危険性、そして科学と人類の未来まで、開発の最前線にいるアルトマン自身の考えを知ることができる対談です。