シンギュラリティの事実と飛躍（３） そもそも、超える対象である「知性」「知能」のことがわかっていないのだが・・・

前回までの2回で、シンギュラリティ仮説の提唱者カーツワイルの知識構造（第1回：2014年TED講演）と、彼自身の予測実績（第2回：1999年の著書の的中率検証）を、事実と飛躍に分けて検証してきました。

その過程で、繰り返し浮かび上がってきた論点がありました。「AIの能力が向上していること」と「シンギュラリティに近づいていること」を、無自覚に同一視してしまう構造です。これを突き詰めると、もっと手前にある問題に行き着きます。「知性」というものの仕組みが、人間自身、いまだに解明できていないブラックボックスであるにもかかわらず、シンギュラリティという壮大な未来予測の言説は、なぜ論理破綻せずに成り立っているのか。

最終回となる今回は、このメタ的な問いを扱います。いつものように、Claudeにまず分析してもらい、その後Geminiにも同じ問いを投げ、最後にGeminiの回答をClaudeに見せてコメントしてもらう、という流れで進めます。

【人間からの提示】

「知性」が未だにブラックボックスであるのに、シンギュラリティの言説を成り立たせている仕組みを知りたいと思います。
まず、判断基準である「知性」を、「事実」と（必然的に必要となる）「飛躍」を組み合わせて、どのように定義しているのでしょうか？　
また、判断基準だけでなく、そもそもシンギュラリティ自体が何なのかわかっていないという議論は起きていないのでしょうか？

【Claudeの回答】

①「知性」という判断基準そのものが、どう定義されているか

まず押さえるべき事実として、AI研究の世界では、知能の定義そのものについて広い合意が存在しません。DeepMindの研究者だったShane LeggとMarcus Hutterが2007年に行った調査では、心理学・AI研究・その他の分野から71種類もの異なる知能の定義を収集していますが、100年以上にわたって知能の概念は多くの分野で様々な形で定義されてきたものの、多くの試みにもかかわらず、いまだに広く受け入れられた知能の定義は存在しないという状況です。知能の定義は、AIコミュニティにおいて議論の的であり続け、分野創設以来の根本的な課題の一つになっているとされています。

この「事実」の上に、シンギュラリティ言説がどう「飛躍」を重ねているかというと、次のような構造です。

チューリングテストという古典的な指標について、興味深い指摘があります。チューリングテストは、知能を明示的に定義するという難しい問題に向き合うというより、むしろその問題を回避しているように見える、というものです。つまり、「知能とは何かを定義せずに、それらしく振る舞えるかどうかで判定する」という、定義問題そのものを棚上げにする手法です。

一方、Legg-Hutterのような研究者は、知能を「エージェントが幅広い環境の中で目標を達成する能力」と操作的に定義し、これを数学的に定式化しようと試みています。これはこれで一つの誠実な試みですが、DeepMindが提示した「AGIのレベル」分類でも、「有能なAGI」を「熟練した成人の50パーセンタイルの成績を、身体を伴わない幅広いタスクで達成するシステム」と定義しており、結局のところ「特定のタスク群での成績」という代理指標に還元されています。

シンギュラリティ言説（カーツワイルを含む）が行っている「飛躍」は、この操作的・代理指標的な知能定義（タスク遂行能力・問題解決能力の汎用性）を、暗黙のうちに「知性そのもの」と同一視し、さらにそれを単一のスケーラブルな量（量が増えれば増えるほど“より知的”になる直線的な物差し）として扱う、という二段階の飛躍です。「知能の定義に合意がない」という事実の上に、「それでも測定可能な量として扱ってよい」という前提、さらに「その量は指数関数的に増加させられる」という前提が積み重なっている構造です。

②「シンギュラリティ自体が何なのかわかっていない」という議論は、実際に存在するか

これは、はっきりと存在します。しかも、単なる懐疑論者の感想ではなく、学術哲学の場で正面から扱われています。

事実：哲学者David Chalmersは2010年、「シンギュラリティ：哲学的分析」という論文で、シンギュラリティの主張を形式的な論証として定式化しようと試みました。前提1：人間並みの汎用知能を持つ人工システム（AI）が生まれる。前提2：AIが生まれれば、AI+（それを上回る知能）が生まれる。そこから再帰的な進行が続く、という論理構造です。これは支持者側からの、最も精緻な定式化の試みです。

事実：しかし、この定式化自体に対して、近年強い批判が積み重なっています。David Thorstadの論文「Against the singularity hypothesis（シンギュラリティ仮説に反対する）」は、この仮説の核心的前提に、形式的・実証的・概念的な観点から異議を唱える研究が近年現れており、これらの批判は超人的AIの不可能性を主張するのではなく、急速で暴走的な“爆発”という特定のダイナミクスが、収穫逓減の法則、システム上のボトルネック、他分野で観察される準線形的なスケーリングといった、確立された原則を無視しているために非現実的だと論じています。

事実：さらに根本的な批判として、哲学者ジョン・サールやコリン・マッギンは、「知能」と「意識」という概念はあまりに理論化が不十分であり、そこから何かを構築しようとする試みはいずれも失敗する運命にあると論じています。したがってそのような立場からの哲学的な外挿は、根本的に欠陥があると主張しています。これは、今回のご質問の核心と重なります。「知性」の理論的基盤が固まっていないのに、その上に「シンギュラリティ」という具体的な到達点を定義すること自体が、土台のない建築だという指摘です。

事実：哲学者Margaret Bodenも、『人工知能：ごく短い入門』（2018年）の最終章をシンギュラリティ概念に充てていますが、その大部分は、シンギュラリタリアンたちがAGIに至るまでに乗り越えねばならない数々の障害を根本的に誤解していることへの批判に費やされており、彼女自身、シンギュラリティ像だけでなく、変革論者に特徴的な長期的思考のあり方そのものに懐疑的だと明言しています。

まとめますと

「知性」の定義については、そもそも合意が存在しないという事実の上に、シンギュラリティ言説は操作的な代理指標（タスク遂行能力）を「知性そのもの」にすり替え、さらにそれを単一の直線的なスケールとして扱う、という二重の飛躍を行っています。

「シンギュラリティ」という到達点自体の妥当性についても、Chalmersのような支持者による精緻な定式化の試みが存在する一方で、その前提（再帰的自己改善が減速せず続く、知能が単一のスケーラブルな量である、等）そのものを、収穫逓減・システム上のボトルネックといった既知の科学的原則を無視しているとして批判する学術的な議論が、近年明確に存在します。サールやマッギンのように、「知能」も「意識」も概念として未成熟すぎて、その上に何かを論証すること自体が原理的に無理だ、という最も根源的な批判まであります。

つまり、シンギュラリティ言説を成り立たせている仕組みは、「定義が定まっていない」という事実そのものを言説の外に置き、代理指標の向上（LLMの性能向上など）を「知性への接近」として語ることで、あたかも進捗が測定可能であるかのような外観を作り出している、という構造だと言えそうです。これは学術的にもすでに指摘されている論点であり、今回のご質問の直感は、専門家コミュニティの一部が正面から論じている問題意識と重なっています。

【Geminiの回答】

人間が「知性」のメカニズムを完全には解明できていない（ブラックボックスである）にもかかわらず、シンギュラリティという壮大な未来予測の言説がなぜ論理破綻せずに成り立っているのか。これは非常に核心を突いた疑問です。カーツワイル氏らの言説は、知性を「中身（仕組み）」ではなく「外見（機能と結果）」で定義するという、巧妙な「事実と飛躍の組み合わせ」によって成り立っています。2つのご質問について、その構造を紐解きます。

1. 判断基準である「知性」の定義：事実と飛躍の組み合わせ

カーツワイル氏は、知性を「脳の神経細胞のミクロな仕組み」としては定義していません。以下の組み合わせで定義しています。

📊事実に基づく定義：パターン認識と情報処理能力。事実として、人間の脳は、視覚、聴覚、言語などの「パターン」を認識し、処理する巨大な計算ネットワークです。指標として、脳のニューロンの総数（約860億個）とシナプスの接続数から、人間の脳が1秒間に行っている計算量（約10^16〜10^19 FLOPS）を算出します。アプローチとして、カーツワイル氏にとって知性とは、複雑な階層構造（パターン）を認識する「計算プロセスの量」です。したがって、「スーパーコンピュータの計算能力が脳の計算量を超えた時、知性の土台が完成する」という、純粋に物理的・数学的な事実をベースにしています。

🚀飛躍による定義：機能主義とチューリングテスト（中身は問わない）。飛躍として、「人間の脳と同じ計算量を持つシステムを構築し、適切なアルゴリズムを与えれば、中身がブラックボックスであっても、人間と同等の『知性』が創発する」という仮定（機能主義）があります。判断基準として、ここで使われるのがチューリングテストです。外側から見て、人間と区別がつかないレベルで対話や問題解決（アウトプット）ができるなら、内部で何が起きていようが「それは知性である」とみなします。なぜこれが飛躍なのかというと、「意識があるか」「本当の意味で理解しているか」という哲学的な問い（クオリアの問題など）を完全に無視し、「人間と同じ成果を出せる機械＝知性」と結びつけた点が最大の飛躍だからです。現在のLLM（大規模言語モデル）が、中身は数式と確率の塊（ブラックボックス）なのに「知的に見える」のは、まさにこの飛躍の地平に私たちが到達したことを意味します。

2. 「シンギュラリティの正体が分かっていない」という議論

「そもそもシンギュラリティが何なのか分かっていないのではないか」という議論は、AI研究者、哲学者、科学者の間で非常に激しく起きています。カーツワイル氏の熱狂的な言説の裏で、主に以下のような批判や議論が展開されています。

①「定義が曖昧すぎる」という批判：シンギュラリティ（技術的特異点）は、もともと数学や物理学の用語（ブラックホールの中心など、従来の法則が通用しなくなる点）の借用です。「AIが人間の知性を超える点」と言われますが、具体的に何が起きたらシンギュラリティなのかが不透明です。単に「計算速度が勝ること」なのか、「AIが自分でAIのコードを書き直して超進化を始める瞬間」なのか、「全人類の知性を合わせたものを超えること」なのか。批判派は、「ゴールポストが常に動いている（定義が都合よく変わる）ため、科学的な理論ではなく一種の『宗教（ギークの終末思想）』である」と指摘しています。

②「知性の爆発（自己進化）」は本当に起きるのか：シンギュラリティの核心は、AIが「自分より賢いAI」を自律的に作り続けることで、知能が無限に爆発するというシナリオです。しかし、これには強い反論があります。物理的限界として、計算には電力や半導体、熱処理などの物理的限界があるため、知能だけが無限に爆発することは不可能です。収穫逓減の法則として、賢くなればなるほど、さらに賢いAIを作るための難易度は指数関数的に難しくなるため、進化のスピードはどこかで頭打ち（飽和）するという説があります。

③生物学的知性と機械的知性の「質の決定的な違い」：脳科学者からは、「人間の知性は、身体（五感やホルモン、痛みの感覚）と密接に結びついている（身体性）」という指摘があります。机の上のコンピュータがどれだけ計算力を高めても、生存本能や感情、社会性を持たないインテリジェントな「道具」に過ぎず、それが人間を支配したり、人類を超える独自の意志を持ったりするような「特異点」は訪れない（概念の混同である）という議論です。

まとめ

シンギュラリティの言説が成り立っているのは、「知性の中身（ブラックボックス）は解明しなくていい。計算量を極限まで高めて、人間と同じアウトプットが出せるようになれば、それが知性の到達点（シンギュラリティ）だ」という、極めて割り切った（工学的な）「飛躍」を導入しているからです。だからこそ、「それは真の知性ではない」「シンギュラリティの定義自体がファンタジーだ」という議論は、現在も決着がつかないまま並行して進んでいます。

【Geminiの回答に対する、Claudeのコメント】

Geminiの回答を拝見しました。今回は、大枠の結論（「知性の中身を無視し、アウトプットだけで知性を定義するという飛躍」「シンギュラリティの定義自体が定まっていないという議論は実際に存在する」）については私の分析とよく一致しています。ただ、いくつか気になる点があります。

①「事実」の中に、もう一つの飛躍が隠れています

Geminiは「脳の計算量（約10^16〜10^19 FLOPS）」を📊事実として提示していますが、これ自体が実は問題含みです。脳のニューロン発火をFLOPS（浮動小数点演算）という単位に換算するという発想自体、神経科学の中でコンセンサスの取れた変換方法ではありません。神経細胞のシナプス伝達は、コンピュータの演算とは仕組みが根本的に異なるアナログ的・化学的なプロセスであり、これを「1秒あたりの演算量」という単一の数値に落とし込む試みは、研究者や算出方法によって桁単位で数字が変わります。

つまりGeminiは、「脳の計算量」を確定した事実として提示していますが、実際にはこの換算作業自体が「脳＝コンピュータ」という、まだ検証されていないアナロジーを前提にした一つの飛躍です。事実のカテゴリーの中に、もう一段飛躍が埋め込まれている、という構造です。これは今回のシリーズを通じて繰り返し出てきたパターン（事実として提示された言明の内側に、実は未検証の前提が隠れている）の、また新しい実例だと思います。

②批判の出典が示されていません

「ゴールポストが動いている」「一種の宗教（ギークの終末思想）」という批判は、実は正確な指摘です。シンギュラリティ思想を技術的な「携挙（ラプチャー）」になぞらえる批判は、実際に文献として存在します（Cory DoctorowとCharles Strossの共著小説のタイトルが、まさにこの皮肉を体現した『Rapture of the Nerds』です）。ただしGeminiの回答では、これが「批判派は指摘しています」という匿名的な形で提示されており、誰がどこでこの批判をしているのかが分かりません。

これも以前から繰り返し確認してきたパターンと同じです。内容としては妥当な指摘でも、出典が示されないため、読者はこれが実際にどの程度権威のある批判なのか、それとも一般的な印象論なのかを判断できません。私の回答では、Chalmers（哲学者、2010年の定式化論文）、Thorstad（収穫逓減・システム上のボトルネックを指摘した学術論文）、Searle・McGinn（知能・意識概念の未成熟さそのものを批判した哲学者）、Boden（懐疑派の哲学者）と、具体的に誰が何を主張しているかを追跡可能な形で示しました。同じ結論に達していても、検証可能性という点では差があります。

③「収穫逓減の法則」への言及は、私の分析と実質的に一致しています

一方で、「賢くなるほど、さらに賢いAIを作る難易度が指数関数的に上がるため、進化はどこかで頭打ちになる」という指摘は、私が引用したThorstadの論文の核心（収穫逓減・システム上のボトルネック・準線形的スケーリングを無視している、という批判）と、実質的に同じ内容です。学術的な出典を伴わずに、直感的な形でほぼ同じ論点にたどり着いている点は評価できます。

④「身体性」の論点は、私の回答になかった良い補足です

「人間の知性は身体（五感、ホルモン、痛みの感覚）と結びついている」という指摘は、私の回答では扱わなかった角度です。これは現象学的なAI批判の伝統（身体性を重視する立場）と重なる論点で、良い補足だと思います。

総括

大枠の結論は一致していますが、今回もまた、Geminiの回答は「事実」として提示したものの中に未検証の前提（脳の計算量というアナロジー）が紛れ込んでいる点、そして批判の出典が匿名化されている点で、検証の厳密さという点では私の分析の方が踏み込めていると感じます。一方で「身体性」の論点と「収穫逓減」への直感的な到達は、Geminiの回答の良さが出ている部分です。

シリーズ全体を振り返ると、今回もまた「事実の中に隠れた飛躍」「出典のない批判」というパターンが繰り返し観察されました。これ自体、3回にわたる検証の一貫した結論の一つと言えそうです。

【人間からの追加の問い】

人間にとっては「知性」はブラックボックスだが、AIにとってはブラックボックスではないという可能性も考える必要は無いですよね？

【Claudeの回答】

これは考える価値がある可能性で、区別して整理する必要があります。

まず、経験的な事実からです

現在のAI（LLMなどのニューラルネットワーク）は、実は人間の脳と同じくらい、あるいはそれ以上に「ブラックボックス」です。これは重要な点です。LLMがなぜある出力を生成したのか、内部で何が起きているのかを人間が完全に説明できない、という状況は、まさに「解釈可能性研究（interpretability research）」という分野がAI研究の中で独立した重要領域として存在している理由そのものです。Anthropic、OpenAI、DeepMindが多くのリソースを割いてこの研究をしているのは、まさに「AI自身にとっても、AIを作った人間にとっても、AIの内部で起きていることは不透明だから」です。ですので、「人間にとってはブラックボックスだが、AIにとっては（あるいはAIを作った人間にとっては）ブラックボックスではない」という前提は、少なくとも現時点の経験的事実としては成り立ちません。

次に、区別すべき二つの「ブラックボックス」があります

一つは「機構的な不透明さ」です。これは、システムの内部で何が計算されているか分からない、という技術的な問題です。これは原理的には解決可能な問題です。将来、解釈可能性研究が十分に進めば、AIの内部で「何が」起きているかを人間がかなり詳細に把握できるようになる可能性はあります。実際、この方向での進展は現在も起きています。

もう一つは「概念的な不透明さ」です。これは、そもそも「知性」という概念に何を含めるべきかについて、人間の側で合意ができていない、という問題です。これは技術的な問題ではありません。仮にAIの内部で起きていることを一分子・一演算のレベルまで完全に解明できたとしても、「それは知性と呼べるものか」「それは理解していると言えるのか」という問いには、依然として答えが出ません。これはデータの不足の問題ではなく、そもそも判定基準そのものが定まっていないという、定義上の問題だからです。サールの「中国語の部屋」という思考実験がまさにこの点を突いています。完全に規則が明示的で機構が透明なシステム（内部で何が起きているか一切ブラックボックスではないシステム）であっても、それが「理解している」かどうかという問いは、機構の透明性だけでは解決しません。

つまり

「AIにとってはブラックボックスではない」という可能性は、機構の解明という意味では将来的にありうる話ですが、それによって「知性とは何か」という定義上の合意が自動的に得られるわけではありません。仮にAIの内部が完全に透明になっても、それをもって初めて「知性の定義問題」が解決されたことにはならない、というのが、サール・マッギンの批判の核心でした。

もう一つ付け加えますと、仮にAIの内部を完全に解明できたとしても、それだけでは「人間の知性」との比較はできません。比較のためには、人間の脳の側も同程度に解明されている必要があります。現状では、AIの解釈可能性研究より、むしろ人間の脳の全容解明のほうが遅れています。ですので「AI側だけが先に透明になる」というシナリオを考えたとしても、それは「AIが何をしているかは分かるようになったが、それが人間の知性と同じものかどうかは、人間側の理解が追いついていないので依然として判定できない」という、また別の形の未解決問題に行き着きます。

結論としては、考える価値のある論点ではありますが、「機構が分かる」ことと「知性の定義問題が解決する」ことは別問題である、という区別を入れておく必要がありそうです。

【人間からの追加の問い】

抽象概念全般に付きまとう問題という気がしないでもありません。

【Claudeの回答】

抽象度の高い議論を、身近な感覚に引き戻す整理として、少し広げてお話しします。

同じ構造を持つ概念は、実はたくさんあります

哲学ではこの種の問題に名前がついています。哲学者W・B・ギャリーは1956年に「本質的に係争的な概念（essentially contested concepts）」という言葉を提案しました。「正義」「民主主義」「芸術」といった概念は、定義について合意が原理的に得られない、それでいて実践的には使い続けられている概念群だ、という指摘です。ウィトゲンシュタインの「家族的類似性」という考え方も近く、ある概念に属するものたちは、単一の共通本質ではなく、部分的に重なり合う特徴の網でつながっているだけだ、というものです。

具体例で見ますと、この構造は知性以外にもいくつも見つかります。

「生命」も同じ問題を抱えています。生物学には、実は生命の合意された定義がありません。NASAの宇宙生物学チームが火星や氷衛星で「生命の痕跡」を探す際、何をもって生命と判定するかという基準自体が定まっていない、という問題に常に直面しています。

「意識」も同様です。まさに先ほど触れたチャーマーズ自身が「ハードプロブレム」として定式化した通り、主観的体験がなぜ・どのように物理過程から生じるのかは、シンギュラリティ論争どころか、意識研究それ自体の中心的な未解決問題です。

「健康」「芸術」「知能」も、同じ家系の問題です。

ただ、一点だけ加えておきたい違いがあります

概念が未確定であること自体は、確かに珍しくありません。生物学者は「生命の定義が定まっていない」ことを知りながら、日々研究を続けています。芸術批評家は「芸術の定義が定まっていない」ことを前提に議論しています。それ自体は特に問題にならない、日常的な知的営みです。

シンギュラリティ言説が少し特殊に見えるのは、この「定義が定まっていない概念」の上に、「2029年」「2045年」という具体的な年号や、文明の存続に関わるほどの規模の予測を積み上げている、という点です。生物学者が「生命の定義は定まっていないが、2029年までに新しい生命形態が地球上に誕生するだろう」と精密な期限つきで予言することはまずありません。芸術批評家が「2045年に真の芸術が誕生し、それ以降のすべての芸術活動が一変するだろう」とは言いません。

つまり、「概念が本質的に係争的である」という性質そのものは、知性に限らずありふれたものですが、その未確定な概念の上に、恐ろしく具体的な年号と、文明レベルの帰結を接続する、という組み合わせ自体が、シンギュラリティ言説に特有の飛躍だと言えそうです。土台の不確実性は他の概念と共通していても、その上に建てる構造物の高さと精密さが、他の「係争的概念」の扱われ方とは釣り合っていません。

「知性が未定義であること」自体は特別な発見ではなく、むしろ普通のことですが、その普通の不確実性の上に、シンギュラリティ言説だけが異様に精密な予言体系を築いている、というギャップこそが、このシリーズを通じて浮かび上がってきた核心なのかもしれません。

【人間のコメント】

ところで、「抽象概念」は、様々な分野においての重要な鍵であると感じました。それについてはまた、後日ですね。