
G検定#04|AIは何を考えている?AIの知能の限界を知る【1-3】
皆さん、ご安全に!! 技術屋たかちゃんです。
例えば、AIを搭載したロボットに「部屋からバッテリーを持ってきて」と指示したとします。人間なら、バッテリーを探し、周囲の状況に気を配りながら運んでくるでしょう。
では、床がぬれていたらどうでしょうか。近くに壊れやすい機械があったら? バッテリーを運ぶ途中で、ほかの荷物を倒してしまったら?
人間は、指示されたことを実行するだけでなく、周囲の状況や、自分の行動がもたらす影響も考慮します。しかし、AIに同じことをさせようとすると、何に注意を払い、何を考慮しなくてよいのかを判断させる必要があります。
こうした課題は、人工知能の研究で長年議論されてきました。
今回は、G検定の勉強を通じて学んだ、AIの知能を考えるうえで重要な5つの問題を紹介します。
フレーム問題:何を考慮する? 何を無視する?
AIが適切に行動するためには、目的の達成に必要な情報を選び、それ以外の情報を無視する必要があります。このように、行動に関係する情報と関係しない情報をどう区別するかという問題を「フレーム問題」といいます。
例えば、バッテリーを運ぶロボットが、床の状態や周囲の人の動き、室温の変化など、考えられるすべての情報を確認しようとしたらどうなるでしょうか。検討すべき情報が増え続け、何を優先すべきか判断できず、いつまでたっても作業を始められないかもしれません。
人間は、状況に応じて必要な情報を選び、関係のない情報を自然に無視しています。しかし、AIに同じような判断をさせることは簡単ではありません。
膨大な情報の中から、目的に必要な情報だけを選び出すこと。 これがフレーム問題の重要なポイントです。
チューリングテスト:人間らしく話せれば知能があるのか?
数学者のアラン・チューリングは、1950年に機械が知能を持つかどうかを考えるための方法を提案しました。これが「チューリングテスト」です。
判定者が文字を使って相手と対話し、その相手が人間なのか機械なのかを見分けられるかどうかで評価します。機械だと見抜けなければ、人間に近い会話能力を備えていると判断されます。
ここで、一つの疑問が生まれます。
人間らしく自然に会話できることと、言葉の意味を本当に理解していることは、同じなのでしょうか。
中国語の部屋:答えられることと理解していることは違う
この疑問を考える手がかりとなるのが、哲学者ジョン・サールが1980年に提示しこの疑問をさらに掘り下げたのが、哲学者ジョン・サールが1980年に提唱した「中国語の部屋」という思考実験です。
中国語を理解できない人が、詳しいマニュアルに従って、中国語で書かれた質問に返答するとします。マニュアルには、受け取った文字に対して、どの文字を組み合わせて返せばよいかが記されています。
その指示どおりに返答すれば、外から見ている人には、中国語を理解して会話しているように見えるかもしれません。しかし、本人は文字の意味を理解しているわけではなく、決められた規則に従って記号を操作しているだけです。
これは、生成AIが自然な文章を作り、人間のように会話できるようになった現在でも、重要な論点となっています。
身体性とシンボルグラウンディング問題:言葉と現実をどう結びつけるのか?
「熱い」という言葉の意味を知っていることと、実際に熱い金属に触れ、その熱さを体験することは同じでしょうか。
この違いに関係するのが「シンボルグラウンディング問題」です。これは、言葉や記号が持つ意味を、現実世界の物や現象とどのように結びつけるかという問題です。
例えば、身体を持つロボットであれば、センサーで温度を測定したり、物体に触れたり、周囲の環境に働きかけたりすることで、現実世界の情報を得られます。こうした身体を通じた環境との相互作用を「身体性」と呼びます。身体性が知能の形成にどのような役割を果たすのかは、現在も研究や議論が続いています。
一方、身体を持たないAIも、文章や画像などのデータから、言葉と物事の関係性を学習できます。実際に触れたり動いたりしなくても、多くの知識を獲得できるわけです。
では、知能が成立するために身体は必要なのでしょうか。それとも、情報の学習だけでも十分なのでしょうか。身体性と知能の関係は、現在も明確な結論が出ていない重要な研究テーマです。
知識獲得のボトルネック:人間の常識をAIに教えられるか?
人間は、経験を通じて多くの常識を身につけています。「雨の日は道路が滑りやすい」「コップを落とせば割れることがある」といった知識も、その一部です。
こうした膨大な常識や暗黙知を、人間が一つずつルールにしてAIに教えるのは大変過ぎます。これが「知識獲得のボトルネック」と呼ばれるものです。
この課題に対して、機械学習やディープラーニングは、データから規則性を学ぶ方法を発展させてきました。ニューラル機械翻訳も、その応用例の一つです。
しかし、データからパターンを学ぶことと、初めて遭遇する状況でも常識的に判断できることは別の問題です。
強いAIと弱いAI、そして2045年の予測
AIは、特定の仕事を行う「弱いAI」と、人間のような汎用的な知能や理解をめぐる議論に関係する「強いAI」に分けて考えられます。
文章作成や画像認識など、現在の実用的なAIは、基本的に弱いAIとして捉えられています。幅広い仕事をこなせることと、人間と同じ意味で理解していることは、区別して考える必要があります。
もう一つ、AIの未来を語る際によく登場するのが「シンギュラリティ」、技術的特異点です。AIが自ら、より高性能なAIを開発するようになり、技術の進歩が急速に加速する転換点を指します。
未来学者レイ・カーツワイルは、2045年ごろにこの転換点が訪れると予測しています。
僕の見解
今回のG検定の勉強を通じて感じたのは、AIの能力を評価するとき、大切なのは、AIに何ができるのか、どのような条件で失敗するのか、そして人間が何を確認すべきなのかを理解することだと感じました。
技術屋たかちゃんでした。ご安全に!!
G検定 連載
前回:
次回:
目次(マガジン):
G検定重要用語集:
1. AIの知能と判断に関する問題
① フレーム問題(Frame Problem)
AIが目的を達成する際、膨大な情報の中から、行動に関係する情報だけを選び、関係のない情報を無視することが難しいという問題。1969年にジョン・マッカーシーとパトリック・ヘイズが論じた。AIの知識表現や推論における重要な課題。
② 常識推論(Common Sense Reasoning)
人間が日常生活で自然に使っている常識や経験則をもとに、状況を判断する推論。例えば「雨が降れば道路がぬれやすい」といった知識を利用する。AIに人間と同じような常識的判断をさせることは難しい課題の一つ。
③ 暗黙知(Tacit Knowledge)
経験や勘、技能などに基づいて身につけた、言葉や文章だけでは明確に説明しにくい知識。熟練技術者の異常音を聞き分ける能力などが例。AIにこうした知識を教えることは難しく、知識獲得の課題にも関係する。
2. AIが人間のように考えるかを問う問題
④ チューリングテスト(Turing Test)
数学者アラン・チューリングが1950年に提案した、機械の知的な振る舞いを評価するための方法。判定者が文字による対話を行い、相手が人間か機械かを識別できるか調べる。機械の内部に意識があるかどうかを直接判定するテストではない。
⑤ アラン・チューリング(Alan Turing)
イギリスの数学者・計算機科学者。1950年に論文「Computing Machinery and Intelligence」を発表し、機械が考えることができるかという問題を提起した。チューリングテストの提案者として知られる。
⑥ 中国語の部屋(Chinese Room)
哲学者ジョン・サールが1980年に提唱した思考実験。中国語を理解できない人がマニュアルに従って記号を操作し、外部からは中国語を理解しているように見える状況を想定する。記号を正しく操作できることと、意味を理解することは別だと論じる。
⑦ ジョン・サール(John Searle)
アメリカの哲学者。1980年に中国語の部屋という思考実験を提唱した。コンピューターが記号を適切に処理できても、それだけで人間と同じ意味で理解しているとは限らないという問題を提示した。
⑧ 記号処理(Symbolic Processing)
文字や記号、論理式などを使って知識を表現し、あらかじめ設定されたルールに従って処理する方法。初期のAIやエキスパートシステムで広く使われた。中国語の部屋では、記号操作と意味理解の違いを考える際に重要となる。
3. 言葉と現実世界の関係に関する問題
⑨ シンボルグラウンディング問題(Symbol Grounding Problem)
コンピューターが扱う記号や言葉の意味を、現実世界の物体や経験とどのように結び付けるかという問題。例えば、AIが「リンゴ」という単語を処理できても、その意味をどのように獲得しているのかが問われる。
⑩ 身体性(Embodiment)
知能や認知が、身体を通じた環境との相互作用によって形成されるという考え方。ロボットがセンサーで周囲を認識し、物体に触れ、行動することなどが例。身体を持つことが知能の成立にどのような役割を果たすかは研究課題となっている。
⑪ 身体性AI(Embodied AI)
ロボットや仮想エージェントなどが、環境との相互作用を通じて認識や行動を学習するAIの研究分野。視覚、触覚、移動などの情報を活用し、現実世界で適切に行動する能力の獲得を目指す。
4. AIに知識を教える難しさ
⑫ 知識獲得のボトルネック(Knowledge Acquisition Bottleneck)
人間の専門家が持つ知識や経験を収集し、AIが利用できる形式に変換することが難しい問題。特にエキスパートシステムで課題となった。膨大な常識や暗黙知を人間が一つずつルール化するには限界がある。
⑬ 機械学習(Machine Learning)
コンピューターがデータから規則性や特徴を学習する技術。人間がすべての判断ルールを記述する必要がなく、データに含まれるパターンを利用できる。ただし、学習したパターンが必ずしも人間の常識や意味理解につながるわけではない。
⑭ ディープラーニング(Deep Learning)
多層のニューラルネットワークを用いて、データから特徴量や規則性を自動的に学習する技術。画像認識、音声認識、自然言語処理などで成果を上げている。大量のデータから複雑なパターンを学習できる一方、常識的な判断には課題も残る。
⑮ ニューラル機械翻訳(Neural Machine Translation:NMT)
ニューラルネットワークを利用して、文章を別の言語に翻訳する技術。従来の統計的機械翻訳などと比べ、文章全体の文脈を考慮した自然な翻訳を実現した。ディープラーニングの自然言語処理への応用例である。
5. AIの能力と未来に関する概念
⑯ 弱いAI(Weak AI)
特定の目的や課題を実行するために設計されたAI。画像認識、翻訳、音声認識などが代表例。人間のような汎用的な知能や意識を持つことを前提としない。現在実用化されているAIの多くは、この考え方で整理される。
⑰ 強いAI(Strong AI)
人間と同じような意味で理解や思考を行う知能を持つAIという概念。特定の作業をこなすだけでなく、汎用的な知能や意識を持つ可能性が議論される。実現の定義や条件については哲学・認知科学・AI研究で議論が続いている。
⑱ シンギュラリティ(Singularity:技術的特異点)
AIが人間の知能を超え、さらに自ら技術を改良することで、技術進歩が急激に加速するとされる仮説上の転換点。未来学者レイ・カーツワイルは2045年ごろに到来すると予測しているが、確定した科学的事実ではない。
⑲ レイ・カーツワイル(Ray Kurzweil)
アメリカの発明家・未来学者。技術進歩の加速に関する予測で知られ、著書『The Singularity Is Near』などで2045年ごろのシンギュラリティ到来を予測した。AIの未来を考える際によく取り上げられる人物。