【雑記】「AIが意味を理解していない」なら、人間は？

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

よく「AIは言葉の意味を理解してない」と言われていますよね。
データを学習して次にくる言葉を確率的に予測して返しているだけだと。
こういった話を聞くたび、どうも違和感を覚えるんですよねぇ…。

それは、暗に「人間は意味を理解している」のが前提となっているからです。
じゃあその「理解」って何でしょうか？

人間の脳も、突き詰めればニューロンの発火パターンと化学信号の連鎖で、ある入力に対して次に起こるものを予測しながら処理している、という有力な見方があります。

言語の習得過程を見ても、赤ちゃんは膨大な言語データに晒されながら統計的なパターンを抽出して、文法も意味も身体経験との結びつきの中で徐々に獲得していきます。
これは、「データから学習して確率的に予測する」と言えるのではないでしょうか。

哲学者ジョン・サールの「中国語の部屋」という思考実験では、「コンピュータは記号を操作しているだけで、内容を全く理解していない」とされています。
しかし、「人間の個々のニューロンも意味を理解していない」という反論もできます。
一個一個は電気信号を受け取って発火するかしないかの単純な素子です。
でもそれがシステムとして組み上がった時、「理解」と呼ぶ何かが生じている。
だとしたら、「理解は個々の部品にではなくシステム全体に宿る」と考えるのが自然で、AIのシステムにも同じ論理が適用できるんじゃね？と。

ただ、ここで「身体性」の話が引き合いに出されます。
人間は「熱い」という言葉を、実際に火傷しそうになった経験や、体温調節の感覚と結びつけて知っている。
AIにはその種の身体感覚がないじゃないか、と。

でもこれも考えようで、「身体経験がなければ意味は理解できない」と定義してしまうと、それは意味の理解に身体性を含めることで結論を先取りしてるだけじゃね？という話にもなります。

例えば、生まれつき「痛み」の身体感覚がない人間が、痛みの概念を理解していないかというと、そんなことはないですよね。
他人の反応を観察したり、文脈から学んだり、「避けるべきもの」という機能的な位置づけを把握したりして、「痛み」の意味を運用できます。

感情だってそうです。
「孤独」という感情を「理解」してる時にやってることは何かというと、自分の過去の類似体験を参照したり、他人の表情や行動パターンから推測したり、「孤独」が文学や会話の中でどう使われるか文脈を見たり、「寂しい」「疎外感」「一人」といった隣接概念との関係で位置づけたりしています。

人間の「理解」も相当な部分が「関係性の中での位置づけ」と「推測」でできているのです。
直接体験は理解を豊かにする一つの入力ソースではあっても、理解の本質そのものではないと思います。

人間は自分自身に「理解している感じ」というクオリアがあるから、それを根拠に「自分は理解している」と思い込んでいるだけかもしれません。

そうなると、「理解している感じがする」ことと「実際に理解している」ことの間にも、実は埋めがたいギャップがあります。
人間は前者を後者の証拠として採用していますが、それは論理的に正当化できるかというと、かなり怪しいのです。

だから私は、「AIは理解していない」と断言する意見に対して、「じゃあ、人間が理解している証明をまず見せてもらおうか…（暗黒微笑）」と返したくなってしまいます。
AIに要求するのと同じ厳密さで証明することは、誰にもできないのです。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】

【同人活動情報】