
G検定受験note(10/14)【人工知能分野で議論される問題③シンボルグラウンディング問題④中国語の部屋】
G検定の受験のためにつけた、文字通りのノートです。
Hermes Agent(Grok 4.7)に噛み砕いて解説してもらっています!(^^)v
AIは間違うので、活用は自己責任でお願いします!(^^;
シンボルグラウンディング問題
芯
言葉が、ほかの言葉にしかつながっていない。実物に触れていない。だから、その言葉の意味を本当には持っていない。これが芯だよ。
日常から
知らない言語の辞書を想像してほしい。どの単語を引いても、説明は同じ言語の別の単語だけだ。「りんご」は「果物の一種」、「果物」は「りんごのようなもの」。ページは何枚でもめくれる。でも、一度もりんごを見ていないし、触ってもいないし、食べてもいない。辞書の中では正しく回っている。外の世界には、一度も降りていない。
人工知能が記号だけで動くとき、これに近い。記号Aは記号Bを指し、BはCを指す。計算はできる。その記号が、赤い、熱い、重い、という経験のどれなのかは、記号の輪の中には無い。
定義
シンボルグラウンディングは、記号を実世界の感覚や経験に結びつけて、意味を接地させることだよ。問題の方は、その接地が、記号と記号の関係だけでは起きない、ということだ。名前を付けたのは、スティーブン・ハルナッドだよ。1990年。誰が言ったかより先に、辞書の輪を覚えてくれればいい。
隣と混ぜない
身体性は、知能が成り立つには、触れて返ってくる身体が要る、という主張だった。シンボルグラウンディングは、その結果として起きる欠落の方だよ。記号が、経験に着地していない。身体があればこの問題が消える、と試験の定義にはしない。身体は、着地の一つの道だ。問題そのものは、記号が記号にしか指さない、で足りる。
フレーム問題とも別だよ。あっちは、今の行動に関係ないことを、どこで考えるのをやめるかだった。こちらは、言葉が実物に着いているかだ。
中国語の部屋も、セットで出やすい。あちらは、規則どおりに記号を操作できても、理解したことにはならない、という話だよ。こちらは、その記号が世界の何を指すのかが決まっていない、という話だ。操作できることと、指しているものが実在に着いていることは、別の問いだよ。中国語の部屋の中身は、今夜は出さない。
Exam Points
- 正解の目印は、「記号が実世界と結びついていない」だよ。
- 「単語を覚えていない」ではない。辞書の上では、単語はちゃんとつながっている。着地先が無いだけだ。
- 「ロボットではない」でもない。身体が無くても、この問題は記号の側に起きる。
- 身体性の答えに流さない。熱さを知るには身体が要る、は前の塊だ。この塊は、記号が実物に届いていない、だよ。
- フレーム問題の答えにも流さない。考慮の範囲が閉じない、はあっちのまま残す。
芯は一つでいい。辞書の中では正しい。りんごは、まだ見ていない。
中国語の部屋
芯
外から見ると、会話は成り立っている。中の人は、中国語を理解していない。規則どおりに記号を動かしただけだ。これが芯だよ。
部屋の話
中国語が読めない人が、部屋に入る。外から、中国語の紙が届く。部屋の中には、分厚い規則集がある。規則集は、その人の知っている言語で書いてある。「この形が来たら、あの形を返せ」だけだ。意味は書いていない。
その人は、規則どおりに紙を返す。外にいる中国語の話者は、部屋の中に中国語を理解する誰かがいる、と思う。返事が自然だからだ。でも中の人は、今何を聞かれたのか、自分の返事が何を意味するのか、分かっていない。形を見て、形を返しただけだよ。
サールが言いたかったのは、ここだ。コンピュータがプログラムを正しく走らせて、上手な返事を出しても、それだけでは理解したことにならない。やっているのは、記号の操作だ。意味を持ったこととは別だ、という主張だよ。出したのは、ジョン・サール。1980年。
さっきの話と、どこが違うか
辞書の輪は、言葉が実物に着いていない、という話だった。シマウマの写真は、見た目と名前が一段つながった、という例だったね。
中国語の部屋は、その先を突く。たとえ返事が正しくても、規則を実行した人は理解していない、と言っている。写真で名前が出ることと、理解したことは、この部屋では同じ扱いにしない。外から見て会話が通ることは、中の人が分かっている証拠にはならない。試験は、そこを見ているよ。
チューリングテストとも混ぜない。あっちは、会話の様子が人間と区別できなければ知的とみなしてよいか、という試験だ。中国語の部屋は、区別できても、理解とは限らない、という反論の側だよ。テストの中身は、今夜は出さない。
Exam Points
- 正解の目印は、「記号を規則どおり操作できても、それだけでは理解ではない」だよ。
- 「中国語を翻訳できない」ではない。外から見れば、返事はできている。中が分かっていない、が問題だ。
- 「コンピュータは中国語を話せない」でもない。話せているように見える。それでも理解とは言えない、がサールの主張だ。
- 強いAIへの反論として出ることが多い。プログラムを正しく実行すれば心がある、という立場に対して、この部屋を置いた。強いAIと弱いAIの対比そのものは、次の塊だよ。今夜は、部屋の話だけで止める。
- 部屋全体が理解しているのではないか、という返しがある。中の人ではなく、人と規則集を合わせたシステムが分かっている、という反論だ。定義の芯は、規則どおりの操作は理解ではない、のままでいい。
芯は一つで足りる。外の会話は通る。中の人は、中国語を分かっていない。