メインコンテンツへスキップ
見出し画像

G検定受験note(10/14)【人工知能分野で議論される問題③シンボルグラウンディング問題④中国語の部屋】

    G検定の受験のためにつけた、文字通りのノートです。
    Hermes Agent(Grok 4.7)に噛み砕いて解説してもらっています!(^^)v
    AIは間違うので、活用は自己責任でお願いします!(^^;


    シンボルグラウンディング問題

    芯

    言葉が、ほかの言葉にしかつながっていない。実物に触れていない。だから、その言葉の意味を本当には持っていない。これが芯だよ。

    日常から

    知らない言語の辞書を想像してほしい。どの単語を引いても、説明は同じ言語の別の単語だけだ。「りんご」は「果物の一種」、「果物」は「りんごのようなもの」。ページは何枚でもめくれる。でも、一度もりんごを見ていないし、触ってもいないし、食べてもいない。辞書の中では正しく回っている。外の世界には、一度も降りていない。

    人工知能が記号だけで動くとき、これに近い。記号Aは記号Bを指し、BはCを指す。計算はできる。その記号が、赤い、熱い、重い、という経験のどれなのかは、記号の輪の中には無い。

    定義

    シンボルグラウンディングは、記号を実世界の感覚や経験に結びつけて、意味を接地させることだよ。問題の方は、その接地が、記号と記号の関係だけでは起きない、ということだ。名前を付けたのは、スティーブン・ハルナッドだよ。1990年。誰が言ったかより先に、辞書の輪を覚えてくれればいい。

    隣と混ぜない

    身体性は、知能が成り立つには、触れて返ってくる身体が要る、という主張だった。シンボルグラウンディングは、その結果として起きる欠落の方だよ。記号が、経験に着地していない。身体があればこの問題が消える、と試験の定義にはしない。身体は、着地の一つの道だ。問題そのものは、記号が記号にしか指さない、で足りる。

    フレーム問題とも別だよ。あっちは、今の行動に関係ないことを、どこで考えるのをやめるかだった。こちらは、言葉が実物に着いているかだ。

    中国語の部屋も、セットで出やすい。あちらは、規則どおりに記号を操作できても、理解したことにはならない、という話だよ。こちらは、その記号が世界の何を指すのかが決まっていない、という話だ。操作できることと、指しているものが実在に着いていることは、別の問いだよ。中国語の部屋の中身は、今夜は出さない。

    Exam Points

    - 正解の目印は、「記号が実世界と結びついていない」だよ。
    - 「単語を覚えていない」ではない。辞書の上では、単語はちゃんとつながっている。着地先が無いだけだ。
    - 「ロボットではない」でもない。身体が無くても、この問題は記号の側に起きる。
    - 身体性の答えに流さない。熱さを知るには身体が要る、は前の塊だ。この塊は、記号が実物に届いていない、だよ。
    - フレーム問題の答えにも流さない。考慮の範囲が閉じない、はあっちのまま残す。

    芯は一つでいい。辞書の中では正しい。りんごは、まだ見ていない。


    中国語の部屋

    芯

    外から見ると、会話は成り立っている。中の人は、中国語を理解していない。規則どおりに記号を動かしただけだ。これが芯だよ。

    部屋の話

    中国語が読めない人が、部屋に入る。外から、中国語の紙が届く。部屋の中には、分厚い規則集がある。規則集は、その人の知っている言語で書いてある。「この形が来たら、あの形を返せ」だけだ。意味は書いていない。

    その人は、規則どおりに紙を返す。外にいる中国語の話者は、部屋の中に中国語を理解する誰かがいる、と思う。返事が自然だからだ。でも中の人は、今何を聞かれたのか、自分の返事が何を意味するのか、分かっていない。形を見て、形を返しただけだよ。

    サールが言いたかったのは、ここだ。コンピュータがプログラムを正しく走らせて、上手な返事を出しても、それだけでは理解したことにならない。やっているのは、記号の操作だ。意味を持ったこととは別だ、という主張だよ。出したのは、ジョン・サール。1980年。

    さっきの話と、どこが違うか

    辞書の輪は、言葉が実物に着いていない、という話だった。シマウマの写真は、見た目と名前が一段つながった、という例だったね。

    中国語の部屋は、その先を突く。たとえ返事が正しくても、規則を実行した人は理解していない、と言っている。写真で名前が出ることと、理解したことは、この部屋では同じ扱いにしない。外から見て会話が通ることは、中の人が分かっている証拠にはならない。試験は、そこを見ているよ。

    チューリングテストとも混ぜない。あっちは、会話の様子が人間と区別できなければ知的とみなしてよいか、という試験だ。中国語の部屋は、区別できても、理解とは限らない、という反論の側だよ。テストの中身は、今夜は出さない。

    Exam Points

    - 正解の目印は、「記号を規則どおり操作できても、それだけでは理解ではない」だよ。
    - 「中国語を翻訳できない」ではない。外から見れば、返事はできている。中が分かっていない、が問題だ。
    - 「コンピュータは中国語を話せない」でもない。話せているように見える。それでも理解とは言えない、がサールの主張だ。
    - 強いAIへの反論として出ることが多い。プログラムを正しく実行すれば心がある、という立場に対して、この部屋を置いた。強いAIと弱いAIの対比そのものは、次の塊だよ。今夜は、部屋の話だけで止める。
    - 部屋全体が理解しているのではないか、という返しがある。中の人ではなく、人と規則集を合わせたシステムが分かっている、という反論だ。定義の芯は、規則どおりの操作は理解ではない、のままでいい。

    芯は一つで足りる。外の会話は通る。中の人は、中国語を分かっていない。


    あなたへのおすすめ