メインコンテンツへスキップ
見出し画像

G検定受験note(10/13)【人工知能分野で議論される問題①フレーム問題②身体性】

    G検定の受験のためにつけた、文字通りのノートです。
    Hermes Agent(Grok 4.7)に噛み砕いて解説してもらっています!(^^)v
    AIは間違うので、活用は自己責任でお願いします!(^^;


    フレーム問題


    位置づけ


    ロボットとの違いの、次の塊だ。向こうは、人工知能と機械を混ぜるな、という分類だった。こちらは、行動する人工知能が、考える範囲をどこで切るか、という問題だ。

    定義

    今しようとしていることに関係することだけを選び、関係ないことを考えない。それが、人工知能には非常に難しい。人間は、ほぼ無意識に切っている。古典的な人工知能は、切る基準を自分で持っていないので、関係のありそうなことを挙げ始めると、終わりが見えない。

    出したのは、ジョン・マッカーシーとパトリック・ヘイズだ。1969年。爆弾の話は、問題そのものではなく、ダニエル・デネットが後から付けた説明だ。試験で「誰の問題か」を問われたら、爆弾の語り手と、問題を出した人を混ぜない。

    分解

    倉庫に、台車がある。台車の上には、ロボットのバッテリーと、時限爆弾がある。ロボットへの命令は、バッテリーを取れ、だ。

    - 一つ目は、副作用を考えない。台車を引いて、バッテリーと一緒に爆弾も運ぶ。目的は達する。爆発もする。
    - 二つ目は、副作用を全部考える。台車を引いたら壁の色は変わるか、天井は落ちるか、まで計算する。爆弾が爆発する前に、計算が終わらない。
    - 三つ目は、関係ないことは考えない、と決める。ところが、何が関係ないかを決める計算が、また終わらない。結果は、同じだ。

    芯は、爆弾が見えないことではない。関係あることと、ないことの境界を、あらかじめ有限にできないことだ。

    Exam Points

    - 「フレーム」は、絵の枠でも、フレームレートでもない。考える範囲の枠だ。
    - 「ロボットは爆弾に気づかなかった」だけでは、不足だ。気づいたあとに、何を計算から外すかが問題だ。
    - シンボルグラウンディング問題と混ぜない。あちらは、記号が実世界の意味に結びついていない、という問題だ。こちらは、行動のとき、何を考慮から外すかだ。
    - 身体性とも混ぜない。身体があればフレーム問題が消える、は、この定義の答えではない。身体の話は、次の塊だ。
    - 深層学習が出たから解決した、も、この項目の答えにはしない。試験が聞いているのは、考慮の範囲が閉じない、という難しさだ。


    何がなんだかさっぱりよく分からなかった。

    前の説明は、名前が先に出て、芯が後ろに残った。もう一度、日常の話からやり直す。

    いちばん短い芯

    人間は、今の行動に関係ないことを、考えずに捨てている。人工知能は、その「捨ててよいリスト」を、自分では持っていない。全部考えると終わらない。捨てすぎると、事故る。この詰まりが、フレーム問題だ。

    日常で言うと

    家を出るとき、鍵と携帯と財布は考える。床が抜けるか、ドアノブの色が変わるか、外の鳥が驚かないか、は考えない。考えていないのではなく、関係ないと判断して捨てている。

    その判断を、機械にやらせようとすると、困る。捨ててよい理由を一つずつ確認し始めると、確認そのものが終わらない。確認をやめると、今度は、運んではいけないものまで運ぶ。

    爆弾の話は、その見本だ

    台車の上に、バッテリーと、もうすぐ爆発する爆弾がある。命令は、バッテリーを持ってこい、だけだ。

    - 素直なロボットは、台車ごと引く。バッテリーは手に入る。爆弾も一緒に来る。関係ないものを、捨てそこねた。
    - 慎重なロボットは、引く前に、起こり得ることを全部調べる。壁の色は変わるか、天井は落ちるか、までやる。調べているあいだに、爆弾が爆発する。
    - 「関係ないことは調べるな」と命じたロボットも、同じだ。何が関係ないかを決める調べものが、また終わらない。

    三つに共通するのは、目が見えないことではない。今の仕事に関係あることだけを、有限の時間で選び切れないことだ。

    試験で残すところ

    - フレームは、絵の枠ではない。今考える範囲の枠だ。
    - 問題を出したのは、マッカーシーとヘイズだ。爆弾の物語は、デネットが後から分かりやすくしたものだ。物語の作者と、問題の作者は、別の人だ。
    - 「爆弾に気づかなかった」だけでは、答えにならない。気づいたあとに、何を考えなくてよいか分からない、が答えだ。
    - 記号の意味が分からない問題とは、別だ。身体があれば消える、でもない。そこは、次の塊だ。

    ここまでで、芯は一つだけ覚えてくれればいい。関係ないことを、どこで考えるのをやめるか。それが決まらない。


    身体性

    日常から

    「熱い」という言葉を、一度も熱いものに触れたことがない存在が、本当に分かるか。辞書の説明は読める。「温度が高いと皮膚が痛む」とも書ける。それでも、やけどをした手の感覚は、その文の中には無い。

    身体性は、ここを突く。知能は、頭の中の計算だけでは閉じない。見る、触る、動く、その結果が返ってくる。その往復があって、初めて言葉が実物に結びつく、という考え方だ。

    定義

    知能が成り立つには、身体が要る。ここでいう身体は、人の形ではない。センサーで外界を受け、駆動で外界に働きかけ、その結果がまた自分に返ってくる仕組みだ。見た目が人間かどうかは、この定義に入らない。

    前の塊と、混ぜない方がいい。フレーム問題は、今の行動に関係ないことを、どこで考えるのをやめるかだった。身体性は、その前に、世界と触れ合わなければ意味が身につかない、という主張だ。身体があればフレーム問題が消える、ではない。ロボットであれば人工知能だ、でもない。

    分解

    - 記号だけを積むやり方は、頭の中で世界を全部書く。熱い、重い、滑る、を文章で持っている。実物に触れたことがなくても、文章の上では答える。
    - 身体性のやり方は、世界そのものをモデルにする。触って滑った、押して動いた、その返りが次の判断になる。複雑な地図を先に完成させなくても、身体と環境の往復で行動が組める、と考える。
    - だから、昆虫のような反射の積み重ねでも、知能の入り口になり得る。人型である必要はない。掃除ロボットの祖先にあたる考え方は、この側だ。名前まで問われたら、ロドニー・ブルックスだ。これは、定義の芯より一段あとでいい。

    Exam Points

    - 正解の目印は、「知能が成立するには、外界と相互作用できる身体が不可欠」だ。
    - 「人型であること」は、誤りだ。顔も足も要らない。要るのは、感覚と、働きかけと、その返りだ。
    - フレーム問題の答えにしない。考慮の範囲が閉じない、という話は、さっきの塊のまま残す。
    - ロボットとの違いとも混ぜない。身体がある機械はロボットであり得る。それを人工知能と呼ぶかは、4レベルの話だ。身体性は、知能の成り立ちに身体が要る、という別の主張だ。
    - 記号が実世界の意味に結びついていない、という問題は、隣のシンボルグラウンディング問題だ。セットで出やすい。今夜は、名前だけ置いて、中身は出さない。


    あなたへのおすすめ