文系の私がAI基礎の資料を作るとき#11：その他とは

私がまだ小学生だった頃、父が出張でオーストラリアに行きました。帰宅した父が大きなスーツケースを開けるのを眺めていたら、あれやこれやの中に、灰色の、動物の毛のようなふわっとしたものが少しだけ見えます。コアラのぬいぐるみだ！と期待したら、本当にその通りでした。

大学生になると、今度は私自身がオーストラリアを旅行し、コアラのぬいぐるみを買いました。帰国後、指導教授にもコアラのぬいぐるみプレゼントしようと思って研究室に行くと、先生は、卒業論文の原稿と一緒に鞄から飛び出していたコアラの背中を見つけ、「オーストラリアに行ってきたの？」と言いました。

今思えば不思議なことです。子供の私が父のスーツケースの中に見たのは灰色の毛の一部だけでしたし、当時50代だった先生が私の鞄の中に見たのもコアラの背中だけです。それでも私たちは、その断片的な情報から全体を想像することができました。

AIは、コアラのぬいぐるみの背中を認識したら、どのように分類するのでしょう。

AI基礎第10回授業では、Google の Teachable Machine を使って画像認識AIを作る実習を行います。学生たちはまず、「カレールー」と「タマネギ」の画像を学習させたAIを作ります。そして、そのAIに見たことのない物体を見せてみます。

例えば、半透明で蓋にだけ色がついている食品保存容器。人間なら「保存容器」と答えるでしょう。小さな子供だと「お弁当箱」なんて答えてくれるかもしれません。でも、私が育てたAIは、四角い保存容器は「カレールー100%」、丸い保存容器は「タマネギ60%、カレールー40%」と判断します。

仕方ありません。このAIの世界には「カレールー」と「タマネギ」しかないうえに、「カレールー」や「タマネギ」の意味も知らないわけですから。AIとすれば、少しでも可能性が高い方を大真面目で答えてくれているのです。AIの画像認識は、「カレールー」や「タマネギ」を理解しているわけではありません。

保存容器と肉と胡椒をまとめて「その他」として学習させ、もう一度実験を行っても、基本は変わりません。透明な保存容器は「その他」と認識できるようになりますが、茶色い筒形の保存容器を見せると「タマネギ100%」と判断してしまいました。

さらに、このAIに、父からもらったものとは別の、小さなコアラのマスコットの、ベージュの背中を見せると「タマネギ100%」、茶色い鼻のついた顔を見せると「カレールー100%」になります。カレールーか、タマネギか、その他かを聞いているのに、とんちんかんなAIです。

これも仕方ありません。人間は「カレールーでもタマネギでもないもの」という概念として「その他」を理解できます。でも、AIはそうした否定的概念を理解しているわけではなく、「その他」というラベルが付いた具体例の集合しか持っていません。

世界がカレールーとタマネギとその他でできていたら、「その他」はゴミ箱の役割を担いそうなものですが、AIにとってはそうではないようです。そこで、今日の問いは次のように置いてみました。

・AIにとっての「その他」と人間にとっての「その他」はどう違うのだろうか。

人間にとっては意味のカテゴリーである「その他」が、AIにとっては「その他」というラベルのカテゴリーであるということに思いを馳せてもらいたいと思います。

さて、AIと人間の見え方の違いは、画像認識の結果だけではありません。この回の授業のために、学生だけでなく、私自身も写真の準備にはかなりの時間を割きました。AIが上手に学習できるように、1つのものをいろいろな角度から、いろいろな明るさで、いろいろな背景で、iPhoneで撮影します。

そして、私が授業準備をしていたこの日、Teachable Machineは、iPhone で撮った HEIC形式の写真を読んでくれませんでした。PNGに変換すると読んでくれます。いかにもありそうなことです。人間にとってはどちらも「写真」ですが、AIにとっては、HEICとPNGは異なるものなのですから。LMSの都合ではあったのですが、学生にはPNGに変換した写真を提出してもらうことにしていて、よかったようです。

実習の途中では、多くの学生が「AIを育てる」ことに夢中になると思います。写真の撮り方を変えたり、枚数を増やしたり、背景を工夫したりするうちに、認識精度は確かに向上します。でも、その過程で感じてしまうのは、「AIが賢くなった」ということ以上に、「人間とAIは同じ世界を見ていないかもしれない」という事実です。

今回使った小さなベージュのコアラのマスコットは、友人からもらったものなのですが、実は、最初に受け取った時、私はこのマスコットをコアラだと認識できていませんでした。なぜかウォンバットだと勘違いしてしまったのです。父のお土産のコアラは灰色だったので、ベージュのコアラがいるなんて、思いつかなかったのかもしれません。コアラだと気づいたとき、びっくりしました！

AIは驚いたり感動したりすることなく、粛々とコアラをタマネギやカレールー、その他などに分類をしてくれます。そして、私に限らず、人間も間違えないわけではありません。

違うのは、間違える場所です。

私がベージュの小さなコアラをウォンバットだと思ったように、人間にも思い込みがあります。でも、保存容器をタマネギだと思うことはまずありません。AIは、人間とはまったく違うところでつまずくのです。

次回以降の授業では画像生成AIや文章生成AIも扱います。AIが驚くほど自然な文章を書いたり、魅力的な画像を作ったりする時代だからこそ、その背後でAIが何を見ているのか、何を理解していないのかを考えることが大切なのではないかと思います。今回は、それが伝えられる資料作りを心がけました。

授業当日はベージュの小さなコアラのマスコットを大学に連れて行くことになりそうなので、学生には、村上春樹氏の『シドニー！コアラ純情編』（文春文庫、2004年）をお勧めします。

第10回の授業計画については、以下の記事で紹介しています。よろしければご覧ください。