生成AIの「ウソの答え」との付き合い方【今日から分かるAIの基礎・第5章】
はじめに
前回は、生成AIが「次に来る言葉」を予測して学び、一語ずつ選んで作っている、という話をしました。
今日はその続きです。前回の終わりに予告した、生成AIの「はずれ答え」の話です。
この記事では、これを「ウソの答え」という言葉で話していきます。
1行まとめ
生成AIの「ウソの答え」は、悪気のあるうそではなく、覚えたつながりで穴を埋めた結果。だから、確かめる場所を先に決めておくと、付き合い方が変わる。
たとえの解説
たとえるなら、テストの答案用紙です。
わからない問題があっても、白紙のまま提出する生徒は、あまりいません。
「それらしい言葉」で、穴を埋めます。部分的に合っているのか、まったく違うのか、本人にも判別がつかないまま、埋まった答案が出ていく。
生成AIの「ウソの答え」は、これに近い性質を持っています。
前回見たとおり、生成AIは覚えた言葉のつながりをたよりに、次の言葉を一語ずつ選んでいます。知らないことを「知らない」と言える仕組みが、常に働いているわけではありません。
だから、つながりの届かないところに来ると、つながりの範囲内で、それらしい答えを組み上げて埋めてしまう。
手抜きで出してきた答えではなく、埋めることで出てきた答え。ここが、今日の新しいポイントです。
この現象には、「ハルシネーション」という名前がついています。試験では、こちらの名前で出てきます。
この性質を知ると、ウソの答えの出方にも、いくつか癖があることが見えてきます。
もっともらしい語り口で出てくる（自信のなさは、答えの表面には出ない）
固有の名前や数字など、確かめにくい部分ほど要注意
学んでいないこと・古い情報ほど、それらしい埋めが出やすい
だから、大切なのは、答えの見た目で判断しないことではなく、確かめる場所を先に決めておくことだと考えています。
事実や数字は、出典を自分の目で見る
自分の知識と重なる部分は、照らし合わせる
どうしても確かめられないものは、使わない判断もする
全部を疑うのではなく、確認する場所を決めておく。これが、ウソの答えとの付き合い方の入口です。
体験談
AIとの壁打ちで、数字を出してもらうことがあります。
もっともらしい数字が出てきたときほど、一度立ち止まって、調べ直す。 この癖が、少しずつついてきました。
「それらしい」と「正しい」の間には、確かめる一歩があるのかもしれません。
試験ではこう聞かれる
生成AIは、もっともらしい誤った答えを出すことがある……正しい（「ウソの答え」＝ハルシネーションの性質）
生成AIは、自分の答えが間違っていることを、いつも自分で気づける……誤り（確かめるのは、使う側の役割）
重要な情報は、出典を確かめてから使う……正しい
次回予告
次回は、AIへの「指示の出し方」の話です。何を伝えると、返ってくる答えが変わるのか。
最後まで読んでくれたあなたへ
最後まで読んでくれて、ありがとうございます。
「スキ」や「フォロー」をしてもらえたら、次の章を書く元気になります。
シリーズをまとめて読みたいときは、マガジン「今日から分かるAIの基礎」からどうぞ。
学びを仕事や暮らしに落とし込みたいときは、WAYのご相談窓口へ。
