【AIの歴史 Vol.005】AIは、どうやって間違いを減らしてきたの？〜人の評価・検索・道具を使い、少しずつ「確かめられるAI」へ〜

こんにちは、ゆーみんです😊

前回の「AIの歴史」では、

なぜChatGPTは、ときどき自信満々に間違えるの？

という疑問を取り上げました。

ChatGPTは、正解だけが並んだ辞書から答えを取り出しているわけではありません。

会話の流れを見ながら、

次には、どんな言葉が続きそう？

と予測し、文章を作っています。

そのため、自然で説得力のある文章を作れても、書かれている内容が事実として正しいとは限りません。

では、ここで一つ疑問が出てきます。

AIが間違えることは分かった。

でも、昔からずっと同じように間違えているの？

開発している人たちは、何も対策していないの？

もちろん、そんなことはありません。

生成AIは、

・人から答えを評価してもらう
・外部の情報を検索する
・計算やデータ取得の道具を使う
・分からない時に、無理に答えない方法を研究する

といった仕組みを取り入れながら、少しずつ間違いを減らそうとしてきました。

ただし、

AIが進化した＝もう確認しなくていい

ということではありません。

今回は、

AIは、どうやって間違いを減らしてきたの？

という疑問を、初心者さん向けにやさしく紹介します🌱

⸻

■ 最初に知っておきたいこと

AIの間違いを減らす方法は、一つではありません。

たとえば、

・学習方法を変える
・人が良い答えを教える
・質問された時にWebを検索する
・計算機やデータベースを使う
・回答を出す前に考える時間を増やす
・自信がない時に「分からない」と答えやすくする

など、いくつもの方法が組み合わされています。

そして大切なのは、

どの方法も、間違いを完全になくす魔法ではない

ということです。

検索を使っても、古いページを選ぶことがあります。

計算機を使えても、入力する式を間違えることがあります。

人の評価を学んでも、すべての質問に正しく答えられるわけではありません。

AIは少しずつ進化してきました。

でも、その進化は、

「絶対に間違えないAIが完成した」

という話ではなく、

間違いにくくする方法が、少しずつ増えてきた

という歴史なんです😊

⸻

■ ① 人が「こちらの答えの方がいい」と教える

初期の大規模な言語モデルは、たくさんの文章を読み、

この文章の次には、何が続きそうか

を学びました。

これによって、自然な文章を作れるようになります。

ただし、文章の続きを上手に予測できても、

・質問の意図に沿っているか
・分かりやすいか
・危険な内容ではないか
・事実を作っていないか
・人が本当に求めている答えか

までは、十分に判断できないことがあります。

そこで使われるようになった方法の一つが、

人のフィードバックを使った学習

です。

人がAIの複数の答えを見て、

こちらの方が質問に合っている
こちらの方が分かりやすい
この答えは危ない
これは指示を無視している

というように評価します。

その評価を使い、AIが人にとって望ましい答えを返しやすくなるよう調整していきます。

OpenAIが2022年に発表したInstructGPTの研究では、人が書いた回答例と、複数の回答を人が順位づけしたデータを使ってモデルを調整しました。その結果、指示への従いやすさや回答の有用性が改善し、事実性にも一定の改善が見られました。ただし、研究内でも、調整後のモデルが簡単な間違いをすることは残るとされています。

⸻

■ 人が教えたら、正解を全部覚えられるの？

ここで、

人が正しい答えを教えるなら、間違いはなくなるのでは？

と思いますよね。

でも、人による評価にも限界があります。

評価する人によって、

・分かりやすいと思う文章
・丁寧だと感じる表現
・安全だと考える回答
・役に立つと思う情報

が少しずつ違うことがあります。

また、人がすべての質問と答えを確認することはできません。

世の中には、

新しいニュース。
地域限定の制度。
専門的な研究。
細かな商品情報。
個人に合わせた質問。

など、数え切れないほどの情報があります。

そのため、人からの評価は、

AIが答える時の姿勢や方向を整える方法

としては役立ちますが、

世界中の正解を一つずつ覚えさせる方法ではありません。

人の評価を学んだAIでも、

知らない情報を推測する。
曖昧な質問を勘違いする。
もっともらしい説明を作る。

ということはあります🌱

⸻

■ ② 学習した記憶だけでなく、外の情報を探す

これまでのAIは、学習した時点までの情報を中心に答えていました。

でも世の中の情報は、毎日変わります。

今日のニュース。
現在の価格。
営業時間。
新しく始まった制度。
更新されたサービス内容。

こうした情報は、過去に学習した知識だけでは正確に答えられないことがあります。

そこで、AIが回答する時に、外部の情報を検索する仕組みが使われるようになりました。

ChatGPTの検索機能では、質問に応じてWebを検索し、回答内に情報源へのリンクや引用を示すことがあります。これにより、学習済みの知識だけで答えるのではなく、現在公開されている情報を調べながら回答できる場面が増えました。

たとえば、

今日のニュースを教えて。

と聞かれた時。

検索を使わないAIは、現在の出来事を正確に知らない可能性があります。

一方、検索できるAIなら、

1. 関係する情報を探す
2. 複数のページを読む
3. 質問に必要な部分をまとめる
4. 参考にした情報源を示す

という流れで答えられます。

これは、

記憶だけでテストへ答えるのではなく、
資料を調べながら答える

ことに少し似ています😊

⸻

■ 検索すれば、もう間違えない？

残念ながら、検索を使っても間違うことはあります。

たとえば、

・古いページを参照する
・信頼性の低いページを選ぶ
・見出しだけを見て内容を誤解する
・別の地域や制度の情報を混ぜる
・出典には書かれていない結論を足す
・複数のページの内容を取り違える

といったことです。

検索は、

正しい情報へ近づくための材料を増やす方法

です。

でも、その材料を正しく読めることまでは保証してくれません。

人でも、検索結果の一番上に出たページを開いて、内容を勘違いすることがありますよね。

AIにも、似たことが起こります。

そのため、検索を使った回答では、

出典があるから正しい。

とすぐ判断するのではなく、

この出典に、本当に同じことが書いてある？

と、必要に応じて元のページを確認することが大切です🌱

⸻

■ ③ 言葉だけで考えず、道具を使う

生成AIは、言葉を作ることが得意です。

でも、言葉を作ることと、

正確に計算すること。
現在の天気を知ること。
在庫を確認すること。
予約情報を取得すること。

は、別の能力です。

そこで、AIが必要に応じて外部の道具を使う仕組みも発展してきました。

たとえば、

・計算機
・天気情報
・地図
・社内のデータベース
・商品の在庫情報
・予約システム
・ファイル検索
・コード実行

などです。

OpenAIのAPIでは、「ツール呼び出し」や「関数呼び出し」と呼ばれる仕組みによって、モデルが外部の機能や学習データ以外の情報へアクセスできるように設計できます。モデルが道具を使う必要があると判断し、外部システムが処理した結果を受け取って、最終的な回答を作る流れです。

たとえば、

237×486を計算して。

と聞いた時。

言語モデルが文章の続きとして数字を予測するより、計算機へ式を渡して結果を受け取った方が、正確に答えやすくなります。

また、

東京の今日の天気は？

という質問も、過去の文章から推測するのではなく、天気情報を取得する道具を使った方が、現在の状況へ近づけます。

つまり、AIは、

頭の中の記憶だけで何でも答えようとする存在

から、

必要に応じて、外の道具を借りながら答える存在

へ少しずつ変わってきたんです😊

⸻

■ 道具を使っても、間違えることはある

ただし、道具を使えば絶対に安心というわけではありません。

たとえば計算機を使う場合でも、

本当は、

2,000円の商品を30％引きした価格

を求めたかったのに、AIが条件を読み違えて、

2,000円から30円を引く

という式を道具へ渡してしまえば、計算機はその式を正確に計算します。

道具が間違えたのではなく、

AIが道具へ渡す内容を間違えた

ということです。

検索でも同じです。

検索機能そのものが情報を見つけても、AIが質問の意味を誤解していれば、関係の薄いページを探すことがあります。

道具を使うAIでは、

1. どの道具を使うか決める
2. 道具へ何を渡すか決める
3. 返ってきた結果を読む
4. 人へ分かる形にまとめる

という複数の段階があります。

それぞれの段階で、ズレる可能性は残ります。

だからこそ、

道具を使ったから正しい。

ではなく、

何を調べ、どんな結果を使ったのか。

を見ることが大切なんです🌱

⸻

■ ④ すぐ答えず、少し考えてから答える

最近のAIでは、複雑な問題に対して、すぐに最終回答を出すのではなく、

・問題を小さく分ける
・必要な条件を確認する
・途中の結果を見直す
・別の方法でも確かめる
・必要なら道具を使う

といった手順を通して回答する方法も使われています。

たとえば旅行の予定なら、

1. 日程を確認する
2. 移動時間を調べる
3. 営業時間を確認する
4. 予定が重なっていないか見る
5. 条件に合う形へ組み直す

というように、複数の作業が必要です。

以前は、一度の文章生成で答えようとしていたものを、複数の段階に分けることで、途中の矛盾や見落としに気づきやすくします。

ただし、

長く考えたから正しい。
詳しく説明したから正しい。

とは限りません。

間違った前提から、丁寧に考え続けてしまうこともあります。

考える時間を増やす方法は、複雑な課題で役立つことがありますが、それだけで事実の正しさが保証されるわけではありません。

ここでも、検索や道具、出典確認と組み合わせることが大切です😊

⸻

■ ⑤ 「分からない」と言えるAIを目指す

前回の記事では、

AIは分からない時にも、空欄にせず答えを作ることがある

と紹介しました。

なぜなら、多くの学習や評価では、

答えないより、何か答えた方が正解する可能性がある

という状態になりやすいからです。

たとえば、答えを知らない四択問題で、

無回答なら必ず0点。
適当に選べば、偶然正解するかもしれない。

という採点方法なら、分からなくても何か選びたくなりますよね。

AIの評価にも、似た問題が残っています。

OpenAIが2025年に公開した研究では、一般的な評価方法が「分からない」と認めるより、推測して答える行動を有利にしてしまうことが、ハルシネーションが残る一因だと説明されています。また、最新モデルでもハルシネーションは減っているものの、完全にはなくなっていないとされています。

そのため現在は、

・確信が低いことを示す
・答えられない時は答えない
・事実と推測を分ける
・確認できない情報を作らない

といった行動を、きちんと評価する必要があると考えられています。

間違いを減らすというと、

何でも正しく答えられるAIを作る

ことだけを想像しがちです。

でも実は、

分からないことを、分からないと言えるようにする

ことも、信頼できるAIへ近づく大切な進化なんです🌱

⸻

■ AIの進化を、身近な例で考えてみる

ここまでの流れを、人へ置き換えてみます。

最初のAIは、

たくさんの本を読み、記憶だけで質問に答える人。

そこへ人からの評価が加わると、

先生から、

その説明は分かりやすい
そこは質問に答えていない
分からないことを作ってはいけない

と教わるようになります。

検索が使えるようになると、

分からないことを、本やインターネットで調べられるようになる。

道具が使えるようになると、

計算機や地図、データベースを使えるようになる。

考える時間が増えると、

すぐ答えず、条件を整理してから返せるようになる。

そして最後に、

分からない時は、無理に答えず、

ここまでは確認できました。
でも、この部分は分かりません。

と言えるようになる。

こうして見ると、AIの進化は、

知識を詰め込むだけではなく、

人から教わり、調べ、道具を使い、分からないことを認める方法を覚えてきた歴史

とも言えます😊

⸻

■ それでも、なぜ人の確認が必要なの？

ここまで読むと、

人の評価もある。
検索もできる。
道具も使える。
考える時間も増えた。

それなら、もうAIへ全部任せても大丈夫なのでは？

と思うかもしれません。

でも、確認する役目はまだ人に残っています。

なぜなら、AIは、

・質問の背景をすべて理解しているわけではない
・どの情報が本当に重要か判断を誤ることがある
・古い情報や別の制度を混ぜることがある
・家庭や職場だけの事情を知らない
・答えによって誰が困るかを完全には判断できない

からです。

たとえば、

文章の言い換え。
夕飯の候補。
旅行先のアイデア。
今日やることの整理。

こうした内容なら、少し違っても直せます。

でも、

健康。
薬。
法律。
税金。
契約。
投資。
子どもの安全。

などに関わる内容は、間違った時の影響が大きくなります。

AIが進化しても、

間違えた時に困る内容ほど、人が確認する

という考え方は変わりません🌱

⸻

■ 初心者さんは、何をすればいい？

AIの仕組みを全部覚える必要はありません。

まずは、次の3つだけで大丈夫です。

① 最新情報は、検索してもらう

2026年7月時点の情報を、公式サイトを使って調べてください。

というように、時点と情報源を伝えます。

ただし、表示された出典も自分で開いて確認します。

② 計算や数字は、道具を使ったか確認する

暗算や推測ではなく、計算機を使って確認してください。

と頼みます。

そして、入力した条件や式が合っているかを見ます。

③ 分からない時は、無理に答えないよう伝える

確認できないことは推測せず、「分からない」と書いてください。
事実と推測を分けてください。

と伝えます。

これだけでも、無理に作った答えを見抜きやすくなります😊

⸻

■ そのまま使える確認フレーズ

今回の内容を、すぐ試せる形にまとめます。

最新情報を調べてほしい時

現在の情報をWebで検索してください。
公式サイトや公的機関の情報を優先し、出典をつけて説明してください。

数字を確かめたい時

この計算は、計算機を使って確認してください。
使用した式と結果を分けて表示してください。

情報が不確かな時

確認できた事実と、推測している部分を分けてください。
確認できないことは、無理に答えないでください。

出典を確認したい時

この回答の根拠になった出典を示してください。
出典のどの部分が回答を支えているかも説明してください。

大切な判断に使う時

この回答だけで判断せず、私が公式情報や専門家へ確認すべき点を3つ挙げてください。

全部を毎回使う必要はありません。

大切そうな情報が出てきた時に、一つ足すだけで大丈夫です🌱

⸻

■ ゆーみんメモ🌱

私は以前、

AIが新しくなれば、いつか間違いは全部なくなるのかな。

と思っていました。

性能が上がって、検索もできて、計算もできる。

それなら、あとは何でも任せられるようになるのかな、と。

でも、調べていくうちに、少し考え方が変わりました。

AIの進化は、

一人で全部正しく答えられるようになること

だけではなかったんですよね。

人に教えてもらう。
外の情報を探す。
道具を使う。
分からない時は、無理に埋めない。

つまり、AIも、

一つの頭だけで全部を解決しようとしない方向

へ進んできたんだと思います。

これって、少し人にも似ている気がします😂

分からない時に調べる。

計算が必要なら計算機を使う。

大切なことは詳しい人へ聞く。

自信がない時は、確認する。

全部を自分だけで知っていなくてもいい。

AIが進化するほど、そんな当たり前の大切さが見えてくるのが、少し面白いです😊

⸻

■ まとめ

AIは、間違いを減らすために、少しずつ新しい方法を取り入れてきました。

今回紹介したのは、主に次の4つです。

1. 人が答えを評価し、望ましい答え方を教える
2. Web検索で、現在の情報を探す
3. 計算機やデータベースなどの道具を使う
4. 分からない時に、無理に答えない方法を研究する

これらによって、AIは以前より便利で、役立つ答えを返しやすくなっています。

でも、

人が評価したから正しい。
検索したから正しい。
道具を使ったから正しい。
長く考えたから正しい。

とは限りません。

AIは、

正解をすべて知っている存在

ではなく、

調べたり、道具を使ったりしながら、答えへ近づく存在

へ変わってきました。

そして人は、

AIの答えを全部疑う必要はないけれど、

大切なところだけは、自分でも確かめる。

その役割を持っています。

AIが調べる。
人が確認する。
一緒に答えへ近づく。

どちらか一方へ全部任せるのではなく、役割を分けること。

それが、進化したAIを安心して使うコツなのかもしれません😊

AIを、もっと身近に。

ゆーみん

⸻

■ 次回予告📖

次回の「AIの歴史」では、

「AIは、なぜ急に会話が上手になったの？」

をお届けします。

文章を作るAIは以前からあったのに、なぜChatGPTの登場で、多くの人が気軽にAIと話せるようになったのか。

「指示に従う学習」や「会話形式」という変化を、初心者さん向けに紹介します😊

⸻

#ChatGPT
#AIの歴史
#ハルシネーション
#生成AI
#AI暮らしラボ

※本記事は、OpenAIの公式資料および関連研究をもとに、初心者向けに表現を簡略化してまとめています。生成AIの回答には、検索や外部ツールを使用した場合でも、誤りや情報の読み違いが含まれることがあります。健康・法律・税金・契約・投資・安全などに関わる内容は、公式情報や専門家の説明も確認してください。