AI活用｜悪意のない噓つきの完封術①

皆さん、お疲れさんです☕️ 佑歩です🙋🏻‍♂️

AIユーザーでは当たり前の人多いと思うけど、AIに何か聞くと、それらしい答えがスラスラ返ってきますよね。でも、コレ、実は結構な確率でデタラメが混ざっています。

今回は、AIとの付き合い方の中でも地味だけど一番大事な話、『情報をどう見極めるか』についてお話しします✍🏻

◆AIは『自信満々に嘘をつく』

AIは間違った情報を、さも本当のことのように話してしまう厄介な癖があります。ハルシネーションといって、横文字を使えばいいってもんじゃない😒笑

ただ、AIが悪意を持って嘘をついているわけではなく、『それっぽい文章』を作ることは得意でも『事実かどうか』を保証する仕組みではないのです。

厄介なのは、間違っている時ほど自信満々に、堂々と答えてくることです。私も年を重ねて、知識がなかったら何回謀られたか（笑）😭
『たぶん』とか『自信がない』とか、そういう可愛げのある遠慮は一切ありません🙈

◆検索結果の『要約』を鵜呑みにしない

最近、検索するとAIが勝手に要約を出してくれる機能が増えましたよね。便利なんですが、これも要約された時点で元の情報のニュアンスが変わってることがあります。特に、金額・日付・固有名詞のような『間違えると致命的な情報』は、要約だけで判断せず、必ずソース元のページを開いて確認しましょう！

◆恐怖のAI失敗談ニュース

いきなりだけど、AIのハルシネーション絡みで起こった実際にあった話2本立てです😱

1話目です😢（笑）
以前お世話になっていた会社の役員会で私の相方さんが、競合他社が展開しているキャンペーンの自社との比較表を作ってました。自動作業AIエージェントのManusに『主要競合3社の現在実施中の夏のキャンペーン名、期間、特典内容をExcelにまとめて資料にして』と指示を出しました👨🏻‍💻

すると20分足らずできれいに色分けされた完璧な比較表を出力してくれたので、相方さんは『さすが Manus、仕事が早い！』🤩と中身をざっと目視確認だけして、そのまま会議資料に提出しました📄

当日の会議で、参加していた役員から
『あのさ、この●社のキャンペーンってどこ情報？ うちの得意先から聞いた話だと、今夏のキャンペーンは見送るって聞いてるんだけど？』

相方さんは冷や汗を流しながら、ネット検索してもキャンペーンなどどこにも載っていません😱
Manusは、人間の指示である『現在実施中の夏のキャンペーンをまとめる』というタスクを意地でも完遂しようと気を利かせ暴走し、過去のプレスリリースや、他社のトレンドワードを脳内でガッチャンコして、『●社なら今頃こういう夏のキャンペーンをやっているはずだ』という架空の情報を100%の憶測で捏造し、完璧な表の中に補完したのね😮‍💨

俗にいう裏取り（ファクトチェック）をAIに丸投げした相方さんは大恥をかいてAI恐怖症になっちゃいました😱

2話目はAqua Voiceネタ。
これは同僚の部下さんのAさんがクライアントとの重要な商談の録音データを、商談後の移動中にAqua Voiceを使ってテキスト化し、そのまま社内の議事録としてアップしました。

その商談の中で、価格交渉のデリケートなやり取りでクライアントはゴニョゴニョと…
『えーっと、、御社が提示してくれた…月額180万円っていう条件ですが…うん、まぁ〜、持ち帰って前向きに検討、かな……。でも、もし、ん～、仮に150万とかになりそうなら、今ここで即決しますよ（笑）』
と、冗談交じりの駆け引きをしてきました。

Aさんは『月額180万でほぼ内定、150万なら即決』と頭で理解し商談後にAqua Voiceに向かって『今日の議事録をまとめて』と喋って自動生成させました。
翌日、Aさんの上司から『おい、こんな話聞いてないぞ！』と叱責。彼が、怪訝そうに提出した議事録を見たら決定事項のようにスッキリとした文面で…

【決定事項】
クライアントより、月額150万円での即決条件の提示あり。本日付けで社内承認の上、契約締結へ進むことで合意。😳

Aqua Voiceや裏側のLLMは、人間の『えーっと』とかの曖昧な言い回しを『ノイズ』と判断して綺麗にカットし、文章として論理的に見えるように150万円で即決合意したというストーリーを勝手に補完したのです🙈

Aさんが確認せずに上司へ回した結果、社内では150万で受注確定として予算が組まれかけてました。
更に、その議事録がそのままクライアントへの確認メールに転記されてしまい、クライアント側にも『150万円で合意した』と誤って伝わってしまったのです😱

AIの能力が上がれば上がるほど、彼らは『わからない』と言わず、前後の文脈からそれっぽい答えを偽造（補完）するようになります。空欄よりも『嘘の補完』の方が100倍タチが悪いんです😒

ここまで読むと、
『じゃあAIなんて使わない方がいいんじゃないか』と思うかもしれませんが、そうではありません。🙅🏻‍♂️

AIは『叩き台を作る道具』
事実確認は『自分の仕事』。

この役割分担さえ守れば、AIはとても頼りになる相棒です。叩き台を作ってもらって、最後の裏取りだけ自分でやる。これだけで、AIとの付き合い方はだいぶ安全になります。

今回はここまで！

次回は、この2つの失敗を防ぐために私が実際にやっている『確認のクセ』と、AIへの指示の出し方そのものを具体的にお渡しします。

『AIの噓は分かった。
　じゃあ、明日の仕事でどう防げばいいのか』

そう思った方のために、続きを書きました📝
議事録、競合比較、契約書チェック、数値集計。AIに任せると噓が紛れ込みやすい4つの実務で、そのまま使えるプロンプト集です。

▼続きはこちら🙋🏻‍♂️☕️👇

答えを与えるのではなく、共に考える。
今回の話も、その姿勢とまっすぐ繋がっています。

日々の発信は、Threads・Instagramでもそこでしか流さない情報も発信しています📝😊

良かったら、プロフィールからフォローいただいて
そちらでも気軽に話しかけてくださいね🙏🏻☺️

佑歩｜次の一歩を、一緒に。