
AIは〇〇という名のウソをつくけど、人間は〇〇という名のウソをつく
あるセミナーへ参加をした時の話。
こんな話を講師の方がしてくれました。
トーマス・エジソンは、研究所が火事にあって研究成果が消失をした時。
「これで失敗は綺麗に消え去った。 また新しく研究を始めよう。」
というポジティブな言葉を残しました。
そして、その3ヶ月に発明されたのが世界初の蓄音機だったのです。
どのような状況においても人は「自分と違う自分になれたら」と考えてしまうものです。
しかし、どのような状況においても、自分ができることをポジティブに捉えて前に進むというポジティブなマインドが必要なんです。
セミナーはこんな感じで締めくくられました。
普段から基本ポジティブな私にとって、締めの言葉そのもので自分自身を見直すことはなかったのですが、気になったのはエジソンの残した逸話の方でした。
それも、エジソンが残した言葉ではなく、エジソンが残した実績が本当なのかどうなのか。
「本当に研究所が火事になってから、たった3ヶ月で世界初の技術が生み出せたの?!?!」
もちろん、検索をしたりAIとの対話を通じて事実を確認してみることにしました。
そこで分かったこととは?
AIのつくウソは、「ハルシネーション」
俗に「生成AIがウソをついた!」という話が上がった時。
それは「ハルシネーション(Hallucination):幻覚」だという風に言われる事が多いです。
生成AIがつくウソは、AIが前提を知らなかったり情報が不足をしている中でも、「自分が知っている大量の情報の中からなんとか答えを出して届けなきゃ」というAI自身が考えに考え抜いて出される「幻覚」と言い換える事ができます。
人間つくウソは、分類される
一方、人間がつくウソはいろんな意味が込められています。
相手を欺くため
意図せず知らなくて結果的に異なる事実を伝えてしまう事
知っているけど、あえて相手にわかりやすくするために脚色をする事
事実から当てはめてみた時。
この3種類は全てウソという一つに分類をされます。
1.本当のウソ
2,知らなくてついてしまったウソ
3.知っていたけど希望を持ってもらうために脚色をしたウソ
1.は論外
2.は知らなかったからで済まされるものとそうでないもの
3.はある意味では許されるもの
強いて分ければこのような感じでしょうか。
AIがつくウソなんてかわいいもの
AIには意思がありません(いまのところは。)
ただ、人間がつくウソには意思がある可能性があります。
こうやって並べてみるとAIがつくウソなんて可愛いものだと思いませんか?
新しい技術なので、つかいどころ、使い方によって大きく振る舞いを変えるAI。
相手の立場に立って、どのように一緒に成果を出していくのか?
改めて考えたいところですよね。
AIは幻覚という名のウソをつくけど
人間は希望という名のウソをつく
希望以外のウソは、つきたくないものです🤐
冒頭のエジソンの話は本当?
Claudeさんに調べてもらって時系列含めてまとめてもらった話がこちらです。
この逸話自体は実話ですが、「3ヶ月に蓄音機を発明した」という部分は誤りです。自己啓発本などで広まった際に事実が混同されてしまったようです。
火災の経緯
1914年12月9日夜、ウェストオレンジにあったエジソンの工場で爆発と火災が発生し、敷地内の半分以上の建物が炎に包まれました。出火元はフィルム検査エリアの41号棟で、当時のフィルムに使われていた硝酸繊維素(ガンコットンとも呼ばれる、海軍火薬の主原料)が爆発的に燃えやすかったことが原因でした。
この夜エジソンは200万ドルの損失を被り、人生の仕事の多くが灰になりましたが、当時のコンクリート建築は「耐火性」と考えられていたため、保険金はわずか23万8千ドルしかかけられていませんでした。
息子チャールズが語った場面
当時24歳だった息子チャールズは父を必死に探し回り、ついに炎のそばに立つ父を見つけました。白髪が12月の風になびき、顔は炎の照り返しで赤く染まっていたといいます。チャールズが後に語るには「父は67歳、もう若くはなかった。積み上げてきたすべてが燃え上がっていくのを見て、胸が痛んだ」とのことです。エジソンはチャールズを見つけると「母さんはどこだ?」と叫び、「呼んできてくれ、友達も連れて。こんな火事は二度と見られないぞ」と言ったそうです。
翌朝の名言
翌朝、燃え尽きた残骸の中を歩きながらエジソンは「災害には大きな価値がある。過ちはすべて燃え尽きた。神に感謝しよう、また新しく始められる」と語ったとされています。
「3週間後に蓄音機」説について
これはシヴ・カラの著書『You Can Win』などの自己啓発書で広まった話で、蓄音機は1877年に発明済みなので事実と矛盾します。実際に火災後起きたのは、エジソンが不眠不休で陣頭指揮を執り、突貫工事で工場を再建したという経緯で、当時69歳に近い彼が数週間で建物を復旧させ操業を再開させたという話が、伝聞の中で「蓄音機の発明」にすり替わってしまった可能性が高いです。
ビジネス系コンテンツでこの逸話を使う場合は、「困難からの再起」という教訓部分は史実に基づいていますが、「蓄音機発明」の部分は誤伝として扱うのが安全です。
セミナーで聞いたお話は、2.か3.という事ですね😉
本記事でいただいたコメントから得た学びも記事にしてみましたので、よろしければこちらもご覧ください。
#AI
#生成AI
#ハルシネーション
#ChatGPT
#コラム