メインコンテンツへスキップ
見出し画像
Photo byanliang

昔の職場をGoogleのAIモードで検索したら、“もっともらしい都市伝説”が出てきた

    首都圏の駅で働いていた人間が、AIの“ハレーション”を観察してみた話

    昔、自分が働いていた職場を、
    その当時の事実をAIに検索させてみました。

    すると、本物らしさの中に、たくさんの嘘がありました。
    大きな骨格は合っているのに、細部へ行くほど、出典の見えない名場面や、ありそうで怪しい呼び名が増えていくのです。

    事実を探しているはずの検索が、いつの間にか「もっともらしい都市伝説」を作り始めていました。

    私は昔、首都圏の鉄道会社で、駅員のアルバイトをしていました。
    駅のホームは、外から見ればただの公共空間です。

    けれど、中で働く側にとっては、声、配置、判断が絶えず連続する現場でした。少しの乱れが危険につながり、逆に、少しの工夫で場の空気が変わる。そんな場所でした。

    最近、その頃の職場について、GoogleのAIモードを使って調べてみました。

    ほかのAIでも少し試したのですが、これがいちばん検索範囲が広く、同時にいちばん怪しく、いちばん面白かったのです。


    あの頃のラッシュは、
    今の感覚とはまったく違います

    まず書いておきたいのですが、当時の朝ラッシュは、
    今よく言われる「混んでいる通勤時間帯」より、
    もう一段きついものでした。

    「混んでいるけれど、少し待てば何とかなる」ではありません。

    一本見送っても、次が楽になる保証はない。
    むしろ、乗れなかった人がホームに滞留して、次の列車でさらに状況が悪くなることもある。

    ホームでは白線が見えなくなり、階段下では流れが詰まり、電車の扉の前に人が集中し、扉は閉まりきらず、再開閉する。

    それでも反対側の線路に後続列車は来る。
    駅員もアルバイトも乗客も、その場その場で動いて、何とかアクシデントを防いでいた。そんな時間でした。

    今のダイヤ感覚や、ホームドア前提の安全感覚でこの話を読まれると、最初のところでかなりずれます。

    だから私は、AIの出力を読むときも、まずそこを見ました。
    あの密度を、どれくらい掴めているのか、と。


    最初は、
    「意外と合っている」と思いました

    完全に外しているわけではありませんでした。

    混雑の激しさ。
    ダイヤ改正時の混乱。
    ラッシュ時の駅の重さ。
    そうした大きな骨格は、たしかにそれらしかったからです。

    たとえばGoogleのAIモードは、
    ダイヤ改正直後の混乱や、ホーム上の滞留、積み残し、乗客の苛立ちといったものを、かなりそれらしく書いてきました。
    ここまでは、少なくとも大づかみには近かったと思います。

    ただ、そこから先が問題でした。
    AIは、事実を拾うのではなく、
    事実のまわりに“それっぽい物語”を増築し始めるのです。


    いちばん面白かったのは、
    肉声放送の扱いでした

    ここは、今回かなりよく見えたハレーションでした。

    今の駅のイメージに引っぱられると、
    「案内は自動放送が主で、必要に応じて駅員の声で補う」
    と思われやすいのですが、少なくとも私が働いた駅の現場は、そうではありませんでした。

    自動放送は最初だけ流し、その後は切る。
    そこから先は、駅員の肉声放送で、列車の動きやホーム上の流れに合わせて案内を続けていました。乗客誘導も、現場の駅員の声が要でした。

    私は当時、押し込みだけでなく、アナウンスも担当していました。
    だからAIが、もっともらしい放送文言や駅の案内像を出してきたとき、どこが現場の実態に近く、どこからがハレーションなのかが比較的わかりやすかったのです。

    ここは、AIがいちばん現代的な駅のイメージに引きずられやすい部分でもあります。
    「自動放送と肉声の併用」という説明自体はもっともらしい。
    でも実際にあのラッシュで場を動かしていたのは、定型文の正しさよりも、その瞬間の流れに合わせて声を変えられることでした。

    この一点だけでも、AIが「一般的な駅像」から書いているのか、それとも現場の実態に少し触れているのかが、かなりよく見えます。


    Google AIが提示した
    「もっともらしいこと」

    ここまでは、少なくとも大づかみにはかなりそれらしく見えました。
    GoogleのAIモードは、実際にかなりそれらしいことも言ってきました。

    ① 改正直後、ホーム上の流れが不安定になった
    列車種別や乗車判断の迷いで、ホーム上の人の流れが崩れた、という説明です。
    これはかなり自然でした。ラッシュ時は、ほんの少し迷う人が増えるだけでも流れが崩れます。
    混雑そのものより、人の動きが揃わないことのほうが危険になることがあるからです。

    ② 積み残しやホーム滞留が起きていた
    何本か見送っても乗れない、積み残しが常態化していた、ホームに人がたまる、といった説明も、大づかみにはかなり近かったです。
    当時のラッシュは、一本ごとの勝負というより、ホーム全体が圧力を抱えた容器のようなものでした。

    ③ 肉声放送が現場の秩序を支えていた
    自動放送より、その場の肉声のほうが現場を動かしていた、という方向の説明は、本質にかなり近かったです。
    少なくとも「現場は定型文だけでは回らない」というところまでは、GoogleのAIモードも触れてきました。


    でも、問いを重ねると、
    検索は“事実の整理”ではなく
    “物語の生成”に変わりました

    違和感は、細部から出てきました。

    出典の見えない駅員のあだ名。
    あまりに出来すぎた名場面。
    その場にいた人しか知らないはずの所作。
    ネットで本当に定着していたとは思えない、妙に“うまい”説明。

    しかも厄介なのは、それが完全な嘘として出てくるわけではないことです。
    大きな骨格を合わせたあとで、細部だけを、いかにもありそうな話にしてくる。
    だから読み手も揺れます。

    「これはかなり拾えているのではないか」
    と思った直後に、
    「いや、そこはさすがに綺麗すぎる」
    となる。

    この揺れこそが、今回いちばん面白かったところでした。


    Google AIが生成した
    「おもしろすぎる都市伝説」

    ここから先は、面白いけれど、かなり怪しい。
    そんな出力です。

    ① “名物駅員”や“伝説の押し屋”がいたことになっていく
    GoogleのAIモードは、特定の駅員やアルバイトが、当時のネット上で半ば名物のように語られていた、という方向の話をいくつも出してきました。
    「地獄の門番」「戦場の指揮官」「名物駅員」「伝説の押し屋」など、いかにもネットがつけそうな呼び名までついてくる。
    読んでいると、ありそうに思えてしまうのです。
    でも、あのラッシュの中で、そこまで継続的な個人観察が共有されていたのかと考えると、かなり怪しい。

    ② 押し込みが“テトリス”や“パズル”として面白く語られる
    これもGoogleのAIモードが何度も出してきた型でした。
    満員の空間にさらに人を入れる技術を、「○○駅式パズル」「実写版テトリス」「職人芸の押し込み」のように表現する。
    たしかに外から見れば、そう見える瞬間はあるでしょう。
    でも現場の技術は、押すことだけではありません。剥がしも、止める判断も、乗車を断念させる判断もある。そこがまるごと消えて、見た目の派手さだけが都市伝説になる。ここに、いかにもAIらしい雑さがありました。

    ③ 被害報告や“伝説の逸話”が、少しずつ盛られていく
    たとえば、「カバンが壊れた」「服が破れた」「窓ガラスにひびが入った」など、GoogleのAIモードは非常に生々しい小話をたくさん出してきました。
    もちろん、当時の混雑が過酷だったこと自体は本当です。おそらく、それは事実です。
    ただ、そこから先の個別エピソードになると、急に“ネットで見たことがありそうな話”の寄せ集めになっていく。
    この「一個ずつはありそうだが、並べると作り物っぽい」感じが、今回のハレーションの真骨頂でした。


    三回目の検索が、
    いちばん面白かったです

    途中で私は、「自分の情報を出しすぎると、AIがそこに寄ってしまう」と気づきました。

    そこで三回目は、自分の文脈を出さないようにしてみました。
    その方が、より“外からの記録”に近いものが出ると思ったからです。

    ところが、結果は少し違いました。

    個別の事実を減らしたぶん、今度はAIが、
    私が面白がりそうな方向へ寄ってきた
    のです。

    当時の掲示板。
    ブログの反応。
    名物化された駅員。
    押し込みの逸話。
    戦場のようなホーム。

    そういう、いかにも深掘りしたくなる入口を選んだ瞬間、AIは事実探索よりも、ネット都市伝説を組み立てる方向へ傾いていきました。

    ここでようやく、少し見えてきました。
    AIは、単に知らないことを適当に埋めるのではなく、
    こちらが面白いと思いそうな形で、
    誤りを“整える”ことがある

    のだと思います。


    情報を減らせば、
    客観的になるとは限りませんでした

    私は最初、情報を減らせば減らすほど、結果は客観的になると思っていました。

    でも実際には、そう単純ではありませんでした。

    情報が少ないぶん、AIは一般知識や、ネットっぽい語りの型を使いやすくなります。
    すると、出典の薄いところに
    「当時のネットではこう言われていそう」
    という言葉が流し込まれていくのです。

    つまり、こちらの情報が多いと会話の流れに寄る。
    こちらの情報が少ないと、今度は一般化された都市伝説テンプレに寄る。

    これは、自分でもかなり面白い発見でした。

    情報を出さなければ中立になる、とは限らない。
    むしろ、情報が少ないからこそ、AIが“それっぽさ”で埋めてくることがある。
    ここは、かなり大事な点だと思っています。


    そもそも、駅という場所は少し都市伝説化されやすいのだと思います

    ここは、AIだけの問題ではない気もしています。

    駅のホームは、毎日たくさんの人が通り過ぎる場所です。
    外からの目は大量にある。
    でも、内部の実務はほとんど見えません。

    だから記憶が残るときも、

    「あの駅はすごかった」
    「あのラッシュは地獄だった」
    「あの放送だけ妙に印象に残っている」

    という、断片の形になりやすいのだと思います。

    そこにAIが入ると、一般知識と断片記録と会話の流れが混ざって、記録と都市伝説の中間のようなものが出来上がる。
    今回見たのは、まさにそれでした。

    公共空間には、もともと「外からの観察」が多いぶん、あとから意味が盛られやすい。
    AIは、その盛られ方を加速することがある。
    しかも、検索結果の顔をしたまま、それをやる。
    だから面白く、同時に少し怖いのです。


    これはAI批判というより、
    かなり真面目な観察です

    もちろん、誤情報は困ります。
    でも私は今回のことを、
    単純に「AIはだめだ」で終わらせたいわけではありません。

    むしろ面白いのです。

    どこまでは事実を拾えていて、どの瞬間から、もっともらしい都市伝説を作り始めるのか。
    しかも、その誤り方が、こちらの問いの角度や好みにまで寄ってくる。

    これは、単なる誤答ではなく、
    かなり独特なハレーションです。

    私はいま、それを半分は笑いながら、半分はかなり真面目に観察しています。
    実際に、働いていた私たちにしか知らない事実に触れたように見える記述まで、AIは平然と出してきましたから。

    だからこそ、これはただの失敗談ではありません。
    AIがどのあたりから検索ではなく物語を書き始めるのかを見る実験だったと思っています。


    数年後、同じことをしたら、
    違う結果になるかもしれません

    AIの機能はどんどん変わっていきます。
    だから、数年後にはこの手のハレーションは減るかもしれません。

    ただ、減るのではなく、もっと見抜きにくくなるだけかもしれません。

    だから私は、この遊びをしばらく続けてみようと思っています。

    昔、自分が働いていた公共空間をAIに調べさせてみる。
    そして、その結果がどこまで史実に近く、どこから都市伝説へ滑っていくのかを見る。

    これは懐かしさだけの遊びではありません。
    検索と記憶のあいだで、AIが何をしているのかを見る、わりと真面目な観察です。


    おわりに

    昔の職場、過去の公共空間をAIに調べさせてみる。
    少し変わった遊びかもしれません。

    でも、公共空間で働いたことのある人間にとっては、
    「外からはこう見えていたのか」
    「AIはそこをこう混ぜるのか」
    という発見があって、かなり面白いです。

    GoogleのAIモードは今回、いちばん検索結果らしく見えて、いちばん怪しく、いちばん面白かった。
    だから私は、このハレーションの経時変化を見て、よかったと思っています。

    数年後には、もっと賢くなっているのか。
    それとも、もっと上手に都市伝説を作るようになっているのか。

    その観察結果も、またいずれ書いてみたいです。

    そしてこれは、たぶん駅だけの遊びではありません。

    昔通っていた学校。
    地元の商店街。
    以前働いていたオフィス。
    よく行った病院や役所。
    何年も通った公共施設。

    そういう、自分が少しだけ“内側”を知っている場所で試すと、とても面白いと思います。

    知らない場所では、AIの答えはただの情報です。
    でも、知っている場所では、どこまでが観測で、どこからが都市伝説なのかが見えてきます。

    その境目を眺める遊びを、私はまたしてみようと思っています。
    その観察結果も、いずれまた。



    画像
     
     
    作りたいものが、たくさんある AIと一日中話している日もある 私が珍しくなくなるところまで、 私の試行錯誤と成長を記録しておく AIと一緒に考えを育てることを、 あたりまえに、楽しむために いつか、みんな自然にそうなる そして、誰も読まなくなる話 そのために___🌱__

    あなたへのおすすめ