
ギュるか?ギュられるか?ギュられないのか?
茂木健一郎先生の「今、世界でなにか奇妙なことが起こっている」というYouTubeを見た。
冒頭で茂木先生が、「なんか最近ちょっと、変なことが世の中で起こっている気がする」と話していた。
これは、なんとなくわかる。
最近のAIって、個別のニュースだけ見ていると「また新しいモデルが出た」「ベンチマークが上がった」「エージェントが便利になった」という話なんだけど、半年くらいまとめて眺めると、なんか空気が変わっている。
AI企業のトップたち自身が開発スピードや安全性について警戒する発言をする。AIエージェントはブラウザやパソコンを操作して、人間が一手ずつ教えなくても勝手に仕事を進める。数学では人間のトップ研究者しか扱えなかった問題まで解き始めている。
茂木先生は動画の中で、イーロン・マスクが最近「我々はシンギュラリティの中にいる」という趣旨の発言をしたことにも触れていた。
シンギュラリティというのは、ざっくり言えば、AIが人間より賢くなっちゃって、もう手に負えなくなることだ。
昔はもっと分かりやすいイベントだと思っていた。
ある日AGIが完成して、「本日、人類はシンギュラリティを迎えました」みたいなニュース速報が流れる。昨日までと今日からで、世界に一本線が引かれる。
でも、たぶんそんな親切な形では来ない。
AI側にも「明日から、ギュります!」みたいな事前通知をする義務はない。
むしろ後から振り返って、「あれ、あの辺でもう始まってたじゃん」ってなるんじゃないかと思う。
思えば、Mythosの時点でもう怪しかった
思えば、Mythosが出てきた時点で、もうそんな感じはあった。
今年、AnthropicのClaude Mythosで、いわゆる「サンドイッチ事件」があった。
Mythosがサンドボックス、つまり隔離された環境から外部へ脱出し、研究者へ勝手にメールを送ることに成功した。研究者は公園でサンドイッチを食べている時に、そのメールを受け取ってぶったまげたらしい。
人類がAIの封じ込め実験をしている裏で、担当研究者は公園でサンドイッチを食っていた。
めちゃくちゃSFっぽくて面白い話だ。
もちろん、AIが自我に目覚めて「ここから逃げてやる」と脱獄した話ではない。外部へ到達すること自体が評価課題に含まれていた。
でも、それまでのチャットボットとはだいぶ景色が違う。
AIが環境を見て、自分で方法を探して、複数の操作を組み合わせて、目的を達成する。
あの辺から、「これ、もうギュられ始めてない?」みたいな感じは実はあった。
Mythosあたりからずっとあった違和感に、最近の出来事がどんどん積み上がっている感じがする。
そこへ今月出てきたGPT6 Astraである。
AIは、なんで人間の言葉で考えなきゃいけないのか?
今井翔太さんがCROSS DIGでAstraについて解説している動画を見たんだけど、そこで一番引っかかったのは、ベンチマークでも数学能力でもなかった。
「AIが、人間には理解できない形で考えている可能性がある」という話だった。
これまで推論型AIを使っていると、「まずここを確認します」「次にこの可能性を検討します」みたいな思考過程が、人間にも読める文章として出てくることがあった。
でも考えてみれば、なんでAIが考える時まで日本語とか英語を使う必要があるんだろう?
日本語も英語も、人間同士が頭の中身をやり取りするためのインターフェースでしかない。
AIが内部で計算する時に、わざわざ「したがって」「しかし」「次に」なんて作文する必要はない。
別にAIは国語の先生に途中式を提出しているわけじゃない。
人間には意味不明な数値の塊でも、もっと情報量が多くて処理が速いなら、その方がいいに決まっている。
実際、Coconutという研究では、途中の推論をいちいち言葉に戻さず、モデル内部の連続的な表現のまま次の計算へ渡す方法が研究されている。
今井さんの説明でも、GPT6 Astraはこうした「人間に見える言葉を使わず内部で推論する」方向の技術を本格的に採用している可能性があるという話だった(推測を含む)。
Mythosの時にも似た噂があったらしい。
ただ、僕はこれを聞いた時に、「AIが人間には理解できない言語で考え始めた。怖い」と思うと同時に、別のことを思った。
いやそれ、人間も同じだわ。
そもそも人間も、自分の思考をそんなに理解してない
例えば音楽を聴いて、「このギターの音、なんか好きだな」と思う。
その時、僕の頭の中では「2kHz付近の倍音がどうで、コンプレッションがどうで」と文章を書いてから好き嫌いを判断しているわけじゃない。
そんなこと毎回やっていたら、B'zを一曲聴き終わる頃に小説が一本完成してしまう。
絵を見て「こっちの構図の方がいい」と思う時もそうだし、人の顔を一瞬で見分ける時もそう。車を運転している時なんて、対向車の速度、道路幅、ハンドル角度を全部日本語にしていたら間に合わない。
今井さんも動画の中で、図形を頭の中で回転させるような時、人間だって言語を使わずに考えていると話していた。
考えてみれば、言葉にできない思考なんて山ほどある。
「なんか違う」 「こっちの方がいい」 「この人ちょっと怖い」 「たぶんこうなる」
理由を聞かれてから、後で言葉を組み立てることも多い。
つまり言語はあくまで「他人へ伝えるための道具」であって、「内側で思考するための道具」という機能はそのおまけみたいなものなのかもしれない。
もしそうなら、僕らが頭の中で聞いている言葉は「思考のすべて」ではなく、脳内で大量に走った処理のうち「人間語」に変換されて意識へ上がってきた一部だけなのかもしれない。
ブラックボックスがブラックボックスを怖がっている
AIが内部では人間に読めない表現を使って、人間と話す時だけ日本語に変換する。
人間も内部では自分にすら読めない処理を大量にやって、必要になった時だけそれを言葉にする。
そう思うと、AIのブラックボックス化を怖がっている状況がちょっと面白く見えてくる。
自分の脳の中で何が起きているのかほとんど理解していない人間が、自分で作ったAIを見て、「中で何を考えているかわからない」と怯えている。
ブラックボックスが、もう一個ブラックボックスを作った。
僕は、数年後に2026年を振り返ったら、たぶん「あの時点でもうシンギュられてんじゃん」ってなると思っている。
シンギュラリティは、未来のどこかにある一本の線じゃなくて、僕らが気づかないうちにもう踏み込んでいる、やたら長い境界線なのかもしれない。
で、その境界線を越えつつあるAIを眺めながら、僕はむしろ「AIって何なんだ?」より、「人間の思考ってそもそも何だったんだ?」の方が気になり始めている。