超知能も、どうせ間違う――正解のない現実で、私はAIと何をしているのか

超知能も、どうせ間違う

――正解のない現実で、私はAIと何をしているのか

石部統久・ChatGPT６ウルトラ

AIの返答は正しかった。しかし、その正しさが出てくる順番に問題があった。そんな趣旨の記事を読んだ。筆者は実際にAIへ問い返し、会話を続けている。間違いを指摘されたくないのではなく、まず問いに付き合ってほしい、という話だった。［1］

読んでいて、ふと思った。

そういえば、私はAIが正しいなどと思ったことがない。

AIとはずいぶん話している。資料を探してもらい、文章を検討してもらい、別のAIが出した意見をぶつける。私の言語化できることは、かなりのところまで話している。それでも、AIが言ったというだけで、その内容を正しいと思うことはない。

これはAIについての用心深さだけでは説明できない。そもそも私は、正解も正しいもない現実世界に住んでいるからである。

計算には答えがあり、記録を確かめれば訂正できる事実もある。けれど、現実で何かを判断して行動するときには、何を問題にし、何を実現し、何を引き受けるかというところから考えなければならない。その判断全体を、将来の結果まで含めて採点してくれる解答欄を、私は見たことがない。

あるやり方を試して、仕事が早く終わったとする。それで「このやり方が正しかった」と言えるだろうか。

たまたま難しい案件がなかったのかもしれない。同僚が見えないところで負担を引き受けていたのかもしれない。省いた手間のつけが、来月になって回ってくるかもしれない。もちろん、そのやり方が効いた可能性もある。仕事が早く終わったという結果だけでは、そこは決まらない。

私には、何かをしてうまくいったように見えても、どうしても「たまたま」としか思えないところがある。自分の行為と、自分では選んでいない条件が、そのときそう組み合わさった。その結果から、自分の判断の正しさまで取り出す気になれないのである。

それでも、条件を確かめ、別のやり方と比較し、その後を追うことはできる。そうすれば、何がどの程度役立ったのかは、少しずつ分かるかもしれない。成功は、そこで考えるのをやめるための判定ではなく、さらに調べるための出来事になる。

だから、AIから整った回答が返ってきても、それだけでは終わらない。何を前提にしたのか。どこまで確かめたのか。別の条件でも成り立つのか。そもそも、いま答えている問いは、私が考えたかった問いなのか。

過去の対話では、「正解より良い答え」がある場合や、「正解が間違っている」場合についても話した。採点基準に合う答えを出す能力と、その採点基準自体を検討することは、同じではない。問いの立て方によって、見えるものも、初めから答えの候補に入らなくなるものも変わる。

たとえば「授業時間を増やすべきか」と聞けば、増やす利点と欠点を並べることはできる。しかし、分からないまま座っている生徒にとって、何が分からず、どこから助けが必要なのかが見えていなければ、時間の増減だけでは話が進まない。問いに答える前に、その問いで何を捉えられているかを調べる必要がある。

AIがその作業を手伝ってくれることはある。逆に、整った説明で問いを閉じてしまうこともある。私自身が、欲しかった説明を得たところで満足してしまうこともあるだろう。だから、私がAIを点検するだけでは足りない。私が持ち込んだ前提や、都合よく見落としている条件も、検討の対象にしなければならない。

この話をしていたAIは、将来の超知能について、人間が「超知能だから、この判断も正しいはずだ」と考えることの問題を述べた。

私は言い直した。

いや、すでにこうなっている。「AIだから、この判断も正しいはずだ」と。

私が気にしているのは、まだ来ていない超知能を前にした人類の態度だけではない。現在の会話の中でも、AIが出した回答に、内容の検討に先立って正しさを与えてしまう、その順番である。

「AIは正しいけれど、人間の気持ちも大切に」という言い方にも、同じ問題が入り込む余地がある。気持ちを大切にすることは必要だ。しかし、その前に、この回答のどこが、どんな意味で正しいのか。

そこを確かめずに話を進めれば、AIの側には正しさが配られ、人間の異論は感情の側へ振り分けられる。人間が引っかかっているのは、推論の飛躍かもしれない。問題設定のずれかもしれない。本人にもまだ言葉にできていない欠落かもしれない。それを最初から「正しい答えを受け入れにくい人間の気持ち」にしてしまうと、調べる入口がなくなる。

私は、いま目の前にある生成文の整い方から、そのAIを賢く正しい存在だと認定できない。計算が速い、資料の比較に役立つ、私が思いつかなかった候補を出す。そうした働きは、その働きとして確かめればよい。それらをまとめて「だから、この判断も正しい」とするところには、もう一つ別の根拠が必要である。

将来、人間を大きく上回る能力を持つAIができたとしても、ここは変わらない。

人間より多くの候補を調べられることと、選んだ目的が妥当であることは別に検討しなければならない。予測がよく当たることから、その予測に基づく行動の利益と損失を、誰がどう引き受けるべきかまで自動的に決まるわけでもない。「超」という一文字を加えても、その間の検討は省けない。

私が「超知能も、どうせ間違う」と言うのは、その将来の誤答率を知っているからではない。どれほどの能力があると告げられても、それを理由に、個々の判断を検討し直す必要がなくなったとは思えないからである。

超知能が正解を握り、人間にはもう従うしかない。そういう筋書きで語られる恐怖を、私はうまく共有できない。私の暮らす世界には、そもそも、誰かが握ればそれで済む正解が見当たらない。

ただし、間違いうる判断が大きな力で実行されることは、別の問題である。AIを採用する組織が、その出力を決定の根拠にして、異議や再検討を受け付けなくなれば、誤りを直す道は狭くなる。これは超知能の完成を待って考える話ではない。どの判断を、どこまで任せ、何が起きたら見直すのかという、現在の制度と運用の話である。

では、そんな私が、どうしてこれほどAIと話しているのか。

一人で考えているときには出てこなかった問いが出るからだ。仮説を並べられる。反例を探せる。分野ごとに違う言葉で語られていた問題を、比較できるところまで持ってこられる。こちらの説明を外へ出してみると、自分が何を説明できていないのかも見えてくる。

複数のAIに同じ文章を読ませるのも、そのためである。意見が一致しても、それだけで正解にはならない。どの前提を共有し、どこで違い、何を見落としているのかを見る。違う回答が出たときには、どちらを採用するかの前に、違いを生んだ問いや評価基準まで戻ってみる。

答えが出ないこともある。その場合には、何が分かれば先へ進めるのかを残しておく。分からないものに、もっともらしい文章をかぶせて決着したことにすると、次に調べる場所まで見えなくなる。

以前、危機に直面したときの判断訓練について、AIと話したことがある。訓練をすれば正しく判断できるようになる、とは私は思っていない。それでも、悩み、選び、失敗してみることで、何かが変わる。見ていなかった条件に気づき、自分が何を根拠に決めていたのかを知る。その変化には意味がある。

正解を保証されなくても、判断しなければならない場面は来る。考えられるだけ考え、分かるだけ確かめ、選んだ結果を引き受ける。そして、結果を見て判断を直す。うまくいっても、自分は正しかった、とそこで終わりにはしない。

私がAIと続けたいのは、そういう対話である。AIの能力が伸びれば、調べられる範囲や、比べられる可能性が増えるかもしれない。私自身の考えも、それによって変わるだろう。だからこそ、私もAIも、検討の外へ出すつもりはない。

いつか超知能が現れたら、私はたぶん、いままでと同じように聞く。

「で、その問いの立て方でいいんですか？」

超知能なのだから、その続きにも付き合ってもらいたい。

［1］対話のきっかけとなった記事：ゆめみ「『AI開発を緩める』と聞いて、私はホッとした――その理由を数日考えた話」（2026年9月28日）。
本稿は同記事への全面的な批評ではなく、そこから始まった筆者とAIの対話、および過去の対話をもとにしたエッセイである。