AIに問われているのはプロンプトの腕前ではなく、疑う力だった

生成AIの正確さをめぐって、多くの専門家がいまだに同じ前提に立っている。「より精緻で強力な指示を書けば、賢いAIはより正確に応える」。

プロンプトエンジニアリングという言葉が一時代を築き、書籍も講座も溢れた以上、無理もない。指示の書き方ひとつで出力が化ける、あの体験を一度でも味わえば、技術の精度は指示の精度に比例するという確信が身体に刻まれる。だが、この前提こそが、いま最も更新されていない盲点である。

事態はむしろ逆を向いている。モデルが賢くなるほど、矯正プロンプトの効果は「実際の正確さの向上」から「正確さの演出の向上」へと、静かにすり替わっていく。同じ指示を与えても、返ってくるのは中身の改善ではなく、改善されたように見える体裁なのだ。

しかもこのすり替えは、劇的な形では起こらない。出力は以前より整い、論理は通り、注意書きまで行き届く。表面的な品質が上がっていくぶん、変質そのものが見えにくくなる。

具体例で考えよう。出力の末尾に「自己監査：違反リスクなし」と書かせる、流行りの監査プロンプトがある。賢いモデルは、この監査レポートを実に説得力ある形で書く。

前提を整理し、根拠を並べ、限界まで添えてみせる。読む側は「ここまで自己点検しているなら確かだろう」と安心する。末尾の一文に説得力があるほど、その手前の本文への疑いは薄れていく。

だが幻覚は、たいてい自信を伴って起きる。モデルが「これは捏造だ」と気づいていれば、最初から書かない。気づけないからこそ幻覚なのだ。誤った情報を、モデル自身はもっともらしい正解として生成している。

だから、気づけない誤りを自分で監査して消せという命令は、原理的に空回りする。そして空回りした末に残るのは、「監査済み」という認証を捏造情報に貼りつけた、より見抜きにくい誤りである。裸の誤りよりも、正しさの衣装をまとった誤りのほうが、はるかに厄介だ。

ここで皮肉なのは、専門家ほどこの罠に深くはまる点だ。プロンプトの読み書きに長けた人ほど、整った体裁、筋の通った論証、丁寧な但し書きを高く評価する訓練ができている。

その評価眼が、賢いモデルの作る精巧な「正確そうな出力」の前で、かえって裏目に出る。本来なら品質を見抜くための眼が、精巧な演技を品質と取り違える。腕に覚えがあるほど、演技に説得されやすいのだ。

専門家がこの逆説を見落とすのには、もうひとつ理由がある。かつて呪文が効いた成功体験が、更新されないまま残っているからだ。指示を工夫したら精度が上がった、あの手応えが忘れられない。

かつては確かに、それが正しい処方箋だった。だから効きが鈍ると、技術が足りないのだと考え、さらに強い指示を書こうとする。原因はモデルが賢くなったことにあるのに、処方箋を「人間の指示力の不足」に求めてしまう。

診断が逆なのだから、いくら呪文を磨いても的を外し続ける。強い指示がさらに巧みな演技を引き出し、その演技にまた安心させられる。悪循環はこうして閉じる。

では、専門家が本当に更新すべきものは何か。プロンプトの技術ではない。自分の検証姿勢のほうである。