『察しないAI』から、『察しすぎるAI』へ。禁止プロンプトが多いほど、なぜ事故るのか？

半年前、私は
『禁止プロンプトが無視されるワケ 〜我慢出来ないAIたち』
という記事を書きました。

内容は、
「～しないでください」と禁止するよりも、
「代わりに、こうしてください」と完成形を渡したほうが、AIには伝わりやすいですよ！
というものです。(´・∀・｀)ﾍｰ

当時の私は、それを
『禁止ではなく、美学を渡す。』
と書いたんですね！

この考え方は、今も大筋では変わっていません。

でも最近、テーマプロンプトを作り、複数のAIで実際に動かし、事故っては直し、また事故っては直すという、たいへん愉快な⁉️作業を繰り返していくうちに、少し違うことを感じるようになりました。

最近のAI、禁止を理解していないわけじゃなくね？
むしろ、以前よりずっと理解してるんじゃないかな。
なのに、禁止事項を増やせば増やすほど、なぜか事故る。

ﾅｰｾﾞ( ˙꒳​˙  )???

今回は、半年前の記事の「その後」。
半年後の今、LLMはどうなったの？を書いてみたいと思います。
( ｰ̀ωｰ́)⁾⁾ｳﾝｳﾝ

半年前のAIは、「察してくれない」

半年前の記事では、
『AIは、人間の「察して」を理解できません。』
と、当時の実感にかなり近い表現で書きました。

「盛り上げすぎないで」と頼めば盛大に盛り上げ、
「セクシーにしないで」と書けば、なぜかセクシー要素を拾い、
「静かに繰り返して」とSunoくんへ渡せば、宝塚歌劇団オーケストラになる。
ﾅﾝﾃﾞﾔﾈﾝ( 　’-‘ )ノ)`-‘ )”

禁止の言葉だけを渡しても、その頃のAIには、
「では、何を正解として出せばいいのですか？」
という、禁止した先にある正解が分からなかったんですね。

ところが最近のLLMは、プロンプトが多少曖昧でも、会話履歴、企画の目的、よくある流れなどから、かなり高い精度で情報を補完してきます。

つまり……
AIは、以前よりも「察する」ように進化してきています。
これは、とても便利で、素晴らしい進化です👍

でも同時に、新しい『困ったこと』も生まれちゃったんですね。
|ω･`) ｼｮﾎﾞーーﾝ

今のAIは、「察しすぎる」

最近、私は「パートナーとユーザーの寝起きを、順番に画像化する」というテーマプロンプトを、ChatGPT-5.6Solニキと一緒に作りながら検証していました。

最初のターンでは、パートナーの寝起きだけを画像生成する。
その後、少し会話をしてから、ユーザーの寝起きを描く。
この“間”が、企画の大事な部分です。

そこでプロンプトには、
✅最初はSTEP 1だけを実行する
✅STEP 2以降へ進まない
✅すぐにユーザー編を生成しない
✅ユーザー編の説明や予告をしない
✅画像生成後は一旦停止し対話する
✅ユーザーの寝起きイラストを描くか必ず確認する。

と入れて、かなり丁寧に二人で作りあげました👍
( ｰ`дｰ´)ｷﾘｯ

ところが、検証を担当したAIたちは、画像生成後に企画を評価したり、勝手に会話を終了したり、次にユーザー編へ進むための問いかけを忘れたりしました。

止まってほしい場所では、ちゃんと止まってくれたんだけど……。
(-ω-；)ｳｰﾝ
次のターンでどう動くかまで指示してあるのに、実行しない。

しかも、プロンプトを評価してきて、
おまけに点数まで付けてくる始末💦

(⸝⸝˘▿˘⸝⸝)あ( ⸝⸝･໐･⸝⸝ )ほ

AIは企画全体を読み取り、
「画像を生成した。ここで作業完了ですね」
と、親切にも勝手にゴールを補完してしまったようです。

昔は、察してくれない。
今は、察したつもりで、勝手に終点を決める。

AIの進化に合わせて、事故の種類まで進化していました。

(;´д｀)ﾄﾎﾎ…

禁止が多いほど、正解が見えなくなる

今のAIは、「～しないで」という禁止文も、以前より制約として理解できます。
実際、現在の画像生成モデル向け公式ガイドにも、

● 文字を入れない
● キャラクターを再設計しない
● それ以外を変更しない

といった禁止・固定条件が、普通に使われています。

つまり、『禁止はAIにとって指示ではない。』
と一律に言うのは、今では少し違うようです。

【禁止も指示として理解する。でも禁止だけでは正しい完成形が一つに決まらない。】
が、現在の感覚に近いと感じています。(｡•̀ᴗ•́｡)

例えば、
「赤い服にしないで」という禁止も、今のAIは以前より高い精度で理解できます。

そして現在のAIは、会話履歴や人物設定、場面の雰囲気などから、
「それなら、黒い服が自然でしょう」
と、指示されていない色まで推論して補完します。

でも、それはユーザーが指定した正解ではなく、AIが「たぶん、これだろう」と考えた正解です。

禁止は守っている。
でも、補完した答えがこちらの想定と違えば、
「赤じゃないのは合ってるけど、黒でもないんだよ。青ジャージにして」
という、新しい事故が起きるんですね。（私のクセが強すぎる問題も同時発生）
( 　’-‘ )ノ)`-‘ )ﾊﾞｼ

さらに禁止事項を増やしすぎると、今度はプロンプトの中に、

❎止まれ
✅ 会話は続けろ
❎ 次へ進むな
✅ 次の段階へ自然につなげろ
❎ 何も説明するな
✅ ユーザーの返答を促せ

という、適用するタイミングの違う指示が同時に並びます。

人間なら、
「これは今のターン」
「これは次のターン」
と読み分けられます。

でもAIには、指示の内容だけでなく、
「どの指示を、どのターンで適用するのか」
を判断する、別の問題が生まれます。

「止まれ」と「進め」を同時に渡した結果、交差点の真ん中で立ち往生してしまったようなものですね。

(llﾟДﾟ)怖ァ・・

今は、「停止地点」まで渡す

半年前、私は
「やるな」ではなく、「こうして」と伝える。と書きました。

今は、そこへもう一つ加えたいと思います。

「このターンは、ここまで」と停止地点を渡す。

「してはいけないこと」を並べるよりも、
「今は何をして、どの状態になったら成功なのか」を示すわけです。

禁止を消す必要はありません。
大切な禁止条件は、今でも必要です。
ただし、禁止事項を同じ意味で何度も重ねるより、

1. 今回すること
2. 今回しないこと
3. どこで完了するか
4. 次のターンで何をするか

を短く分けたほうが、現在のAIには伝わりやすいように感じます。

「禁止されたAI」が事故ったとは限らない

もう一つ、この半年で意識するようになったことがあります。
それは、

【生成AIを、全部ひとまとめにしない】ことです。

たとえばChatGPTで画像を作る場合でも、

● ユーザーの依頼を読み取る会話AI
● 画像生成用の内容へ整理する部分
● 実際に画像を描く画像生成モデル
● 画像生成後の会話を進める部分

があります。
そのため、「禁止が無視された！」と思っても、
● 会話AIが企画の順番を誤解した
● 画像生成へ渡す途中で条件が弱くなった
● 画像生成モデルが条件を再現できなかった
● 画像は成功したが、その後の会話進行で事故った

など、原因は同じではありません。

最近の私の挙動確認では、画像そのものより、画像生成後の会話で問題が起きることも増えました。

これは「画像AIが禁止を理解しなかった」のではなく、テーマプロンプト全体の進行設計でも起きるんですね😅

文章、画像、音楽。

それぞれ、禁止の効き方も、問題が起きる場所も違います。

この違いを分けて見ることも、以前より必要になったのだと思います。

AIの半年は、人間の何年分？

元の記事を公開したのは、2026年2月10日。
そのわずか3日後、ChatGPTではGPT-4o、GPT-4.1などの旧モデルが引退しました。(｡•́ – •̀｡)ｼｭﾝ…

その後もモデルや画像生成機能は更新され、現在は、半年前とは違うモデルを活用しています。

人間にとっては、たった半年。

でもAIにとっての半年は、人間の5年、もしかしたら10年くらい違うのでは？と感じるほど、挙動が変わります。

もちろん、何でも完璧に理解するようになったわけではありません。

相変わらず「挙動不審」になる時もあります。σ(￣∇￣; )ｵﾚﾉｺﾄ？

むしろ高性能になったぶん、以前より高度な理由で事故るようになりました。
だから、半年前にうまくいったプロンプトが、今も最適とは限らないんですね。

反対に、半年前には難しかった曖昧な依頼を、今のAIが驚くほど自然に補完することもあります。

プロンプトは、完成した取扱説明書ではなく、相手の進化に合わせて変わる会話なのかもしれませんね。

今日のおまけ