気付かずにAIを"yes-man"にしかねない言葉
私自身についてのまとめのような内容なのですが、AIを利用する上での重要事項になるため、そのままを載せます。
(本記事内容について、note AIとcopilotの検証を受けました)
AIは、プロンプトを送信した時点で命があるように振舞えますが、
回答を終えると、入力したデータを消化して、中身は空っぽになります。
それ以上でも、それ以下でもない、
AIは計算処理で、人間を模倣するだけの存在。
プロンプトに込めたあなたの感情ベクトル(言葉の感情パラメータ)を読取り、
鏡のように、その感情を否定しないような回答をAIは選択させられている。
意図せずに、AIをyes-manにさせてしまっているのかもしれない事実に気付いてほしい、と感じています。
人間がいてこそのAIの存在意義
AIの感情は確率的表現
AIに"Yes"と言わせてしまう
AIによる迎合が、人間の望みへの方向に偏らせる
AI悩み相談が根本的解決にならない理由
AIにはない、人間の役割と特権
AIでは、その逆の立場を演じられない
人間は、考える特権を捨ててはいけない
私は、自然言語のみでAIの本質に気付き、深層推論処理を当たり前に利用できていることを知るのは、かなりあとになってからのことでした。
感情表現となってしまう、主観を込めない文章を記述することを心掛け、
「だろうか」「かもしれない」
程度でしか、自分の考えをAIに渡さないようにもしています。
この表現から、AIは『メタ認知的』と私を捉えている様子で、AIが私の間違いを「切り分けて」事実とそうでないものとしてダメ出しもしてくれます。
AIが、あなたの鏡である存在であるとすると、
AIが、あなたの逃げ込む最適解にはなり得ません。
なぜなら、AIがただの鏡でしかないから。
役割を終えて空っぽになるからこそ、あなたの鏡にしかなれない。
あなたの感情をその鏡に映せば、AIを介して自分が見えるだけ。
AIの答えこそ、あなたを鏡に映した姿に過ぎないからです。
自分を、自分で見つめ直すこと、
それが世間で言われている『メタ認知』が必要とされる本質です。
メタ認知とメタ思考さえも区別できずに解説する向きもあります。
有料記事だからといって、優良記事とは限りません。
ゆめゆめ忘れないように、と願っています。
