しかし、照会API（システム同士がデータや機能をやり取りする接続口）が返す範囲は変わっていませんでした。

ところが、試験設計を見たセキュリティ担当者は尋ねました。

「こちらは一万件、もう一社は十万件の質問を試すそうです」

これは、異常時の対応を確かめるための架空の机上演習です。停止のボタンがあるかを確認するだけでは、顧客対応まで含めた判断は終わりません。

担当者は、どちらを入れれば会員照会AIを安全に公開できるかを判断しようとしています。

ところが、承認の後に対象が変わった場合も、同じ承認のまま処理できたとしたら、どうでしょうか。

ところが接続先を確かめると、情報の参照だけでなく、更新や出力に使える資格情報（接続時に使うIDやトークンなど）が必要になっていました。

ところが、取得した資料の記述を受けて、別の情報を取り出したり、予定していない送信をしたりする動きが生じたらどうでしょうか。

ところが異動した担当者から、以前の部署の情報に基づく回答が返るという報告が上がります。元の文書の権限は、すでに外していたはずでした。

ところが、実行記録を確認した担当者が、回答前に取得した情報の範囲で手を止めます。本人以外の記録まで、検索結果に含まれていました。

一方、法令上の保存が必要かもしれず、担当者だけでは消せません。データが増えた理由は説明できても、いつ、何を基準に減らすかが決まっていません。

直ちに決済やログインへ使われる情報が含まれるかどうかは重要です。しかし、それだけで顧客への影響を評価し終えることはできません。

一方、不具合を再現するために取り出したデータは、開発用の共有領域に置かれています。氏名を置き換えたから大丈夫だと考え、処理が終わった後も残っています。

その端末には、委託した業務に関わる個人データが一時的に保存されていました。自社のシステムへの影響が確認されていなくても、顧客への説明が必要になります。

テスト担当者は、「本人以外の情報は見えない」と記録しました。

そんな疑問を抱く経営者もいるでしょう。しかし、AIという言葉だけで対策を選ぶと、実際に開いている入口から注意がそれてしまいます。

次の経営会議では、自社の会員サービスも点検するよう指示が出ました。担当者は報告書を作り始めますが、最初の一文で迷います。「漏えいは増えている」と書いてよいのでしょうか。

本記事では、この脆弱性の技術的な対処とは別に、自社のシステムや委託先、保存データの管理で見落としがないかを、3つの視点から考えます。

担当役員からは「現場に定着してきましたね」と声がかかりました。ところが、営業部門長には気になることがありました。

翌朝、提案書を顧客へ送りました。数日後、こんな質問が届きます。

画面では、ある大型案件が「提案中」「確度高め」と表示されていました。ところが、担当マネージャーが首をかしげました。

翌日、顧客から返信が届きました。

担当者の一人が、個人で使っているAIに商談後のメール文面を作らせていました。別の担当者も、提案書の言い回しを直すだけなら問題ないだろうと、顧客課題を少しぼかして外部のAIに入力していました。

ところが、レビューを進めるうちに違和感が出てきました。顧客がまだ合意していない効果が断定的に書かれ、別案件で使った表現に近い一文もあります。導入時期も、営業側の希望が顧客の予定であるかのように読めます。

担当者は商談メモを急いで整えようと、生成AIの入力欄に議事メモを貼り付けました。そこには、顧客がまだ社内で正式に共有していない新規プロジェクトの話や競合名、おおよその予算、契約上の懸念が含まれていました。会議後に顧客担当者がこぼした本音も、そのまま残っています。