生成AIセキュリティ、100項目で考える — 「止めずにリスクを管理する」ための6層構造
IPA「情報セキュリティ10大脅威2026」で、AI関連リスクは組織向け脅威の3位にランクインしました。
シャドーAI(情報システム部門が把握しないAI利用)の利用率は、調査によっては組織の40〜50%超に
達するとも言われています。プロンプトインジェクションによる機密漏洩、ハルシネーションによる
誤情報拡散、著作権・IP侵害——これらはもはや「起こるかもしれないリスク」ではなく、
すでに現実に起きている落とし穴です。
わたしたちは、これらを「AIが悪い」のではなく「ガバナンス・技術・運用の三層防御が
不十分だった結果」と捉えています。ここでは、その防御を100項目・6層に整理した
考え方をご紹介します。
!
6層・100項目チェックリストの構造
ガバナンス・ポリシー層(15〜20項目): AI利用目的の明確化、入力禁止情報の定義、
責任者を明確にするRACIマトリクスの割り当て。
技術的コントロール層(25〜30項目): プロンプトガードレール、プロンプト層DLP
(個人情報・機密情報の検知とブロック)、RAGセキュリティ、ログ取得。
運用・人的層(20項目): 利用者教育、出力レビュー体制、インシデント対応計画。
コンプライアンス・法務層(15項目): 個人情報保護法(APPI)対応、著作権・IPの
クリーン化、研究データ主権。
研究・イノベーション特化層(10〜15項目): ゲノム・オミクスデータの取扱い、
国際共同研究時のデータ整合。
モニタリング・継続改善層(10項目): KPI設定、四半期ごとのレビュー。
実際に起きている5つの落とし穴
RAGで取り込んだ社内文書に隠された悪意ある指示による、間接型プロンプトインジェクション
個人契約のAIチャットに患者情報や研究データを貼り付けてしまうシャドーAI利用
出力検証なしのハルシネーションによる誤引用や架空条項の混入
ファインチューニング済みモデルやベクトルDBの供給チェーン汚染
ツール実行権限を広く与えすぎたAIエージェントによる、意図しない操作(Excessive Agency)
段階的に導入するロードマップ(Phase 0〜4)
Phase 0(1週間): ベースライン診断・自己スコアリングで弱点を特定
Phase 1(2〜4週間): シャドーAIスキャン、入力禁止情報リストの作成
Phase 2(1〜2ヶ月): プロンプトガードレール+DLPのパイロット導入、RAGセキュリティレビュー
Phase 3(並行): 利用者教育、ベストプラクティスの共有
Phase 4(四半期ごと): 監査と継続的な改善
100項目すべてを一度に完璧にする必要はありません。高優先の30〜40項目に絞ることで、
全体リスクの80%低減を狙えるという設計です。
医療機関への応用
このチェックリストはもともと企業・研究機関向けに設計されたものですが、医療機関の
情報システム部門にもそのまま応用できます。患者情報(PHI)の機密性・完全性・可用性に
加え、研究IP・倫理の観点も評価軸に加えることで、シャドーAIの初期兆候を早期に
発見する運用フローの土台になります。
本コンテンツは医療助言ではありません。診断・治療方針については必ず専門の医療従事者にご相談ください。
用語集
シャドーAI: 情報システム部門の許可や把握なしに、現場の職員が独自に導入・利用しているAIツール群のこと。
プロンプトインジェクション: 悪意ある指示をプロンプトや取り込み文書に埋め込み、AIに意図しない出力・動作をさせる攻撃手法。
プロンプト層DLP: プロンプトの入出力段階で個人情報・機密情報を検知し、ブロックまたはマスキングする対策。
RAG(Retrieval-Augmented Generation): 外部文書やデータベースを検索して回答を生成するAIの仕組み。
Excessive Agency(過剰な代理行為): AIエージェントに与えたツール実行権限が広すぎることで、意図しない操作が実行されてしまうリスク。
AIガバナンス: 組織内でのAI利用について、リスク管理・承認プロセス・利用範囲を定める体制。
RACIマトリクス: 業務ごとの責任者(Responsible/Accountable/Consulted/Informed)を明確化する管理手法。
