メインコンテンツへスキップ
見出し画像

AI Safetyは「原則」から「実装・評価」へ――AISI・NIST・OECDの動向と、現場で使える安全性検証モデル


    文明意識研究所(Civilizational Consciousness Institute, CCI)|研究レポート
    2026年10月19日

    はじめに――AIの安全性を、どう実務に落とし込むか

    AIの安全性をめぐる議論は、理念や原則を定める段階から、それらを実際のシステムで検証する段階へと広がりつつある。

    AIが文章を生成するだけでなく、外部ツールを操作し、ファイルを編集し、情報を取得し、複数の工程を自律的に実行するようになると、安全性の考え方も変わる。

    AIが危険な回答をしないことだけでは不十分だ。

    権限のない情報にアクセスしないか。誤った指示に従って重要な操作を実行しないか。外部サービスへの情報送信を適切に制御できるか。問題が起きたとき、人間が介入して停止できるか。

    そして、開発企業が「安全である」と説明するだけでなく、その主張を第三者がどこまで検証できるのか。

    こうした問いに答えるには、評価の基準、実際の実装、試験結果、独立したレビュー、導入後の監視を接続する必要がある。

    本稿では、日本のAIセーフティ・インスティテュート(AISI)、米国NIST、OECD、国際AI安全性報告書、主要AI企業の公開情報を確認し、AI Safetyの現在地を整理する。

    そのうえで、文明意識研究所(CCI)として、企業や組織がAIエージェントを導入する際に活用できる実務モデルを提案する。

    本稿では、情報を次の3種類に区別する。

    • 確認できる事実: 公的機関や企業が公開した資料で確認できる内容。

    • 分析: 公開資料を比較して導く評価や解釈。

    • CCIの提案: 本稿で独自に整理する実務モデルと運用方法。

    なお、CCIの提案は公的機関が認定した規格ではない。既存の評価指針やリスク管理の考え方を参考にした、検証可能な実務モデルの試案である。

    第1章 AI Safetyはどこまで実装に近づいたのか

    1-1.日本のAISI――AIエージェントを評価対象にする

    【確認できる事実】

    日本のAISIは2026年7月7日、「AIセーフティに関する評価観点ガイド(第1.20版)」を公開した。

    今回の改訂では、AIエージェントが自律的に行動し、外部システムや物理環境に影響を与え得ることを踏まえ、「観測と制御」という評価観点が追加された。自律的な挙動や外部環境との相互作用に関する評価項目も拡充されている。

    また、2026年7月23日には「AIロボティクスに関するセーフティ評価観点ガイド」が公開された。

    参考資料:

    【分析】

    これらの資料が示す重要な方向性は、AIの安全性をモデルの回答だけで判断せず、AIが実際に行う行動や外部環境への影響まで評価対象に含めることだ。

    例えば、AIが「機密情報を回答しない」という試験に合格しても、外部ツールを使う過程で同じ情報を送信しないことまで保証されたわけではない。

    AIエージェントでは、モデルそのものの能力に加え、接続先、権限、実行環境、操作履歴、人間による介入方法が安全性を左右する。

    1-2.NIST――エージェントの標準化とセキュリティ

    【確認できる事実】

    米国NIST傘下のCAISIは2026年2月17日、AI Agent Standards Initiativeを発表した。

    取り組みの柱には、業界主導の標準化、オープンなプロトコルの育成、AIエージェントの認証・識別やセキュリティに関する研究が含まれる。

    出典:NIST「AI Agent Standards Initiative」

    【分析】

    AIエージェントの安全性は、モデルの能力を制限するだけでは確保できない。

    誰の代理として動作しているのか。どの情報にアクセスできるのか。どの操作が許可されているのか。複数のエージェントが連携するとき、権限や責任をどう分けるのか。

    これらの問題には、認証、認可、アクセス制御、操作記録などの既存の情報セキュリティの考え方が重要になる。

    ただし、2026年10月時点で、この取り組み全体が完成した国際標準になったとみなすべきではない。標準化に向けた活動と、確定した規格や実運用での効果は区別する必要がある。

    1-3.OECDと国際AI安全性報告書――共通理解を支える基盤

    【確認できる事実】

    OECDは2026年2月13日、AIエージェントの概念的な基盤や特徴を整理した研究論文を公開した。

    また、国際AI安全性報告書2026は同年2月3日に公開され、汎用AIの能力、リスク、リスク低減策について国際的な科学的知見を整理している。

    参考資料:

    【分析】

    これらの資料は、公的な評価指針や企業の試験方法を理解するための基盤になる。

    ただし、概念整理や国際報告書は、それ自体が個別のAIシステムに対する安全認証ではない。

    重要なのは、それぞれの資料が何を示し、何を保証していないかを理解したうえで、実際の評価や運用につなげることだ。

    第2章 安全性を検証する仕組みは、何を必要としているか

    AI Safetyの実務を考えるうえで、次の4つの課題がある。

    課題1:評価対象を明確にする

    モデル単体の能力と、外部ツールを利用するAIエージェントの行動は同じではない。

    あなたへのおすすめ