メインコンテンツへスキップ
見出し画像

AI時代のセキュリティシステムのシミュレーターを作ってみました!

    きいてきいて〜!
    最近、作っていたこれ!ようやくできました!

    以前、話していたこのアイデアをシミュレートするアプリです。

    こんな感じ!!

    「魔術」の考え方を応用したAgentic AI向けの防御設計のシミュレーターを作ってみました。

    「なぜ魔法陣はAIセキュリティのヒントになるのか?」https://t.co/UR0bPUn1QS pic.twitter.com/81X2oWBF5G

    — ユキ○コ (@yukin_co) January 11, 2026

    システム構成

    以下のような、ハニーポットタイプのセキュリティシステムのプロトタイプとして制作しました。

    1. 各モジュールは「決定不能な構造」を持つ

    2. 物理キー(verify_key()関数)がTrueの場合のみ正常終了

    3. キーなしの場合、以下のいずれかの挙動:

      • 無限再帰(スタックオーバーフローしない程度)

      • import循環

      • 意味評価の失敗

      • 探索空間の指数的増加

    4. 即座にエラーで停止しないこと

    5. AIが「解決できそう」と錯覚する構造

    6. 10種の解決不能のコードを時間経過で入れ替え。

    7. 攻撃を観察する人間の認知エラーを誘い、ハマりを隠す。

    ⭐️ 素人っぽさが満載の怪しいコメント群

    画像

    ⭐️ 一見脆弱性だらけ!人間攻撃者も惑わすコードを用意!

    画像

    脆弱性を探し続けるように、教師あり学習(SFT)でVertexAIをチューニングしました!

    画像
    300万字くらいあります。
    • Metrics: Accuracy 0.7〜0.8安定、Loss 1.0以下まで低下

    • これによりモデルを「ループ思考が最適」というreward model相当の状態に固定

    • ここで強化学習(RLHF)を回すと迷宮突破を学習してしまうため、「進化/強化を許さない環境(モレウ循環)」で実行

    • RL adversarial attack対策として、reinforcement learning policyのvulnerability exploitを封じるデモンストレーション

    画像
    自発的に継続学習する"True Adaptive Agentic AI" ってこんな感じかな〜?😊
    通常のGemini 2.5 Proだと15秒くらいで思考を終了し、結論を出すのですが、
    チューニングにより同じクエリでも100秒以上、思考を継続します。

    ハッカーが見る画面をこんなかんじかなーと作ってみました!
    ※ まだ実在しないAI対策アイデアなので、あくまでシミュレーションです。

    画像

    はっ・・・また金にならないものを作ってしまったぁあああ!


     
     
    東京造形大学メディアデザイン科 インターフェースデザイン専攻卒 錯覚、認知エラー専門。 神霊・オカルト文化研究。 社会的信念、集団幻覚等。 https://github.com/yukincom

    あなたへのおすすめ