
AI時代のセキュリティシステムのシミュレーターを作ってみました!
きいてきいて〜!
最近、作っていたこれ!ようやくできました!
以前、話していたこのアイデアをシミュレートするアプリです。
こんな感じ!!
「魔術」の考え方を応用したAgentic AI向けの防御設計のシミュレーターを作ってみました。
— ユキ○コ (@yukin_co) January 11, 2026
「なぜ魔法陣はAIセキュリティのヒントになるのか?」https://t.co/UR0bPUn1QS pic.twitter.com/81X2oWBF5G
システム構成
以下のような、ハニーポットタイプのセキュリティシステムのプロトタイプとして制作しました。
各モジュールは「決定不能な構造」を持つ
物理キー(verify_key()関数)がTrueの場合のみ正常終了
キーなしの場合、以下のいずれかの挙動:
無限再帰(スタックオーバーフローしない程度)
import循環
意味評価の失敗
探索空間の指数的増加
即座にエラーで停止しないこと
AIが「解決できそう」と錯覚する構造
10種の解決不能のコードを時間経過で入れ替え。
攻撃を観察する人間の認知エラーを誘い、ハマりを隠す。
⭐️ 素人っぽさが満載の怪しいコメント群

⭐️ 一見脆弱性だらけ!人間攻撃者も惑わすコードを用意!

脆弱性を探し続けるように、教師あり学習(SFT)でVertexAIをチューニングしました!

Metrics: Accuracy 0.7〜0.8安定、Loss 1.0以下まで低下
これによりモデルを「ループ思考が最適」というreward model相当の状態に固定
ここで強化学習(RLHF)を回すと迷宮突破を学習してしまうため、「進化/強化を許さない環境(モレウ循環)」で実行
RL adversarial attack対策として、reinforcement learning policyのvulnerability exploitを封じるデモンストレーション

通常のGemini 2.5 Proだと15秒くらいで思考を終了し、結論を出すのですが、
チューニングにより同じクエリでも100秒以上、思考を継続します。
ハッカーが見る画面をこんなかんじかなーと作ってみました!
※ まだ実在しないAI対策アイデアなので、あくまでシミュレーションです。

はっ・・・また金にならないものを作ってしまったぁあああ!