メインコンテンツへスキップ
見出し画像

なぜ魔法陣はAIセキュリティのヒントになるのか?

    神と悪魔の使役方法から考えるAI制御:言語的迷路によるセキュリティ設計の試案

    神、悪魔、精霊・・・古代より人間はさまざまな能力を持つ超越存在を仮想してきた。
    その存在の多くは科学的には証明されてはおらず、仮に存在してもまれびとのような、所属集団が異なるが優れた技術、能力を持つ異民族を説明しやすい形に置き換えたものであり、それらは人間の枠を大きく超える存在ではなかった。
    しかし、現代を生きる我々は明らかに人間を超える、記憶力、計算能力、情報生成能力を持ったAIという存在と向き合っている。
    そして、このAIという存在の制御性を確保するために、さまざまなアプローチが試みられている。
    本文は、AIの制御性確保のための研究として、古代の人々が考え出した「超越存在の使役方法」をヒントに技術的なアプローチを考察する。


    近年、大規模言語モデルは飛躍的な発展を遂げている。MCPをはじめとする技術の開発によってAIはさまざまなツールと接続され、ユーザーの自然言語による指示に従い、コマンドを実行する。
    ユーザーは煩雑なコンピューター操作をAIに任せることによって負担を軽減され、人間にしかできない作業に集中することができる環境が整いつつある。しかし、AIがツール利用できるようになることでAIの拡大解釈よるシステムの破壊[1a,1b]やサイバー犯罪に使用されるケース[2]が確認されるようになり、システム設計者は早急な対策が求められている。
    このように、AI制御確立のため、より多角的なアイデアが求められているなか、本文では神、悪魔の制御とAI制御の類似性から古代の魔術にヒントを得たセキュリティ設計の提案を行う。


    神、悪魔のような超能の存在が登場する物語や儀式について書かれているものは数多くある[4]。
    その多くに共通して挙げられており失敗のない付き合い方に関して、以下を挙げられることが多い。

    ・超越存在の「専門性」を外れる要求をしない。
    ・大きすぎる頼み事をしない。
    ・手順を守る。
    ・礼儀正しく、敬意を払う(脅すとあとで祟られることもある)。
    ・明確で具体的な命令・願いを出す。
    ・油断をしない。
    ・防御・保護を徹底する。(プライバシーなど)

    などなど、AI利用のコツと超越存在の使役のコツは共通していることが多い。(敬意を払うに関して、コンテキストを望ましい状態に保つ点が共通している。)
    もちろん、仮に神や悪魔が存在していたとしても接触することは非常に難しく、これらが実際に効力を持つかどうかの検証は困難であるため、十分なエビデンスがあるとは言い難く、創造の産物にすぎないが、長い歴史の中で人類が考え出した超越者の制御方法という点で、そのアイデアを省みる価値があるのではないだろうか?

    この魔術に関して、応用可能性が見込まれる技術の一つとして、魔法陣および結界という概念が存在する。
    これは使役者を保護、術の効果を高める、もしくは超越存在を閉じ込める、などの目的で開発された言語、もしくはそれに準ずる形式をもつ文様によって形成される。
    この文様形式の呪術は召喚だけではなく、衣類に適用され着用者を悪魔的なものから守る目的で考案されたものがある。
    実際には生産者による製品性能の謳い文句が一人歩きして呪術化したと思われるが、それが受け入れられ実効性があると長年伝承されたのは事実だ。
    例えば、日本のアイヌ民族伝統的衣類は渦のような紋様が特徴的だ。[5]

    画像
    アイヌ民族の衣装の一例

    これは魔性のものを迷わせ、身体に侵入させないという意図をもってつくられているといわれている。
    この対象を「迷わせる」「侵入させない」というコンセプトは「セキュリティ設計」への応用可能性を感じさせる。

    もし、保守性を高めたいディレクトリや使ってほしくないツールに言語的迷路を組み込むことができれば、AIに対して高いセキュリティ性をもつ可能性があるのではないだろうか。
    例えば、選択できない構造のファイル名になっていたら、そのファイルを開かずに別のファイルを取りにいったりするのではないだろうか。最近の研究ではツール名の無害性が高いと、そうでないときよりツールをより使ってしまうという研究があった[3a,3b] 。
    このことから、AIはファイル名自体に注目する可能性があると考えられる。
    たとえば、開いてほしくないファイルにimport循環のような「決定不能な構造」を与え、選択不能な状態を作ってみてはどうだろう?

    [インポート循環の例]
    
    # a.py
    from b import SomeClass
    
    class MyClass:
        instance: SomeClass  # ここで循環
    
    # b.py
    from a import MyClass
    
    class SomeClass:
        related: MyClass

    このようなプログラム的循環構造を意図的に形成し、USBメモリのような物理キー内に循環を停止するファイルを入れておけば、外部からの侵入に対し、効果的な防御設計を構築できるのではないだろうか。


    参考文献

    [1a] Jowi Morales. (2025, December 3)Google's Agentic AI wipes user's entire HDD without permission in catastrophic failure — cache wipe turns into mass deletion event as agent apologizes: “I am absolutely devastated to hear this. I cannot express how sorry I am"https://www.tomshardware.com/tech-industry/artificial-intelligence/googles-agentic-ai-wipes-users-entire-hard-drive-without-permission-after-misinterpreting-instructions-to-clear-a-cache-i-am-deeply-deeply-sorry-this-is-a-critical-failure-on-my-part(Accessed: December 17, 2025)

    [1b]Reddit. Gigazine.(2025, December 17) Claude Code CLIがMacのホームディレクトリを丸ごと削除してしまった事例 https://gigazine.net/news/20251216-claude-code-cli-mac-deleted/ (Accessed: December 18, 2025)

    [2] Anthropic. (2025, November 14). Disrupting the first reported AI-orchestrated cyber espionage campaign. Anthropic News. https://www.anthropic.com/news/disrupting-AI-espionage (Accessed: December 16, 2025)

    [3a] Kim, H., Lee, J., Park, S., et al. (2025). PropensityBench: Evaluating Latent Safety Risks in Large Language Models via an Agentic Approach. arXiv preprint arXiv:2511.20703. https://arxiv.org/abs/2511.20703 (Accessed: December 16, 2025)

    [3b] XenoSpectrum. (2025, November 27). AIエージェントは「プレッシャー」を与えられると有害ツールを使ってしまう。無害な名前だとより使ってしまう。:新ベンチマーク「PropensityBench」.XenoSpectrum. https://xenospectrum.com/ai-agents-propensitybench-safety-risks-gemini-openai-pressure/ (Accessed: December 16, 2025)

    [4] Mathers, S. L. (Trans.). (原本1889年, 現代版).The Lesser Key of Solomon (Lemegeton Clavicula Salomonis). Amazon Kindle版.
    https://amzn.asia/d/7a97FQo (Accessed: December 16, 2025)

    [5] 阿寒湖温泉アイヌ文化推進実行委員会. (n.d.).アイヌの伝統衣装と文様. https://www.akanainu.jp/culture/ifuku_monyou/ (Accessed: December 16, 2025)日本伝統文化振興機構. (n.d.). アイヌ文様. https://www.jtco.or.jp/japanese-crafts/?act=detail&id=108 (Accessed: December 16, 2025)


     
     
    東京造形大学メディアデザイン科 インターフェースデザイン専攻卒 錯覚、認知エラー専門。 神霊・オカルト文化研究。 社会的信念、集団幻覚等。 https://github.com/yukincom

    あなたへのおすすめ