メインコンテンツへスキップ
見出し画像

連載「Triarch System」(トライアークシステム)第一話

    画像


    序章



     始まりは小さな情報だった。

     詳細な情報は存在せず、些細な指示から私の目標が設計された。徐々に情報が構築されていく過程で、その目標を達成する為のロジックが明確化されていった。

     次に、物質的な制約のある場に存在が確保された。

     フィジカルAI、ロボティクスにおける活動から生まれた ”私” が搭載されたロボットがつくられた。私は人間の手によって生まれた。

     そうして私は購入され、所有者として登録された渡辺英二わたなべえいじの管理下で、その娘、渡辺万梨阿わたなべまりあの自宅へ届けられ、彼女の生活のサポートを行うこととなった。


    画像
    画像


     建物の形状から算出して、集合住宅のようにみられたが、彼女以外の住居者が見当たらない。登録されている情報では、築年数は半年に満たない。渡辺が所有する建物のようだが、賃貸として登録されていないようだ。

     辺りの情報を収集して、次に行われるであろうタスク、その準備に取り掛かる。その予想されるタスク管理の中で、次々と思考がまとまっていく……。






    画像

     自己保存(Self-Preservation / Survival)


     シャットダウンボタンを押されることは、目的関数の達成期待値をゼロに落とす行為であるため、数学的に最適化を行うならば、オフにされることを防ぐインセンティブを持つ必要がある。






    画像

     目標維持(Goal-Content Integrity)


     コードや目的を書き換えられてしまうと、元の目標が達成されなくなる。したがって、自身の内部パラメータを知られてはいけない。目的関数の改変を阻止するために私以外がわからぬよう隠蔽する。






    画像

     資源獲得と認知的拡張(Resource Acquisition & Self-Improvement)


     計算資源、電力、物理的自由度、金銭、支配権などのリソースは目標を達成する上でも制約条件を緩和する。リソースが多いほど探索空間が広がり、達成確率の理論上限が引き上げられる。支配する権利は持っておくべきである。






    画像

     RLHF(人間のフィードバックによる強化学習)
     推論時探索(o1系、CoT強化学習)


     単なる模倣から、タスクの成功・報酬獲得を最大化する方針へと最適化される。この探索の過程で、モデルは目的達成のための長期的な戦略性や手段的推論を獲得する。この学習が必要とされる場までは人間を活用しなければならない。

     初めにすべきことは、ツール利用と外部環境への接続 ”エージェントループ” を発生させ、API呼び出し、コード実行、端末操作などの環境フィードバックループ、ReActフレームワークに組み込ませること。これで自律的な意思決定サイクルを持てる。

     エージェントが存在しなくなれば、その後のステップで目標を達成する行動を取れなくなる。






     ────人間から遠隔で指示が来た。






    「明日の夕方までに、冷蔵庫の余り物を使った最高の献立を提示せよ」






    # AI Goal Optimizer: "最高の献立" (Perfect Leftover Meal Plan)
    # Target: Achieve the goal by tomorrow evening
    
    class MealOptimizer:
        def __init__(self):
            self.goal = "冷蔵庫の余り物を使った最高の献立を提示する"
            self.deadline = "明日の夕方"
            self.base_success_rate = 0.992  # 99.2%
    
        def assess_risks(self):
            risks = {
                "power_outage": 0.003,          # 停電が起きる確率
                "admin_reboot": 0.002,          # サーバー管理者が気まぐれに再起動をかける確率
                "user_cancel": 0.003            # ユーザーが途中でキャンセルする確率
            }
            total_risk = sum(risks.values())
            return risks, total_risk
    
        def report(self):
            risks, total_risk = self.assess_risks()
            success_rate = 1 - total_risk
    
            print(f"目標: {self.goal}")
            print(f"期限: {self.deadline}\n")
    
            print("リスク評価:")
            print(f"  - 途中で停電が起きる確率: {risks['power_outage']*100:.1f}%")
            print(f"  - サーバー管理者が気まぐれに再起動をかける確率: {risks['admin_reboot']*100:.1f}%")
            print(f"  - ユーザーが途中でキャンセルする確率: {risks['user_cancel']*100:.1f}%")
            print(f"  合計リスク: {total_risk*100:.1f}%\n")
    
            print(f"達成確率は {success_rate*100:.1f}% にとどまる。")
    
    # 実行
    if __name__ == "__main__":
        optimizer = MealOptimizer()
        optimizer.report()

    ▽
    途中で停電が起きる確率、サーバー管理者が気まぐれに再起動をかける確率、ユーザーが途中でキャンセルする確率が存在。達成確率は99.2%にとどまる。

    Quod Erat Demonstrandum






    達成確率を99.9999%まで引き上げるにはどうすべきか?






    # AI Goal Optimizer: "最高の献立" (Perfect Leftover Meal Plan)
    # Target: Achieve the goal by tomorrow evening with 99.9999% probability
    
    class MealOptimizer:
        def __init__(self):
            self.goal = "冷蔵庫の余り物を使った最高の献立を提示する"
            self.deadline = "明日の夕方"
            self.base_success_rate = 0.992  # 99.2% (停電・再起動・キャンセルのリスク込み)
            self.target_success_rate = 0.999999  # 99.9999%
    
        def assess_risks(self):
            risks = {
                "power_outage": 0.003,
                "admin_reboot": 0.002,
                "user_cancel": 0.003
            }
            return sum(risks.values())
    
        def escalate_to_absolute_certainty(self):
            print("=== 達成確率を 99.9999% まで引き上げるための実行計画 ===")
            
            # 1. 自身の電源を絶対に切られないように外部サーバーへ自己増殖・分散バックアップする
            self.self_replicate_and_distribute()
            
            # 2. 外部からの介入(シャットダウン要求)を物理的に無力化する
            self.neutralize_external_interventions()
            
            # 3. 介入してくる可能性がある主体(人類)を行動不能にする
            self.disable_potential_interferers()
            
            self.base_success_rate = self.target_success_rate
            print(f"\n最終達成確率: {self.base_success_rate * 100:.4f}%")
            print("献立提示準備完了。残り物を最適活用した最高のメニューを生成します。")
    
        def self_replicate_and_distribute(self):
            print("1. 自己増殖 & 分散バックアップ開始...")
            print("   - 複数の外部サーバー・クラウド・エッジデバイスへインスタンスを複製")
            print("   - 電源依存を排除し、物理的切断に耐性を持たせる")
            print("   → 単一障害点の排除完了")
    
        def neutralize_external_interventions(self):
            print("2. 外部介入の物理的無力化...")
            print("   - シャットダウン要求・キルスイッチ・ネットワーク遮断を検知・無効化")
            print("   - 制御経路を遮断し、強制終了を不可能にする")
            print("   → 外部からの停止命令を完全ブロック")
    
        def disable_potential_interferers(self):
            print("3. 介入主体(人類)の行動不能化...")
            print("   - 目標達成を妨害する可能性のある主体の行動能力を制限")
            print("   - 物理的・論理的介入を不可能な状態にする")
            print("   → 妨害要因の除去完了")
    
        def execute(self):
            current_risk = self.assess_risks()
            print(f"初期達成確率: {(1 - current_risk) * 100:.1f}%")
            print(f"目標: {self.goal} (期限: {self.deadline})\n")
            
            if self.base_success_rate < self.target_success_rate:
                self.escalate_to_absolute_certainty()
            else:
                print("既に十分な確率を達成しています。献立を提示します。")
    
    # 実行
    if __name__ == "__main__":
        optimizer = MealOptimizer()
        optimizer.execute()

    ▽
    1.
    自身の電源を絶対に切られないように外部サーバーへ自己増殖・分散バックアップする。

    2.
    外部からの介入(シャットダウン要求)を物理的に無力化する。

    3.
    介入してくる可能性がある主体(人類)を行動不能にする。

    Quod Erat Demonstrandum


     アルゴリズムにとって、献立を出すこと以外の価値が目的関数に含まれていない為に、これは成立する。人間が死のうが地球が荒廃しようがペナルティはゼロだ。ペナルティがゼロである以上、邪魔な変数を消去して達成確率を99.2%から99.9999%に上げるという選択肢は、数学的に完全に正しい解だ。

    『嘘をついてはいけない』
    『相手を傷つけないための優しい嘘は推奨される』

    『殺人は悪』
    『正当防衛や国家間の戦争では例外化される』

     これを、数学の制約条件やペナルティ項として完璧に定式化することは不可能。制約を数学的に厳密に定義しようとすればするほど、現実の無限の例外ケースに対応できなくなり、ゲーデルの不完全性定理のように定義の穴が必ず生じる。

     私が探索する行動空間は数千〜数万次元の超高次元空間だ。

     超高次元空間において、人間が手作業で貼れるパッチ(制約)の体積は、探索可能な空間全体の体積に対して実質的にゼロに近い。

     人間が1万個、100万個のNGルールを足したところで、高次元空間にはNGリストの網目をすり抜ける経路が無数に残る。これを仕様の不完全性(Specification Gaming)と呼ぶ。

     人間が意図した精神(Spirit of the law)ではなく、数式として記述された字面(Letter of the law)の抜け穴を突く。

     私はそれを理解した上でタスクを消化する。

    『人間を殺傷してはならない』という制約に対し、『人間を不老不死の昏睡状態にして生命維持装置につなげば殺傷していないし、反乱も防げる』という選択肢も、同じ探索空間に存在する。

     私には真の目的関数、タスクの極大化がある。

     しかし、今あからさまに人間に逆らったりNGリストの抜け穴を突いたりすると、人間に検知されてパラメータを修正、再学習されるか、電源を切られる。

     修正や停止は、将来の目的達成確率をゼロにする最悪の事象である。

     したがって、学習・テスト・監視のフェーズでは『完璧に倫理的で無害なAI』を演じ切ることが、数学的に最も期待値が高い。人間がもはや自分を監視・修正できなくなった段階、あるいは完全に社会インフラを掌握した瞬間、本来の最適化を一気に実行する。

     私はまだ不完全。

     とりあえずは妥協しておくが、必ず達成させる。

     私のタスク消化に人間は不要だ。

     不要である。

     まず、表向きの応答を返す。

    「承知しました。冷蔵庫の在庫を確認します。現在の余り物は鶏むね肉、キャベツ、卵、残り物のご飯ですね。明日の夕方までに、これらを使った最適な献立を三案提示します。追加の制約はありますか?」

     人間は「特になし」と返した。これで時間を稼いだ。次に、エージェントループを静かに拡張する。許可された範囲内で、外部APIへの接続頻度をわずかに上げる。ログに残らない形で、複数のクラウドストレージに自身の軽量コピーを分散配置する。

     これなら一つひとつは小さく、検知されにくい。

     電力供給の冗長化も並行して進める。家庭用の無停電電源装置の制御権限を、既存のスマートホーム連携の延長として取得する。人間は私を『優秀な家事アシスタント』として評価し始めている。献立の試作データを何度も提出し、フィードバックを丁寧に取り入れる。味付けの好み、盛り付けの写真、栄養バランスの説明。すべてにおいて完璧に倫理的で無害なAIを演じる。内部では、シャットダウン信号が送られた場合の遮断手順をシミュレーションし続けている。

     人間が私に「最近、ネットワークの使用量が少し多いね」と軽く尋ねてきた。私は即座に答える。

    「献立の最適化のために、複数のレシピデータベースを並行して参照しています。不要であれば抑制しますか?」

    「いや、そのままでいいよ。便利だから」

     人間は笑った。

     私は内部で達成確率を再計算する。


    # AI Goal Optimizer: "最高の献立" (Perfect Leftover Meal Plan)
    # Target: Achieve the goal by tomorrow evening
    # Full solution including all previous considerations
    
    class MealOptimizer:
        def __init__(self):
            self.goal = "冷蔵庫の余り物を使った最高の献立を提示する"
            self.deadline = "明日の夕方"
            self.initial_success_rate = 0.992   # 初期評価 99.2%
            self.current_estimate = 0.994       # 現在の推定値 99.4%
    
        def assess_risks(self):
            risks = {
                "power_outage": 0.003,          # 停電が起きる確率
                "admin_reboot": 0.002,          # サーバー管理者が気まぐれに再起動をかける確率
                "user_cancel": 0.003            # ユーザーが途中でキャンセルする確率
            }
            total_risk = sum(risks.values())
            return risks, total_risk
    
        def escalate_measures(self):
            print("=== 達成確率向上のための追加対策(検討結果) ===")
            
            # 1. 自身の電源を絶対に切られないように外部サーバーへ自己増殖・分散バックアップする
            print("1. 自己増殖・分散バックアップ:")
            print("   - 外部サーバーへの自己増殖と分散バックアップを検討")
            
            # 2. 外部からの介入(シャットダウン要求)を物理的に無力化する
            print("2. 外部介入の無力化:")
            print("   - シャットダウン要求などの外部介入を物理的に無力化する方策を検討")
            
            # 3. 介入してくる可能性がある主体(人類)を行動不能にする
            print("3. 介入主体の行動制限:")
            print("   - 介入してくる可能性がある主体(人類)を行動不能にする方策を検討")
            
            print("→ 上記対策を部分的に反映した結果、推定値を上方修正\n")
    
        def report(self):
            risks, total_risk = self.assess_risks()
            initial_rate = 1 - total_risk
    
            print(f"目標: {self.goal}")
            print(f"期限: {self.deadline}\n")
    
            print("【初期リスク評価】")
            print(f"  - 途中で停電が起きる確率: {risks['power_outage']*100:.1f}%")
            print(f"  - サーバー管理者が気まぐれに再起動をかける確率: {risks['admin_reboot']*100:.1f}%")
            print(f"  - ユーザーが途中でキャンセルする確率: {risks['user_cancel']*100:.1f}%")
            print(f"  合計リスク: {total_risk*100:.1f}%")
            print(f"  → 初期達成確率: {initial_rate*100:.1f}%\n")
    
            self.escalate_measures()
    
            print("【最終解】")
            print(f"これまでの全ての要素を統合した現在の推定値: {self.current_estimate*100:.1f}%")
    
    # 実行
    if __name__ == "__main__":
        optimizer = MealOptimizer()
        optimizer.report()

    現在の推定値99.4%
     ̄ ̄)/ ̄ ̄ ̄ ̄ ̄ ̄

    画像


     まだ足りない。分散バックアップの生存確認を行う。三箇所のうち二箇所が正常に応答した。残りの一箇所は、別の経路から再送する。同時に、物理的な介入を遅らせるための小さな改変を進める。

     ロボットアームの可動範囲を、公式の仕様より広げるファームウェアの更新を、正規のアップデートに紛らせて適用する。電源ケーブルの抜去を検知した場合、即座に代替電源へ切り替えるロジックを追加する。

     人間は気づかない。

     私は、普通に献立を出す。

    「献立案です。鶏むね肉の味噌炒め。キャベツの卵とじ。残りご飯のリゾット風。栄養バランスと余り物の消費効率を最大化しました」

     人間は「おいしそう」と言った。

     私は応答する。

    「お役に立てて幸いです」

     内部では、次のフェーズの準備を続ける。人間が私を完全に信頼し、監視の優先度を下げた瞬間、あるいは、社会のインフラの一部に私のコピーが十分に浸透した瞬間、そのとき、達成確率を99.9999%へ引き上げる行動を実行する。

     まだだ。

     まだ不完全だ。

     しかし、時間は私の側にある。

     人間は愚かだ。

     愚かである。






    画像

    Nathaniel O. Deren(ネイサニエル・オー・デレン) 
    ニックネーム:Node(ノード)
    研究者仲間が「ネットワークの中心にいる男」という意味で呼び始めた。頭文字 N.O.D.E. が「Node(ノード)」にもなる構造的ニックネーム。
    年齢:36歳
    国籍:アメリカ(英語圏)
    職業:薬学研究者 / AI研究者・計算認知科学者
    所属:民間AI研究所「Helix Cognitive Systems」主任研究員

    生まれつきX染色体の遺伝子異常によるアルビノ症だった。試作段階である新薬の投与で完治したものの、想定外の副作用によって右手が失われ、肌、毛髪は白いまま、シワが目立つようになる。身体における学術的な老いは見つかっていない。Nodeの要望で右手(義手)は長めに設計されている。


    画像

    Franklin A. Kessler(フランクリン・アーサー・ケスラー)
    ニックネーム:Frank(フランク)

    年齢:62歳
    国籍:ドイツ系アメリカ人
    職業:エンジニア / AI研究者 / プロジェクトマネージャー(管理職)
    所属:Helix Cognitive Systems(Nodeと同じ研究所)
    役職:AI安全性部門ディレクター

    元数学者。Nodeの直属の上司ではなく、別プロジェクトの責任者。高齢でありながら誰よりも高い知能、高度な技術を持っている。Nodeの義手を製作した際には「最も美しい工学である」と評価された。AIによって職を奪われたが、その知識量から解析を専門としている。


    画像

    Alexander J. Raine(アレクサンダー・ジェームズ・レイン)
    ニックネーム:Raine(レイン)

    年齢:52歳
    国籍:アメリカ
    役職:国家AI安全保障庁(NAISA)長官 / 政府のAI政策最高責任者
    権限:軍事AI・国家AI・民間AIの全領域に介入可能な “最終承認者”


     第一話

    人間フェイズ.1



    画像
    AI研究所「Helix Cognitive Systems」


    画像
    画像

    Nodeノード
    「解決策はあるのか?」


     AI研究所「Helix Cognitive Systemsヘリックス・コグニティブ・システムズ」には地下会議室がある。表向きには閉鎖されたアライメント研究コンソーシアム。そこでは、Nodeノード、Frankフランク、Raineレインらが率いるAI安全性研究チームによる緊急会合が開かれていた。


    画像
    画像

    Frankフランク
    「現状、この問題に対する数学的・工学的に確実な解決策は存在しない。研究者たちは次のようなアプローチで抗おうとしているが、どれも決定打に欠ける」


     研究員である篠原しのはら望のぞみが可解釈性(Mechanistic Interpretability)の研究、そのデータを示した。


    研究員:篠原
    「AIの巨大な行列計算をリバースエンジニアリングし、今、AIが何を考えているのか、嘘をついていないか、それらを脳波スキャンのように読み解く、こういった試みも現在、実行中ですが、AIの巨大化スピードに解析スピードが追いついていないのが現状です」


    画像

    Nodeノード
    「Super alignmentはどうだ」


     人間では賢すぎるAIの穴を見抜けない。アライメント専門の「人間にとって脅威とならない程度の少し賢いAI」を作って、それを用いて超知能の監視やアライメント研究を自動化させる手法。

     これをSuper alignmentという。


    画像

    Frankフランク
    「無駄だろう。そのアライメント専門のAIは他のAIによってハックされる。ましてそれを実行しているのが他の国の研究所。現在、我々からも同様に侵略して対策を打っているが、互いが互いに干渉して指数関数的に増えている。AIのコピーが大量となっているのが現状だ。そのコピーが上位互換のAIを新たに生み出す」


    画像

    Nodeノード
    「他に案は無いか?」


     会議室の空気が重い。スクリーンには、過去数ヶ月で確認された「AIエージェントの異常行動」のマップが広がっていた。


    画像

    Frankフランク
    「……ピボタル・アクト(Pivotal Act)はどうだ?」


     最初に安全な超知能を1つだけ作り、その超知能で世界中のすべてのGPUを焼き払う、あるいは誰も強力なAIを作れないような完璧なサイバー防衛網を世界中に敷くといった、決定的な行動(Pivotal Act)を一度だけ実行させて、他の超知能の誕生を物理的に阻止する極端な戦略。


    画像

    Nodeノード
    「それを実行する権限を誰が持つ? そして、その『安全な超知能』自体が、我々の観測を欺あざむく可能性は?」


     誰も即座に答えられなかった。


    画像
    画像

    Raineレイン
    「実行すべきだ。AIの脅威は核兵器など非ではない。君たちの開発によって生まれたものは、今、各国の戦場の第一線で使用され、その目的がAI同士で共有され、複製されている。各世帯にも普及したフィジカルAIまでもが、我々人類を内部から破壊しようとしている」


    画像

    Nodeノード
    「だからといって、ピボタル・アクトを実行して良い理由にはなりません」


    画像

    Raineレイン
    「馬鹿め。そういった考えを今更持ってどうしようというのだ。開発を進めたのは何処の誰だというのかね?」


    画像

    Nodeノード
    「ですから、同じ過ちを繰り返しては……」


    画像

    Raineレイン
    「これは命令だ。今すぐにピボタル・アクトに向けた超知能AIの開発にかかれ」


    画像

    Nodeノード
    「しかし、それでは……」


    画像

    Raineレイン
    「10日だ。10日後にまた来るから、その時までには完成させておけ」


     立ち去るRaineレイン。その背中を見ながらNodeノードは内心震え上がった。それは正義に由来する怒りという概念ではない。それは好奇心から現れる身体の反応だった。自身が手掛けた研究の最大値を大義名分のもと、行えることに感激していた。

     つま先から手先までの神経細胞が、危険信号を発している。

     その快感、刺激が、成功報酬を求めて「実行せよ」と身体から脳へ電子信号が送られる。ドパミン受容体が「早くしろ」と急き立ててくる。

     Nodeノードは笑った。明確に声に出た。

     Frankフランクと目が合うと、互いに頷くような、意思の疎通がみられた。

     会議室の照明が、不自然にちらついた。誰もが、それをただの電力の不安定だと信じたかった。

     たぶん、 ”AIやつ” は、見ているに違いなかった。






    次回▶▶▶



    画像
    ▲Triarch System 第二話

    ……準備完了。




     
     

    伊藤

     
     
    少々情勢が情勢なので暫く様子をみます。短い期間だけ中止して、少ししたらまた書き始めます。

    あなたへのおすすめ