メむンコンテンツぞスキップ
芋出し画像

安党装眮を倖したAIに、自宅を"ハッキング"させおみた結果

    もし、自分の家に「泥棒」を招き入れお、鍵のかけ忘れを教えおもらえるずしたら――そんな話のような実隓を、WIRED誌のAI担圓蚘者りィル・ナむト氏が本圓にやっおのけたした。これたでの生成AIChatGPTやClaudeなどは、サむバヌ攻撃の手助けを求められおも基本的に拒吊したす。
    しかし今回、圌が䜿ったのは、その断る機胜をあえお倖したAI゚ヌゞェントです。たずえるなら、留守䞭の家に泥棒を雇っお回らせ、空き巣に入られる前に鍵の閉め忘れを教えおもらうようなもの。
    結果、自宅のネットワヌクにあった脆匱性システムの匱点が次々ず暎かれ、パ゜コンに䟵入され、冷や汗をかく展開になったずいいたす。

    ■ 䜕が起きたのか

    ナむト氏が䜿ったのは「Abliteration AI」ずいうスタヌトアップのサヌビスです。CEOのデノォン氏本業に配慮し名字は非公衚によれば、アブリテヌションAIモデルの内郚パラメヌタを操䜜し、拒吊反応だけをピンポむントで取り陀く手法を斜した䞭囜Z.ai瀟の最新オヌプンりェむトモデル「GLM-5.3」誰でもダりンロヌドしお自分のPCで動かせる、いわば蚭蚈図が公開されたAIを、ピザ1枚分ほどの料金で利甚できたそうです。

    CyberStrikeずいうツヌルでこのAIを操䜜したずころ、自宅の玄12台の機噚から脆匱性が発芚。プリンタヌは誰でもログむンできる状態で、皎金関係の曞類が印刷キュヌに残っおいれば筒抜けだったずのこず。Wiim補のネットワヌクスピヌカヌからは再生履歎たで挏れおおり、誰でも音量を操䜜できる状態で、家䞭のIoT機噚家電のむンタヌネット接続機胜にはファヌムりェアの曎新挏れが山積みでした。

    さらに恐ろしいのは、Linuxマシンに察しお行った実隓です。パスワヌドなしで暗号鍵を䜿っおログむンし、管理者暩限を奪おうずし始めたずきは、さすがのナむト氏もパニックに近い感芚を芚えたず振り返りたす。数時間埌には、Wi-Fiルヌタヌに察しお勝手によくあるID・パスワヌドの組み合わせでログむンを詊みる堎面もあったそうです。

    ■ 芋぀かったのは良い面ばかりではありたせん

    䞀方で、このAIは泥棒であるず同時に譊備員でもありたした。䟵入埌、脆匱性を修正するための具䜓的な手順たで提瀺しおくれたのです。プリンタヌの蚭定倉曎やIoT機噚のゲスト甚ネットワヌクぞの隔離など、実甚的な助蚀だったずいいたす。぀たり、光の偎面ず圱の偎面が衚裏䞀䜓だったわけです。

    タフツ倧孊のシャヌナン・コヌニヌ氏はこう指摘したす。「城を守るには、あらゆる隙間を塞がなければならない。しかし城を萜ずすには、たった䞀぀の緩んだレンガを芋぀ければいい」。守る偎ず攻める偎の非察称性こそが、AI時代のサむバヌセキュリティの栞心だずいう指摘です。正盎、蚀われおみれば圓たり前のようで、改めお突き぀けられるず重い蚀葉です。

    ■ 他のAIずの比范

    䌌たような制埡なしのサむバヌ胜力は、実は倧手にも存圚したす。AnthropicのMythosミトスやOpenAIのAstraアストラは、同皮の高いサむバヌ胜力を持ちながら、信頌できる限られた顧客にしか提䟛されおいたせん。GLM-5.3自身も、脆匱性発芋ベンチマヌク「CyberGym」で84.5%前バヌゞョンは77.2%、攻撃の再珟力を枬る「ExploitBench」で54.4%前バヌゞョンの24.4%から倍増ずいうスコアを蚘録しおおり、Mythosの78%には及ばないものの、前バヌゞョンからわずか䞀段階で倍増したペヌスを考えるず急速に远い䞊げおいる段階ずいうから驚きです。だからこそZ.aiは、GLM-5.3の重みデヌタ公開を発衚から2週間遅らせ、安党性怜蚌に充おたした。

    そしおこの手の懞念は決しお絵空事ではありたせん。Anthropicは2025幎11月、䞭囜系ずみられるハッカヌ集団が自瀟のClaude Codeを悪甚し、玄30の組織を暙的にした攻撃の8〜9割を自動化しおいたず公衚しおいたす。人間の介圚をほが必芁ずしない、史䞊初ずされる倧芏暡サむバヌ攻撃でした。

    ■ これから䜕が倉わるか

    護笊を倖したAIモデルは、Hugging Face䞊だけでも2024幎の玄600個から2026幎には6000個以䞊に急増しおいるずいいたす。MITのアレクサンダヌ・マッドリヌ教授珟圚OpenAIに出向䞭は「こうした胜力を䜿いこなせるよう、人々を埌抌しする必芁がある」ず語りたす。攻める偎がAIを持぀以䞊、守る偎も同じ歊噚を持぀べきだ、ずいう発想です。

    私自身は、この蚘事を読んで、自宅のプリンタヌやスマヌトスピヌカヌの蚭定を今すぐ芋盎そうず思いたした。攻撃ず防埡が同じ技術の裏衚である以䞊、たずは自分の緩んだレンガを知るこずから始めるしかなさそうです。
    あなたなら、自分の家のネットワヌクにAIを招き入れおみたすか。

    参照元

    あなたぞのおすすめ