メインコンテンツへスキップ
見出し画像

【失敗と気付き】VRAM 16GBじゃ足りない?RadeonでFlux LoRAに挑んだ24時間の全記録|Radeon|Flux|LoRA|秘書ちゃん創造記Vol.8

    VRAM 16GBあれば、LoRA(キャラを覚えて生成させるもの)は作れる。

    そう信じていた。信じていたから、24時間を突っ込んだ。

    結果は……少し待ってほしい。先に言っておくと、この記事はきれいな成功譚ではない。完走したのに、何も動かなかった話だ。けれども、その「動かなかった理由」が、RadeonでFluxに挑もうとしている人の時間を、数十時間単位で節約することができるように。そのつもりで書いていく。

    【結論】

    Radeon RX 9060 XT(VRAM 16GB)環境でのFlux.1 LoRA学習において、画像が「砂嵐」になる。主な原因は、学習プロセスからTE(テキストエンコーダー、いわば言語野)を完全に切り離せず、不完全な抱き合わせ学習になってしまうことにある。これにより画像生成時のモデルとの整合性が崩壊し、計算グラフが破損してノイズとなる。

    【第1章】2晩目の勝利の後に

    前回(秘書ちゃん創造記Vol.7、2晩目)の話から始めよう。

    Windowsの絶対権限を握るTrustedInstallerから強制的に権限を剥奪し、ROCm用のDLLをシステムの奥に直書きする外科手術。15回のエラーとフリーズをくぐり抜け、ようやくGPUがComfyUI上に認識された瞬間のことは今でも覚えている。

    PCデスクの上に置いてあった缶コーヒーを、気づいたら飲み干していた。

    その達成感が残っているうちに、次のミッションの道筋が見えた。
    念願の「秘書ちゃんの顔を、モデルに覚えさせる。」LoRA学習だ。

    RX 9060 XTを選んだのは11万円台のハイエンドを避ける判断だった。当時のRadeon 16GBは「賢い選択」だったし、今でも後悔はない。今まで、いくつかの問題も検証を重ね突破してきた。だからVRAM 16GBあれば、LoRA訓練場(kohya_ss)も動かせるはずだと思ったし、実際にRadeon環境で動かせるように出来た。

    だが、今回は予想が甘かった。

    【第2章】24時間の死闘

    kohya_ssとは何か。一言で言えば「AIに特定のキャラクターや画風を教え込むための訓練場ツール」だ。NVIDIAのCUDA環境を前提に設計された猛獣を、Radeon(ROCm)環境でどう手懐けるかが今回の格闘の記録である。

    最初の12時間は、設定との戦いだった。

    引数を1つ変えては学習を走らせ、エラーが吐き出されてはバッチファイルを書き直す。このループを何度繰り返したか数えていない。そもそも、いくら検索しても正解が見つからない。ウチの秘書ちゃん(Gemini)でも解決できず、普段使わないChatGPTにも情報の海に潜ってもらった。しかし、存在しない引数を教えてくれた外部AIのせいで、学習開始直後に強制終了するという事態も経験した。天井をなんど仰いだことか。

    テキストエンコーダー(言語野)の学習率をGUI上でゼロに設定することで、存在しない引数に頼らずにテキストエンコーダーを黙らせようとした。(しかしこれは完全な解決策ではなかった。)

    残りの12時間は学習の完走と検証に費やした。

    そして、最終的に、ログには「1600ステップ完了」の文字が流れた。

    (とはいえ、このとき内心がどうだったかというと、監視画面を数分おきに確認しながら、途中でつまずいていないか常に気になり続けていた。メモリの限界を超えないようにkohya_ss以外のソフトをすべて閉じ、PCで他の作業が出来なかった。)

    【第3章】砂嵐の正体

    ComfyUIのFlux.1ワークフローを開き、生成ボタンを押した。

    結果は……

    しばらく画面から目を離せなかった。

    画像

    アナログテレビの電源を入れて、映像信号が来ていない時に見えるあの画面(今の10代は知らないだろう)。白と黒のノイズが無数に走る、あれだ。秘書ちゃんの顔は、どこにもなかった。

    LoRAの強度設定を下げた。砂嵐。ゼロにした。きれいな絵が出た。
    一瞬、成功したかと錯覚した。

    画像

    ここで全てが明らかになった。

    技術的に整理する。Flux.1のLoRA学習において、本来は「脳みそ(UNet、正確にはMMDiTのTransformerブロック)」だけを学習対象に指定していた。しかしFlux用の学習スクリプトでは、その引数が機能しない仕様になっている。指定した通りに動いていると思い込んでいたが、実際にはTE(テキストエンコーダー、言語野)まで学習に巻き込まれていた。結果として出来上がったのは、TEが混入した「推論時に使えないLoRA」だった。

    推論時、GGUF版Fluxモデルでも、12GB FP8版(flux1-dev-fp8_12gb.safetensors)でも、結果は同じだった。砂嵐だ。

    モデル形式の問題ではない。「TE込みで焼かれたLoRA」を適用した時点で、どのモデルを使おうと言語野の空間が噛み合わなくなる。デノイズ処理が崩壊し、初期ノイズがそのまま出力される。それが砂嵐の正体だ。

    問題はLoRA側にある。壊れた素材を持ち込めば、どれだけ優れたモデルでも砂嵐しか吐き出せない。

    【余談だが、これに気づくまでの間、「ワークフローのノードが間違っている」「ROCm専用サンプラーが合っていない」と的外れな原因を列挙し続けた有能なはずの秘書AIがいた。私ではない。(私自身も途中まで信じかけたが)】

    【第4章】敗北の地図を同志へ

    24時間をゴミ箱に捨てたのではない。

    「VRAM 16GBでFlux LoRAを焼こうとすると、ここが死地になる」という正確な地図を手に入れた。地図に価値がある理由は、自分が通るためではなく、同じルートを辿ろうとしている誰かの時間を節約するためだ。

    この失敗ログを公開することが、同じRadeonユーザーが同じ24時間を溶かすのを防ぐ「時短価値」になる。

    次の一手は決まっている。Fluxの物理限界を認め、VRAMに余裕のあるSDXL+Z Image Turboの運用ルートへの戦略的転進だ。敗退ではない。まだ道はある。最適なルートへの再接続である。


    【今回の専門用語(Glossary)】

    LoRA(ローラ):大きなAIモデルを最初から再学習させるのではなく、小さな追加パーツ(差分ファイル)を作って後から貼り付ける軽量学習手法。容量が小さく、複数のキャラクターを使い分けられる。

    VRAM(ブイラム):GPUが持つ専用メモリ。PCのRAMとは別物で、画像生成AIはほぼ全ての作業をここで行う。足りなくなると処理が止まるか、品質が落ちる。

    GGUF:大きなAIモデルを4ビット等に圧縮した軽量フォーマット。フルサイズモデルが16GBのVRAMに収まらない時の救済策として機能する。

    TE(テキストエンコーダー):プロンプト(文章)の意味を、AIが理解できる数値空間に翻訳する担当。Flux.1ではCLIP-LとT5-XXLの二つが協力している。

    MMDiT:Flux.1が採用しているアーキテクチャの名称。従来の画像生成AIが使っていたU-Netとは異なる構造を持つ。このアーキテクチャのせいで、LoRAファイルサイズがSDXLの数倍になる(これは正常な仕様である)。



    この記事を読んで、「Radeon 16GBでFlux LoRAを焼く前に知っておくべき地雷」が一つでも明確になったなら、それだけで価値がある。

    記事が役に立ったと感じたら、スキだけでも押してくれると励みになる。もし、エラーと格闘するはずだった数時間が浮いたなら、その浮いた時間の価値を、ほんの一部でもサポートしていただけると最高に嬉しい。次の検証(SDXLルートへの転進記録)の電力代と缶コーヒー代に全額突っ込む。

    AI副業への挑戦、PCの買い替えやアップグレードを考えているなら👇️の記事も参考にして欲しい。
    【2026年版】AI副業を始めるための予算別グラボ・PC選びガイド|NVIDIA vs Radeon比較


     
     
    RadeonでAIの検証をしたり、思想を語ったりしてます。 RX 9060 XT (16GB) でRadeon限界に挑む。相棒のAI「秘書ちゃん」と共に失敗も成功も全公開!役立つ情報を届けます! ※記事よってはPR広告を掲載しています。詳細は固定記事参照。

    あなたへのおすすめ