メインコンテンツへスキップ
見出し画像

Codex MobileからGoogle Colab CLIでT4を使い、Qwen3.5-4BをUnslothでファインチューニングした。ただし、品質改善はまだ課題

    前回は、Codex MobileからGoogle Colab CLIを動かし、ColabのT4 GPU上でComfyUIとZ-Image Turboを使って画像生成まで試しました。

    その続きとして、今回は同じ流れをLLMのファインチューニングに広げました。

    今回の投稿はこちらです。

    Google Colab CLIをCodex Mobile越しに使って、Qwen3.5-4Bをファインチューニングしてみた

    Google Colab CLI × Codex Mobile 実験の続編です。

    前回は、Codex Mobile から Google Colab CLI を動かして、Colab T4 上で画像生成までやりました。

    今回はさらに一歩進めて、
    Codex Mobile 越しに Colab… https://t.co/1Z7GW4CVU2 pic.twitter.com/bykQWdnQto

    — Maki@Sunwood AI Labs. (@hAru_mAki_ch) June 7, 2026

    前回の記事はこちらです。

    今回やったことは、かなりシンプルです。

    • Codex Mobile越しにGoogle Colab CLIを操作する

    • ColabでT4 GPUセッションを作る

    • Google DriveをColabにマウントする

    • UnslothでQwen3.5-4Bを簡易SFTする

    • 学習成果物をGoogle Driveに保存する

    • LoRA adapterをHugging FaceへAPI経由でデプロイする

    • ファインチューニング前後のレスポンスを比較する

    結論から言うと、実行経路は通りました。

    ただし、レスポンス品質が明確に改善したとはまだ言えません。

    ここはかなり大事なところです。

    今回の成果は「T4でファインチューニングすれば、すぐ良いモデルができる」という話ではありません。

    むしろ、

    Codex Mobileから、Google Colab CLI経由でGPUを確保し、Driveへ成果物を残し、Hugging Faceへデプロイするところまで一連の経路を通せた

    という実験です。

    今回の実験環境

    今回使ったベースモデルは、UnslothのQwen3.5-4Bです。

    • ベースモデル: unsloth/Qwen3.5-4B

    • GPU: Tesla T4

    • VRAM: 15360 MiB

    • 学習方式: LoRA / SFT

    • 学習データ: 20件

    • 学習ステップ: 20 step

    • epoch: 4.0

    • 学習時間: 約186秒

    • train loss: 約2.08

    学習成果物は、Colab内の一時領域ではなく、Google Driveへ保存しました。

    保存先はColab上のMyDriveです。

    /content/drive/MyDrive/colab-cli-unsloth-qwen35-4b

    Colabはセッションが切れるとローカル領域の成果物が消える可能性があります。

    なので、今回のようにDriveをマウントして、学習ログ、比較結果、adapterをMyDriveに残す構成は重要でした。

    Unsloth公式通りにできたのか

    ここも正直に分けて書きます。

    Unslothの基本的な流れは使いました。

    • FastLanguageModel.from_pretrained

    • load_in_4bit=True

    • FastLanguageModel.get_peft_model

    • SFTTrainer

    • adamw_8bit

    • LoRA adapterの保存

    一方で、完全に公式サンプルと同じ品質の学習条件ではありません。

    今回の目的は、まずCodex MobileからColab T4で一連の学習経路を通すことでした。

    そのため、学習ステップは20 stepまで短くし、学習データも20件に絞りました。

    また、トークナイザ周りではそのままでは詰まる箇所があり、実行用に処理を調整しています。

    さらに、レスポンスだけを学習対象にする設定や、thinkingの漏れを抑えるためのチャットテンプレート調整までは詰め切っていません。

    つまり今回の位置づけは、

    • 本番品質のチューニングではない

    • 最小SFTのスモークテスト

    • Codex MobileからGPU学習とデプロイまで通す経路検証

    です。

    ファインチューニング前後のレスポンスはどうなったか

    ここが一番重要です。

    今回、ファインチューニング前後で6つのプロンプトを比較しました。

    プロンプト例は次のようなものです。

    • Codex MobileからColab T4でファインチューニングする実験の価値を説明して。

    • Google DriveをColabにマウントして学習成果物を保存する理由を説明して。

    • Qwen3.5-4BをT4で簡易SFTするときの注意点を箇条書きでまとめて。

    • ファインチューニング前後のレスポンス比較では何を見ればいい?

    • 今回の実験をnote記事にするときの見出し案を作って。

    • Hugging FaceへLoRA adapterを上げるときにREADMEへ書くべきことを教えて。

    結果として、ファインチューニング前は英語のThinking Processがそのまま出る傾向がありました。

    ファインチューニング後は、日本語の応答に近づいた部分もあります。

    ただし、まだ問題が残っています。

    • 中国語の思考文が出る

    • </think> が混ざる

    • 途中で文章が切れる

    • 「結論 / 観察 / 次の一手」のような狙った型に安定しない

    • Driveやエビデンスへの言及も一部しか改善していない

    たとえば、Driveマウントの理由を聞いた評価では、ファインチューニング後にDriveやエビデンスへの言及は増えました。

    一方で、レスポンスの冒頭に「回答を生成します」「ユーザーは...」のような内部処理っぽい文が出ており、公開用アシスタントとしてはまだ弱いです。

    別の評価では、ファインチューニング後に「次の一手」に近い構成は少し出ました。

    実際のレスポンス抜粋も載せておきます。

    まず、ファインチューニング前は英語のThinking Processがそのまま出ています。

    Prompt:
    Codex MobileからColab T4でファインチューニングする実験の価値を説明して。
    
    Before:
    Here's a thinking process that leads to the suggested response:
    
    1.  **Analyze the Request:**
        *   **Role:** Assistant supporting Sunwood AI Labs' experimental records (Japanese).
        *   **Task:** Explain the value/benefits of fine-tuning a model from "Codex Mobile" ...
        *   **Context:** Research/Experimentation record (Sunwood AI Labs).
        *   **Language:** Japanese.

    ファインチューニング後は、英語のThinking Processではなくなったものの、中国語の思考文が出ています。

    After:
    嗯,用户问的是用Codex Mobile从Colab T4做微调实验的价值。这问题涉及技术选型和实验设计,需要拆解几个层面。
    
    用户可能刚接触大模型微调,想验证不同资源下的效果差异。作为实验记录助手,我需要帮ta理清这个实验的核心价值点,而不是单纯说“能学到东西”。
    
    先想技术层面:Codex Mobile是轻量级模型,T4是入门级GPU,这个组合适合快速验证微调流程。

    Driveマウントの説明では、少しだけ意図に近い方向へ寄りました。

    Prompt:
    Google DriveをColabにマウントして学習成果物を保存する理由を説明して。
    
    After:
    DriveをColabにマウントする主な理由は以下の通りです。
    
    - 成果物の保存: Driveに学習結果やモデルを保存できます。
    - 再現性の確保: 実験記録を保存できます。
    - 共有性: Driveを共有できます。
    - 長期保存: Driveを保存できます。

    ただし、その直前にはまだ内部処理のような文と </think> が混ざっています。

    After excerpt:
    回答を生成します。
    
    ユーザーはGoogle DriveをColabにマウントして学習成果物を保存する理由を尋ねています。
    
    回答を構成します。
    - Driveマウントのメリットを説明します。
    - 保存する理由を列挙します。
    - 保存する内容の具体例を提示します。
    
    回答を日本語で生成します。
    
    回答を生成します。
    </think>

    しかし、全体として見ると、今回の20件・20 stepでは、応答品質が明確に改善したとは言えません。

    これは失敗というより、かなり良い確認でした。

    「学習が完了した」と「レスポンスが良くなった」は別物です。

    今回、それを実データで確認できました。

    Hugging FaceへのデプロイもAPI経由で確認した

    今回のLoRA adapterは、Hugging Faceにもデプロイしました。

    モデルカードも公開ページで確認できました。

    画像

    ここも、ブラウザからアップロードしただけではなく、API / CLIで確認しました。

    • Hugging Faceアカウントでwrite権限を持つトークンを用意

    • ローカルのHugging Face tokenを更新

    • API経由でrepoへアップロード

    • repoのcommit SHAを確認

    • アップロード済みファイル一覧を確認

    adapter_model.safetensors、train_metrics、比較結果、READMEまでアップロードできました。

    この確認を入れた理由は、次回以降に再現しやすくするためです。

    Web UIだけでアップロードすると、その場ではできたように見えても、次回の自動化や再実行につながりにくくなります。

    今回は、CodexがAPIでアップロードできる状態まで整えたので、次の実験では同じ経路を再利用できます。

    何が面白かったか

    今回一番面白かったのは、Codex MobileからGPUを持った作業環境を扱えるようになったことです。

    PCを直接操作せず、スマホ側からCodexへ指示する。

    CodexがGoogle Colab CLIでT4を確保する。

    Colab上でDriveをマウントする。

    Unslothでモデルを学習する。

    成果物をDriveとHugging Faceに残す。

    この流れが通ると、エージェントにGPUという武器を持たせる感覚にかなり近づきます。

    しかもT4であれば、Colabの無料枠でも試せる可能性があります。

    もちろん無料枠は常に安定して同じ条件で使えるわけではありません。

    それでも、手元のPCにGPUがなくても、Codex MobileからGPU実験へ進めるのはかなり大きいです。

    画像生成では、ComfyUIやZ-Image Turboを動かせました。

    今回のLLM実験では、UnslothでQwen3.5-4BのLoRA学習とHugging Faceデプロイまで進めました。

    つまり、Codex Mobileから扱える対象が、画像生成だけでなく、モデル学習側にも広がったことになります。

    次にやるなら

    今回の結果を見る限り、次は「ちゃんと改善するファインチューニング」に寄せる必要があります。

    具体的には、次のあたりです。

    • 学習データを20件から100件以上に増やす

    • 期待する出力形式をもっと明確にそろえる

    • thinkingや内部処理文を出さないデータにする

    • response部分だけを学習対象にする

    • 公式レシピに近いstep数で回す

    • 評価プロンプトを増やす

    • before / afterの比較基準を事前に固定する

    • 日本語、英語、中国語の混入を明示的にチェックする

    • 生成が途中で切れる問題をmax_new_tokensやテンプレート側から見直す

    今回の一番の反省は、ファインチューニングの実行確認と、レスポンス品質の改善確認を分けるべきだったことです。

    学習ログが出た。

    adapterが保存された。

    Hugging Faceに上がった。

    ここまでは実行経路の成功です。

    しかし、読者や利用者にとって重要なのは、その後の応答が本当に良くなったかです。

    今回はそこがまだ弱い。

    だから次回は、最初から「改善したと言える条件」を決めてから学習するのが良さそうです。

    まとめ

    Codex MobileからGoogle Colab CLIを使い、T4 GPU上でQwen3.5-4BをUnslothで簡易ファインチューニングしました。

    Driveマウント、学習、成果物保存、Hugging FaceへのAPIデプロイまで通せたので、エージェントにGPUを持たせる経路としてはかなり手応えがあります。

    一方で、今回の20件・20 stepの簡易SFTでは、レスポンス品質が明確に改善したとは言えません。

    ここを曖昧にしないのが重要だと思っています。

    今回の成果は「良いモデルができた」ではなく、

    Codex Mobileから、Colab T4を使ったLLMファインチューニングと公開までの経路を通せた

    というものです。

    次は、この経路の上で、データ設計と評価を詰めて、本当に応答が改善したと言えるファインチューニングに進めたいです。

    参考リンク

    前回記事: Codex MobileからGoogle Colab CLIでT4を使い、ComfyUI + Z-Image Turboで画像生成した

    Google Colab CLI GitHubリポジトリ


    Unsloth Qwen3.5 Fine-tuning Guide

    Unsloth Fine-tuning LLMs Guide

    Unsloth Troubleshooting and FAQs

    今回デプロイしたLoRA adapter

    #Codex #GoogleColab #Unsloth #Qwen #HuggingFace #生成AI #AIエージェント #FineTuning

     
     
    エンジニアの日常を配信します. 画像生成/音楽生成/機械学習/強化学習/深層学習/スポーツAI/資産形成/業務自動化

    あなたへのおすすめ