メインコンテンツへスキップ
見出し画像

Ollama Qwen2.5:7b VS Qwen2.5:14bの違い

    私がOllamaを起動する時にメインで使っているのは、Qwen2.5:14bです。テスト用には、Qwen2.5:7bをメインに使っています。Qwenシリーズは、いま最も人気があるモデルです。

    2024年以降、「ChatGPTを使う」だけではなく「自分のPCでAIを動かす」人が増えました。Ollamaをダウンロードするだけで、自宅のPCのCPUのみでもAIをテストすることができます。

    アリババの「Qwen」シリーズ

    アリババのQwenシリーズは、世界中で大人気となっており、累計ダウンロード数でMetaの「Llama」シリーズを抜いて世界トップに躍り出ており、今最も勢いがあるAIシリーズとなっています。

    日本語にも強い傾向があり(中国と同じ漢字圏であるため表示が容易)日本人でもQwenを使っている人は多いでしょう。私も、もちろんQwenばかり使っています。特にQwen2.5:7bとQwen2.5:14bは、かなり貧弱な環境でも動作します。

    CPUでも動くQwen2.5:7b

    Qwen2.5:7bは、CPUのみで動かすこともできます。また、GPUでもVRAM 2G~4Gぐらいあれば動かすこともできます。そのため、テスト用に最適と言えるでしょう。

    Qwen2.5:14bは、CPUのみで動かすのは難しくなります。VRAM 6G以上、出来れば8G~10GB以上が欲しい所です。無理に動かそうとしても、返答が遅くてストレスになります。 


    あなたへのおすすめ