
Ollama Qwen2.5:7b VS Qwen2.5:14bの違い
私がOllamaを起動する時にメインで使っているのは、Qwen2.5:14bです。テスト用には、Qwen2.5:7bをメインに使っています。Qwenシリーズは、いま最も人気があるモデルです。
2024年以降、「ChatGPTを使う」だけではなく「自分のPCでAIを動かす」人が増えました。Ollamaをダウンロードするだけで、自宅のPCのCPUのみでもAIをテストすることができます。
アリババの「Qwen」シリーズ
アリババのQwenシリーズは、世界中で大人気となっており、累計ダウンロード数でMetaの「Llama」シリーズを抜いて世界トップに躍り出ており、今最も勢いがあるAIシリーズとなっています。
日本語にも強い傾向があり(中国と同じ漢字圏であるため表示が容易)日本人でもQwenを使っている人は多いでしょう。私も、もちろんQwenばかり使っています。特にQwen2.5:7bとQwen2.5:14bは、かなり貧弱な環境でも動作します。
CPUでも動くQwen2.5:7b
Qwen2.5:7bは、CPUのみで動かすこともできます。また、GPUでもVRAM 2G~4Gぐらいあれば動かすこともできます。そのため、テスト用に最適と言えるでしょう。
Qwen2.5:14bは、CPUのみで動かすのは難しくなります。VRAM 6G以上、出来れば8G~10GB以上が欲しい所です。無理に動かそうとしても、返答が遅くてストレスになります。