以前、RTX 4070 Ti(12GB)でローカルLLMのベンチマーク定番セットを確立し、12GB VRAMの現在地を記録しました。
そして、前回はGPUをXFX Radeon AI PRO R9700 (32GB)に差し替えました。換装作業そのものは別記事にまとめています。
今回は、換装後のマシンで前回と同一のマシン・同一のGGUFファイル・同一の手法でベンチマークを再実施し、CUDAからAMDへ、12GBから32GBへ移った結果を正面から比較してみます😎
ローカルLLMの情報はCUDA前提が9割で、AMD GPUの実測は今も少ないのが実情です。RTX 5090/4090が高騰する中、「32GB VRAMを現実的な価格で」という選択肢が実際どこまで使えるのか。数字で確かめていきます。
続きを読む前回のエントリでは、RTX 4070 Ti(12GB)でローカルLLMベンチマークの基準値を取りました。その最後でGPUの乗り換えの話をしていましたが、今回はいよいよそのGPUの換装作業となります。
交換するGPUはXFX Radeon AI PRO R9700 (32GB)です。
単なるグラボ交換であれば記事にするほどでもないのですが、今回はNVIDIAからAMDへのメーカーをまたぐ形です。 そのため、ドライバの完全削除、補助電源コネクタの違い、CUDA前提環境の移行と、同一メーカー内の載せ替えにはない注意点がいくつもあります。 今回は、実際行った作業手順と、つまずいた点を記録しておきます。
続きを読むローカルLLMで新しいモデルやツールを試すたびに、毎回ベンチマークのやり方で悩んでいます🤔
あるときはLM Studioの表示値、あるときは体感、あるときはツール独自の数字。測るたびに条件が違うので、過去の自分の記録と比較できていません。モデルも量子化もコンテキストサイズもバラバラで、「前より速いのか遅いのか」すら言えない状況です。
そこで一度、自分用のベンチマーク定番セットを決めてしまうことにしました。今後どのモデル・どの環境で測っても同じ物差しで比較できるように、測定ツール・モデルラダー・記録項目を固定してみます。
この記事ではその定番セットの中身と、手元のRTX 4070 Ti(12GB)で実際に一式測定した結果をまとめておこうと思います。
⚠️ この記事の測定値は2026.08時点の結果となります。
続きを読むLLMモデルに関する企業の動きを定点観測記事を半年ごとに書いていますが、最近気になっているモデルファミリーがあります。Microsoftが自社開発しているAIモデル群MAI（Microsoft AI）です。
MicrosoftといえばOpenAIへの投資とCopilotで有名ですが、それとは別でで自社モデルを着々と育てていて、2026年のBuildでは一挙に7つのモデルを発表。さらにこの記事を書いている2026年8月には、なんと4日連続でMAI関連の大きな発表がありました。 「OpenAIがあるのに、なぜ自前で作るの？」というのが自分の最初の疑問だったんですよね。
というわけで今回は、MAIのこの1年（2025年8月〜2026年8月）の動きを整理してみました。Graniteの半期振り返りと同じく、今後も定点観測シリーズとして追いかけていくつもりです。 メジャー系は他のサイトにお任せして、私はニッチを追っていくって感じですかね😁
最近、ツールのセットアップでwinget（Windows Package Manager）を使うようなドキュメントが増えてきたなと感じます。しかし、自分はあまり使いこなせていないなあというのが正直なところで、改めて整理してみることにしました。今回は歴史や周辺ツールとの違いも含めて、wingetの立ち位置を整理してみようと思います。これで使えるようになるかな🙆♂️
wingetを使用すれば「アプリを入れるたびにブラウザで公式サイトを探して、インストーラーをダウンロードして、ウィザードを次へ次へ…」という作業を終わらせる事ができます。自分はいまでもそうしていた側なんですが😅、そういった一連の作業がコマンド一行で終わるわけです。ハンズオンの準備として使用するとめちゃくちゃ便利なわけです。今回はその活用例も含めて紹介してみます。
