Macでローカル LLM 動かしたいけどRAM足りない！って人のための記事

みなさんから「Macでもローカルできますか？」「16GBじゃ無理ですよね？」ってご質問をめちゃくちゃ頂くので、いっそのこと一本の記事にまとめちゃいます！

この記事さえ読めば、なんでMacでローカルLLMやろうとすると必ずお金の話になるのか、そしてその前提がいま崩れかけてるのかが分かるように書いていこうと思います😀

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🔰まず結論から

去年の11月、ちょっとメモリの多い18GBのMacBook Proを狙って買いました。ローカルLLMをやるためです🌸

そして今、その18GBが要らなくなりつつあります😨

なんで？って話をこれから書きます。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🔰超基礎知識

まずは今更聞けない、謎の用語から説明していこうかなーと！

ユニファイドメモリ： Macのメモリのこと。 普通のパソコンだと「メモリ」と「グラボのVRAM」が別々なんですが、 Macはこれが同じものになってます。 だから16GBのMacは、理屈の上では16GB近くをAIに使えます。

ここがMacの強いところで、同時に地獄の入口でもあります😨

あとから足せない： Macのメモリは、買うときにしか選べません。 デスクトップPCみたいに「あとで8GB足そ〜」ができない。 はんだ付けされてるので物理的に無理です。

つまり買った瞬間に、あなたが将来動かせるAIの上限が決まります🥺

MoE（Mixture of Experts）： 巨大なモデルの全部を毎回使うんじゃなくて、 入力に応じて必要な「専門家」だけを使う仕組み。 26Bのモデルでも、1回に動くのは4B分だけ、みたいなことができます。

なので「デカいのに速い」が成立します。ここ大事なので覚えて帰ってください😀

量子化： モデルを小さくする技術。 4bitとか3bitとか言われてるやつ。 数字が小さいほど軽くなって、そのぶん頭が悪くなります。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

で、なんで18GBを狙って買ったの？🤔

たった2GBです。16GBじゃなくて18GB。

でもこの2GBが、本当に、びっくりするくらい効くんです。

私が使いたかったモデルは、VRAMに最低14GBくらい必要でした。 全メモリ18GBのうち14GBをAIに割り当てると、ギリギリOSが回ります。

本当にギリギリで、微調整しないと激遅になるか、最悪OSごと落ちます。

落ちました🥺（実話）

16GBだと、この「ギリギリ回る」すら成立しません。 だから2GBで世界が変わるっていうのは、盛った表現じゃなくて本当にそういう境界のところにいる話なんです。

+‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥+

🌸Appleのメモリ課金がえぐい話

ここ、たぶんこの記事で一番みんなが知りたいところだと思うので、実際の数字を出します。

Macのメモリ追加オプションの値段は、世代をまたいでほぼ一定で、8GBあたり30,000円です。

• 16GB → 24GB：+30,000円

• 16GB → 32GB：+60,000円

M3世代でもM4世代でも同じ。何年も動いてません😨

で、面白い（というか怖い）のがここ。

本体は世代交代で値崩れするのに、この単価だけは下がらないんです。

だから中古市場を見ると、16GBの構成は底値に張り付いて安くなるのに、RAMを盛った構成だけは全然落ちてこない。新品のときに乗せられた3万円が、中古価格にそのまま残り続けるからです。

+‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥+

😨そして2026年6月25日、値上げが来ました

Mac・iPadが一斉に値上げされました。

• 本体：モデルにより9万円アップ

• メモリCTO 16→24GB：30,000円 → 36,000円

• 128GB構成：12万円 → 28.8万円（2.4倍😨）

理由はメモリとストレージの調達価格の高騰です。

MacBook Pro 14インチのスタート価格は248,800円から339,800円に。 Mac miniの最小構成は94,800円から134,800円になりました。

しかもこれ、中古の相場が発売時の新品価格を上回るっていう逆転まで起きてます。

つまり今ローカルLLMのためにMacのメモリを盛るというのは、世界で一番値上がりしてる部分をピンポイントで買わされてるということなんですよね🥺

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🌸ここから本題。18GBが要らなくなった話

さて、ここまでが前提です。

私が使ってたのは、あるMoEモデルの3bit量子化でした。生成30トークン/秒ちょっと。速くはないけど許容範囲の速度です。

でも正直に書きます。3bitは性能の妥協が要ります。

このモデルは量子化耐性が高くて、3bitでも壊れはしません。壊れはしないけど劣化する。

そしてその劣化がどこに出るかというと、ベンチマークのスコアじゃないんです。

指示を守らなくなるところに出ます。

• 「考えなくていいよ」って設定してるのに、答えの中で勝手に考え始める

• 「この形式で返して」って言ったのに守らない

チャットで遊ぶぶんには気づきにくいけど、プログラムに組み込んでると、これがエラーとして出てきて普通に困ります😨

+‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥+

🌸QATっていう救世主がいるんですけど

じゃあ4bitにすればいいじゃんって話なんですが、常識的には4bitもけっこう攻めた量子化なので、似たようなものです。

ここで出てくるのがQATモデル。

普通の量子化は、完成したモデルを後から圧縮します。 QATは、学習の段階で4bitに揃えてあるんです。

だから理屈の上では、4bitのサイズで、圧縮してないのと同じくらいの性能が出ます。全然別物です🌸

「じゃあそれ使えばいいじゃん！」

そう、そうなんです。

サイズが15.8GBあるんですけど。

画像も読ませようとすると17GB。

18GBのMacで動かそうとも思わないし、常駐アプリ全部落としても無理です。物理的にメモリの確保に失敗します。16GBは言うまでもない😨

つまりQAT版は、私にとって存在しないモデルでした。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🔧で、推論エンジンを改造しました

ここから急に話が変わります。ごめんなさい🥺

MoEって「必要な専門家だけ動く」って書きましたよね。 じゃあ、使わない専門家をSSDに置いておけば、メモリを空けられてよくない？

そういう発想の推論エンジンがあります。

「え、それってメモリ不足の時のスワップと同じでは？」って思いますよね。違うんです。2つ違います。

① 何をSSDに置くか自分で決められる スワップはOS任せなので、何が追い出されるか制御できません。

② SSDの待ち時間をGPUの計算時間の裏に隠してる SSDに読みに行く前に、先にGPUに計算を投げる。GPUが計算してる間にSSDから読む。だからGPUはずっと動いてて、読み込み時間が表に出てこない🌸

これ、めちゃくちゃ賢いです。

+‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥+

で、実際に動かしてみました。

• prefill（入力を読む速度）：37 トークン/秒

• 生成：23 トークン/秒

• 使用メモリ：2.2GB

• 最初の返事が出るまで：12.6秒

確かに動きます。動きますが、遅すぎます😨

12.6秒待たされるのは、正直しんどいです。prefillの37トークン/秒っていうのも、NVIDIAのグラボなら1000以上平気で出るところなので、桁が二つ違います。

というわけで、ここから改造が始まりました。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🔧改造その1：定数がひとつ間違ってた

まず、SSDが遅いのか、プログラムが悪いのかを切り分けました。

答えはプログラムでした。

入力を読み込むとき、文章をチャンク（かたまり）に切って処理するんですが、その上限が128トークンで固定されてたんです。

チャンクが小さいと、同じ専門家を何度も何度も読み直すことになります。

なのでこの数字を2048にしました。

結果👇

• ディスクの実転送量：110.5GB → 11.8GB（10分の1😨）

• 速度：1.8倍

• おまけに使用メモリも半分に

数字をひとつ書き換えただけです。

こういうのがあるから、オープンなソフトを自分で開けるって大事だなって思います🌸

🔧改造その2：GPUの中身を書き直す

ここからは地味な作業です。

プロファイル（どこで時間を使ってるかの計測）を取って、一番重いところを潰す。また測る。また潰す。ひたすらこれの繰り返し。

結果、長文のprefillは37トークン/秒から231トークン/秒になりました。

6倍です🎉

🔧改造その3：QATを読めるようにした

さて、これであの「存在しないモデル」だったQAT版が載るようになりました。

ただし生成速度が20%落ちました。QAT版はサイズが1割増えるので、単純に計算量が増えるからです。メモリでは買い戻せない、恒久的なコストです🥺

でも私はこう考えました。

答えにたどり着けなかったら、もう一回生成することになる。 そうしたら−20%どころじゃなくて−100%です。

大事なのは1秒あたり何トークン出るかじゃなくて、正解にたどり着けるかどうかなので。

+‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥‥+

で、ちゃんと検証しました😀

因数分解できない三次方程式（カルダノの公式を使うやつ）を、同じトークン予算で解かせてみます。

• QAT版：3回中2回、ちゃんと式で答えた

• 非QAT版：3回中0回

非QATは途中で「複雑すぎ無理」って言って数値計算に逃げます。QATが出した式は自分で検算して合ってました。

さらに意地悪もしました。日本語の推論が必要な問題を「考えないで」って設定で投げると。。。

• 非QAT：指示を無視して長々と考察を書いて、正解した

• QAT：きっちり指示を守って即答して、間違えた

これ、めちゃくちゃ面白くないですか🌸 「指示を守る」と「正解する」は別の能力なんだってことがはっきり出てます。

🔧改造その4：画像を読めるようにした

テキストしか読めなかったので、画像を読む部分（1.15GB）を追加しました。

• 最初の返事まで：4.1秒

• 使用メモリ：4.7GB

検証は、自分で画像を開いて答え合わせしました。実写の写真に、色と数と位置を日本語で聞きます。

• ラグの色、クッションの数、スマホの位置 → ✅

• お店の看板に書かれた身長計の目盛りの数値 → ✅

• UIのスクショのパネル数と左右の並び → ✅

全部合ってました🎉 画像を見てないと絶対に書けない内容が出てきてます。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

🌸結果、4.7GBで動くようになりました

改造前と後を並べます。

prefill 37 t/s → 231 t/s
生成 23 t/s → 28〜32 t/s
できること テキストだけ → QAT + 画像
使用メモリ 2.2GB → 4.7GB

「メモリ増えてるじゃん！」って思いましたよね😨

そうなんですけど、これは意図的です。

2.2GBは「動くことを見せる」ための数字で、4.7GBは「使う」ための数字だからです。

4.7GBというのは、16GBのMacで他のアプリを動かしたまま常駐させられる量です。

ブラウザとエディタとターミナルを開いたまま、後ろに26Bのモデルがいる。これができます🌸

しかも4.7GBから減らすこともできます。prefillに至っては、使用メモリにまったく依存しないので、必要なら3.1GBまで落とせます。

つまり「RAMを積めば速くなる」っていう直感、けっこう外れます。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

😨正直に書いておくこと

盛らないで書きます。

① これ、私の発明じゃないです

「専門家をSSDから流して、読み込みを計算の裏に隠す」という発想は、有名なオープンソースの推論エンジンでも、いま同じ方向の実装が進んでます。私が定数を2048にして得た結論も、向こうでは別のやり方で先に解かれてました。

ただ、目的が違います。向こうは「RAMに入らない超巨大モデルをどんなに遅くてもいいから動かす」ため。こっちは「普通サイズのモデルを低メモリ機に常駐させて実用的な速度を出す」ため。最適化する場所が違うんです。

② 私のフォークは私のMacで動くように書かれてます

あなたのMacで動く保証はまったくないです🥺 一般の方には、まだぜんぜんおすすめできる段階じゃありません。

③ 一番の理由は、実はロマンじゃないです

来月、ハードウェアの展示イベントに出ます。展示用のPCが会場で起動しなかったときのために、Macだけで成立するバックアッププランを作っておく必要がありました。

会場は携帯回線もWi-Fiも混雑がひどくて、オフラインじゃないと安定しません。

このとき、クラウドAIは「高い」んじゃなくて「存在しない」んです。

ローカルLLMの記事って、だいたい「プライバシーが」「コストが」って話をするんですけど、そもそも電波がない場所があるっていう軸は、あんまり語られてない気がします。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

まとめ

• Macのメモリは8GBあたり30,000円で、しかも2026年6月にさらに値上がりしました

• 中古は16GB構成が底値に張り付きます。RAMを盛った構成は落ちてきません

• 3bitの劣化は、賢さじゃなくて「指示を守るかどうか」に出ます

• 専門家をSSDに置く方式なら、26Bのモデルが4.7GBで、画像つきで動きます

• prefillはメモリ量に依存しません。RAMを積んでも速くならない領域があります

18GBを狙って買ったのは、正しい判断でした。 16GBの機体だったら、測る前に落ちてた設定がいくつもあるので。

でも次に同じことをやりたい人は、もう+2GBを買わなくていいです。

そういう状態に自分で持っていってるのが、いま一番楽しいところだったりします🌸

Macのメモリ課金の底が、ちょっとずつ抜けつつあります😀

それではまた🌸