メインコンテンツへスキップ
見出し画像

文系の僕がM4 Mac miniにローカルLLMを実装してみたので分かりやすく手順を書くよ

    前置き

    Mac環境でローカルLLMをセットアップしてCursorやObsidian、Clineを繋ぐ手順を探していたのですが、意外と解説記事が出てこなかったんです。文系の僕でもできたので、興味のある人の参考になればと思い手順をまとめました。

    この記事で分かること

    • ローカルLLM導入の具体的な手順: LM Studioを使った詳細なセットアップ方法

    • ObsidianとローカルLLMの連携: Smart Composerプラグインを使った環境構築

    • API課金の心配なし: 無料で何度でも生成AIを試せる環境の作り方

    • M4 Mac miniでの動作実感: Gemma 3の各モデル(1B, 4B, 12B)の使い分けのコツ

    約1時間で動作確認まで完了しました。文系でも手順を追えば半日程度でできるので、ぜひ試してみてください。




    画像
    検証環境は私のM4 Mac miniです(ストレージ以外は最安モデルと同じ)

    実装手順

    ステップ1: LM Studioをインストール

    Mac環境では、LamaかLM Studioという選択肢がありますが、今回はLM Studioを選択しました。理由は初心者でも扱いやすいからです。

    インストールは普通のMacアプリと同じ手順で完了します。

    アプリを立ち上げると、推奨のLLMモデルをダウンロードするダイアログが表示されます。最初はGemma 3の12Bモデルをダウンロードしました。ダウンロード完了後、モデルをロードすればローカル生成AI環境の完成です。

    LM Studioのセットアップをもっと詳しく知りたいという方は、こちらのリンクから手順を参照してください。私もこの記事を見てセットアップの補助にしました。

    モデル選択のポイント

    試しにテストしたところ、12Bモデルは5〜10秒のレスポンス時間でした。「ちょっと重いかな?」と感じたので、1Bと4Bモデルも試してみることに。

    結果、1Bと4Bはほぼ即座にレスポンスが返ってきました。普段使いには軽量モデル、複雑なタスクには12Bモデルという使い分けが良さそうです。

    ちなみに、LM StudioではOpenAIのモデルやDeepSeekなど、様々なモデルを簡単にダウンロードできるので、気になるものがあれば気軽に試せます。

    画像
    マシンスペックが不足してたら赤文字で警告も出してくれます、親切だなぁ

    もしローカルLLMを使いたいだけであれば、この時点でLM StudioからローカルLLMが利用できます!Chatタブから色々試してみてください!



    ステップ2: ObsidianとSmart Composerをインストール

    Obsidianを繋いで活用したい人は以下の手順も実行してください

    2-1. Obsidianインストールは以下リンク先から

    2-2. Smart Composerインストール手順

    画像
    1. Obsidian設定(左パネル右下歯車マーク)を開きます。

    2. 「コミュニティプラグイン」に移動し、「閲覧」をクリックします。

    3. 「Smart Composer」を検索し、「インストール」をクリックします。

    4. 「コミュニティプラグイン」で、そのプラグインを有効化します。


    ステップ3: Smart ComposerとLM Studioを繋げる

    Smart ComposerとLM Studioを繋げるためにはLM StudioをホストしてそのIPアドレスを取得する必要があります。

    Point:IPアドレスの確認場所

    IPアドレスはMacのターミナルで調べる方法もあるんですが、文字文字しい画面で初心者にはハードルが高いと感じました。でも実はLM Studio内開発者パネルでも左上のStatus:stoppedをオンに切り替えれば表示されてくれておりますので、そこをコピーして入れます。(このスイッチをオンにすることによってサーバーがオンラインになって通信が始まります。逆に終了するときにはオフにしておけば通信が走らないので安心です。)

    余談:試してる中でIPアドレスを探し当てるのとホストするスイッチをオンにするという手順に辿り着くのが一番労力と時間がかかりましたw

    ここ褒めて欲しい
    画像
    1. LM Studio :黒塗りしてる部分が自分のIPアドレス[http://IPアドレス:1234]これをコピーする
    画像
    2. Smart Compose > Providers > Add custom providerからIPアドレスを入力
    画像
    3. ModelsからAdd custom model > IDは任意の名前 > Provider IDは2.で作成したProviderを選択 > Model Nameで任意の名前を入力
    画像
    4. 設定を閉じて任意で新規ファイルを作成、右下Chat欄の左下から名付けたローカルLLMを選択
    画像
    5. Chatで適当に挨拶や質問してください、レスポンスがあれば完成です!

    LM StudioでホストしたローカルLLMは他Cursor, Cline, RooCodeなど他エディターやVS Codeプラグインからも似たような手順を経て利用可能です


    お金の縛りから解放されて

    お疲れ様です!お金の縛りから解放されて、無限に生成し放題です。私もこれで安心していろいろ試せるようになったので、これからまた新しい技術を取り入れていこうと思います。

    改めて考えてみると、これは本当に驚異的なことだなぁと思います。自分のポケットサイズのMac miniの中に、これだけ高性能な生成AIが収まっているなんて。

    「ヨッシャー、やったー!」と叫んだあの瞬間

    いきなりですが、皆さんは「ヨッシャー、やったー!」と言うようなモーメントを最近感じたことはありますでしょうか?

    私最近なかなか日々新しい驚きというものを発見することが減ってきてはいるんですが、自分のMac miniにローカルLLMをインストールして、無事に動作として使えるようになった瞬間がそれです。もうほんとに「やった!」という感じで、めちゃめちゃ興奮しました。


    余談:なんでローカルLLM使い始めたの?

    生成AIとの日常、そして新たな憧れ

    私も多くの皆さんと同じオンラインでOpenAIのChatGPT、GoogleのGeminiなどを活用してました。

    そして仕事柄、普段会社でも生成AIを使うことが多いです。私はよく生成AIに文章の推敲や、あるいはイラッとする相手へのメッセージを書く際に、生成AIを通すことによって怒りの部分を削ぎ落としてもらったり。またプログラムを少し書くこともあるのですが、新しい言語でも要件などを伝えてプログラムを書いてもらうことがあります。

    そのように普段私生活でも、そして仕事でも生成AIを活用している私ですが、ノートや文章を書く人の間でどんどん流行ってきている「CursorとObsidianを組み合わせたAIライティング」と呼ばれている手法を試したくなったためです。

    自分が文章を書きながら、AIがそれを瞬時に読み取って次に書く文章を提案してくれるような仕組み。あるいは、自分が過去にため込んだ大量のメモやノート、そしてウェブからのクリップなど、いろんな情報…つまり自分が持っているある意味データベースのような情報を参照して、そこから書きたい記事を生成AIと一緒に作り上げていく。

    そんなことをCursorとObsidianを使って達成している人が多いと聞いて、私もそれを自分の環境で実行したいなと思っておりました。

    しかしAPIの壁にぶつかって

    多くの人が生成AIを使うときに、Open AIやGoogleからAPIを発行して、APIをClineなどのプラグインにつないでChatGPTやGeminiの力を使ってコーディングをしたり文章を書いたりします。ただ、APIを使おうとするとほぼ始めるのに課金が必要となってきます。

    新しいテクノロジーはもちろん試したいのですが、うまくいくかどうかわからない。そして自分が上手にセットアップすることができるかどうかわからないものに課金するには抵抗がありました。できるだけ無料で達成したいと思っております。

    そして、GoogleのGeminiであれば無料のAPIが使えることがわかりました。なので、早速私もGoogleのAI用のAPIのコードを取得して、無料のトークンの範囲で試そうと思いました。すでにCursorとObsidianをセットアップ済みです。

    するとどうでしょう。なぜだかわからないんですが、エラーが出てしまい前に進めなくなってしまいました。私なりに勉強して試してみたのですが、どうもうまくいきません。使っているトークン数を見ると、実際にトークンを使ったという履歴が残っているのに、私の手元では成功しませんでした。

    「もっと手軽に試せないだろうか?お金の心配なく試せないだろうか?」

    そう思った時に、ふと思い出したのです。そういえば自分のパソコン環境、Mac環境で走らせることができるローカルLLMがあるではないかと。早速調べました。

    本当に良い時代になった

    ローカルLLMは、APIの取得やCursorの設定に苦労するよりもずっと簡単に試せるので、気軽にAIの世界を体験してみてはいかがでしょうか。M4 Mac miniでも十分動くので、ぜひ試してみてください!

    僕もまだセットアップして使い始めたばかりですので、もっといい方法があったらぜひ教えていただければ幸いです!参考になったら、いいねやフォローなどをしていただければと思います。今後も気づいたことがあったら投稿していきます。

    ここまで読んでくれて、ありがとうございました。

    よければチップでも応援してね☆


     
     
    とにかくアウトプットしたくて / 最近頭の中カメラ成分多めで夢中、でもまだ未熟。お気軽にフォローをお願いします ※本noteはお小遣い欲しさにAmazon アソシエイト・プログラムを利用しています 紹介品リンク:https://linktr.ee/mudailog

    あなたへのおすすめ