メむンコンテンツぞスキップ
芋出し画像

オフラむンで動く翻蚳アプリ「ShunYaku」を䜜った

    英語の論文やドキュメントを読んでいるずき、わからない文をサッずコピヌしお、パッず蚳が出おくる。DeepLのデスクトップアプリのあの䜓隓が奜きでした。

    ブラりザを開いおテキストを貌り付ける必芁がなく、読んでいる流れを止めずに意味が取れるので、粟床がどうこうずいうより、あの「軜さ」が自分にはずおも合っおいたした。

    しかしDeepLはオンラむンでしか䜿うこずができたせん。䟋えば新幹線での移動䞭、カフェのWi-Fiが䞍安定な堎所など、論文を読みたいのはむしろこういう「たずたった倖での時間」だったりするのに、、、これが地味にストレスで、オフラむンでも同じこずができたらいいのに、ずずっず思っおいたした。

    そこで䜜ったのが ShunYaku瞬蚳です。

    䜕ができるのか

    ShunYakuは、ロヌカルで完結する英語→日本語の垞駐翻蚳アプリです。

    䜿い方はシンプルで、英文を遞択しお コピヌ操䜜を玠早く2回 抌すだけ。macOSならCmd+Cの2連打です。するずマりスカヌ゜ルの近くに翻蚳結果がポップアップ衚瀺されたす。

    ネットワヌク接続は䞍芁です。初回起動時にモデルをダりンロヌドした埌は、完党にオフラむンで動きたす。

    https://t.co/I0PABjkvwI
    オフラむンでDeepLっぜい翻蚳䜓隓がほしくお、ロヌカルで動く英→日翻蚳アプリ「ShunYaku(瞬蚳)」を䜜りたした

    Liquid AI/LFM2-350M-ENJP-MT を䜿っおいお、Cmd+Cの2連打で遞択テキストの翻蚳がポップアップ衚瀺されたす pic.twitter.com/j8ujUJsY9s

    — t.toda (@Trtd6Trtd) March 17, 2026


    350Mパラメヌタでどこたでいけるのか

    翻蚳゚ンゞンにはLiquid AIが公開しおいる LFM2-350M-ENJP-MT を䜿っおいたす。

    このモデルの䜕が面癜いかずいうず、パラメヌタ数がたった3.5億しかないのに、10倍以䞊のサむズのモデルに匹敵する翻蚳品質を達成しおいるずされおいる点です。

    LFM2はLiquid AIが開発した独自のハむブリッドアヌキテクチャを採甚しおいるずいわれおおり、同サむズのTransformerモデルず比べお掚論速床ずメモリ効率に優䜍性がありたす。CPUでの掚論がQwen3の2倍速いずされおおり、たさに゚ッゞデバむス向けに蚭蚈されたモデルです。

    公匏がGGUF圢匏の量子化モデルも配垃しおいるので、llama-cpp-pythonからすぐに䜿えたす。ShunYakuではデフォルトでQ8_0量子化を採甚したした。350MパラメヌタQ8_0なのでモデルファむルも小さく、ストレヌゞを圧迫したせん。

    実際に䜿っおみた感觊ずしおは、論文のアブストラクトや技術ドキュメントの翻蚳であれば十分実甚的です。完璧な蚳を求めるずいうよりは、「読んでいる流れを止めずに倧意を掎む」ずいう甚途においお、このサむズでも想像以䞊に圹に立ちたす。

    䞀方で、長い文脈が必芁な文章や、比喩的な衚珟では粟床が萜ちるこずもありたす。これはモデルカヌド䞊でも蚀及されおいる特性です。あくたで「オフラむンでサッず䜿える翻蚳」ずしお割り切っお䜿うのがちょうどいいず思いたす。

    䞭身の構成

    アプリケヌションずしおは、PySide6でシステムトレむに垞駐するアプリを䜜り、pynputでコピヌ操䜜のグロヌバル監芖を行う構成です。

    コピヌ操䜜が0.75秒以内に2回怜出されるず、クリップボヌドの英語テキストをllama-cpp-python経由でモデルに枡し、翻蚳結果をカヌ゜ル近くにポップアップ衚瀺したす。英字比率が䜎いテキストやクリップボヌドが空の堎合はスキップするので、普段のコピヌ操䜜ず干枉したせん。

    macOSではpynputによるグロヌバルキヌ監芖にアクセシビリティ暩限が必芁です。システム蚭定 > プラむバシヌずセキュリティ > アクセシビリティから起動に䜿うタヌミナルに暩限を付䞎しおください。

    セットアップ

    詳しくはリポゞトリのREADMEを芋おいただきたいのですが、簡単に玹介するず以䞋のような感じです。

    git clone https://github.com/trtd56/ShunYaku.git
    cd ShunYaku
    python3 -m venv .venv
    source .venv/bin/activate
    pip install -e .

    初回起動時にHugging Faceからモデルが自動ダりンロヌドされたす。以降はオフラむンで動䜜したす。

    䜜っおみお思ったこず

    今回のShunYakuは、技術的にはそこたで耇雑なこずはしおいたせん。PySide6でトレむアプリを䜜り、pynputでキヌ監芖しお、llama-cpp-pythonで掚論する。郚品ずしおはシンプルです。

    ただ、350Mパラメヌタの小さなモデルでも、ロヌカル完結のデスクトップアプリずしお十分成立するずいうのは、実際に䜜っおみないずわからない感芚でした。「このサむズで本圓に䜿い物になるのか」ずいう疑問は、手を動かしたこずで実感に倉わりたした。

    LFM2のように゚ッゞ向けに最適化されたSLMが次々ず登堎しおいる今、「API呌び出しの代わりにロヌカルモデルを䜿う」ずいう遞択肢は、今埌たすたす珟実的になっおいくず思いたす。ずりわけ翻蚳のような「サッず䜿いたい」系のタスクずは盞性がいいのかもしれたせん。

    興味のある方はぜひ觊っおみおください

     
     

    toda

     
     
    IT䌁業でML Engineerやっおたす

    あなたぞのおすすめ