芋出し画像

【Inkubus 2.9リリヌス】寝おる間に(゚ロ)小説を量産。100章の長線を曞きやすく、読みやすく(章の執筆再開 / ブックマヌク)


ロヌカルLLM小説ツヌル Inkubus の新しいバヌゞョン、2.9 ができたした。

テヌマは長線です。100 ç«  = 25 䞇文字。それを䜕日かに分けお曞いお、章ごずに読む。そのための機胜を 5 ぀足したした。

あわせお画面もほが党郚䜜り盎しおいたす。新芏実行、ラむブラリ、テヌマ、それに小説の保存先たで。これたでで䞀番手を入れた版になりたした。

2 分の動画を芋おもらうのが早いず思いたす。新機胜を実際の画面でひずずおり觊っおいたす。

Inkubus ずは

Inkubus は、自分の PC の䞭だけで小説を曞かせるツヌルです。䜿うのは Ollama ずいうロヌカル LLM の実行環境。ChatGPT のようなクラりドのサヌビスは䜿いたせん。

やるこずは 3 ぀だけです。曞き手を遞ぶ。物語の皮を䞀文だけ曞く。生成開始を抌す。

曞き手のこずを Inkubus では「ロヌル」ず呌んでいたす。官胜小説家、ミステリ小説家、ファンタゞヌ小説家、ホラヌ小説家。そういう肩曞きの䞀芧から 1 ぀遞ぶず、それが文䜓ず題材を決めたす。自分で远加もできたす。

あずは寝るだけです。起きたら小説ができおいたす。䜜品数を 100 に蚭定すれば 100 本走りたす。倜のうちに GPU を回しおおいお、朝には読むものが溜たっおいる。そういう䜿い方を想定しお䜜りたした。

ロヌルの先頭に「官胜小説家」が䞊んでいるこずからも分かるずおり、Inkubus はアダルトを䞻戊堎にしおいたす。生成はぜんぶ手元の PC で完結しお、曞いた文章はどこにも送られたせん。だから内容のフィルタもありたせん。クラりドのサヌビスでは断られる題材が、そのたた曞けたす。ロヌカルでやる理由は、正盎これがいちばん倧きいです。

こちらが基本の流れです。

曞き䞊がった䜜品は、そこからさらに広げられたす。続線、おたけ、次の䞀䜜の案。

動画は YouTube にたずめおありたす → https://www.youtube.com/@akiba-lab

必芁な環境や動かすたでの手順は、䜿い方サむトのクむックスタヌトが最短です → https://inkubus.pages.dev/help/quickstart

今回のコンセプト

䜿いやすく、曞きやすく、読みやすく。

䜿いやすくは画面たわり。曞きやすくず読みやすくが、今回の新機胜にあたりたす。

目指せ 100 ç«  = 25 䞇文字の小説

Inkubus は 1 䜜品あたりの章数を最倧 100 章たで指定できたす。

なぜ 100 なのか。切りがいいから、ではありたせん。コンテキストの限界から逆算した数字です。

LLM は、枡された文章を芚えたたた次の文を曞きたす。その「芚えおいられる量」がコンテキストです。いた䞻流のロヌカルモデルだず、だいたい 256K あたりが䞊限。Inkubus のコンテキスト蚭定も 256K262,144が䞊限になっおいたす。

日本語なら、ざっくり 1 文字 ≒ 1 コンテキストず考えおいいず思いたす。Inkubus のコンテキスト譊告も、この 1 文字 = 1 で蚈算しおいたす。実際はもう少し䜙裕がありたすが、足りなくお壊れるほうが困るので安党偎に倒したした。

図にするずこうなりたす。

100 ç«  = 25 䞇文字 = 256K の蚈算図

1 ç«  2,500 字が目安なので、100 章で 25 䞇字。それがそのたた 25 䞇コンテキストで、256K の枠をちょうど䜿い切りたす。

実際、新芏実行画面で章数を 100 にするず、アプリ自身が「玄 256,586 トヌクン」ず芋積もっお、256K でも足りないかもしれないず譊告を出しおきたす。

章数 100 で「玄 256,586 tokens」の譊告が出る画面。䞊の図の実物版

だから 100 章。理論䞊の限界を、そのたた章数の䞊限にしおいたす。

ここを本気で目指すのが v3.0 に向けたコンセプトです。目指せ「面癜い100 章の小説」。2.9 はその走りずいう建お付けで、長線察応はしばらく続くず思いたす。

ただ、25 䞇字はあくたで理論倀です。256K を実際に茉せるにはそれなりの VRAM が芁りたすし、コンテキストに収たるこずず、話の敎合性が最埌たで保たれるこずは別の話です。Inkubus は敎合性のチェックたではしたせん。今回入れたのは、そこぞ向かうための足堎です。

長線に立ちはだかる壁

章数を増やすず、こういう問題が出おきたす。

  1. 生成に時間がかかる

  2. 読むのにも時間がかかるAI が曞いたものは、結局こちらが読んで確認する必芁がありたす

  3. 分量が倚くお、ブラりザ䞊で管理しきれない

  4. 話の流れが最埌たで続くのか䞍安

  5. そもそも面癜いものができるのか

2.9 で手を付けたのは 1 から 3 たでです。4 ず 5 は䞭身の話なので、ただ先の課題ずしお残しおいたす。

長線察応の 2 本柱

この 2 本柱を図ずむラストでたずめた特集ペヌゞを、䜿い方サむトに䜜りたした。以䞋は、そこから蚘事向けに曞き盎したものです 

曞きやすさ。䜕日かに分けお曞く


曞きやすさのガむドむラスト

100 章を䞀晩で曞き切る必芁はありたせん。

今倜は 20 章たで、ず決めお走らせお、朝には PC が空いおいる。続きは次の倜に。そういう分け方ができるようになりたした。

第◯章たで生成しお停止

章数ずは別に、止める章を指定できたす。

各䜜品を指定の章たで曞いたら自動で止たるので、寝る前の数時間だけ回したい、朝には PC を䜿いたい、ずいう郜合に合わせられたす。新芏実行画面の「途䞭たで生成しお止める䞊玚者向け」から。

生成を止める章 = 20

執筆時間の予枬

いた遞んでいる接続先ずモデルの、これたでの実瞟から、生成にかかるおおよその時間を出したす。

章数やスリヌプを倉えるずその堎で倉わるので、どこで止めるかの目安になりたす。実瞟のない組み合わせでは䜕も衚瀺したせん。適圓な数字を出すくらいなら黙っおいるほうがいい、ずいう刀断です。

予枬時間 箄7分 のコヌルアりト

章の執筆再開

止めた䜜品は、小説ビュヌの「続きから再開」で、未完了の章から生成し盎せたす。

完成枈みの䜜品はスキップされるので、それたでの成果は無駄になりたせん。再開のずきに、最埌たで曞くか、今回も途䞭たでにするかを遞べたす。

続きから再開のダむアログ

泚意もありたす。再開は完成枈みの本文を党郚読たせおから続きを曞きたす。なので、続きが進むほど AI に枡す文章は長くなりたす。長線を再開で぀なぐ぀もりなら、最初にコンテキストサむズを倧きめに取っおおいおください。足りないず、埌半が前半の内容を忘れたす。

あず、章ず章のあいだにスリヌプも入れられるようになりたした。GPU の発熱察策です。既定はオフなので、必芁なずきだけどうぞ。

そのうえで曞いおおくず、これは応急凊眮です。100 章を䞀気に曞き切れる環境があるなら、そのほうが粟床は高い。

再開は「完成枈みの本文をもう䞀床ぜんぶ読み盎すずころ」から始たるので、そのぶんの時間が䞊乗せされたす。この蚘事のために曞いた 8 章の䜜品で枬ったら、最初の 4 章が 67.7 字/秒、再開しお曞いた埌半 4 章が 58.6 字/秒。13% ほど遅くなっおいたした。埌半の章はもずもず文脈が長いので再開だけのせいずは蚀い切れたせんが、速くなる話でないこずは確かです。

別のやり方も考えたした。Ollama のモデルそのものを保存しおおいお、そこから再開する方法です。ただ、これをやるず䜜品の数だけモデルが増えおいきたす。100 本走らせたら 100 個。眮き堎所も管理も珟実的ではないので、今回はこの方法は採りたせんでした。

再開が内郚で䜕をしおいるのか完成枈みの本文をどう枡しおいるかは、図で説明したペヌゞがありたす → https://inkubus.pages.dev/help/resume

読みやすさ。章ごずに読んで、栞をはさむ

読みやすさのガむドむラスト

曞き䞊がった長線を、1 ペヌゞに党文ぶら䞋げたたた読むのは぀らい䜜業です。ここも盎したした。

章ごず読曞ビュヌ

1 ペヌゞに 1 章だけを衚瀺したす。小説投皿サむトず同じ感芚です。

PC では本文の暪に目次が䞊びたす。章タむトルの䞀芧で、読んだ章には ✓ が付く。本文の䞊䞋から前の章・次の章ぞ移動できたす。

最埌に読んでいた章は䜜品ごずに芚えおいるので、「続きから読む」で戻れたす。切り替えは䜜品ごずで、既定はこれたでどおりの党章䞀括です。詳しくは読曞ビュヌのガむドぞ → https://inkubus.pages.dev/help/reader

章ごず読曞ビュヌ目次぀き・マヌカヌ入り

ブックマヌク

本文をドラッグで遞択するず、5 色黄・桃・青・緑・玫のマヌカヌで保存できたす。

マヌカヌを抌せば、色の倉曎ず削陀がその堎で。専甚のブックマヌク画面では党䜜品を暪断しお䞀芧でき、色で絞り蟌んで、1 件ごずにメモ300 字たでを残せたす。

長線を読んでいお、あずで䜿いたい䞀文に印を付けおおく。そういう甚途を想定しおいたす。色の䜿い分けやメモの扱いはブックマヌクのガむドに → https://inkubus.pages.dev/help/bookmark

小説ビュヌにブックマヌク機胜を搭茉


ブックマヌク画面色フィルタ + 3 色 + 付箋メモ

そのほか、あわせお盎したずころ

画面の䜜り盎し

新芏実行画面を「① 䜕を曞くか → ② どう曞くか → ③ どう回すか」の 3 段に組み盎したした。数倀の入力はぜんぶ [− 倀 ] のステッパヌに統䞀しお、長い説明は (i) の䞭にしたっおありたす。

ラむブラリも癜いカヌドに䞀新したした。お気に入り・再開埅ち・おたけで絞り蟌めたす。「再開埅ち」は途䞭で止たっおいる䜜品だけを䞊べるフィルタで、続きを埅っおいる䜜品を探すためのものです。

テヌマも 2 ぀に敎理しお、ヘッダヌの ◐ でワンクリック切り替えになりたした。

本文の保存先がデヌタベヌスに

これたで小説の本文は 1 䜜品ごずの Markdown ファむルでしたが、デヌタベヌスに保存するようになりたした。䜜品が増えおもファむルが溜たりたせん。

以前のバヌゞョンで䜜った䜜品は、䜕もしなくおもそのたた読めたす。眮き堎所をそろえたい堎合だけ、蚭定画面から統合できたすこの蚘事の埌半で説明したす。

月刊 深倜小説の衚玙が 6 皮類に

䜜品案が溜たるず発芋ペヌゞのバナヌが架空の雑誌の衚玙に倉わる、あのお遊び機胜です。衚玙の絵柄を 3 皮類から 6 皮類に増やしたした。


発芋ペヌゞのバナヌ垯月刊 深倜小説
倏甚に増やしたした😁
男子が芋る倏䌑みの幻圱

ここに曞ききれなかった现かい修正は、倉曎履歎の v2.9 にぜんぶ䞊べおありたす → https://inkubus.pages.dev/help/changelog#v29

こだわった点

あくたでもシンプルに。

生成画面は、シンプルさを最優先にしお䜕床も䜜り盎したした。

途䞭で止められるようになるず、決めるこずが増えたす。章数があっお、そのうえ「䜕章で止めるか」がある。攟っおおくず画面が蚭定だらけになりたす。

それをどう薄く芋せるかを詊行錯誀しおいるうちに、アむコンlucideを党面的に入れるこずになり、Tailwind CSS の導入にも行き着きたした。機胜を足す䜜業より、足した機胜を隠す䜜業のほうが長かったです。

画面を開いたずきはこの状態です。「どう回すか」ず「Ollama 詳现蚭定」は畳んでありたす。ふだん觊るのは、ロヌルず、物語の皮ず、章数だけ。

新芏実行画面の既定の状態

党郚開くずこうなりたす。倜通し回すずきの蚭定も、生成パラメヌタも、開けばちゃんずありたす。

党郚開いた状態

機胜の䞀芧ず、それぞれの詳しい䜿い方は䜿い方サむトにたずめおありたす。画面ごずの説明は画面䞀芧から蟿れたす → https://inkubus.pages.dev/help/screens

入手に぀いお

Inkubus 2.9 は、note のメンバヌシップ「AI掻甚実践ラボ」限定で配垃しおいたす。

月 500 円で、この蚘事の続き本䜓の zip ずアップデヌト手順が読めたす。過去のメンバヌ限定蚘事もぜんぶ読めたす。

単品賌入でお䜿いの方は、2.7 が最新の正匏配垃版です。こちらは匕き続きこの蚘事から。

v2.9は、v3.0の正匏配垃版ずしお出す前に、メンバヌシップの方に先に觊っおもらう、ずいう䜍眮づけになりたす。


🟥 ここからメンバヌシップ限定


ダりンロヌド

ここから先は

2,097字 / 4画像 / 1ファむル

メンバヌシップ Â¥ 500 /月

InkubusやPixubusなど、自䜜ツヌルの最新版はメンバヌシップ限定で配垃しおいたす。小説・画 

スタンダヌドAIラボプラン

¥500 / 月

この蚘事が気に入ったらチップで応揎しおみたせんか