アカデミックからスタートアップへ。本質を追求し、国産LLMの開発に挑む ／リサーチャー 陳 実
東京大学で首席で博士号を取得し、その後も特任研究員として最先端の深層学習研究を牽引してきた陳 実さん。アカデミックキャリアからスタートアップであるストックマークへの転身は驚く方もいるかもしれません。
なぜ、陳さんはアカデミックの研究者としての地位を離れ、ストックマークという新たな舞台を選んだのでしょうか。そして、そこでどのような挑戦を繰り広げているのでしょうか。
今回は、陳さんのキャリアの軌跡を紐解きながら、ストックマークのリサーチャーの働き方や魅力についてお伝えしていきます。
研究者としての原点 本質を追求する
Q1-1. 2017年から東京大学工学系研究科での博士課程に進まれた理由は何でしたか？
学部の専門は原子力工学でしたが、修士課程で深層学習に出会い、その奥深さに魅了されました。特に、原子力分野に深層学習を応用する研究は非常に面白く、修士課程の2年間だけでは物足りなさを感じていました。そこで、深層学習の研究をさらに深く、そして広く追求したいという思いから、博士課程への進学を決意しました。
東京大学を選んだのは、当時原子力研究において国内トップレベルであり、アジア全体でもトップクラスの大学だったからです。留学経験を通じて、世界に通用する研究者になりたいという目標も強く持っていました。
Q1-2. 専攻首席で博士号を取得されたとのことですが、研究を進める上で、困難に直面した際の乗り越え方など、具体的なエピソードがあれば教えてください。
研究で最も大切にしていたのは、本質を追求することでした。論文を書く際には、単に既存の手法を組み合わせるのではなく、「なぜこの手法が有効なのか」「この手法の限界はどこにあるのか」といった根本的な問いを深く掘り下げていました。
深層学習の研究の末、衝撃的だったLLMの登場
Q2-1. 博士号取得後も東京大学で特任研究員として研究を続けられた理由は何でしたか？「深層学習の工学分野への応用」というテーマに取り組む中で、特に興味を持った点や、挑戦だと感じたことはありますか？
博士号取得後も特任研究員として研究を続けたのは、深層学習の可能性をさらに深く探求したいという強い思いがあったからです。LLMに基づく保全計画書の自動生成のプロジェクトが最も印象的でした。原子力発電所の保全計画書は、非常に複雑で専門性が高く、作成に膨大な時間と労力がかかります。この作業をLLMで自動化することで、作業効率を飛躍的に向上させることが目的でした。
ちょうどその頃、ChatGPTの登場により、大規模言語モデル（LLM）が爆発的に進化しました。私の博士研究で苦労して構築していた知識グラフが、GPTを使うと驚くほど簡単に、そして高い精度で作成できることを知り、大きな衝撃を受けました。
これは、従来のAI研究の手法が根本的に変わることを意味しており、LLMの持つ可能性に強く惹かれました。そして、この新しい技術をいかにして社会に役立てるかという挑戦に、心からワクワクしていました。
アカデミックからストックマークへ 国産のLLM開発への挑戦
Q3-1. 東京大学での研究という安定した環境から、ストックマークへ参画を決めた理由は何でしたか？その決断の背景にあった、ご自身のキャリア観や人生観の変化について教えてください。
特任研究員の地位を離れ、ストックマークへの入社を決めたのは、「LLMの研究開発をもっと深めたい」という想いが強くなっためです。LLM自体の構築にも興味がありました。アカデミックの環境では計算リソースの制約などから、LLMの本格的な開発に取り組むのは困難だと感じていました。
そこで色々な選択肢を検討してみようと先ずは転職サービスに登録することにしました。そこで偶然、スカウトを通じてストックマークと出会うことになります。カジュアル面談ではCTOの有馬とお話したのですが、ストックマークが日本語マルチモーダルモデルの開発に力を入れていることを知り、この会社なら私の思いを実現できると思いました。Stockmark-13Bも発表されていたタイミングでもあったので、テックブログも読んでおり、国産のLLM開発に取り組んでいる点から興味を持ちました。
その後はVP of Researchの近江さんともお会いしました。Wantedlyで掲載している近江さんの記事も読んでおり、アカデミックから産業界で研究者としてチャレンジしていることを知っていたので、純粋に話してみたかったんです。最初のカジュアル面談で有馬さんにお願いしたら、快諾してくださり、近江さんとのカジュアル面談が実現しました。実際に近江さんと話してみると、色々学術的にも勉強させていただくことが多く、ストックマークに入りたいと思うようになりました。結果として内定をいただき、ストックマークに入社を決めることになります。
すぐに任される。ストックマークの自律カルチャーを目の当たりにする
Q3-2. アカデミックからスタートアップに行くのは大きな変化だと思いますが、入社前にストックマークに対して抱いていた印象と、実際に入社してみて感じたギャップがあれば教えてください！特に、ストックマークの文化については、どのように感じましたか？
入社前は、正直なところ「日本の企業は保守的で、年功序列の文化が強いのではないか」という先入観を持っていました。しかし、実際に入社してみて、その印象は良い意味で完全に覆されました。ストックマークは、年次や役職に関係なく、誰もが活発に意見を交わし、コミュニケーションが非常に円滑な会社でした。
特に驚いたのは、入社後すぐに「GENIAC2」のプロジェクトの開発計画を任されたことです。入社して数カ月後、近江さんと話している中で「GENIAC2の開発計画を策定して欲しい」と言われ、任されることになりました。入社数ヶ月でここまで大きな役割を任せてもらえるのかと衝撃でしたね。「やりたいこと」や「できること」があれば、すぐにでも大きなプロジェクトに参加できる文化に、とても感動しました。
まずは試してみる。先行事例のない日本語LLM研究開発のリアルな体験
Q. GENIAC2はどういった研究だったのでしょうか？
「GENIAC2」は非常にチャレンジングなプロジェクトでした。まず1000億パラメーターの日本語視覚言語モデル（VLM）というのは、世の中に先行事例がなく、最も大きなパラメーター数を誇るVLMです。そのため、英語のVLMの事例を読み解き、様々なデータや手法を日本語モデルに適用するアプローチを繰り返していました。
またストックマークのLLMにおいては、CoT（Chain of Thought）という複数の中間的な推論ステップを介して複雑な推論を実現する理論を採用しています。CoTに関する先行事例も少なく、研究開発としてはかなり挑戦でした。
Q. GENIAC2の開発で大変だったことについて教えてください！
一番大変だったことは未知のバグに遭遇したことです。始めは原因がわからず、Slackのスレッドで100件以上のやり取りを重ね、複数名のリサーチャーで何度も何度もトライアンドエラーを繰り返しました。最終的には原因を究明して、解決することができました。
この経験から、「完璧なアイデアを考えるよりも、まずは不完全でもいいから試してみる」という、「小さく早く失敗する」ことの重要性を学びました。失敗から得られる知見は、成功から得られる知見よりも、はるかに価値があると感じています。
この学びは、次の「GENIAC3」の開発にも活かされており、まずは複数のアプローチを小さく試してみて、有望なものを深掘りしていくというスタイルで研究を進めています。
Q3-4-3. アカデミアでの研究と、企業での研究開発（プロダクトへの実装）との違いや、そこで感じる面白さ、難しさについて教えてください。
アカデミアでの研究は、論文として新しい手法を提案し、公開ベンチマークで高いスコアを出すことが主な目的でした。一方、企業での研究は、プロダクトの品質向上と顧客のフィードバックが最も重要になります。
アカデミアでは「世界一のモデル」を目指せばよかったのですが、企業では「顧客にとって一番良いモデル」を目指す必要があります。公開ベンチマークのスコアよりも、顧客の課題を解決できるモデルの方が、はるかに価値があるのです。
この違いに難しさも感じますが、自分の研究成果が直接顧客の課題を解決し、感謝される瞬間に立ち会えるのは、企業ならではの大きなやりがいだと感じています。
好奇心が不可欠。毎日変化するLLM市場との付き合い方
Q4-1. これまでの研究者としてのキャリアを通じて、陳さんご自身の「仕事」に対する哲学や、大切にされている軸はありますか？
私の仕事に対する哲学は、「常に好奇心を持ち、新しいことに挑戦し続けること」です。LLMの世界は、毎日新しい技術や研究が生まれており、常に学び続ける姿勢が不可欠です。好奇心がなければ勉強もできません。
そして、その学びを「社会に実装する」ことが、私の最も大切にしている軸です。最初は失敗しても何度も試してみて、繰り返していけば、いつか成功するようになります
自分の研究が、直接事業に貢献できるストックマーク
Q4-2-1. ストックマークに入社してからのご自身の成長を、具体的にどんな瞬間に感じますか？新たな技術の応用や、事業貢献への手応えなど。
ストックマークに入社してからの大きな成長は、「自分の研究が、直接事業に貢献している」という手応えを感じられるようになったことです。
自分の研究が実際にプロダクトに導入され、顧客からのフィードバックを得るたびに、自分の研究が社会に役立っていることを実感します。
また、他のエンジニアやプロダクトマネージャーと連携し、チームで大きな目標を達成する経験は、アカデミアでは得られなかった貴重な成長機会だと感じています。
Q4-2-2. ストックマークの環境が、ご自身のどのような成長を後押ししていると感じますか？「学びを社会実装する」という観点で、ストックマークで得た学びをどのように活かしていますか？
ストックマークは、「学びを社会実装する」ための最高の環境です。最新の論文を読んで新しい技術を学んだり、社内勉強会で知識を共有したりと、常に学び続ける文化があります。そして、その学びをすぐにプロダクトへの応用を検討し、実行できるスピード感も大きな魅力です。
この環境があるからこそ、私はアカデミアで培った知識を、机上の空論に終わらせることなく、現実の課題解決に活かすことができています。
ストックマークLLMを新しいスタンダードにしたい。
Q4-3-1. 陳さんの目指すキャリアの最終地点、あるいはストックマークで成し遂げたい最大の挑戦とは何でしょうか？
ストックマークLLMを新しいスタンダードにしたいですね。将来LLMや生成AIに関して話をする際に、今のChatGPTのように自然とストックマークLLMの話題が出ることを目指しています。これは簡単な挑戦ではありませんが、ストックマークには、この壮大な目標を達成するための技術力と、それを支えるカルチャーがあります。
Q4-3-4. 最後に、ストックマークへの応募を検討している方々へ、陳さんから熱いメッセージをお願いします。
アカデミアでの研究に留まらず、自分の技術で社会にインパクトを与えたいと考えている皆さん。
もしあなたが、未知の領域に飛び込むことを恐れず、自らの手で未来を創り出すことにワクワクするなら、ぜひ私たちと一緒に働きましょう。
あなたの挑戦を、心から楽しみにしています。
陳さん、ありがとうございました！
参考：Stockmark-2-VL-100B：日本語に特化したドキュメント読解のためのChain-of-Thought視覚言語モデル
モデル公開のリンク：Stockmark-2-VL-100B-beta
