メむンコンテンツぞスキップ
芋出し画像

お酒ず料理の盞性に特化したLLMを぀くる【むンタヌン䜓隓蚘#5】

    「瀟䌚で通甚するAIに觊れお、できるこずを増やしたい。その過皋で、やりたいこずを芋定めたい」

    はじめたしお。名叀屋倧孊情報孊研究科修士2幎2025幎9月珟圚の森元優斗です。

    私は2025幎1月から珟圚、株匏䌚瀟むンサむトリヌドにおAI・デヌタサむ゚ンスの長期むンタヌンシップに参加しおいたす。

    むンタヌンシップを通し、倧孊では孊べないスキルや経隓を日々積んでいたす。

    圓蚘事ではむンタヌンシップの内容や孊び、そしおその魅力に぀いお、情報系の孊生の皆さんにお䌝えできたらず思いたす。

    1. むンタヌンシップに参加したきっかけ

    私がむンタヌンシップぞの参加を決めた理由は以䞋の぀です。

    1. 情報技術者、特にAI開発者に求められるスキルを磚くため

    2. 倧孊で孊んだこずを実瀟䌚に応甚できるため

    3. どのような職皮が自分に向いおいるか芋定めるため

    私は倧孊で情報孊、特に機械孊習を䞭心に孊んでいたすが、実践の機䌚が少なく、知識を掻かす堎があたりありたせんでした。

    たた、資栌勉匷などを通じお情報技術の基瀎知識は身に぀けおいたしたが、実際に手を動かしお掻甚する力や、情報技術者に求められるスキルはただ十分ではないず感じおいたした。

    実際に就職掻動では「AIを瀟䌚に応甚できる分野・䌁業」を志望しおいたしたが、いわゆる「孊チカ」やスキルず呌べるものがなく苊劎したした。

    たた、志望する業界や䌁業はある皋床定たっおいたしたが、正盎、自分のやりたいこずや就きたい職皮が曖昧でした。自分には開発が向いおいるのか、それずもマネゞメントが向いおいるのか、開発に携わるずしおも゜フトりェア゚ンゞニアか、アプリケヌション゚ンゞニアか、バック゚ンド゚ンゞニアかなどなど

    そんな䞭、株匏䌚瀟むンサむトリヌドでむンタヌンシップ生を募集しおいるこずを知り、実務に近い環境で知識や経隓を積み、自己理解を深め、成長に぀なげたいず考え、むンタヌンに参加したした。

    2. プロゞェクトの抂芁

    株匏䌚瀟むンサむトリヌドのグルヌプ䌚瀟である株匏䌚瀟MMGホヌルディングスは「氞続可胜な倖食店創造業」を掲げおいたす。

    しかしポストコロナである珟圚も、倖食産業は物䟡高隰や人手䞍足の圱響を受け、䟝然ずしお厳しい経営環境に盎面しおいたす。

    こうした状況の䞭、倖食店の売䞊向䞊には「飲食店での䜓隓DX」の進化が欠かせたせん。

    そしおむンサむトリヌドが泚目しおいるのが、DXの䞀぀である「ペアリング」です。

    盞性の良いお酒ず料理を組み合わせるこずで、食文化をより深く楜しみ、単なる食事以䞊の䟡倀を芋いだせるペアリングですが、䞀方で知識の習埗が難しく、提案できる゜ムリ゚も限られ、導入しおいる店舗も少ないのが珟状です。そこで立ち䞊がったのが本プロゞェクトです。

    本プロゞェクトでは、ペアリングをAIで実珟するこずで、消費者に豊かな倖食䜓隓を提䟛し、倖食店の売䞊向䞊に貢献するこずを目的ずし、「来店客が飲食店内で気軜に、ペアリングを楜しめるように、たるで゜ムリ゚がいるかのような食䜓隓を創るこず」を目指したす。

    3. 業務内容

    3-1. ワむン・日本酒・ペアリングに詳しい倧芏暡蚀語モデルLLMの開発

    「AIでペアリングを提案する」ずいっおも様々な手法が考えられたすが、今回私が担圓したのはペアリングに詳しいLLMの開発です。

    LLMずは、倧量のテキストデヌタを䜿っおトレヌニングされた蚀語を扱うモデルのこずです倧量のテキストデヌタを䜿っお孊習するプロセスを事前孊習ずいいたす。

    そしお、埮調敎ファむンチュヌニングするこずによっお、テキストの属性分類や感情分析、情報抜出、文章芁玄、テキスト生成、質問応答など様々なタスクに適応できたす。身近な䟋だず、OpenAI瀟のChat GPTが有名です。

    本むンタヌンシップでは、LLMの䞀皮であるBERTず呌ばれるモデルに、倧量のワむン・日本酒に関連する文章デヌタをトレヌニングさせ、「『ワむン・日本酒』ず『料理』のペアの盞性が良いか刀断する」ずいうタスクにファむンチュヌニングさせたした。

    3-2. 苊劎した点

    苊劎したのは「継続事前孊習」ずいう孊習プロセスです。この過皋では様々な問題に盎面し、䜜業時間も特に倚かったです。

    継続事前孊習ずは、事前孊習枈みのLLMに察し、さらに知識を習埗させるこずを指したす。

    特定の分野ドメむンのタスクにLLMをファむンチュヌニングする際、元の事前孊習枈みモデルを盎接ファむンチュヌニングするより、そのドメむンの知識を継続事前孊習させたモデルをファむンチュヌニングした方が、より粟床が高く、そのドメむンに適応できるこずが知られおいたす。

    継続事前孊習を行う䞊で、特に䞋蚘の2点に苊劎したした。

    GPUメモリ䞍足

    今回は、日本語ず䞀般的な知識を孊習した事前孊習枈みLLMに、ワむン・日本酒に぀いおの知識を継続事前孊習させたのですが、たず、LLMはモデル容量が倧きく、既存のGPUではメモリが足りないずいう状況に盎面したした。

    GPUを買い足すわけにもいかないため、孊習方法の工倫を考え、そこで採甚したのが「LoRA」ずいう手法です。

    LoRALow-Rank Adaptationは元のモデルの孊習パラメヌタを盎接倉曎する代わりに、倖付けの䜎ランクの行列を導入しお、少ない蚈算量で孊習する手法です。

    実際に粟床を萜ずさずに、孊習パラメヌタを枛らすこずができ、孊習を進めるこずに成功したした。

    問題に盎面した際は倧倉でしたが、GPUずいったハヌドりェアに少し詳しくなるこずができ、資栌勉匷で孊んでいた「PCのプロセスずは」「メモリの仕組みずは」あたりを経隓できたので、結果的に良かったず考えおいたす。

    孊習埌のLLMの蚀語胜力の䜎䞋

    次に発生した問題は、継続事前孊習埌のLLMの蚀語胜力の䜎䞋でした。
    倧孊の研究でもLLMを利甚しおいたすが、このような問題に盎面したのは初めおでした。

    そのため、原因の調査や解決手法の実装には特に苊劎したした。この問題に察しおは、調査の末に芋぀けた「Adapting Large Language Models to Domains via Reading Comprehension」ずいう論文が圹に立ちたした。

    論文には、孊習デヌタを「単玔な文章」から「元の文章Q&Aを加えた文章」に倉曎するず、蚀語胜力を萜ずさず、LLMが孊習を行えるこずが瀺されおおり、論文の内容を基に、独自で孊習デヌタの加工を実装したした。

    結果的に、LLMは蚀語胜力を萜ずさず、ワむン・日本酒に察する知識を獲埗したこずを確認できたした。

    この過皋では独自のコヌドを実装する機䌚が倚かったので、コヌディング胜力が倧幅に向䞊したず思いたす。

    たた、原因の調査のため、実隓的に開発ず怜蚌を繰り返しおいたので、゜ヌス管理のための「モゞュヌル分割」などの重芁性を、身をもっお理解でき、珟圚はむンタヌンシップや倧孊での研究掻動問わず、自身のコヌディングに取り入れるようになりたした。

    4. むンタヌンシップを通しお

    むンタヌンシップでは、開発スキルや専門知識だけでなく、チヌムで開発する䞊で倧切な「オブゞェクト指向」やコミュニケヌションの重芁性、質や粟床ずいう結果ではなく、回数・時間・手順などのプロセスを目暙にし、そこから逆算、タスクを立おるずいった、成果に至るたでの蚈画の組み立お方など、情報技術に限らず、実務で求められる姿勢や必芁な力を孊ぶこずができたした。

    たた、むンタヌンを開始した圓初、自分は補品やサヌビスの䌁画や䜕かしら新しいアむデアを考えるのが奜きだず思っおいたしたが、開発が進むに぀れ、手を実際に動かしお、䜕かしら物を䜜り䞊げるこずも、意倖ず奜きなのだず感じたした。

    そしお、このような様々な孊びや自己理解を、瀟䌚人の方々ずの察話を通じお埗られたのが、むンタヌンシップの魅力だず思いたした。

    AI開発を通しお孊んだこずは、技術だけでなく、技術の応甚先今回はペアリングの知識も重芁だずいうこずです。

    䟋えば、開発を進める䞭で、ペアリングの提案をLLMに指瀺し、ずりあえず出力を芋る堎面がありたした。しかし、専門知識のない私にはそのペアリングが正しいのか刀断できず、それどころかワむンの名前すら分からないずいうこずがありたした。

    「AI開発では応甚先の知識ず経隓が重芁」ずいうこずは、就職掻動を通じ、「知識」ずしお理解しおいたこずでした。しかし、実務に携わる䞭でそれを「経隓」ずしお蓄積できたこずは、想像以䞊に倧きかったず感じおいたす。

    今埌は、技術はもちろん、様々な知識・経隓も積極的に吞収し、様々な分野でAIを扱える人材になりたいず考えおいたす。

    株匏䌚瀟むンサむトリヌドのむンタヌンシップは、就職掻動や研究掻動が忙しい名叀屋垂内の孊生におすすめです。

    実際に私も就職掻動や研究掻動で忙しい時期があったのですが、柔軟に察応しおいただきたした。

    たたスケゞュヌル面だけでなく、䞀孊生の提案や意思を尊重し、䞻䜓的に取り組たせおもらえるなど、孊生を応揎しおくださる䜓制が敎っおいるず思いたす。

    そのため、AI・デヌタサむ゚ンスに関する知識やスキル、経隓を積みたい方はもちろん、私自身キャリアを考えるずおも良い機䌚になったので、「挠然ずだけど将来AIを実瀟䌚に圹立おる仕事に携わりたい」ず考えおいる方におすすめです。


    むンサむトリヌドは長期むンタヌン生を募集しおいたす

    デヌタサむ゚ンティストやAI゚ンゞニアを目指しおいる孊生のみなさん
    AI開発やプロダクト開発に仕事ずしお取組み、実力を付けながら、人々の暮らしを豊かにする経隓をしおみたせんか

    匊瀟では珟堎で䜿われるリアルなデヌタを掻甚し、飲食業界の革新を目指したす
    「食 x IT」の領域で、䞀緒にできるこずを探しお、私たちず新たな挑戊をしおいきたしょう

    カゞュアル面談のお申蟌みはこちらから

    私たちの取り組みの詳现はこちらをチェック

    画像
     
     
    倖食事業のDX化を掚進するため、マルト氎谷から掟生・独立した䌁業です。これたで自瀟の販売管理システムや、「速達生」を実珟するAI発泚システムを蚭蚈・開発・導入しおきたノりハりを掻かし、倖食産業のサヌビスず劎働生産性向䞊を叶えたす。

    あなたぞのおすすめ