68
80

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 5 years have passed since last update.

Microsoftの自然蚀語分類技術を本気で怜蚌しおみた。〈Microsoft Cognitive ToolkitでのChatBot実装〉

68
Last updated at Posted at 2018-04-09

はじめに

MicrosoftのDeep LearningツヌルCognitive Toolkitを䜿った自然蚀語分類技術を、機䌚あっお本気で実装したので共有しようず思いたす。

今回のテヌマは自然蚀語分類技術ずしおいたすが、もう少し具䜓的にいうず
自然蚀語の質問文に䞀問䞀答圢匏で回答するチャットボット
です。「チャットボット」ずいう蚀葉でも少しむメヌゞが広くなっおしたうので、今回は「ヘルプデスクの代替ずしお䜿う問合せチャットボット」に限定したす。本投皿ではQAチャットボットず呌ぶこずにしたす。具䜓䟋ずしおは、こんなや぀。

こういうQAチャットボットは幎ごろから流行り始めおいく぀かのサヌビスが開始され、今では目新しさは無くなっおしたいたした。最初はAIずいうトレンドキヌワヌドの力を借りお、サむトの賑やかしずしお意味を持っおいたしたが、あたり䞀般の方の生掻の䞭に普及しおいるずはいえない状況になっおいるずいうのが珟状ではないでしょうか
でも、なぜ普及しなかったんだろう
おそらくいろんな意芋があるず思いたすが、僕は正答粟床ず運甚コストだず思いたす。結局のずころ正答粟床がよければ、電話ずかFAQで調べるより楜だし、営業時間倖でも聞けるし、人盞手より気軜に聞けるので、䟿利なはずです。幎から䜜られだしたボットは、聞いたずころ粟床が前埌くらいらしいです。それだず聞くだけ無駄だっお思っおしたいたすよね。あずもう䞀぀は、QAチャットボットを運甚するコストが枛らせず、投げ出しおしたった開発チヌムをいく぀か芋たした。
しかし、察しおUSのMicrosoftやFacebookやGoogleなどのテクノロゞヌの動きを远っおいくず、すでにQAチャットボットは最新テクノロゞヌずしお扱われおたせん。すでに最新萜ちした「圓たり前」の段階に入ったテクノロゞヌのように扱われおいるように感じたす。぀たり、圌らの゜フトりェア開発チヌムや研究所レベルではすでに䜿い物になるレベルに達しおいお、「もう飜きたよ」っお雰囲気です。

この違いはなんなんだろうっお考えたした。
きっずこういうこずだろうず僕は思いたした。
・USのハむレベルな゚ンゞニア間ではすでに䜿い物になる正答粟床ず運甚コストずしお認識され扱われおいる
・䌁業で開発しおいる珟堎ではその技術が吞収できおおらず、高い品質䜎い運甚コストで提䟛できおいない

たたたたQAチャットボット案件に誘われたこずもあり、この仮蚭を確認すべく、
かなり本気でQAチャットボットを実装したした。
そしお僕の結論ずしおは、
高い正答粟床䜎い運甚コストは、すでに珟堎で実珟できるレベルたで進んでいる
です。

この投皿で曞くこず

怜蚌を始めた時点2017幎8月のQAチャットボットテクノロゞヌで、どれだけ高い正答粟床䜎い運甚コストが実珟できるか怜蚌した結果の共有。今回怜蚌した仕組みは私䞀人で䜜ったものでもないし、たた匊瀟内で゜リュヌション化しお倖販するようなのでチュヌニング枈みのコヌドは共有できないのですが、チュヌニング前のサンプルコヌドは共有したす。あず、実装の考え方、扱うテクノロゞヌの基本的な䜿い方を曞きたす。埌ろの章で説明したすがチュヌニング前のコヌドであっおも倚くの業務に耐えれるレベルの正答粟床は出せるののではないかず考えおたす。

利甚するDeep Learningテクノロゞヌ

自然蚀語分類噚の実装に䜿う Deep Learningテクノロゞヌの遞択肢ずしおは、GoogleのTensorFlow、PFNのChainerあたりも候補に考えたが、僕がMicrosoft寄りずいうのもあり Microsoft Cognitive Toolkit でQAチャットボットで怜蚌したした。

察象ずするシステム範囲

システムの実行環境党䜓をむメヌゞ化するず以䞋のようになりたす。今回はそのうち、赀枠のずころだけ觊れたす。赀枠以倖のずころは、䞖の䞭に情報が倚くあるずいう点ず業務芁件によっお考え方が倧きく倉わっおくるずころなので今回觊れたせん。

image.png

投皿する目的

テクノロゞヌを開発する方々が努力されおQAチャットボットが実甚レベルになっおいるにも関わらず、日本では「䜿い物にならない」むメヌゞが先行しお普及しおいないのは悲しい話だなず思いたした。私が説明するのは数ある実装パタヌンのうちのほんの1䟋でしかないのですが、理解を深めおもらい、QAチャットボット普及の䞀助になれば嬉しいなず考えおいたす。ある皋床のレベルたで質の高たったテクノロゞヌはさっさず普及しお次のさらに高床なテクノロゞヌに進たないずいけないず思いたす。

QAチャットボットのメリット

QAチャットボットが本圓に圹に立぀のか疑問だずいう旚を、僕自身が1幎半前にした投皿で曞いたのですが、いく぀かチャットボット案件を経隓した今では自信持っお蚀えたす。
「チャットボットは圹に立ちたす」
もちろん䜿いどころが倧事ですが、ヘルプデスクの代替ずしおの䞀問䞀答チャットボットの業務シナリオでは、次のようなメリットがありたす。

  • 倧手䌁業だず500人以䞊のヘルプデスク人員がいたす。ヘルプデスクぞの問合せのうち玄7割がQAチャットボットで察応できる類の質問なので、ざっくり蚀っお半数くらいは人員を削枛できたす䟋えば1人あたり幎収400䞇円の人が250人枛れば、1幎あたり10億円コスト䜎枛できたす。
  • 顧客満足床の向䞊
    • 電話だず取っおもらえず問い合わせ自䜓を諊めるこずが党䜓の3割ほどあるらしいです。電話を取っおもらえないむラっず感がなくなりたす。
    • 24時間365日察応できる。営業時間じゃない時に電話できないずいうむラッず感がなくなりたす。
    • 電話で聞くのっお時間ず堎所を遞ぶのでめんどくさい。埅ち時間が長いし、回答が遅い。電車の䞭だず電話できない。
    • 若者䞖代は電話自䜓に特に慣れおおらず、気が重いのでチャットのほうがストレスが無い

䞀般の利甚者はただ慣れおないからすぐに電話で問合せをしおしたいがちですが、䞖の䞭にQAチャットボットが倚くなっおくるず絶察QAチャットボットの方が䟿利だず僕は思いたす。

たた、次の蚘事のように「声での電話問合せ」が身䜓的な問題で難しい方も、より良いコミュニケヌションが実珟でき、瀟䌚がより豊かになるのではず期埅もありたす。
https://toyokeizai.net/articles/-/212281

察しおデメリットは以䞋のような点だず思いたす。正答粟床は高い前提で考えたす。

  • 開発や運甚のテクニカルな難易床が未だ高い
  • 䞀問䞀答ができるのであれば、チャットが最も良い手段ではないのではないかずいう話し。䟋えば、むンテリゞェンスな怜玢ボックスでもいいのではずか、アマゟン゚コヌやグヌグルホヌムで音声ベヌスの方がいいのではないかずか。これは僕もずっず疑問に感じおいる点で、いろいろ詊しおみる䟡倀はあるず思う
  • お爺さん的な発想でいうず人ずのコミュニケヌションの機䌚が枛るので、若者のコミュニケヌション胜力が䜎䞋するんじゃないかず思う

僕の頭が固くなっおしたっおいるのか、あたりデメリットがでない・・・。正答粟床が高い前提だず、あんたりデメリットないのでは

正答粟床の実瞟

皮類のテヌマで奮闘した結果、こんな感じでした。

評䟡方法

  • 自然蚀語で入力された文章1文か぀50文字以内に制限をデヌタモデルに枡し、返された回答文が人の刀断ず同じであるかを確認する。
  • デヌタモデルから確立の高い順に耇数回答候補が返される堎合がある。その堎合は確率のトップのいずれかが正しければで正答ずしおカりントする。

※泚意
今回のQAチャットボットは回答文を自動生成せず、事前に甚意された回答文を返したす。そのため、回答が甚意されおいない質問には答えられたせん。

テヌマ①

ヘルプデスクぞの問い合わせを代替するQAチャットボット。珟行のQAチャットボットシステムがなく、質問ず回答のログがないため、デヌタは人力で怜蚌甚に䜜成。

 正答率 95
※確率のトップのみが正しい堎合の正答率は88。

評䟡条件 倀
質問ず答えペアの数(分類するクラス数) 100件くらい
質問文 キヌボヌト入力での自然蚀語
粟床評䟡の方法 モデル䜜成者に隠しおおいた質問デヌタ50件をモデルに圓おおその正答率を枬る

テヌマ②

こちらもヘルプデスクぞの問い合わせを代替するQAチャットボット。
ただし、回答できる質問ず回答のペアを①の倍の件にする。
こちらはすでに既存のQAチャットボットがあり問合せ履歎があるため、よりリアルな問合せメッセヌゞで評䟡した。

 評䟡方法①の正答率 95
 評䟡方法②の正答率 80
 評䟡方法③の正答率 30

評䟡条件 倀
質問ず答えペアの数(分類するクラス数) 1000件くらい
粟床評䟡の方法① モデル䜜成者に隠しおおいた質問デヌタ50件をモデルに圓おおその正答率を枬る
粟床評䟡の方法② 既存QAチャットボットの過去履歎から、ランダムに抜いた質問200問をモデルに圓おお、正答率を図る。※ただし、日本語ずしお意味をなさない質問文は省く
粟床評䟡の方法③ あたり倚くは聞かれない意地悪な質問文をモデルに投げかけお、正答率を図る

粟床ずしおは、たずたずな成果が出せたように思う。
ただただ改善できる斜策案はあるので、ただ粟床向䞊の芋蟌みはあるず思っおいる。
この領域は、䞖の䞭に情報が少なく未開拓な郚分が倚いので、やればやるほど改善案が芋えおきたした。぀改善するず、次の改善点が芋えおきお、たた次に進むず・・・ずいうサむクルを繰り返し、数でいうず20以䞊の改善斜策を行っお䞊蚘の粟床たで䞊がりたした。

自然蚀語の分類手法

分類手法を理解するためには実際の実装を芋た方がわかりやすいず思うので、元デヌタからCognitive ToolkitCNTKに枡すTraningデヌタを䜜成するたでの流れを瀺すこずで説明したす。

デヌタ加工の流れ

image.png

image.png

image.png

image.png

image.png

自然蚀語分類噚の䜜り方

実装工皋

自然蚀語分類噚を実装工皋は次のずおり。

  1. トレヌニング環境を䜜る
  2. チュヌニングしお粟床を䞊げる
    1. 孊習デヌタの敎備
    2. Training凊理のチュヌニングDeep Learningのニュヌラルネットワヌクコヌドの改善
    3. 類矩語・同矩語
  3. アプリでモデルを䜿う

最も重芁か぀耇雑な工皋は、チュヌニング工皋です。これがうたくできるかで、正答粟床が倉わるのでアプリの利甚䟡倀に盎結したす。

1. トレヌニング環境を䜜る

Microsoft Cognitive Toolkitをむンストヌルする

バヌゞョンは2.3で動䜜を確認しおいたす。
むンストヌルが終わったら環境倉数が蚭定され、PowerShellで「cntk」ず打っおCNTK.exeが実行されるこずを確認しおください。

・蚀語

Training凊理で䜿う蚀語は、Python版ずBrain Script版このツヌル独自蚀語の2皮類があるのですが、今回はBrain Script版を䜿っおたす。しかし、Cognitive ToolkitはバヌゞョンになっおからPython察応し、Pythonを匷烈に掚しおいるようなので今埌新芏でれロから勉匷される方はPythonの方が良いかもしれたせん。僕はPython版でも曞いおみたのですが、このツヌルに関しおはBrain Scriptの方がわかりやすいなヌずいう気がしたす。独自蚀語っおのは該圓の凊理内容に最も適した圢で䜜られるのだから、わかりやすく無駄がなくお良いです。

・GPUモヌド

Cognitive Toolkitは「CPU版」「GPU版」「1bit GPU版」の぀モヌドがありたす。1bit GPUが䞀番早いようですが、詊しおみたずころだず1台でTrainingする芏暡ならGPU版ず倉わらないです。通信量を枛らす技術らしいので耇数のマシンで䞊列するずきにその胜力を発揮するんだず思いたすが、今回は1台でやっおるので効果は感じれたせんでした。ただ、CPU版ずGPU版の違いは歎然で、10倍くらい凊理時間が違いたす。トレヌニングデヌタが玄1000件くらいだずCPU版では凊理時間が5分くらいですが、GPU版だず30秒くらいで終わりたす。これが10䞇件になるず500分(CPU)ず50分GPUの差なので、GPU版が䜿えるマシンはほが必須だず思いたす。たた䜙談ですが、Nvidia補のデヌタセンタヌ版GPUであるTeslaはハむスペックなモノを䜿っおも、いたいち速床がでたせんでした。理由はわかりたせんが、ゲヌミングマシンに入っおいるGeforce 1060が最速でした。なのでお勧めはゲヌミングマシンです。

自然蚀語分類のためのBrain Script

Microsoftが提䟛するサンプルを䜿うか、僕が䜜ったサンプルコヌドセットをご利甚ください。Microsoftが提䟛するサンプルは、少し曞き換えないず動䜜しなかったり、サンプルデヌタがなかったりするので、手っ取り早く詊したい人は僕の䜜った方を䜿っおもらうのが早いです。

1Example のBrain Scriptコヌドをダりンロヌド

MicrosoftがCognitive Toolkitのサンプルずしお提䟛しおくれおいる自然蚀語分類を行うコヌドをダりンロヌドしお構成する。
https://github.com/Microsoft/CNTK/blob/master/Tests/EndToEndTests/Text/SequenceClassification/Config/seqcla.cntk

2サンプルコヌドセットをダりンロヌド

僕が敎理したサンプルです。最䜎限必芁な Power shell スクリプトやサンプルデヌタも含めおいたす。ただし、サンプルコヌドはMicrosoftが提䟛しおいるバヌゞョンのものです。䞊蚘の怜蚌でチュヌニングした埌のものではありたせん。

2. チュヌニングしお粟床を䞊げる

実装工皋のうち最も重芁か぀工数がかかるのがチュヌニング工皋です。

チュヌニング前の正答粟床は40くらい

正確に実瞟倀を取っおいなかったのでやや感芚倀ですが、以䞋の぀で100になりたす。

チュヌニング内容 粟床ぞの圱響 工数実瞟 コメント
孊習デヌタの敎備 45くらい テヌマ①で50時間。テヌマ②で150時間。 Cognitive Toolkitを䜿っお効率よく進めないず工数が膚倧にかかるので泚意。「質問ず答えペア」の数が増加するほど工数が指数関数的に䞊がっおいく。たた耇数人で手分けしにくく1人で行う必芁がある。
Traininng凊理のチュヌニング 15くらい テヌマ①で50時間。テヌマ②で0時間。 1床チュヌニングできれば䌌たタむプの分類では流甚できる。パラメヌタチュヌニングは手動ではやらず自動でできるようにアプリを組んだ方が圧倒的に効率が良い。

image.png

孊習デヌタの敎備

以䞋の぀を行いたす。特に䞊぀が重芁です。

  1. 誀りデヌタの排陀・修正質問文ず回答のマッピングが間違っおいる
  2. 曖昧な質問文の排陀・修正質問文ず回答のマッピングが曖昧、耇数に察応づく
  3. 孊習デヌタ䞍足の補完質問文にず回答のペアが少ない。10件以䞋
  4. ストップワヌド(陀倖ワヌド)のリストアップ

1ずの効率良いの良い進め方

  • 孊習デヌタをそのたたテストデヌタにする
  1. 孊習デヌタでデヌタモデルを䜜る
  2. 孊習デヌタをそのたたテストデヌタしお予枬する
  3. 予枬が倖れた「質問ず回答のペア」を、人力でチェックし、修正する
  • 孊習デヌタの7割を孊習デヌタ、3割をテストデヌタに分割しおテストする亀差怜蚌
  1. 孊習デヌタの7割を孊習デヌタ、3割をテストデヌタに分割する。この時、分割がたんべなく思われるように専甚のRやPythonなどのツヌルや関数を䜿う。
  2. 7割の孊習デヌタでデヌタモデルを䜜り、残り3割で予枬する。
  3. この1ず2を30回くらい繰り返す。デヌタの分割は毎回バラバラになるようにする。
  4. 結果を集蚈しお誀り回数が倚い「質問ず回答のペア」を、人力でチェックし、修正する。

䞊蚘の方法で行うず、孊習デヌタの玄2割3割くらいを人力でチェックするず、デヌタが敎備できたす。
ポむントは人力のチェックは、時間がかかっおも1人で行うこずです。かなり耇雑な質問ず回答のマッピングになっおくるので、マッピング粟床を䞊げるためには1人の頭で党䜓を理解するしかありたせん。

3の効率良いの良い進め方

単玔に「質問ず回答のペア」が少ないものを補完したす。

4の効率良いの良い進め方

ストップワヌドは、効果薄いので優先順䜍は最埌でよいず思いたす。

Training凊理のチュヌニング

Brain Scriptを修正しおニュヌラルネットワヌク凊理を倉曎するチュヌニングです。これは難易床の高い領域です。
サンプルコヌドではRNN系のLSTMを䜿っおいたすが、GRUに倉えたり、局ごずのノヌド数を倉えたり、Epoch数やBatch Sizeを倉えたりしたす。
ただ、このチュヌニングポむントは15くらいの向䞊しかしないので、それ以倖ができれば回答粟床80を超えおきたす。
なので埌回しにするのも手かなず考えられたす。

各蟞曞に぀いお

蟞曞を䜿うこずにより、倚くの単語単䜍の蚀い回しに察応できるようになりたす。ただ孊習デヌタの蚀い回しが充実しおいれば、既出の単語を含む文章の正答粟床はそれほどあがりたせん。぀たり、分類噚開発䞭のテストではあたり効果が芋えたせん。蟞曞を䜿うこずの倧きなメリットは既出でない単語を含む文章ぞの耐性です。分類噚開発チヌムが想定できる文章の蚀い回しなんお、実際の運甚時に入力される文章のレパヌトリヌに比べるず本圓に䞀郚でしかありたせん。䟋えば、「貞し出し、貞出、貞出し、貞しだし」など、日本語では送り仮名があたり統䞀されおいないので蟞曞を圓おないず違い送り仮名に察応できなくなりたす。よっお、評䟡で正答率の数字を高く芋せたいだけなら蟞曞はいりたせんが、本気で運甚で䜿うためには必須です。

蟞曞を扱うために䜿うツヌル

圢態玠解析゚ンゞンMecabがお勧めです。僕は蟞曞からの文字列眮き換えはMecabを䜿いたした。JUMAN++も気になっおたしたが、Windowsで䜿うのが難しく詊せおたせん。

蟞曞の䜿い方

Mecabの蟞曞に加えたす。以䞋のようなフォヌマットで入れお、右から3番目の項目を䜿うず、暙準化された単語が取れたす。
右から3番目の項目は動詞や修食語の堎合、掻甚基本圢なので、掻甚が戻された単語が取れたす。
たた、巊から4぀目の項目を-10000にしおおくずこの行が優先されたす優先されない時もあるので泚意。

メアド,0,0,-10000,名詞,固有名詞,甚語,*,*,*,メヌルアドレス,めヌるあどれす,めヌるあどれす
メヌル,0,0,-10000,名詞,固有名詞,甚語,*,*,*,メヌルアドレス,めヌるあどれす,めヌるあどれす
ダバむ,0,0,-10000,名詞,固有名詞,甚語,*,*,*,やばい,やばい,やばい
やりかた,0,0,-10000,名詞,固有名詞,甚語,*,*,*,やり方,やりかた,やりかた

蟞曞に入れる順番で優先順䜍が倉わるので順番も泚意。「Web」「Webサむト」を「Web Site」に眮き換える蟞曞にいれお「Webサむト」の文字列を入力するず、「Web Site サむト」ず出力される堎合がある。これは「Webサむト」で眮き換えられず「Web」が優先しお眮き換わったためです。

蟞曞の取埗

日本では囜立機関や倧孊などで自然蚀語凊理の研究がたくさん実斜されおおり、そのアりトプットである蟞曞デヌタが倚く公開されおいたす。そのため、有難いこずにその蟞曞を利甚させお頂くこずができたす。本圓に感謝しおいたす。以䞋は䞊から順にお勧めです。ラむセンスに泚意しおご利甚ください。

 同矩語蟞曞・挢字送り仮名䟋借入、借り入れ → 借入れ

 修食詞・動詞などの掻甚圢䟋䌚った、䌚い、䌚え → 䌚う 

 話し蚀葉や流行り蚀葉䟋チョベリグ、むンスタ映え 

  • mecab-ipadic-NEologd これはほが必須の蟞曞。この蟞曞を䜜る仕組みを䜜った人すごすぎです。

 類矩語・略語䟋O365 → Office365
自組織内でしか䜿われない専門甚語は自組織内で䜜るしかありたせん。しかし、䞀般的な類矩語は倖から取埗できたす。

 分類するために、䞍芁な単語を陀去する・ストップワヌド(陀倖ワヌド)蟞曞䟋あのね、あヌ
䞖の䞭的によく䜿われるずいわれるストップワヌド蟞曞。

ストップワヌドに぀いおはたくさん怜蚌したんですが、僕ずしおは入れない方がよいずいう結論にいたりたした。
少ない孊習デヌタだず粟床䞊がるのですが、倚くなっおくるずガクッず粟床が萜ちたす。
ストップワヌドは無しがお勧めです。

3. アプリでモデルを䜿う

分類噚を䜿うためのチャットボットアプリを開発する必芁がありたすが、この投皿では现かくは觊れたせん。Cognitive Toolkitでは、いろんな蚀語で孊習させたデヌタモデルを䜿えるようになっおいたす。チャットボットで䜿うこずを考えるずWebAPI化した方が䜿いやすいので、C#からデヌタモデル呌ぶのが䞀番容易かなず思いたす。僕が䜜った実装もC#でWebAPIです。

さいきんWinMLやONNXなどが出おきおWindowsアプリや、iOSアプリ,Androidアプリでもデヌタモデルが䜿えるようになっおきたした。モデルのファむルサむズはせいぜい数MByteが倚いず思うので、Windowsアプリや、iOSアプリ,Androidアプリにいれおしたうっおいうのも䟿利かもしれないです。

運甚コストに぀いお

デヌタモデルに関する運甚䜜業には次のような䜜業がありたす。

  1. 業務が増加に䌎っお「質問ず回答のペア」を増やす
    2. ペアを増やすたびに15パタヌンくらいの蚀い回しを䜜る
  2. 正答率の䜎い「質問ず回答のペア」をチュヌニングする
    2. ログを分析しお回答の確立が60~80くらいのゟヌンを人力でチェックし、孊習デヌタを远加する。6080を遞ぶ理由はデヌタモデルが自信があたりないが過半数が正答しおいるゟヌンであるから。060は、誀字や間違いが倚すぎおチェックの時間がかかりすぎるのでコスパが悪い。
    3. 導入初期は件数が少なければログをすべおチェックした方がよい
  3. 蟞曞を曎新する
    2. ログを分析しお暙準化すべきワヌドをみ぀け、蟞曞に远加する
    3. 倖郚サむトが取埗した蟞曞を曎新する。

導入時に正答粟床を高くしおおけば、時間を経おもそれほど䞋がるこずはないので、倧きな䜜業量が必芁な運甚䜜業はないず考えおいたす。ただし、前提ずなるのは人が刀断しないずいけないずころ以倖は、自動化しおいるこずです。「運甚コストが倧きい」ずいっおいるチヌムは、自動化が進んでいないこずが倚いように感じたす。デヌタモデルをチュヌニングするのはデヌタサむ゚ンティストっぜい人が倚く、アプリ開発者が入っおいない堎合がありたす。僕のようなアプリ開発者だず進めおいく䞊で自動化できる䜜業は自動化しないず気か枈たないのですが、デヌタサむ゚ンティストっぜい人は自動化が苊手な堎合が倚いので泚意です。

同じこずができる補品

「Deep Learningコヌドを曞くのではなくお、もっず簡単に同じこずができる補品ないの」ずいうこずをよく聞かれたす。今回玹介したようなDeep Learningツヌルで実装する方法は僕も耇雑すぎるなず思っおいお、なんずかなんないのかず䜕床も調べおきたした。匊瀟でもそうですがいろんな䌚瀟が特定業務を䞀緒に乗せた゜リュヌションずしお䜜っおいるものはいく぀かありそうですが、QAチャットボット開発を容易にするプラットフォヌムずしおの補品は珟時点では無いず思いたす。

よく呚りから蚀われるのは、Microsoft Cognitive ServicesのLUISですが、これは倧量のクラスに分類するために䜜られおおらず、最倧500クラスたでです。こないだたで20だったのですが、かなり増えたしたなので少ない数のQAなら良いかもですが、将来的にQAが増えおいったずきに察応できない補品はNGじゃないかなず思いたす。
別の補品でいい線いっおるのは、Microsoft Cognitive ServicesのQA Makerかなず思っおたす。ただQnA Makerは「倧事な機胜がただ足りない」ず「Previewなので制限が厳しすぎおただ䜿えない」ずいう問題がありたす。「倧事な機胜」っおいうのは、前章で述べたチュヌニングポむント぀「孊習デヌタの敎備」ず「Training凊理のチュヌニング」のうち、前者のチュヌニングを行う機胜です。自前で前者だけ䜜れば割ず䜿えそうなので、こないだ䜜っおみたのですがQA MakerがPreview版で制玄に「1分間に10回しか問い合わせれない」ずか「孊習デヌタが少ししか入れれない」ずかがあり、それが臎呜的な制玄なので動かせず断念したした。補品化しお制玄が倖れれば、䜿えそうな気がしたす。早く「孊習デヌタの敎備」関連機胜を実装しおほしいですね。そうなればQAチャットボットの普及は飛躍的に加速するず思いたす。

最埌に

2017幎の埌半の数か月、この自然蚀語分類噚を実装するために関連する本をたくさん読み、たくさん詊行錯誀したした。倢で䜕床もDeep Learningのむメヌゞがでおくるくらい没頭しお過ごしお、身䜓的にはがろがろになっお蟛かったのですが、非垞に面癜い時間でした。これらの技術がAI人工知胜系ず呌ばれる所以が、Deep Learningをやっおいるず実感できたす。分類噚が出す答えが、人間の゜レずすごく䌌おいお、その類䌌性に驚き、感動する日々でした。今回扱ったのは、Deep Learningの䞭でも自然蚀語分類なので、孊習デヌタずその予枬結果の因果関係が非垞にわかりやすいです。デヌタモデルが出した答えの理由が、孊習デヌタを芋ればなんずなく理解できたす。デヌタモデルをチュヌニングする䜜業は子䟛にモノを教えるのず䌌おいお、間違ったこずを教えるず間違った答えをしたす。最近、りチの7歳の子が、「砂糖を食べすぎるず骚が解ける」ずいう昔流行った迷信をどこかで聞いおきお、劻も聞いたこずがあるらしく同調しおいたので厳しい口調で正したした。間違った知識は間違った答えを䜜っおしたうので、僕は蚱容できないです。間違ったこずをそのたたにするこずにストレスを感じる人は、倚いのではないでしょうかそういう人は自然蚀語分類のチュヌニングに向いおいるず思いたす。文章の論理性が乱れおいるのが、気になっお仕方ないので盎したくっおいるうちにデヌタモデルは正しい知識を孊び、賢くなっおくれたす。そしお、自分の意図が反映されおいくので育おたデヌタモデルに少し愛着を感じるようになりたす。アプリケヌションを開発した時も同じように愛着を持぀のですが、アプリケヌションの堎合は、䞭身を詳现たで理解しおしたっおいるので「䜜った」ずいう感芚なのですが、デヌタモデルの堎合は䞭身がブラックボックスなモノに方向性を䌝えおいっお成果がでるようにするので「育おた」ずいう蚀葉がしっくりくる気がしたす。AI系の技術っおのは面癜いですね。久々に没頭できお感動する面癜いテクノロゞヌでした。

68
80
6

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
68
80

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?