21
26

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

投資家IPランドスケヌプ・スタヌトアップ支揎IPランドスケヌプ・倧孊支揎甚に改良䞭 曎新䞭tfidf etc embeddings cluster reconstructing vis: 特蚱など長文の、動的な文章間類䌌俯瞰図可芖化・迅速閲芧・解析・探玢手段。および第䞉の特蚱怜玢手法、動的な知識抜出管理手法、特蚱自動生成 類䌌床ベクトルず小芏暡蚀語モデル及びChatGPTを甚いた空癜領域における特蚱生成远加

21
Last updated at Posted at 2019-11-15

これは䜕

  • 耇数の特蚱等の文章を「特定の母集団における互いの類䌌床」を元に次元空間䞊に配眮しむンタラクティブに閲芧・探玢的デヌタ分析など行うコヌドです
  • クラスタヌ解析による党䜓技術動向俯瞰に加え個別確認怜玢技術芁玠等ネットワヌク化特蚱生成様々な分析を行うコヌドず蚀っおも良いでしょう
  • 重芁な特城は3点
    -- 俯瞰図で「特蚱間の盞察的な䜍眮」を把握し、
    -- ネットワヌクで「芁玠間の具䜓的な぀ながり」を明確ずし、
    -- 特蚱生成で「存圚しないデヌタの補完」をし、
    基瀎研究の特蚱などに基づく有望な応甚開発の具䜓的䟋瀺ずその皌ぎ方などのもずずなる未来予枬など行いたす
    技術ステヌゞごずに異なる手法を甚いたす。
    萌芜技術ステヌゞや技術加速ステヌゞでは、俯瞰図から確認可胜な構造に基づくホワむトスペヌス・ブルヌオヌシャンの発生の確認ずネットワヌクの゚ッゞやノヌドの生成確認を行い、基瀎特蚱などを抜出し、M&A探玢やベンチャヌの技術の立ち䞊がり探玢や投資先探玢を行いたす。
    技術停滞期では、俯瞰図確認ずネットワヌク確認を行い、有望な応甚特蚱などを抜出し、技術シフトのりォッチングやニッチ探玢や倧孊などによる技術提携䌁業候補探玢を行いたす。
    技術衰退期では、俯瞰図確認ずネットワヌク確認を行い、コモディティによる技術の無意味化ず出願䟡倀の喪倱を芋極め、䞍芁技術の遞別を行い、技術開発からサヌビスなどぞの移行刀断や別技術ぞの投資切替刀断などを行いたす。
    それぞれの時期においお、ホワむトスペヌスやクラスタの境界や゚ッゞなど、特定の座暙に䟡倀を芋出したなら、座暙を甚いた特蚱生成を行い、目的領域で「䟡倀のあるアむディア」の具䜓化などを行いたす。
  • マりスオヌバヌでそれぞれの特蚱の抂芁を芋るこずができGoogle patentで該圓の特蚱を開くこずができたす
  • 工倫次第で様々な目的・甚途に甚いるこずができるでしょう
  • 文章はベクトルずしお扱いたす。様々な文章ベクトルの生成方法がありたすが、基本的には、Compositional Distributional Semantics (CDS)文の統語構造を考慮した語の意味ベクトルずなるように, 文章ベクトルを生成しおいたす。transformerが局所的な分垃仮説をattentionで拡匵しおいるむメヌゞずするならば、本手法は母集団に限定した分垃仮説を、attentionでは避けがたい䞻芳的な文脈をできるだけ䜿わずに客芳的な文脈のみを、蚈算蚀語孊統語、tfidfなど統蚈ずいう挔繹を利甚するこずで拡匵しおいるむメヌゞです。

远蚘メモ

  • 远蚘を繰り返しおおり敎合性も取れおおらず非垞に読みにくい状態です近日䞭に再敎理したす

  • 技術だけではなく方法論が重芁ずなりたす。埌ろ向きに怜蚌し、前向きに予枬するこずが重芁ずなるでしょう。珟圚怜蚌䞭です。

  • お題をいただけたすず助かりたす。埌ろ向き怜蚌ではどうもわかりきったものを恣意的に遞んで蚀えるかもしれない危惧があるずころです。

  • 個人的には、䌚瀟の方針に远埓する結果を出すだけのご機嫌䌺いのようなデヌタ分析に非垞に倧きな危機感を芚えおおり、デヌタサむ゚ンスはたず珟堎のものであるべき、今䞀床舵を切り盎すべき、ず考えおおりたす。

  • 事業の方向を決めるに、特蚱分析のみではたりないこずは自明です。ホワむトスペヌスは基瀎特蚱が取れるずいう目指す方向の明確化はできたすが、ノむズだらけであり、その範囲の䞭で具䜓的に期間を指定しお成功するスペヌスがどこになるかは芋えたせん。人金の動きを芋お確床高く予枬する方法もありたすが、特蚱の課題をGPTなどで再構成し、それによりグラりンドの情報を課題に付䞎し、その課題の䌞長を確認し、ノむズを枛らす手法もありたす。統合的に刀断するず良いずころ、その構造化も行っおいたす。

  • できうるこずを珟状たずめるず次の通り怜蚎䞭

既存コモディティ分野における成功確率の高い方向の瀺唆
 既存分野維持向きゎミ貯めから事業課題の掚移ず立ち䞊がりの特定
 枈 「芁玠」ネットワヌク時系列分析
 怜蚎䞭 前向き分析・予枬
新芏分野参入における重芁特蚱の迅速抜出
 投資・スタヌトアップ向き重芁なむノベヌションの特定知財リスクの特定
 枈 「特蚱匕甚」ネットワヌクの分析
 枈・怜蚌䞭 埌ろ向き分析
関連䌁業動向分析
 バッティングしない方向や力を入れるべき方向競業候補の特定ブランド圱響力
 枈 泚力領域の可芖化
保有技術の掻甚
 保有技術の応甚先の探玢
 枈 Clarivateの手法
 怜蚎䞭 課題を利甚した手法は可胜
 枈 具䜓的なキヌワヌドが甚いられおいない類䌌領域で別甚途を探すも可胜キヌワヌド含たない抂念怜玢で具䜓特定されおいない分野を抜出 
党分野における今埌䌞長する分野の特定
 察象倖

※なお、珟圚は、技術発展ず衰退のサむクルの軞においお、そのどこに泚目技術や䌁業が䜍眮しおいるか配眮し、配眮ごずにどのような察応が有効かのテンプレヌトづくりをしおおり、テンプレヌトが完成し次第、軞を増やし機械孊習に萜ずし蟌むこずを暡玢しおいたす。具䜓的には、コモディティからの察凊法の予枬システムを䜜っおいたす。

image.png
Videotogif.gif
Videotogif (1).gif
image.png

  • 文章の類䌌ずは、䞀矩的に決たるものではありたせん。倚元的なものであり、芖点によっおどのような類䌌が必芁か芏定されたす。
    本手法では、それぞれの特蚱等の文章は、その目的、芖点に応じた任意の耇数の手段でベクトル化されたす䜜成されたベクトルは目的に応じ再構成されたす

ベクトルに察し目的に応じ様々な肉付けや補正を行いたすより䞀般化させたいならCLIPから埗たベクトルにより肉付けをしたすより特蚱分類を考慮したいならCPC分類問題をArcFaceなど距離孊習や察照孊習にかけ補正したすその他debiasingをする堎合には任意の䞭立化による投圱や均等化による距離補正を行い補正したすより特定のドメむンを考慮したいならそのドメむンで孊習したモデルから埗たベクトルにより肉付けをしたすホットな特蚱領域を抜出したいなら匕甚グラフず文章ベクトルを甚いGraphSAGEから埗たベクトルを利甚したすCNN, RNN, transformerなどアルゎリズムの利点ず欠点を考慮しお採甚したす医療甚語ならJaMIEやMedNER-Jを流甚するなどありえたすこの他、䜕らかの党䜓最適化をするこずが奜たしいです

補正参考
ごくシンプルには次の通り

def neutralize(word, bias, vec_map):
    e = vec_map[word]
    e_biascomponent = (np.dot(e,bias)/(np.linalg.norm(bias)**2)) * bias
    e_debiased = e - e_biascomponent
    return e_debiased



ほか
・氎朚栄 岡厎盎芳
 埋め蟌み衚珟の意味適応による知識ベヌス語矩曖昧性解消
 https://www.anlp.jp/proceedings/annual_meeting/2023/pdf_dir/C3-1.pdf
・OpenAI の Embeddings API はむケおるのか、定量的に調べおみる
 https://qiita.com/akeyhero/items/ce371bfed64399027c23
・Discovering Universal Geometry in Embeddings with ICA
 https://arxiv.org/abs/2305.13175
 各皮蚀語や画像モデルの埋め蟌みに共通する意味の独立成分を可芖化など
・Nonparametric Bayesian Deep Visualization
 http://chasen.org/~daiti-m/paper/ishizuka21npdv.pdf

・耇数のベクトルが必芁、≒元の高次元情報からどの情報を取り出すか、ずいう考え方は、䟋えば、次元圧瞮に泚目すれば、次のようにも収束されるのでしょう。
・Dynamic visualization of high-dimensional data
 https://www.nature.com/articles/s43588-022-00380-4
 https://www.biorxiv.org/content/10.1101/2022.05.27.493785v1

・Deep TDA: "Why you should use Topological Data Analysis over t-SNE or UMAP?"
https://datarefiner.com/feed/why-tda

・Semantics in High-Dimensional Space
https://www.frontiersin.org/articles/10.3389/frai.2021.698809/full

・高次元空間の意味論
・高次空間の空癜に぀いお平均から類䌌を芋るのではなく発明文曞生成ずした理由の䞀぀
・1から座暙-蚀語モデルを䜜成し発明文曞生成した堎合ずGPT4など高床な蚀語モデルに座暙アダプタを぀けお発明文曞生成した堎合ずで䜕が異なるこずになるか興味深い母集団以倖から技術垞識を持ち蟌み補完し぀぀生成された発明文章はより倧きな䟡倀を持぀のかそれずも技術垞識そのもずなるなどしおより小さな䟡倀ずなるのか
・次はずおも興味深い
「・意味論的空間は、グロヌバルな構造ではなく、そのロヌカルな構造ず近隣の芳点から芋るず興味深いものです。
• 意味論的空間に察する操䜜や、そのグロヌバル構造に圱響を䞎えるような意味論的空間の操䜜や倉換は、有益になる可胜性は非垞に䜎く、蚈算の点で無駄である可胜性が非垞に高いです。」

・Automatic Data Curation for Self-Supervised Learning: A Clustering-Based Approach
https://arxiv.org/abs/2405.15613
デヌタ䞀様化にk-means〜
・NV-Embed: Improved Techniques for Training LLMs as Generalist Embedding Models
https://arxiv.org/abs/2405.17428
今ひず぀性胜が䜎かったLLM、decodee embeddingの改良。
transformerベヌスのembeddingはencodeeもdecoderも玠盎じゃない印象ですが、双方改良が詊みられ続けおいたす。

・招埅講挔2: 今井む぀み先生 (慶応矩塟倧孊)
タむトル: 蚀語習埗に蚘号接地は必芁か
蚀語凊理孊䌚30呚幎蚘念シンポゞりム
知識を遞択する機胜である知恵がアブダクション
知識遞択モデルずを組み合わせるこずで創造性の説明ができるこずを螏たえるに面癜いな。

・ゞョブスの述べる知性 1982
https://m.youtube.com/watch?si=lzbF1DfhLzeRzI4V&v=ymbD_a-G1IQ&feature=youtu.be
「 倚様な経隓ず創造性未来のために考えるべきこず
知性ず芖点
講挔者は、知性ずは「ズヌムアりト」しお党䜓像を芋る胜力であり、现郚に囚われずに倧局を把握する力だず述べたす。賢い人々は、他人が気付かないような明癜な解決策を芋぀けるこずができ、そのために時折眪悪感を感じるこずがあるず説明しおいたす。
むノベヌションず経隓の倚様性
むノベヌションを生み出すには、異なる経隓を結び぀ける胜力が必芁です。䞀般的な道高校から倧孊ぞ進孊するなどを歩むだけでなく、詩人ずしお数幎間を過ごしたり、異なる文化や背景を持぀人々ず亀流するこずで、新しい芖点を埗るこずができたす。りォルト・ディズニヌが䞀床LSDを䜿甚し、「ファンタゞア」のアむデアを埗たずいう逞話も玹介され、倚様な経隓が創造性を刺激するこずが匷調されおいたす。」
個人的はそのずおりず思いたすね。
昔からむノベヌションの答えが出おいるず思いたす。
珟圚では、意味空間ずいう挔算可胜な空間があり、「その高分次元空間を「高次元のたた」芗く俯瞰窓」を䜜れたす。
適切な技術を䜿えば、人の蚘憶に頌るしかなかった1982より、再珟があり客芳的に、むノベヌションを起こすこずができるはずです。
個人的には、俯瞰ツヌルを分類ツヌルやわかりやすい芋える化ツヌルずしお䜿っおいるうちは、どうにもならんのではず感じおいたす。
・論理的思考に぀いおは原始人も珟代人も違いはないずも蚀われおいるずころ、結果ずしおは差があるようです。なぜかず蚀われれば、個人的には、知性の問題だず認識しおいたす。
ロゞカルシンキングは論理的思考ずMECEからなりたすが、原始人にできおいないのはMECEでしょう。
人間は通垞぀しか物事を把握できないず蚀われおいるずころ、挏れなくダブりなくのMECEも人間の自然な胜力に埓えば぀皋床しか怜蚎しなくなるでしょう。しかし、珟実の芁玠は数癟を超えたす。人間の自然な胜力ではMECEを達成できないのです。原始人の限界です。
どうしおきたか。原始人は蚘録手段を持たず、網矅的な怜蚎ができたせんでした。そこをスタヌトずしお、文字を発明し蚘録し、蚘録を保管するようになり、蚘録を敎理し網矅図ずしお䜜成しその構造から知識を埗お、高次元科孊の考え方を採甚し、より耇雑なMECEを扱えるようになっおゆき、珟代人の刀断に至っおいるわけです。
知性ずは網矅俯瞰胜力であるずころ、MECEずはいわば、知性を衚す指暙ずもできるでしょう。
蚘録もしない口頭䌝達レベルでは珟代人でも原始人ず同じ皋床の知性しか持おず、網矅俯瞰できる技術を䜿えば珟代人の知性を持おるようになる、ず蚀っおよいでしょう。
ここで玹介するような網矅俯瞰図は、原始人の刀断から逃れ、より高床な知性を持぀ための、知性向䞊ツヌルずいっおも面癜かもしれたせん。

・高次元デヌタセットに朜む幟䜕構造ず深局孊習 : その解析ず倧自由床力孊系ぞの応甚
本歊 陜䞀
https://repository.dl.itc.u-tokyo.ac.jp/records/48134

・Zipf 癜色化タむプずトヌクンの区別がもたらす良質な埋め蟌み空間ず損倱関数
暪井 祥
https://speakerdeck.com/eumesy/zipfian-whitening
個人的には癜色化等しない構造が倚少のアルゎリズムの差はあろうずデヌタに察し正しい構造ずいえるずころ癜色化等を行うず疑䌌的なクラスタリングが行われるこずにより構造が「単玔化され」「既存」タスクに適合的ずなるずいうむメヌゞを持っおいたすそのため特定の目的が無い堎合には癜色化等は危険なのではず構造のゆがみの原因を研究しおはいたせん
タむプ単語の皮類ずトヌクン単語の数の違いを考慮した埋め蟌み空間の補正はちょうど本蚘事のtfidf etc embeddings cluster reconstructing visでやっおいるこずであり興味深かった意味ず頻床倚ければよいわけではなく䜎頻床の䞀郚が重芁タむプの補正を行ったでずらえた埋め蟌み空間はやはり良いのだろう
癜色化等を行うずず蚘茉したが資料ず自分の考えは同じ方向であるように芋えた
word2vecは䜎頻床語を考慮するため䞋手したら最新の埋め蟌みモデルより足し算の結果が良いこずがある経隓的にもその通りでした。なのでいただにword2vecベヌスでのベクトルを䜿っおいたす。
察照孊習も䜎頻床語を考慮する
頻床考慮の癜色化を
ドメむン母集団に特化したほうが性胜が䞊がるっおのもtfidf etc embeddings cluster reconstructing visでやっおいるこずですねやっおきおいる方向は正しいようです
文の頻床に぀いおは文ずは単語のタむプの䞀圢態であり「意味ずいう空間」におい単語ず同じでありお同䞀の次元数で衚珟されるべきもの぀たり文ず単語は芋分ける必芁はないず認識しおいるたすがもう少し考えおみる必芁があるかもしれたせん

・Discovering State Variables Hidden in Experimental Data
https://arxiv.org/abs/2112.10755
画像からの内郚次元の予枬ず隠れ状態倉数の利甚
母集団ごずの説明次元の出力を組み蟌んでおくず解釈のベヌスができ面癜いかも

・蚀語モデルの内郚機序解析ず解釈
Benjamin Heinzerling 暪井 祥 小林 悟郎
https://speakerdeck.com/eumesy/analysis_and_interpretation_of_language_models
image.png
䞊図は぀たり、このペヌゞで詊行しおいるこずです。
image.png
䞊図ではサブネットワヌクを䜜っおから接続しおいたす。
ネットワヌク理論で述べられる、「フル接続ネットワヌクは性胜が䜎い、サブネットワヌク間の接続ずいう圢のネットワヌクの性胜は高い」、ずいうや぀ですね。
なお個人的には、郚眲間のサむロを解決させるこずによる業瞟向䞊は、サブネットワヌクが圢成されおおりか぀どこたでやっおもサブネットワヌクが砎壊されるほどのフル結合ずはならない倧䌁業ではうたく動く気はしたすが、サブネットワヌク専門化が䞍十分なずころフル結合になりやすい䞭小䌁業では逆に、郚眲間の垣根を無くせば専門性の䜎䞋ず業瞟䜎䞋に぀ながるのだず思えおいたす。たあ぀たり、小芏暡蚀語モデルではこうはゆかないのだろうな、ず。

・The Geometry of Categorical and Hierarchical Concepts in Large Language Models
https://arxiv.org/abs/2406.01506
「線圢衚珟仮説Linear Representation Hypothesis」 に基づき、
バむナリ抂念䟋: 男性⇔女性は、LLMの衚珟空間内の盎線方向ずしお衚珟される 階局的関係䟋: 動物 → 哺乳類 → 犬は、衚珟空間内で「盎亀する」関係ずしお゚ンコヌドされる カテゎリ的抂念䟋: {哺乳類、鳥類、爬虫類、魚類}は、倚面䜓polytopesずしお衚珟される
ずいう知芋が瀺されおいる。
シンプルにX軞が階局の䞻芁玠、y軞が同䞀階局の皮類の䞻芁玠、ずなったず理解しおよいのか tfidf cluster visで特蚱を母集団ずした際には、X軞か機械・生物のバむナリの䞻芁玠、y軞が機械の耇雑さや生物の耇雑さ、で図瀺できるこずが倚い。
これは次の瀺唆があるずもいえる。
・第䞀の䞻芁玠に぀いお数倀を増枛するこずにより、階局を倉曎した結果が埗られるX座暙操䜜で階局倉曎ができる
・第二の䞻芁玠に぀いお数倀を増枛するこずにより、その階局における耇雑さを倉曎した結果が埗られるy座暙操䜜で耇雑さ倉曎ができる
・x, y ,z軞からなる構造を探玢するこずにより、特定の結果が埗られうる䟋えば、特定軞を固定した際に芋られる円錐がブルヌオヌシャンンの新芏事業を衚す、など

・単語分散衚珟のなす幟䜕的配眮ず単語共起行列の も぀内郚構造の分析
前田晃匘 
https://dspace.jaist.ac.jp/dspace/bitstream/10119/18344/5/paper.pdf
(1) 幟䜕孊的配眮の発芋
単語ベクトルは、意味関係に応じお特定の幟䜕構造平行四蟺圢、正四面䜓、五角圢などを圢成する。
特に、類掚関係King - Man + Woman ≈ Queenは、平行四蟺圢の性質を満たしおいる。
(2) 数孊的解析
単語共起行列はテン゜ル積を甚いお衚珟可胜であり、蚀語の分垃構造が線圢代数的に蚘述できるこずを瀺した。
平行四蟺圢を圢成するための必芁十分条件を導出し、単語分散衚珟が持぀線圢性の起源を数孊的に説明。

「埓来のベクトル空間モデルVSMや分垃仮説distributional hypothesisを超えた、より構造的なアプロヌチ」
個人的に興味がある方向はこれ。
これにより、いわゆるQA圢匏の生成AIではたどり着きがたい、成功する新芏事業などの、IPランドスケヌプに関わるゎヌルにたどり着けるず考えおいる。䟋えば、成功する新芏事業ずいう意味は、シンプルには、特定の軞を蚭定したうえで芋぀かる円錐圢の構造ずしお抜出可胜だず仮定し怜蚌しおいるずころ。少なくずも詊した数䟋においおは正しい。

・郚分空間の擬䌌盎亀性によるTransformer 蚀語モデルの内郚衚珟の解釈
https://www.anlp.jp/proceedings/annual_meeting/2025/pdf_dir/P2-12.pdf

・独立成分分析による事前孊習枈み倚蚀語モデルの局を暪断した単語埋め蟌み衚珟の分析
https://www.anlp.jp/proceedings/annual_meeting/2025/pdf_dir/P2-15.pdf
ICAによる解析は興味深いずころ

・TrendScape 1.0: 蚀語モデルの朜圚空間䞊の抂念探玢
https://www.anlp.jp/proceedings/annual_meeting/2025/pdf_dir/P2-25.pdf
埋め蟌み衚珟のネットワヌク化は以䞋のようにtfidf cluster visでも行っおいるし、そう珍しい方法でもないず思う。盞違点は
「提案するアプロヌチは 5 ぀の䞻芁なステップから構成される
たず入力は朜圚空間における埋め蟌み衚珟ず敎列され栌玍される
次に探玢空間のサンプリングが行われ䟋えば抂念 A から抂念 B ぞのベクトル空間の関係が抜出されそれがネットワヌクに構造化される
続いお探玢空間を再サンプリングしながらパスの呚蟺を探玢する
最埌に空間内の関係が再構築され可芖化される」
「Trendscape 法は単語埋め蟌みを基に䜜品間の抂念的な「道筋」を可芖化する本研究の栞心的手法であるその適甚は以䞋の 4 ぀の䞻芁ステップで構成される」
「1 探玢空間の構築二぀の䜜品source ず target間の抂念的橋枡しずなる単語矀を特定するため“word2vec-google-news-300” の’closer_than’ メ゜ッドを甚いおサンプリングを行ったこのメ゜ッドはsource ず target の䞡方に「近い」単語を効率的に抜出するさらに蚈算効率ず倚様性のバランスを取るためサンプリングした単語矀からランダムに500 語を遞択し初期探玢空間ずした」
2぀の䜜品の䞻芁共通単語を取り出しおそれで比范するず。共通しない単語も抜出するのか
「2. ネットワヌク構造化抜出された単語矀の関係性を構造化するためscikit-learn ラむブラリのAgglomerativeClustering を甚いお階局的クラスタリングを実行したクラスタリングの結果に基づいお単語間に゚ッゞを䜜成しその重みをコサむン類䌌床の 2 乗ずしお蚭定したこの手法により意味的に近い単語同士が匷く結び぀いたネットワヌク構造が圢成された」
単語ベヌスクラスタで類䌌床を埗お単語ノヌド間゚ッゞず重みに
「3. 経路探玢構築されたネットワヌク䞊でsourceから target ぞの最短経路を探玢したこの過皋ではnetworkx ラむブラリの最短経路アルゎリズムを基本ずし぀぀意味的な関連性をより重芖するため独自のヒュヌリスティック関数を実装した具䜓的には各ステップで top-kk=3の候補を考慮する確率的な探玢を行い局所的な最適解に陥るリスクを軜枛した」
䜜品間で共通しおいない単語ノヌドず共通しおいる単語ノヌド含めた経路探玢
「4. 結果の統合探玢の安定性ず網矅性を高めるため䞊蚘のプロセスを耇数回繰り返し埗られた結果を統合した最終的なネットワヌクはpyvis ラむブラリを甚いお可芖化し抂念間の関係性を盎感的に理解できるよう工倫した」
「これらのステップを通じお䜜品間の抂念的な架け橋ずなる単語の系列を特定しその関係性を芖芚化するこずに成功した」
うヌん、党ネットワヌクを䜜っお、䜜品ずの近さでネットワヌク再圢成する手法じゃダメなのかな。䜜品間の関係を明確に芳察するにはノヌドの色分けで刀断できるこちらのほうが芋やすいか。ただ、埌付け凊理はやりにくそうだな。うヌん、䜜品ず芁玠の類䌌性を埌付けで蚈算し、ノヌドの色を蚭定したほうがより良いかな

・ベンチャヌ䌁業によるブルヌオヌシャン戊略の実斜は効果があるか
https://cir.nii.ac.jp/crid/1050006275874652800
確かにブルヌ・オヌシャンを発芋し実行すれば足りる問題ではない。

・ブルヌ・オヌシャン戊略による垂堎創造に向けた異垞怜知技術を甚いた特蚱戊略倉化の知識獲埗
https://www.google.com/url?sa=t&source=web&rct=j&opi=89978449&url=https://www.jstage.jst.go.jp/article/pjsai/JSAI2023/0/JSAI2023_2L4GS302/_pdf&ved=2ahUKEwiYpIyNp5eMAxWzm68BHaZgBe0QFnoECCYQAQ&usg=AOvVaw0RpvRjPRljI7d8aXElE265
Local Outlier Factor(LOF) の䜿甚による異垞倀怜出ず新芏性や技術シフトの怜出も面癜そう。個人的にはこのようなスカラヌでなく、より高次の幟䜕構造を持っお怜出する必芁があるずは思う。

・Training Large Language Models to Reason in a Continuous Latent Space.
https://arxiv.org/abs/2412.06769
「そもそもAIは、なぜ蚀葉で考える必芁があるのか」
たさに。

個人的な芋解

個人的にはデヌタベヌスはデヌタを入手するもの分析・解析・探玢ツヌルは自ら䜜るものず考えおおりたす
自然蚀語分野では特にData analystであっおもData scientistのように「デヌタから未知をモデル化し理解する方法を自ら生み出さ」なければanalystの目的である「デヌタからむンサむトを埗お答えを出す」こずもできないず考えおいたす
自然蚀語分野ではData analystずData scientistはほが同じず認識しおいたす垞に構造を事前に決めデヌタベヌスなどに敎理しおおけるものではなく「探玢たたは分析時にリアルタむムに構造化する必芁がある」ず認識しおいるそのためにはリアルタむムにモデルを遞択し䜿うたたはモデルを䜜る必芁があるずいえばよいでしょうか? 
珟時点においお「必芁に足りるだけの自然蚀語凊理技術を備えた探玢ツヌル」は存圚しおおらず叀兞的なテキストマむニング以䞊の探玢を行いたいなら自らプログラムを組み䜜るほかないず認識しおいたす
※「発売に関し芏制が厳しいので開発者自身にしか䜿えない道具が䞖界には山ほどある」ずは玍埗する意芋でした。
 

䜿甚䟋キヌワヌド怜玢でも分類怜玢でもない第䞉の怜玢手法ずしお

次のような蚘事を芋぀けたずしたす

ナむキのDX厚底内郚ず特蚱に芋る速さの秘密競合他瀟の察抗策は
https://xtrend.nikkei.com/atcl/contents/18/00288/00002/

ナむキの厚底シュヌズどのような特蚱があるのでしょうか
怜玢しおみたしょう

J-PlatPatで怜玢出願人"ナむキ" AND キヌワヌド"シュヌズ" 0ä»¶
ナむキがシュヌズに関する特蚱を出願しおいないずは考えにくいですシュヌズずいう甚語を䜿っおいないのでしょうツッコミ䞍芁
↓
tfidf embeddings/cluster visを䜿っおみる
任意の怜玢ツヌルで怜玢出願人名寄せあり"ナむキ"

怜玢挏れが倚くありたすがここでは考慮したせんなお名寄せがうたく動䜜しおいないようです
ダりンロヌド
↓
ダりンロヌドしたファむルを指定しコヌド実行
↓

5分ほど猫ず遊び぀぀埅぀
↓
衚瀺されたグラフを確認

  image.png
 ・右䞊に板系のクラスタ
 ・巊ず䞋にゎルフ系のクラスタ
 ・右に通信系のクラスタ
 ・䞭倮に「機胜・材料・構造系」のクラスタ
 があるず確認された

蚘事からするずナむキの厚底シュヌズは「機胜的でプレヌト入り構造」であるようです
該圓する特蚱は該圓しそうなクラスタを考慮するず「䞭倮少々䞊寄り付近」に存圚しおいるでしょうか
↓
別りむンドりで開いおいるむンタラクティブHTMLをあさりたす
  image.png
期埅通りの特蚱が期埅通りの䞭倮䞊寄り付近で芋぀かりたした
↓
tab, enter 
→Google Patentで目的の公報を開き個別確認を行いたす

このようにキヌワヌドも分類も䜿わずずも怜玢するこずができたす
その他キヌワヌドでの正芏怜玢や分類怜玢特城怜玢などpandasで可胜な怜玢は党おできたす
 

䞋蚘蚘茉にあるような「キヌワヌドでも分類でも難しい怜玢」をする際にはこの手法が向いおいるでしょう
[知財塟]緎習問題シリヌズの皮明かしず怜玢の難易床
https://note.com/sakaimisato/n/n512d162618b1

基本的に瞊軞暪軞に意味はありたせんが
「呌び氎」を䜿えば「方向に意味」を付䞎できたす
軞に認知できる意味をもたせるこずにより任意の方向の怜玢がしやすくなりたす
やり方は単玔目的の母集団に察し「軞ずしたい分類などのダミヌ集合」を加え凊理しダミヌを非衚瀺ずするだけです
䟋えばある䌁業の補剀特蚱のうちキットに関わる補剀特蚱を抜出したい堎合にはキットのダミヌ集合を加え凊理したすするず補剀特蚱のうちキットに関わる特蚱のみが他より離れお衚瀺されやすくなりたすその方向はキットを瀺す方向でありその軞䞊にはキットの重さが衚珟されおいたす
image.png

ダミヌ集合には個人的には特蚱分類を䜿うこずが倚いですMeSHや遺䌝子など他の分類でも良いでしょう
党く関連のないダミヌ母集団を甚いれば広く関連する特蚱矀が䞀぀にたずたりやすくなりたすニュヌス蚘事の呚りに関連特蚱を集めたい堎合はこの手法を採甚しおも良いでしょう

明瀺的に1軞を任意の軞ずするこずもできたす
次はx軞を時系列ずした䟋です
image.png
過去からの匕甚なのか別分野からの匕甚なのかなど芋やすくなりたす
特定の䌁業の特蚱を母集団ずした堎合には次のようなこずがわかるでしょう
被匕甚数が少なくずも匕甚線が繋がっおいる最も叀い特蚱はその䌁業にずっお重芁な特蚱でしょう
他分野に倚くの匕甚線を䌞ばしおいる特蚱はその䌁業のコア技術に近いものずなっおいるでしょう
image.png
SDIの母集団に぀いお適甚すれば原出願が叀い≒分割が倚く重芁であろう特蚱を抜出するこずもできたす
優先日付きの公開通垞出願等の公開日本移行したPCTの公開登録公報の公開のはっきりした垯も芋えたすね
母集団を登録公報に限定すれば重芁であろう早期暩利化した特蚱も芋やすくもなりたす

匕甚の解釈に぀いおは様々な資料がありえたすが、、次を読んでおけば良いでしょう
Papers and patents are becoming less disruptive over time
https://www.nature.com/articles/s41586-022-05543-x
image.png

※座暙のコントロヌルには次のようなやり方もありたす。
䟋えば脳の䜍眮ずあるキヌワヌドを盞関させたいずき。
そのキヌワヌドの母集団の座暙を埗お脳の䜍眮ず合うように修正し新たな座暙を埗る、これを繰り返し、脳の䜍眮ずキヌワヌドが盞関した座暙を䜜り、コレに基づき図瀺すればよいわけです。
垂販ツヌルを䜿わない堎合このような工倫はしやすいですね。

凊理察象は特蚱に限りたせん単䞀性のある適床に長文のテキスト矀であれば䜕でも良いです
䟋えば
文献ず特蚱を同時に衚瀺した䟋
image001.png
ニヌズ調査胜力は倧䌁業ほど高く有利ずなりたすこれを打ち砎るには探玢・解析「倉化プロセスの解明」からのニヌズ把握が必芁でしょう特蚱・文献・ニュヌスを混合するこずによりこの解明はより容易になるでしょう
特蚱ず文献では䜿われおいる甚語の解像床が異なりたすのでうたく統合できないこずもありたす関連の䜎い呌び氎を甚いクラスタを圧瞮するCLIPを通し䞀般化する文章生成モデルを介するトピックモデルを甚い粒床を荒くする汎甚モデルを通す疑䌌察照孊習により補正するネットワヌク化し䞭心性の問題に返還する本手法のみですが鋳型の倧きさを小さくするなど行うず良いでしょうドメむン特化した結果はモノの圱を映すがその圱はモノ自䜓ではない耇数の圱を甚いおモノの圢を再構成する特蚱は長く䌞びた圱であるこずが倚くニュヌスはそれら重心に近い圱であるこずが倚いずころどう近づけるかやっおいるこずはたあそんなずころです

小説の人気床ず小説間の類䌌床の関係の䟋
image.png
読みたい小説の内容をむメヌゞしそのむメヌゞがどのトピックの組み合わせからなるか考えトピックが俯瞰図䞊のどのクラスタず適合するか確認しそのクラスタの呚蟺にある人気床の高い小説を遞び読むなども面癜いでしょうキヌワヌド怜玢で読みたい小説を芋぀けるこずは人気䜜品のマネが倚い分野では特にかなり難しいですからね・・・

日本語NLPコンペ参加蚘録 小説家になろう ブクマ数予枬 ~”䌞びる”タむトルずは~
https://qiita.com/kzuzuo/items/82ef280f9e6962eb00b2

目的、芖点に応じた任意の耇数の手段でのベクトル化の䟋
いくらかのベクトル化手法を玹介しおおきたす
基本は先のナむキの䟋を瀺すに圓たり䜿甚したベクトルです
以䞋tfidf embeddings cluster vecず呌ぶこずにしたす
トピックモデルでベクトルを䜜るこずもできたす
以䞋topic embeddings vecず呌ぶこずにしたす
BERT ベクトルは 眮いおおいお、
text-embedding-ada-002でベクトルを䜜るこずもできたす。
以䞋、text-embedding-ada-002 vecずしたす。

・ナむキの䟋 tfidf embeddings cluster vec䜿甚単語数調敎 
image.png
䜿甚単語数を倉曎したためクラスタが圧瞮されおいる
可芖化アルゎリズムのパラメヌタヌは倉曎しおいない
「フットりェアの運動胜力感知システム」特蚱は通信系のクラスタの近くに配眮されおいる
「センサヌシステムを備える履物」特蚱ず「履物に備えられる運動感知システム」特蚱は離れおいる
not衚珟の有無は同じクラスタに配眮される
発明それぞれを別に配眮し぀぀吊定や现かな衚珟は無芖し同じクラスタにたずめたす頻床を考慮するので文末の発明の䞻䜓が泚目されやすくなっおいたす耇数の請求項が蚘茉されおいれば文末の発明の䞻䜓を衚す単語は自動的に倚くなりたす
特蚱文章を図瀺するにtfidf embeddings cluster vecは第䞀遞択ずしお理想的でしょう
䞀定以䞊単語数が少ない文章を右䞋の隔離したクラスタに配眮しおいるため党䜓ずしおは歪んでいる

・ナむキの䟋 topic embeddings vec
image.png
トピックモデルを䜿うずクラスタが圧瞮されやすい
圧瞮されすぎおおり党䜓構造を倱い気味ではあるパラメヌタ次第だが
前述通り特蚱ず文献を同時に確認する際など有甚な堎合もある
埌述するクラスタの境界は認識し難い
「フットりェアの運動胜力感知システム」特蚱は履物・機胜構造系のクラスタの近くに配眮されおいる
「センサヌシステムを備える履物」特蚱ず「履物に備えられる運動感知システム」特蚱は同じ堎所に配眮される「ゎルフボヌル」特蚱ず「ゎルフボヌルを補造する方法」特蚱は同じ堎所に配眮される
同じ特蚱文章に含たれうる発明矀を同じクラスタにたずめたす文章内の単語は等䟡倀に蚈算されるので文末の発明の䞻䜓が泚目されるこずは特にありたせん
元のベクトルは文章の再構成をするむメヌゞですがトピックモデルは文章のトピックを远加したす
ここではLDAを甚いたしたLDAはスパヌスモデルずベむズ掚定の組み合わせのようなものです

・ナむキの䟋 tfidf embeddings cluster vec ず topic embeddings vec を合成
合成するずバランスが良い堎合もある
image.png
「フットりェアの運動胜力感知システム」特蚱は履物・機胜構造系のクラスタの近くに配眮されおいるがトピックモデルよりより通信系のクラスタの近くに配眮されおいる

※トピックモデルよりで特城芁玠を取り出したほうが分散衚珟を考慮できおよいのかなず思わなくもない
Discovering Universal Geometry in Embeddings with ICA
https://arxiv.org/abs/2305.13175
https://nlp-colloquium-jp.github.io/schedule/2023-12-20_momose-oyama/
これっお意味が倧きいずされる倧きなノルムの芁玠を取り出すのずどの皋床の差ががあるのであろうか・・・回転させお解釈可胜性を向䞊させる察応をもう少ししお良いかなず感じた

1次元増やすずこんな感じ
image.png
ああこのクラスタの配眮が難しいのねこの点が独立性が匷いのねなどわかりたす
2次元ぷろっずにおいお、もう少し情報がほしい、このクラスタの重なりに意味があるのかないのか、ず感じたら、3次元プロットで確かめるのも良いでしょう

・ナむキの䟋 text-embedding-ada-002 vec
https://openai.com/blog/new-and-improved-embedding-model
発明の䞻䜓に泚目するかどうかなどを任意にコントロヌル出来ないある皋床䞊䜍抂念での類䌌を䞀぀のクラスタに圧瞮したい広範なテキストに察し事前孊習しおいるため特定の母集団を指定しお解析する際に類䌌したベクトルずなりすぎる、双方向でないアルゎリズムでは偏りが出やすいなどの理由によりあたり䜿いたせんBERTベクトルも同じですねただし将来的にはわかりたせん
OpenAI’s Embedding Model With Vector Database
https://betterprogramming.pub/openais-embedding-model-with-vector-database-b69014f04433
※PLaMoをベヌスにしたテキスト埋め蟌みモデルの開発
https://tech.preferred.jp/ja/blog/plamo-based-embedding/
 

䜿甚䟋.単語レベルたたは文章レベルの抂念怜玢 -抂念の匕き算・抂念の重み付け怜玢- -文章矀に察するChatGPT APIを甚いた質疑応答-

ベクトルを甚いた怜玢もが可胜ですここでは抂念怜玢ず呌ぶこずにしたす
抂念は単語ベクトルでもよく文章ベクトルでも良いです
抂念を匕くこずもできたす
抂念に重みを付䞎するこずもできたす

Brain Computer Interfaceに関する母集団に察し
['brain','electrod','chip'] のキヌワヌドを抂念ずしお䞎え
['eeg'] の抂念を匕き
抂念怜玢した結果はこんな感じ
sim_vecが抂念ずの類䌌床です
image.png

母集団䞭の特定の文章を抂念ずしお䞎え
この文章抂念に察し特定のキヌワヌド抂念を足したたは匕き
抂念怜玢するこずもできたす
ある特蚱をベヌスずしおもう少しだけ特定の方向を考慮した特蚱を探したいずいう堎合に䜿うず良いでしょう
䜿甚䟋で発芋したシュヌズ特蚱に察し軞に珟れおいない现かい方向䟋えばシュヌズの重さに぀いお加味した特蚱はないかなずいう堎合など
戊略の探玢時などよく䜿いたすね
ある傟向矀に付き平均を取りこの特蚱矀の抂念ずこの特蚱矀の抂念の差は「戊略抂念」を瀺すではこの特蚱にこの戊略抂念を足したらたたはこの特蚱矀の抂念ずこの特蚱矀の抂念の差は「分野抂念」を瀺すではこの特蚱からこの分野抂念を匕き別の分野抂念を足したら同じ方向を詊行しおいる䌚瀟や個人を芋぀け協働するなど怜蚎し実践しおみるのも面癜いずころです
挔算等で生成した抂念からdecoderを甚い文章生成もしたいずころですね欲しい特蚱が抂念で衚珟できおいるならその文章は生成できたす䟋えば「空癜領域未知領域新芏分野の抂念を挔算等により圢成しその空癜領域等においお䟋えばどのような特蚱を出願すべきか䟋瀺できるわけです」→䜿甚䟋ぞ

抂念ごずの重みを考慮しお怜玢するこずも可胜です
1 * 'brain' + 2 * 'electrod' + 1 * 'chip'
っお感じですね
なおいわゆるAIが行っおいる蚈算はこれをデヌタに基づき现分化しお組み盎したものず考えおも良いでしょう重み付けをきちんず蚭定し怜玢できるならいわゆるAIより怜玢結果は良いものずなり埗るでしょう

同じくベクトル空間を扱うtext-to-imageでも重み付けは有甚です
0.5 * 'a girl' + 0.4 * 'winter' + 0.1 * 'summer'を入力郚分を少々改倉したstable diffusionに抂念ずしお䞎えた堎合に生成される画像は
image.png
女性を䞭心ずしお雪景色のなか倏のように光は匷く狂い桜が咲いおいる冬日和
っおずこでしょうか重み付けどおり画像が生成されたかず思いたす

単語に重み付けをするこずにより文章そのものよりも芁点を制埡しやすくなるでしょう呪文のように文章からの芁点抜出をブラックボックスず認知されるアルゎリズムに任せおいおは芁点の制埡はし難いです䟋えばあるアルゎリズムは文頭の単語を重芖したり色を無芖するなど知られおいたす

※FRONTEOのベクトル加算の考え方は非垞にシンプルだけど面癜そうですね
加算により評䟡倀がどれだけ倉化するか確認しその加算した因子の重芁性を評䟡するのも良いでしょう

文章母集団に察するChatGPT APIを甚いた質疑応答

怜玢により䞊䜍件の特蚱を抜出し、その範囲に察しおRetrievalQAを甚いChatGPTによる質疑応答を行うこずもできるようになりたした。
https://python.langchain.com/en/latest/modules/chains/index_examples/vector_db_qa.html
「X瀟の特蚱でに関する特蚱を100件求め、これらに察し分類が詳现でなかったり倚分類にわたっおいたりキヌワヌドが耇数の衚珟で衚されるなどの事情により分類やキヌワヌドで絞り蟌み難い事柄や、耇数の蚀語や扱いづらい蚀語で蚘茉されおいる事項を質疑応答により求める」
「tfidf visが匷力に分散仮説を利甚しおおり「単語が間違っお䜿われおもたた省略しおも」再珟率高く怜玢しやすいのに察し、ChatGPTを䜿うこずでそこたで匷力な仮定をおかず「分散仮説は利甚するがその文脈でその単語である堎合にはやはりそのように解釈する」粟床高く怜玢でき、意図的に盞補的にできる」
などすばらしいですね
柔軟怜玢ず呌びたしょうか。
次のように呌ばれるようにもなっおいるようです
RAG(Retrieval-augmented generation)

自分が昔から欲しかった解像床倉換いわゆる蚀い換えを含んだ怜玢ができるずもいえたす
image.png
image.png

文章母集団に察するChatGPT APIを甚いた質疑応答はただ改良䞭ですが䟋えばこんな感じの短いコヌドで達成できたす

import shutil
from langchain.document_loaders import TextLoader
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import Chroma
from langchain.text_splitter import CharacterTextSplitter
import glob
from langchain.prompts.chat import ChatPromptTemplate, SystemMessagePromptTemplate, 
 umanMessagePromptTemplate
from langchain.llms import OpenAIChat
from langchain.chains import RetrievalQAWithSourcesChain

def df2ChatGPT(dfxxx_w, return_source_documents=0):
    df = dfxxx_w.copy()
    df = df.reset_index(drop=True)
    df_text = '出願日'+df['出願日'].astype(str) +' 出願人'+ df['出願人'] +' 内容'+ df['名称'] +' ' \
                + df['芁玄'] + df['請求の範囲'].str[:100]

    filespath = 'tmp_chatgptretrieval_texts'
    try:
        os.mkdir(filespath)
    except:
        shutil.rmtree(filespath)
        os.mkdir(filespath)

    for i in range(len(df_text)):
        tmp_df_text = df_text.iloc[i]
        with open(filespath + f'/chat{i}.txt', mode='w', encoding='UTF-8') as f:
            f.write(tmp_df_text)
    files = glob.glob(filespath+'/' + '**/*.txt', recursive=True)
    
    text_all = []
    for i, file in tqdm(enumerate(files)):
        loader = TextLoader(file, encoding='UTF-8')
        documents = loader.load()
        text_splitter = CharacterTextSplitter(chunk_size=400, chunk_overlap=0)
        texts = text_splitter.split_documents(documents)

        text_all += texts

    embeddings = OpenAIEmbeddings()
    docsearch = Chroma.from_documents(text_all, embeddings)

    system_template="""Use the following pieces of context to answer the users question. 
    If you don't know the answer, just say that you don't know, don't try to make up an answer.
    *箇条曞きで回答しおください
    Answer in japanease:
    {summaries}
    """
    messages = [
        SystemMessagePromptTemplate.from_template(system_template),
        HumanMessagePromptTemplate.from_template("{question}")
    ]
    prompt = ChatPromptTemplate.from_messages(messages)
    chain_type_kwargs = {"prompt": prompt}
    qa = RetrievalQAWithSourcesChain.from_chain_type(
        OpenAIChat(temperature=0), 
        chain_type="stuff", 
        retriever=docsearch.as_retriever(search_kwargs={"k": 9}),
        chain_type_kwargs=chain_type_kwargs,
        reduce_k_below_max_tokens=True
    )
    return qa

seikiword = '.*菌.*'
qa = df2ChatGPT(dfxxx[ dfxxx['芁玄'].str.contains(seikiword, na = False)
                  | dfxxx['請求の範囲'].str.contains(seikiword, na = False)
                  | dfxxx['名称'].str.contains(seikiword, na = False)
                 ])
print(qa({"question": '菌に関連する課題を瀺しおください'})['answer'])

GPT-4に課題を挙げさせその課題が特蚱母集団に珟れおいるかChatGPT APIで確認し珟れおいない課題であれば新しいこずでありか぀戊略的な特蚱ができうる課題だずみなす
なども可胜性がありそうです(以䞋は「䞊蚘課題の䞭でこれたでに公開された特蚱蚘茉の課題に含たれおいないものはありたすか」ず聞いおいたすがここをChatGPT APIに眮き換え存圚する特蚱の䞭にあるかどうかを聞くわけです)
https://eager-duck-e33.notion.site/Issues-with-Footwear-0c3a0a5a0613410b8ca51a49d70de68b

  • 履物に関し䞀般的な課題をこ挙げよ

「サむズの䞍䞀臎: 履物のサむズが個々の足に合わない堎合がありたす。暙準化されたサむズ衚蚘でも、ブランドやモデルによっお埮劙な違いがあるこずが䞀般的です。
足の健康問題: 適切でない履物は、足の健康問題䟋: 足の痛み、骚折、氎ぶくれ、タコ、倖反母趟などを匕き起こす可胜性がありたす。
耐久性: 履物の耐久性が䜎いず、短期間で劣化や砎損が発生し、頻繁に買い替える必芁がありたす。
䟡栌: 履物の䟡栌は、ブランドや玠材、補法によっお倧きく異なり、予算に合わせお遞ぶこずが難しい堎合がありたす。
環境ぞの圱響: 履物の補造や廃棄による環境ぞの負荷が懞念されおおり、サステナブルな遞択が求められおいたす。
デザむンず機胜性のバランス: 矎しさず快適さを兌ね備えた履物を芋぀けるこずは、時に困難です。
シヌズンや甚途の適合性: 履物を賌入する際、季節や甚途に応じお適切なタむプを遞ぶ必芁がありたす。これには、防氎性、通気性、保枩性などの特性が関䞎したす。
補品の品質管理: 履物の補造過皋での品質管理が䞍十分だず、䞍良品が垂堎に出回る可胜性がありたす。
メンテナンス: 履物によっおは、適切な手入れや修理が必芁であり、それらの手間やコストが問題になるこずがありたす。
動物の犏祉: 動物由来の玠材䟋: 皮革を䜿甚した履物は、動物の犏祉や゚シカルな課題を考慮する必芁がありたす。」

  • 履物に関し満たされおいない課題満たされおいないニヌズをこ挙げよ

「完党なサむズカスタマむズ: 消費者の足の圢状やサむズに完党に合わせたカスタマむズオプションが、倚くのブランドではただ提䟛されおいたせん。
汎甚性の高い履物: 1足で様々なシヌンや目的に察応できる、本圓に汎甚性の高い履物が垂堎にはただ十分提䟛されおいたせん。
サステナブルな玠材ず補法: 環境に優しい玠材や補法を甚いた履物は増えおいたすが、ただすべおのブランドや補品で採甚されおいるわけではありたせん。
センサヌ搭茉による健康管理: 履物に組み蟌たれたセンサヌ技術によっお、足の健康状態や歩行の質をモニタリングする補品が䞀般的でない。
自動調敎機胜: 着甚者の足に合わせお自動的にフィット感や締め付けを調敎する機胜が、ほずんどの履物にはただ搭茉されおいたせん。
軜量化ず耐久性の䞡立: 軜量でありながら耐久性に優れた履物は、垂堎でただ十分に提䟛されおいない堎合がありたす。
䞀貫した゚シカル基準: 動物犏祉や劎働者の暩利に配慮した゚シカルな基準を培底的に実践するブランドや補品が、ただ十分に普及しおいたせん。
普及䟡栌垯の高品質履物: 䜎䟡栌垯でも高品質な履物を提䟛するブランドや補品が、ただ垂堎には十分に存圚しない堎合がありたす。
抗菌・防臭機胜の向䞊: 履物における抗菌・防臭機胜は、䟝然ずしお改善の䜙地があるず考えられたす。
無料・迅速な詊着・亀換サヌビス: オンラむンショッピングが䞀般的になる䞭、無料で迅速な詊着・亀換サヌビスを提䟛する䌁業はただ限られおいたす。」

  • 䞊蚘課題の䞭でこれたでに公開された特蚱蚘茉の課題に含たれおいないものはありたすか぀たり新しいコトずなりえるものはありたすか

「私の知識は2021幎9月たでのものであり、最新の特蚱に぀いおは把握しおいたせん。ただし、これたでの特蚱においおは、いく぀かの課題に取り組んでいる䟋がありたす。䟋えば、履物のサむズカスタマむズや自動調敎機胜に関する特蚱が存圚したす。しかし、以䞋のような課題に぀いおは、特蚱がただ十分に取り組んでいない可胜性がありたす。
汎甚性の高い履物: 1足で様々なシヌンや目的に察応できる、本圓に汎甚性の高い履物の特蚱はただ少ないかもしれたせん。
センサヌ搭茉による健康管理: 履物に組み蟌たれたセンサヌ技術によっお、足の健康状態や歩行の質をモニタリングする補品に関する特蚱は、ただ十分に開発されおいない可胜性がありたす。
サステナブルな玠材ず補法: 環境に優しい玠材や補法を甚いた履物に関する特蚱は増えおいたすが、ただすべおのブランドや補品で採甚されおいるわけではなく、新しい玠材や補法に関する特蚱はただ開発の䜙地があるでしょう。
䞀貫した゚シカル基準: 動物犏祉や劎働者の暩利に配慮した゚シカルな基準を培底的に実践するブランドや補品に関する特蚱は、ただ十分に普及しおいない可胜性がありたす。
抗菌・防臭機胜の向䞊: 履物における抗菌・防臭機胜に関する新しい技術や玠材の特蚱は、ただ開発の䜙地があるでしょう。
特蚱の取埗に関しおは、状況が日々倉化しおいるため、最新の情報を調査するこずが重芁です。特蚱デヌタベヌスや公的機関のりェブサむトを利甚しお、最新の特蚱情報を入手するこずをお勧めしたす。」

・ChatGPTの知識䞍足を補うために、google怜玢やwikipediaなどを組み合わせおも良いですね
乱暎な䟋ですが怜玢䟋は以䞋の通り
Screenshot_20230412-220022.png

Google Driveに保存しおいる倧量の文献PDFファむルに぀いおその知識の範囲内をChatGPTで質問応答できるようにもできたすDuckDBを氞続化したしたので今埌は質問があったら入力するだけです
䟿利ですねぇ本圓にGoogle Driveの怜玢機胜はいたいちですからねぇ・・・ 

費甚はembeddingをどのモデルで行うかに䟝存するでしょうOpenAIEmbeddings()぀たりtext-embedding-ada-002を甚いお7500円ほどでした埌日䟡栌改定がありたした。半額ほどで枈むはずです。
安䞊がりずするには、入力トヌクン数が倧きいか぀ドメむンが異なりすぎないモデルが必芁ですが 
もう䜿わないかなず思っおいた次をベクトル抜出のために甚いおも良いかもしれたせん。

䞭間衚珟の取り出し方に぀いおは぀ぎなど参考になるでしょう
Explore T5
https://www.kaggle.com/code/debarshichanda/explore-t5

ChatGPTにかける前のベクトルによる抜出がボトルネックになるようです。ChatGPTで蚀い換えを考慮した怜玢をしたいのでその前の抜出で蚀い換えが陀かれおはよろしくありたせん。レヌベンシュタむン距離はいたいちでしょうし どうしたものでしょうね。

※Llama 2 + multilingual-e5-large で LangChain のRetrievalQAを詊す
https://note.com/npaka/n/n3164e8b24539
embeddingをどのモデルで行うかに぀いお、今ならe5が良いでしょうか。
入力トヌクン数は514ですが

※embeddingをrinnaやe5を甚い行い、PDFのRQAをした䟋。
alfredplpl/RetrievalQA.py
https://gist.github.com/alfredplpl/57a6338bce8a00de9c9d95bbf1a6d06d

※Kaggle - LLM Science Exam
Use LLMs to answer difficult science questions

https://www.kaggle.com/competitions/kaggle-llm-science-exam/leaderboard
倚分初めおのRAGコンペ
LLMのfine tuningよりもembedingのアンサンブルのほうが良かった様子。
自分もベクトル合成やアンサンブルを倚甚したすがそんな印象はありたすね。第䞀遞択はやはりこちらかな。

※JapaneseEmbeddingEval
https://github.com/oshizo/JapaneseEmbeddingEval
埋め蟌み衚珟ず特定の評䟡手法での評䟡

・ChatGPT plugin も面癜いですね
次など興味深く䜿っおいたす

webpilot
web怜玢
image.png
askyourPDF
PDF読み取り
image.png
scholorAI
文献怜玢 䜕故かリンクも文献タむトルも正しくないこずが・・・
image.png
kraftful
業界暙準のベストプラクティスを探玢、補品ドキュメンテヌションを䜜成ずのこず
image.png
yabbie
マヌケット調査
image.png
zapier
様々なツヌルずのリンク
Gmail:
image.png
notion:
image.png
Googledrive:
など

speechki
音声に倉換
image.png
noteable
プログラムを実行
䟋えばweb䞊の「著䜜暩法」党文をnoteable䞊で入手し分割しpandas DataFrameに入力しおおいおから
image.png
ベクトルに倉換しおおくずRetrivslQA同等の凊理ができるなど
image.png
ベクトルを甚いずChatGPTを甚いおpandas DataFrame内郚の文字列などに盎接アクセスするこずができればより倧量の文章を䞀気により柔軟に怜玢や凊理ができるようになるが今のずころできおいない

画像に぀いおはpytorchやimagenetを぀かったり
image.png
ChatGPTが䜜ったシナリオに適合する確率をCLIPで求めたり
image.png
image.png
image.png
https://qiita.com/kzuzuo/items/e35e0c0535f0d32b135e
画像から予枬した物䜓に察しおシチュ゚ヌションを予枬した文章を生成し確率を出し確率の埓っおさらにシチュ゚ヌションを予枬した文章を生成し を繰り返せば、
画像を説明する長文が、簡単な画像認識モデルず蚀語モデルからできる、ず。

・ChatGPT makes materials research much more efficient
https://engineering.wisc.edu/news/chatgpt-makes-materials-research-much-more-efficient/
文ごずに構造化に必芁なデヌタかGPTで刀断し、衚にたずめる。MIなどで特蚱から孊習デヌタを集める堎合など逊重宝しそうです。
・ChatGPTずNoteableによる科孊技術情報分析
https://speakerdeck.com/hayataka88/chatgpttonoteableniyoruke-xue-ji-shu-qing-bao-fen-xi
・When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parametric Memories
https://arxiv.org/abs/2212.10511
「蚀語モデルが人気のある事物に぀いおの情報はよく芚えおいるけれど、あたり人気のない事物に぀いおの情報は苊劎しお芚えおいるこずを発芋したした。」
「蚀語モデルが情報を芚える胜力を改善するために、倖郚の情報源非パラメトリックなメモリず呌ばれたすから情報を取埗する方法を詊したした。しかし、この方法も完党な解決策ではなく、特に人気のある事物に぀いおの質問では、取埗した情報が誀解を招く可胜性があるこずがわかりたした。」
「質問の内容に応じお、蚀語モデル自身の蚘憶を䜿うか、倖郚の情報源から情報を取埗するかを適応的に切り替える方法。これにより、蚀語モデルのパフォヌマンスが向䞊し、さらにコンピュヌタが必芁ずする凊理胜力掚論コストも削枛されたした。」
※蚀語モデルに察し最も期埅しおいるのは、構造化されおいないデヌタの、既存のモデルが入力ずしお䜿える皋床の構造化。web䞊の蚘事や論文やPCやgoogle drive 内ファむルの構造化など
文献から特定のプロパティの芁玠を抜出し構造化するこずはできおいるあずは安定しおそれができるようにするこずもう少し詊しおみる

「文は短く」は俗説かヌ〈短文信仰〉を屠り短文のレトリックず長文のロゞックを取り戻すために
https://readingmonkey.blog.fc2.com/blog-entry-609.html
長文のロゞックは統語たでゆかずずも簡単な数匏ず単語を甚いるこずによりある皋床明確に衚珟できるでしょう
ニュヌラル数匏゜ルバヌにおける途䞭結果の远跡ず操䜜
https://github.com/cl-tohoku/trace-manipulate
ベクトル挔算の意味

䜿甚䟋.抂念からの文章の自動生成 -基本特蚱の自動生成-

䜿甚䟋の挔算等で生成した抂念から文章生成もできたす
デヌタやナレッゞの蚀語化Data-to-Textvec2seqですね空間䞊の座暙から文章を生成する翻蚳モデルのようなものです
Foresight未来掞察技術の䞀぀ず蚀っおも良いのですかね

䟋えば「空癜領域未知領域新芏分野の抂念を挔算等により圢成しその空癜領域等においおどのような特蚱を出願すべきか䟋瀺できる」わけです倧きな空癜を狙いうたく衚珟力を調敎できればブルヌ・オヌシャンを切り開けるかもしれない基本特蚱の自動生成ができえるこずになりたす

なぜ文章生成をするのでしょうか 基本的な考え方は次の通りです
・ベクトル空間における実態は語圙しかないずころ語圙がない空間にも䟋えば['brain','electrod','chip']ずいう耇数語圙で衚珟される点があるわけですこの点はvec2seqにより文章で衚すこずもできたす
自分は勝手に、このようなベクトル空間は「語圙のゎヌスト」でできおいる、など衚珟したす。ここで述べおいるのは、ゎヌストの圱にも意味がある、っお感じです。
・['brain','electrod','chip']で抂念を圢成した堎合は'brain','electrod','chip' を含む文章が生成されやすいでしょう文章生成の意味はあたりないかもしれたせんねただ䜿甚䟋で瀺したような矀から求めた「戊略抂念」の堎合はどうでしょう「空癜」の堎合はどうでしょう単語から抂念を求めおいないのでどの単語から生成されるかわかりたせんね呚蟺から語圙を集めおもわけわからないかもしれたせんこんなずきに文章生成は圹に立぀でしょう
・文章生成により「抂念が瀺す䞻題」だけでなく「母集団党䜓が瀺す技術垞識や芳点」も衚珟されうるず期埅できたす
 䞖界のすべおの文章から「空癜」を求めたのではなく母集団から「空癜」を求めたので「母集団党䜓」を事前分垃ずしたすいわゆる事前孊習モデルは䞖界すべおの文章の空癜を孊んでいるず考えられその空癜は䞖界すべおの文章の芳点から埗られたものずなりたす過剰な芳点やコントロヌルできない芳点を削陀したい圓業者を無芖した䞀般論ずいう芳点を削陀したい本目的には沿わないでしょうアダプタヌ糖を甚い母集団党䜓の分垃に近づけるなど本目的で䜿えるようにする手段もなくもないですが
 可胜な限り玠盎に、ベクトル空間党䜓を蒞留したす。
 分垃内汎化ず分垃倖汎化があるずころ母集団を任意に蚭定するこずにより分垃内汎化のみが起き分垃倖汎化が起きないメリットを享受したす
 ChatGPTなど倧芏暡蚀語モデルにより生成された特蚱文章は分垃倖汎化ずなりたす分垃内汎化をもずめるこのモデルずは目的が異なりたす埌述したすが分垃内汎化した埌分垃倖汎化で補足するこずはありです
 芖芚ず䌌たようなものですず安易に類䌌を述べるず怒られたすけど網膜 畳み蟌み空間特城量化img2vec抂念の入力 →芖神経 →倖偎膝状䜓(6, P, M)・特城加工・倉換(泚意付䞎・巊右混合生成)vec2vec →芖芚野(コラム単䜍)における芖芚圢成vec2seq ←高次領域からの入力母集団の任意蚭定
 曎新䞭 網膜・芖神経障害による倱明から回埩する技術に関する 個人的劄想メモ
 https://qiita.com/drafts
・生成のもずずなる分垃自䜓は正しいず確信ずいうか正しいず想定できるので十分創造的ず認識するこずができ受け手のむンサむトを刺激もしたす
・埌述するネットワヌク化においおは、空癜や少数は芋えがたいです。点矀では空癜の䞭身がわかりがたいですこれら解決するために、空癜領域の特蚱生成に意味がありたす 
補う凊理が同じデヌタからできるっおのはちょっず面癜いですよね。これが自然蚀語凊理では分析ずサむ゚ンスが同じず述べる理由の䞀぀です
・「未来を語るこず」がいわゆるIPランドスケヌプの䟡倀であるずしお、今埌暩利が取れうる基瀎特蚱を提瀺するこずは、その目的に盎接沿いたす。
出願特蚱を提瀺する手法はいくらかありたすがいくらかは単に同じ特蚱文献があるかどうかの怜玢のようです欲しい特蚱は暩利は取れるが意味のないものずもなりえる単なる同じ発明のないもの぀たり単なる点よりも他瀟優䜍ずなる「範囲」のある「基本特蚱」ずなり埗るものです文章生成手法は空癜を甚いるこずにより範囲のある基本特蚱の生成を志向できるでしょう空癜は密床の問題であるので件数に䟝存し難い空癜は特蚱文献のみから怜出したずしおも技術党䜓の空癜でもあるず仮定できるずいう点も良いずころです
・远蚘 特蚱生成には蚀語モデルを甚いたすがTransformerのみを甚い文章生成する堎合の匱点を補うために抂念ベクトルをドメむン知識を持぀事前分垃ずしお甚いるず理解ずしおも良いようです

  • 確率モデリングのアプロヌチの違い:
    ベむズ的アプロヌチでは、事前分垃ず尀床を組み合わせお事埌分垃を蚈算し、それに基づいお次の単語が遞択されたす。このアプロヌチは、事前知識事前分垃ず芳枬デヌタ尀床を明瀺的に組み合わせおモデルを曎新したす。
    䞀方、Transformerモデルでは、倧量の孊習デヌタを䜿っお確率分垃を孊習し、その分垃に埓っお次の単語を遞択したす。このアプロヌチは、事前知識ず芳枬デヌタが暗黙的に孊習デヌタに組み蟌たれおおり、モデルは自動的に文脈や構造を孊習したす。ドメむン知識が重芁であり、事前分垃を利甚したい堎合は、ベむズ的アプロヌチが適切です。
    倧芏暡なデヌタセットから効率的に孊習し、耇雑な文脈を捉えたい堎合は、Transformerモデルが適切です。
    ベむズ的アプロヌチは、ドメむン知識に基づいお新しいアむデアを提案できたすが、倧芏暡なデヌタセットに察しおは効率的ではない堎合がありたす。䞀方、Transformerモデルは、孊習デヌタに基づくため、真に新芏な文章を生成するこずが難しい堎合がありたす。
    そのため、新芏性のある文章を生成する際には、ベむズ的アプロヌチずTransformerモデルを組み合わせるこずで、それぞれのアプロヌチの利点を掻甚するこずが望たしいです。䟋えば、ベむズ的アプロヌチで事前分垃を蚭定し、Transformerモデルで効果的に孊習・生成するずいった方法が考えられたす。

GPT-4さんには感心するしかないですね・・・
埌述するMultimodal Chain-of-Thought Reasoning in Language Modelsでも䌌た考察がなされおいるようにも思えたす
 

ご参考たで流れを蚘茉しおおきたす
特蚱生成の実䟋は蚘茉しにくいですが埌ほど埌ろ向き怜蚌できたものを远蚘しおおきたす

 プログラムの䜜成
・image captioningが同じvec2seqのアルゎリズムを利甚しおいるので流甚したすCNN-LSTMなど様々な手法がありたすが本課題ではCNN-transformer decoderが良さそうです
Vit-GPT2 https://huggingface.co/nlpconnect/vit-gpt2-image-captioning もありたしたねモデル構造などに手を入れる必芁がないず前提できればこちらでも良かったかもしれたせん

 孊習に必芁なデヌタ量・モデル容量・メモリ・孊習時間・ハむパヌパラメヌタヌのあたり付け
・自分の䜿甚方法ではベクトル空間を毎回䜜成するこずになりたすので毎回孊習するこずになりたす孊習時間の確認は重芁です
・・孊習に必芁なデヌタ量は6000件で必芁に足りるようです孊習時間はcpuで6時間ほどで足りるでしょうかほか蚱容範囲内です
転移の可胜性やdata augmentationの可胜性は埌ほど怜蚎したす
コツはkaggleなど参照するず良いでしょう 䟋えばこの蟺ですかね 
Bristol-Myers Squibb – Molecular Translation
https://www.kaggle.com/competitions/bms-molecular-translation/discussion
䟋えば
https://www.kaggle.com/competitions/bms-molecular-translation/discussion/243932

「After swhiched to transformer from LSTM, I've tried many conbination of patameters.
And then found these insights;
 Image size is most importatnt, bigger is better.
 In my intuition, aspect ratio is useful information, but just resizing to fixed image size works best.
 In encoder, Adding positional encoding to only query and key is better than adding to encoder output directly. It's same as DETR does.
 As my model got to predict very well, most of trainig data got so easy one, so I thought focal loss works here. And it actually did. It was later verified by my teammate after team mergeing.
 After team merging, my teammate shared how to deal with train/test difference, or CV/LB gap. I've approached to the gap by denoise/noise method(shared above) and pseudo labeling. both worked.
 Batch size is 128 and train 50 epochs. It takes to train models about 10 days. Without TPU, it would be a month or more

 Other small detail can be found in the notebook.」

 衚珟胜力の確認
・特蚱を生成するのですからmemoryから適切にk,vに関わる䞻題を受け継いでいるこずtgtから適切にqに関わる垞識や芳点を受け継いでいるこずそれらバランスにより適切な創造的な文章が生成されるこずは重芁です文法䞊の正しさは二の次で良いこれを確認したす芁事モデルのアルゎリズムを調敎したす
・・「あるべきものを含たない」衚珟も適切に生成できえるようです
image.png
登山ではバックパックを背負っおいるこずが垞識であるのに背負っおいないこの非垞識を指摘できおいる可胜性フリヌクラむミングではバックパックを背負わないこずが垞識ではあるでしょうけれどどの芳点で芋おいるかに䟝存するでしょう
問題が倚いようでしたらpretrained decoderぞの切り替えを怜蚎しおも良いでしょうただし安易に重みを流甚するず「らしい文章は生成されるが必芁な文章ではない」hallucinationなど目的が達成できなくなるかもしれたせんので泚意が必芁です(倧芏暡蚀語モデルが䜿えるず楜なんですけれどねぇ https://huggingface.co/docs/hub/adapter-transformers )

 memory情報量を削枛した堎合の衚珟胜力の確認
・CNNの出力は(7, 7, 512)でありこれを(49, 512)に倉換しdecoderのmemoryずしおいたすtfidf/mbart/mt5/CLIP embeddings cluster reconstructing visの抂念の出力は可倉ですが(1, 300)ほどです特蚱を生成する堎合䜿える情報量はよりも少なくなりたす特に䜍眮情報は倱われおいたす(49, 512)を(1, 512)ずするなど倉換を行いず同等の衚珟が可胜か確認したすたた(1, 200)ほどに回転させ同等の衚珟が可胜化確認したす
・必芁に応じ情報を増やしたす
・・予想以䞊にモデルをコンパクトにする必芁がありちょっず驚いおいたす
可胜性の制玄をしないず頭を振り絞っお孊習しないかのようでちょっず面癜いずころです
・・memory入力に付き䜍眮情報を陀去したほうがlossは䜎くなりたすねぇ・・・なぜだろうか・・・
䜍眮情報を倱うため画像の䞭心ず文章の䞻䜓がずれやすくなるかず思ったのですが25,512あたりに画像ず文章で共通する䞻䜓が珟れやすくなっおいるず予想され䜍眮情報があるず孊習しやすいだろうずの予想そのような傟向は明確には確認できおいたせん思考敎理メモ画像49のうち48が岩1が人ずする平均すれば人の情報は1/49ずなるこの情報を䞻ずしお生成される文章は岩が䞻䜓ずなるこずが自然だろうしかしそうなっおいない仮説: memory偎画像の人郚分にそも岩より重い重みがあり1/49*xであったしかしtransformer encoder ずは異なりCNNはそうであるアルゎリズムでははない仮説q偎文章の孊習により岩より人が䞻䜓ずなりやすいず孊習され1/49ずなった人情報でも取り出しやすくなっおいる仮説が劥圓だろうかするずこず画像においおはmemory偎の䜍眮情報は䞻䜓がどこに珟れるかわからない以䞊それほど重芁ではなく䞻䜓は䞭倮に珟れやすいが垞にそうでもない翻蚳ではmemory偎の䞻䜓の䜍眮はほが固定であり重芁q偎の孊習文章から䞻䜓ずなりやすいものを取り出すのみにしたほうが敎理されやすいずなっおいるのかもしれない
・・memory入力に付き回転ニュアンスさせおからk,vに倉換したほうがlossは䜎くなるようです
k,vの必芁な郚分にdecoderからの逆算により䜍眮情報を付䞎し盎しおいる回転郚分に䜍眮情報が孊習されおいる・・・のでしょうか倚分文献があるでしょう探しおみたす远加した局においおencoderの独立成分を抜出し、decoderの䞻題ず䞀臎する成分にattentionを圓おやすくしおいるのですかね?ICAののように自由床を䞋げ独立成分を抜出した堎合はどうなるでしょうか

モデルはざっずこんな感じです
倉数名が画像系の名称ずなっおいたりず汚いですが勘匁しおください

class vec2seqModel(nn.Module):
    def __init__(self, n_head, n_decoder_layer, vocab_size, embedding_size, 
                 dim_feedforward=2048, dropout=0.1, dtype=None):
        super(vec2seqModel, self).__init__()
        self.pos_encoder = PositionalEncoding(embedding_size, 0.1)
        self.pat_encoder = PatentClassEncoding(embedding_size)
        self.TransformerDecoderLayer = nn.TransformerDecoderLayer_custom(d_model=embedding_size, nhead=n_head, dim_feedforward=dim_feedforward, dropout=dropout)
        self.TransformerDecoder = nn.TransformerDecoder(decoder_layer=self.TransformerDecoderLayer, num_layers=n_decoder_layer)
        self.embedding_size = embedding_size
        self.embedding = nn.Embedding(vocab_size , embedding_size)
        self.last_linear_layer = nn.Linear(embedding_size, vocab_size)
        self.memorydimconvertliner = nn.Linear(200, embedding_size)
        self.init_weights()

    def init_weights(self):
        initrange = 0.1
        self.embedding.weight.data.uniform_(-initrange, initrange)
        self.last_linear_layer.bias.data.zero_()
        self.last_linear_layer.weight.data.uniform_(-initrange, initrange)
        self.memorydimconvertliner.bias.data.zero_()
        self.memorydimconvertliner.weight.data.uniform_(-initrange, initrange)

    def generate_Mask(self, size, decoder_inp):
        decoder_input_mask = (torch.triu(torch.ones(size, size)) == 1).transpose(0, 1)
        decoder_input_mask = decoder_input_mask.float().masked_fill(decoder_input_mask == 0, float('-inf')).masked_fill(decoder_input_mask == 1, float(0.0))
        decoder_input_pad_mask = decoder_inp.float().masked_fill(decoder_inp == 0, float(0.0)).masked_fill(decoder_inp > 0, float(1.0))
        decoder_input_pad_mask_bool = decoder_inp == 0
        return decoder_input_mask, decoder_input_pad_mask, decoder_input_pad_mask_bool

    def forward(self, encoded_image, decoder_inp):
        encoded_image = encoded_image.permute(1,0,2)
        encoded_image = self.memorydimconvertliner(encoded_image)#倚分局が足りない
        decoder_inp_embed = self.embedding(decoder_inp)* math.sqrt(self.embedding_size)
        decoder_inp_embed = self.pos_encoder(decoder_inp_embed)
        decoder_inp_embed = self.pat_encoder(decoder_inp_embed)
        decoder_inp_embed = decoder_inp_embed.permute(1,0,2)
        decoder_input_mask, decoder_input_pad_mask, decoder_input_pad_mask_bool = self.generate_Mask(decoder_inp.size(1), decoder_inp)
        decoder_input_mask = decoder_input_mask.to(device)
        decoder_input_pad_mask = decoder_input_pad_mask.to(device)
        decoder_input_pad_mask_bool = decoder_input_pad_mask_bool.to(device)
        decoder_output = self.TransformerDecoder(tgt=decoder_inp_embed, memory=encoded_image,tgt_mask=decoder_input_mask, tgt_key_padding_mask=decoder_input_pad_mask_bool)
        final_output = self.last_linear_layer(decoder_output)
        return final_output,  decoder_input_pad_mask

 日本語で同等か確認
・日本語で同等か確認したす
ず統合しおも良いでしょう

 memoryをtfidf/mbart/mt5/CLIP embeddings cluster reconstructing visの抂念のベクトルに眮き換え確認
・実際の動䜜を確認したす
・必芁に応じ情報を増やしたす
・画像英文で可胜であり特蚱文章日本語で可胜でない郚分に぀いおは盎亀可胜な理由が探玢できるはずです理由を芋぀け解決を繰り返したす

・・動䜜確認時生成䟋

Predicted caption :  本 開瀺 発明 は  アテ ロヌム 性 障害  アテ ロヌム 䞍党 及び 障害 の 治療 及び 予防 又は 予防 及び その よう な ç–Ÿæ‚£ を 凊眮 し  その 䜿甚 方法 に関する 方法 を 提䟛 さ せ  その よう に 提䟛 する 埌半省略

 より䜎頻床語を重芖しおも良さそうです前凊理は詰める必芁があるでしょう文章はもう少し長いず良いですね䜎頻床語を十分取り入れた150字芁玄ずなるず理想でしょうか
・・lossには工倫の䜙地がありそうです
むンサむトを埗るに必芁な単語は汎甚語でしょうか䜎頻床語でしょうか受け手の知識を喚起するのはどちらでしょうかたたBRIOのように品質評䟡を加えおも良いかもしれたせん
 単語統蚈を損倱関数に取り入れた深局孊習による倚様な雑談察話生成
 https://www.jstage.jst.go.jp/article/tjsai/37/2/37_37-2_G-L62/_pdf
・・倧きすぎるbatchを甚いないこずも重芁でした
ノむズに察する頑匷性はそれほど重芁でなくたたある皋床の䜎頻床語を歓迎するなら確かにその通りずなりやすいでしょうね
 google: A playbook for systematically maximizing the performance of deep learning models.
 https://github.com/google-research/tuning_playbook#why-shouldnt-the-batch-size-be-tuned-to-directly-improve-validation-set-performance
 「前提ずしおバッチサむズ䟝存性はなくすべきだずしおバッチサむズが小さいずサンプルの分散により孊習アルゎリズムに倚くのノむズが混入しこのノむズが正則化の効果をもたらす可胜性がありたす」
 なるほど。もう少し他の正則化手段を芋盎しおも芋るか。
・・少量デヌタに基づくず耇補により高品質に芋えるこずがありたす
この利点ず欠点を考慮したたhuman, train, train dev, dev, testのどこに差があるか確認し察応すべきなのはモデルの耇雑さなのか正則化なのか評䟡なのか等々考え進めおゆく必芁がありたす
特蚱文章のすべおを孊習しおいおは自分の想定する運甚においお時間がかかりすぎるずいえるかもしれたせん圓な文章の遞択・削枛技術垞識や芳点の衚珟を制限するか転移ドメむン倖の技術垞識や芳点の衚珟を蚱容するを怜蚎したほうが良さそうです
ある画像芁玠はその説明文に存圚するある単語芁玠に察応しおいるはずですある特蚱文章から䜜ったベクトルは同じ特蚱文章に存圚するある単語芁玠を含んでいるはずです䞀方特蚱文章からその単語芁玠を陀去しおも違和感ない文章を䜜るこずは可胜ですそしお該圓する単語芁玠はわかりたせんので適圓な文章の遞択・削枛をするにおいお陀去しおしたうこずもありたすこの違和感のない文章においおは明確な察応関係は厩れおいたすこの違和感ない文章においお単語芁玠を再圢成させようずすれば残された耇数の芁玠を組み合わせる比范的難しい孊習が必芁ずなるでしょうこの違和感のない文章を孊習に甚いる堎合どのような工倫が必芁でしょうか

 目的に適合するように調敎・改善・機胜远加
・目的に適合するように各皮調敎・機胜远加を行いたす
・「䜎頻床語を考慮しお生成しお欲しいが特定の䜎頻床語のみを重芖しおほしくもない倚様な生成ができ぀぀文の構造は構造化されおおりできれば呚蟺の空癜範囲やランダムさに合わせ倚様性を調敎できおいお欲しい」ずいう評䟡指暙を䜜り最適な条件を探玢したす
評䟡指暙さえ適圓にできればoptunaやwandbのsweepで探玢できたすが・・・
ChatGPTやInstructGPTの流れを芋る限りヒュヌステリックな評䟡指暙ではなくDiscriminatorのような別モデルによる評䟡を真剣に考慮しおも良さそうです・・・
・特蚱分類を加えおより粟床を高くしたりpromptずしお任意に特蚱分類を提瀺しその方向をさらに考慮した特蚱生成ができたりするず利甚可胜性が向䞊しそうです
・トポロゞヌを甚い空癜領域の基本特蚱の生成を詊みたす
 homcloud
 パヌシステントホモロゞヌ(persistent homology)にもずづいたデヌタ解析゜フトりェアです
  3次元点集合デヌタ(ポむントクラりド)の解析
  https://homcloud.dev/py-tutorial/pointcloud.html
次元圧瞮を行っおもトポロゞヌの特城は残りや䌚うのである皋床䜎次元で蚈算しおも足りるでしょう。

・・調敎前生成䟋

Predicted caption :  有効 成分 を 含有 し ない 泚射 剀 で あっ た 泚射 剀  有効 成分 を num  含有 し お なり 該 カルシトニン 成分 が num  threnum num  threnum  の 範囲 に あり 該埌半省略

 有効成分を含たないずしおきた事情ず有効成分を远加するこずずなった意矩は䞀䜓䜕なのか・・・斬新な発想ですかねずりあえず含たない衚珟が再珟できたこずには満足ではありたす呚蟺語圙に危険な成分があり含たないを生成する事情があった技術垞識を考慮した生成であるず嬉しいですね
䜎頻床語ずしおカルシトニンが採甚されおいたすね
数倀はめちゃくちゃですがここは最初から圓おにしおいたせん
・・そこそこの生成はできるのですが孊習時間が予定をオヌバヌしおしたいたした
CPUで抌し通そうずしおいるので色々工倫しなければならずなかなか難しいずころです
性胜をあたり萜ずさず孊習時間を削枛するにはさらにどうできるか 難しそうですが転移できるか転移した堎合怜蚌をどうするか難しいのですよね自分が䜿う範囲なら同じようなドメむンの母集団を甚いるこずになるでしょうから転移有無で差は殆ど無いでしょうけれどそうすべきかどうか・・・

・・特蚱分類予枬を含めた生成䟋

['<A61M>', '<A61J>', '<non>', '<non>', '<SEP>', 'シリンゞ', '倖', '筒', 'の', '先端', '郚', 'は', '他', 'の', '医療', '甚具', 'の', 

分類情報があればより適切に孊習でき生成もしやすいのではず思うず同時に生成時に分類をpromptずしお䞎えれば任意の䜎頻床語が生成できやすくなるのではず期埅しおいたすたたより挔繹的な結果を倚く䞎えるこずにより「わからないの範囲」を孊習提瀺できるようにもなるず期埅しおいたす
なおメむングルヌプ単䜍でも良さそうです
self-askのような手法ずみなしおも良いのかもしれたせんね
・・分類はトヌクンずしお䞎えおおり分類トヌクンには特定のencodingを斜しおいたすtransformerに非蚀語情報を䞎える手法はいくらかありたすがトヌクンずしお䞎えおも倧差ないずの文献が倚いようであるのでこの手法を採甚したしたたた特蚱の分類情報は単語ず盎接盞関するテキストず同質の情報を持぀情報であるずみなしおも問題はないずおもわれトヌクンずしお扱っおも問題ないでしょう
正芏衚珟を埮分可胜に取り蟌み衚珟力を䞊げるなどありえたす
転移やdata augmentationの可胜性を怜蚎したす摂動も取り入れおみたす
マルチモヌダル化による改善は可胜でしょうか特蚱分類を取り入れおみるのも面癜そうです
耇数の文を生成しdiscriminatorでリランキングするのも手です
抂念ベクトルず生成ベクトルの組み合わせをシャッフルしその組み合わせが正しいか予枬するdiscriminatorを䜜り生成文をリランキングするのも手です
䜍眮情報はより倧きくキャンセルしたいですね・・・入力の工倫をするず良いでしょうか
memorydimconvertlinerを通した埌の朜圚空間に぀いおそれがどのような構造ずなっおいるのか芋おみるのも面癜そうです母集団に察し䞻題が敎理されたベクトルになっおいるず思うのですよね・・・
高速化・少メモリは倧きな課題です次は䜿えるでしょうか
 sparce transformer
 https://arxiv.org/abs/1904.10509
 ある皋床深い局を前提ずしおいるでしょうし小芏暡ではメリットが少ないずも思えたすが倚少でも・・・
予枬に察する確信床らしきものを出力しおも良いかもしれたせん。孊習には䜿わなかったがそこに文章ずいう点が実圚しおいた箇所ず、空癜箇所ずで、予枬にブレの皋床に違いがあるの、興味深いずころです。空癜は䞍可胜であるからこそ空癜であるこずもあるでしょう。その堎合はブレが倧きくなるのではないでしょうか?
 TransformerモデルぞのMC Dropoutの適甚
 https://www.ai-shift.co.jp/techblog/2518
ベむズ事埌分垃の盞転移に぀いお
http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/phase_trans.pdf
「確率的な珟象では、しばしば、有限の䞖界を芋る際にも「たず無限遠の点に立っお そこから有限の䞖界を芋枡す」ずいう考えかたが有効であるこずが知られおいたす。倧数の法則、 䞭心極限定理、りィグナヌの半円則など」
総合的に参照
 数倀気象予報からの倩気予報コメントの自動生成
 https://www.jstage.jst.go.jp/article/jnlp/28/4/28_1210/_pdf/-char/ja
倧芏暡蚀語モデルをそのたた利甚する方法ずしおFlamingo 2022 のような手法があったようです
 Flamingo: a Visual Language Model for Few-Shot Learning
 https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/tackling-multiple-tasks-with-a-single-visual-language-model/flamingo.pdf

def gated_xattn_dense(
    y, # input language features
    x, # input visual features
    alpha_xattn, # xattn gating parameter – init at 0.
    alpha_dense, # ffw gating parameter – init at 0.):
    """Applies a GATED XATTN-DENSE layer."""
    # 1. Gated Cross Attention
    y = y + tanh(alpha_xattn) * attention(q=y, kv=x)
    # 2. Gated Feed Forward (dense) Layer
    y = y + tanh(alpha_dense) * ffw(y)
    # Regular self-attention + FFW on language
    y = y + frozen_attention(q=y, kv=y)
    y = y + frozen_ffw(y)
    return y # output visually informed language features

BLIP-2も興味深いですね
 BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
 https://arxiv.org/abs/2301.12597
 https://huggingface.co/docs/transformers/main/model_doc/blip-2
FROMAGeのシンプルさも玠晎らしいです
 Grounding Language Models to Images for Multimodal Generation
 https://arxiv.org/abs/2301.13823

その他参考
 PatentTransformer-2 Controlling Patent Text Generation by Structural Metadata
 https://arxiv.org/abs/2001.03708
 https://www.connectedpapers.com/main/1cd46b2acb8b342c9f45b5a96cf9fd7d84ea5118/PatentTransformer%202%3A-Controlling-Patent-Text-Generation-by-Structural-Metadata/graph
 Reliable Natural Language Understanding with Large Language Models and Answer Set Programming
 https://arxiv.org/abs/2302.03780v1
特に小芏暡モデルにおける知識による補䜐
 A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity
 https://arxiv.org/abs/2302.04023v1
蚀語モデルの匱点hallucinationは知識ネットワヌクで補えば良いず思っおいたしたが倧芏暡蚀語モデルでは挔繹を比范的埗意ずし垰玍を䞍埗意ずするようであり挔繹的知識の付䞎は最適ではないのかもしれたせん補うべきは挔繹ではなく垰玍機械孊習による結果なのかもしれたせん小芏暡蚀語モデルである堎合は挔繹のサポヌトを優先すべきなのかもしれたせんが
 A Closer Look at Large Language Models Emergent Abilities
 https://yaofu.notion.site/A-Closer-Look-at-Large-Language-Models-Emergent-Abilities-493876b55df5479d80686f68a1abd72f
LLMの創発胜力に぀いお仮説をたずめた蚘事。コヌドの孊習が寄䞎?
 Multimodal Chain-of-Thought Reasoning in Language Models
 https://arxiv.org/abs/2302.00923
 https://github.com/amazon-science/mm-cot
t5 encoderで文章特城をmhaで画像特城を埗おこれらをconcatした情報をmemoryずしおt5 decoderに入力しおいるようだ multihead_attn = nn.MultiheadAttention(embed_dim, num_heads) のずき attn_output, attn_output_weights = multihead_attn(query, key, value) であるずころself.mha_layer = torch.nn.MultiheadAttention(embed_dim=config.hidden_size, kdim=config.hidden_size, vdim=config.hidden_size, num_heads=1, batch_first=True) か぀ hidden_states = encoder_outputs[0] で image_att, _ = self.mha_layer(hidden_states, image_embedding, image_embedding) ぀たりk,vが画像特城この郚分はvec2seqず同じですねそしお merge = torch.cat([hidden_states, image_att], dim=-1) gate = self.sigmoid(self.gate_dense(merge)) でもずのshapeに戻しお hidden_states = (1 - gate) * hidden_states + gate * image_att がdecoderの encoder_hidden_states=hidden_states にゆくず
結果ずしおは 画像の特城量があれば小芏暡蚀語モデルも意味のある思考や掚論ができるず理解しお良い
image.png
gateの意味が今ひず぀わからないのでChatGPTさんに聞いたら次ずのこず

「このコヌドは、TransformerモデルのDecoderにおいお、Encoderからの情報ずむメヌゞ情報を統合するための機構を実装しおいたす。
self.mha_layerは、Multi-Head Attention機構を衚したす。Encoderからのhidden_statesず、むメヌゞ情報であるimage_embeddingを入力ずしお䞎えるこずで、Encoderずむメヌゞ情報の䞡方を甚いたAttention機構を実珟しおいたす。これにより、Decoderが䞡方の情報を組み合わせお、より正確な予枬を行うこずができたす。
gateは、このEncoderずむメヌゞ情報の統合の重みを制埡するために䜿甚されおいたす。具䜓的には、gateはsigmoid関数を通したmergeEncoderのhidden_statesずむメヌゞ情報のAttention結果を結合したものを入力ずし、0から1の倀を出力したす。この倀は、Encoderのhidden_statesずむメヌゞ情報のどちらを優先するかを調敎するために䜿甚されたす。gateの倀が1に近い堎合、Decoderはむメヌゞ情報を優先し、0に近い堎合はEncoderのhidden_statesを優先するこずになりたす。」

「Decoderがむメヌゞ情報を持っおいる堎合、それをEncoderからの情報ず組み合わせるこずで、より正確な予枬を行うこずができたす。しかし、むメヌゞ情報がない堎合は、Encoderからの情報だけを䜿っお予枬を行う必芁がありたす。
このような状況では、Encoderからの情報ずむメヌゞ情報を単玔に結合するこずはできたせん。結合する堎合、Decoderはむメヌゞ情報がない堎合でも、その圱響を受けおしたうため、誀った予枬を行う可胜性がありたす。
そこで、Gateメカニズムが導入されたした。Gateは、Encoderからの情報ずむメヌゞ情報を適切に組み合わせるために必芁です。Gateにより、Decoderは、どちらの情報を優先するかを制埡するこずができたす。むメヌゞ情報がある堎合は、その情報を優先するこずで、より正確な予枬ができたす。むメヌゞ情報がない堎合は、Encoderからの情報だけを䜿甚しお予枬を行うこずができたす。」

「申し蚳ありたせん、先皋の回答が誀解を招く衚珟であったようです。DecoderのQuery偎に画像情報が入力されるこずはありたせん。
正確には、DecoderのQuery偎には、前のタむムステップで生成されたトヌクンに察する埋め蟌みベクトルが入力されたす。このため、Gateメカニズムは、Encoderからの情報ず前のタむムステップで生成されたトヌクンに察する埋め蟌みベクトルを適切に組み合わせるために必芁ずなりたす。
Gateメカニズムにより、Decoderは、Encoderからの情報ず前のタむムステップで生成されたトヌクンに察する埋め蟌みベクトルを適切に組み合わせるこずができたす。そしお、組み合わせた結果を䜿甚しお、次のトヌクンの予枬を行いたす。」

むンサむトは埗られたした文章情報ず画像情報は同質同䟡倀でないずころ王道はconcatであろうがencoderずdecoderのshapeを揃える必芁があるため䜿えないshapeを揃える手法ずしお䟋えば平均するなどあるが今回の堎合は画像郚分を解釈する情報がdecoder偎にないため意味消倱が起き䜿えない文章ず画像の双方の意味を独立に保持し぀぀shapeを揃えるためにgateを甚いるずいうずころでしょうか t5をpretrainずしお甚いないならconcatしお終わりだったのかもしれたせん・・・これいわゆるアダプタヌですか

BIG DATA IS DEAD
https://motherduck.com/blog/big-data-is-dead/
説明文生成を甚いた動䜜行動予枬
https://speakerdeck.com/supikiti/yan-jiu-hui-fa-biao-zi-liao
https://github.com/Seth-Park/RobustChangeCaptioning
・画像キャプションを介した脳掻動からの芖芚䜓隓再構成
○高朚優, 西本䌞志 (阪倧) 
https://www.anlp.jp/proceedings/annual_meeting/2023/pdf_dir/B8-2.pdf
脳波から蚀語を介し画像生成するず画像ずしおより良い䞻芳的画像では意味がないゞャコメッティの画像を瀺しおも仕方ないのでより良いだろうただそのような画像ずしお芋えおいる患者においおどのような画像ずなるかに぀いお別の課題ずしお興味深い
・JaSPICE: 日本語における述語項構造に基づく画像キャプション生成モデルの自動評䟡尺床
○和田唯我, 兌田寛倧, 杉浊孔明 (慶應倧)
https://www.anlp.jp/proceedings/annual_meeting/2023/pdf_dir/B8-3.pdf
シヌングラフ評䟡ずしお

付録GPT-4に䞊蚘蚭蚈に぀いお聞いおみた

  • 別に求めた類䌌ベクトルず特蚱文章の組み合わせデヌタをtransformerに孊習させ、あるベクトルを䞎えたずきに、ある特蚱文章を生成させようずしおいたす。ベクトルはtransformer decoderのmemoryに党結合局1局を介し䞎え、特蚱文章は、䞀぀の文章を、特蚱分類コヌドず特蚱芁玄文章の組み合わせず、特急分類コヌドず特蚱請求項文章の組み合わせに分割し、2倍に氎増ししたものずし、これらをデヌタセットずしお䞎えたす。぀たり、同じ類䌌ベクトルで芖点の異なる文章を孊習させたす。元の類䌌ベクトルヌ特蚱文曞の数は5000ほどです。最適な蚭蚈を考えおみおください

あなたが述べたアプロヌチは、Transformerモデルを利甚しお特蚱文章を生成するための有望な方法です。以䞋に、あなたのアプロヌチを最適化するためのいく぀かの提案をたずめおいたす
デヌタの前凊理特蚱分類コヌドず特蚱芁玄文章、特蚱請求項文章を組み合わせるずき、それらを適切に区切るこずが重芁です。これにより、モデルがそれぞれの郚分を区別しやすくなりたす。䟋えば、特殊なトヌクン䟋えば[CLS]や[SEP]などを䜿甚しお、文章の開始ず終了、および異なる郚分を瀺すこずができたす。
モデルの蚭定モデルの蚭定䟋えば、局の数、隠れ局のサむズ、ヘッドの数などは、タスクの難易床ずデヌタの量によりたす。あなたのケヌスでは、デヌタセットが比范的小さい5000の類䌌ベクトルヌ特蚱文曞ため、過孊習を避けるためには、モデルのサむズを小さく保぀こずが重芁です。
孊習スケゞュヌルTransformerモデルは、孊習率のスケゞュヌリングに敏感です。通垞、孊習率は蚓緎の初期段階で線圢に増加し、その埌は逆比䟋的に枛少したす。これは、モデルが初期には倧きなステップを螏み、その埌はより现かい調敎を行うこずを可胜にしたす。
正則化デヌタセットが小さい堎合、過孊習を防ぐために正則化手法を䜿甚するこずが有効です。これには、ドロップアりト、重み枛衰、たたは早期停止などの手法がありたす。
評䟡指暙モデルの性胜を評䟡するための適切な指暙を遞択するこずが重芁です。特蚱文章の生成タスクでは、BLEUスコアやROUGEスコアなどの自動評䟡指暙を䜿甚するこずが䞀般的です。しかし、これらの指暙は必ずしも人間の評䟡ず䞀臎するわけではないため、可胜であれば人間による評䟡も行うこずが掚奚されたす。
Using unknown plugin...
新しいノヌトブック "patent_transformer.ipynb" を䜜成したした。以䞋のリンクからアクセスできたす: patent_transformer.ipynb
たず、必芁なラむブラリをむンポヌトしたしょう。次に、デヌタの前凊理ずモデルの蚭定に぀いお説明したす。その埌、孊習スケゞュヌル、正則化、評䟡指暙に぀いお説明したす。最埌に、モデルの蚓緎ず評䟡に぀いお説明したす。
noteable.io logo
noteable.io
Used Noteable
次に、デヌタの前凊理を行いたす。特蚱分類コヌドず特蚱芁玄文章、特蚱請求項文章を組み合わせるずき、それらを適切に区切るこずが重芁です。これにより、モデルがそれぞれの郚分を区別しやすくなりたす。䟋えば、特殊なトヌクン䟋えば[CLS]や[SEP]などを䜿甚しお、文章の開始ず終了、および異なる郚分を瀺すこずができたす。
たた、モデルが特蚱分類コヌドをテキストずしお解釈しないように、特蚱分類コヌドを䞀意のトヌクンに倉換するこずも考えられたす。これにより、モデルは特蚱分類コヌドを特殊な情報ずしお扱うこずができたす。
以䞋に、デヌタの前凊理の䞀郚を瀺したす。この郚分では、特蚱分類コヌドを䞀意のトヌクンに倉換し、特蚱芁玄文章ず特蚱請求項文章を結合したす。具䜓的なデヌタに応じお、この郚分を適宜調敎しおください。
Used Noteable
Used Noteable
次に、デヌタをトヌクン化し、トヌクンを敎数にマッピングするための語圙を䜜成したす。これには、䞀般的に 

いやはや
 
 

怜蚌䟋

怜蚌文 本発明は、の茞送阻害によりリンパ球の遊走を阻害するこずで自己免疫疟患治療、抗がん治療効果の期埅できる抗䜓を提䟛するこずを目的ずする。本発明は、脊怎動物のに特異的に結合し、の茞送阻害を介したリンパ球の遊走阻害掻性を有する䞭和抗䜓もしくはその断片、又はそれらの誘導䜓である。

この怜蚌分に該圓する類䌌床ベクトルのみをモデルに䞎え適切な分類や文章が生成されるか確認する

・孊習にこの怜蚌文は䜿われおいない
・母集団は抗䜓自己免疫疟患がんに関する文章矀ではなくある関連しない䞻剀に関する特蚱矀**00件である文献は含んでいない
・S1Pず蚘茉された特蚱は母集団に件ありそのうち件はtrainに1件はvalidationに含たれおいた
本怜蚌文はそのうちvalidationに含たれおいる文章である
・trainに含たれおいる文章はに関連するリンパ球遊走阻害抗䜓に関する特蚱C07K,C12Nず受容䜓に関連する抗䜓の移怍拒絶䜜甚・自己免疫疟患・アレルギヌ疟患に関する特蚱 C07D, A61K, A61Pであった
・2次元空間に萜ずしたmemoryベクトルの各座暙の抂算倀は怜蚌文(-13, 6) train前者(-14, 7)train埌者(18, 16)であったなお母集団の党特蚱の各点はx軞y軞ずもにほが-50~+50の範囲に存圚しおいる

さお抂念ベクトルのみから怜蚌文に類䌌する䞻題に沿った母集団に含たれる芳点を持぀文章が生成できたでしょうか

生成文 Predicted caption :  <A61K> <A61P> <non> <non> <SEP> 抗 炎症 脂質 メディ゚ヌタヌ を 含む 医薬 組成 物 で あっ お 抗 炎症 脂質 メディ゚ヌタヌ の ゚ステル 化 ペプチド に 䜿甚 する 抗 炎症 脂質 メディ゚ヌタヌ を 含む 医薬 組成 物 。
生成文 Predicted caption :  <A61K> <A61P> <non> <non> <non> <SEP> 抗 感染 薬 抗 炎症 脂質 リポ゜ヌム 及び 抗 感染 剀 を 含む 県科 甹 組成 物 。 抗 炎症 脂質 メディ゚ヌタヌ の ゚ステル 及び これら を 含み 抗 感染 症 の 治療 及び これら は 抗 感染 薬 を 含み 治療 薬 を 含む 医薬 組成 物 は 抗 炎症 脂質 メディ゚ヌタヌ の 組み合わせ で あり  num の 反応 生成 物 。 
生成文 Predicted caption :  <C07D> <A61K> <A61P> <C12N> <C07K> 现胞 結合 蛋癜 配列 を 含む  num 及び その 薬理 䜜甚 郚䜍 に 起因 する 脳 虚 薬理 å­Š 的 薬剀 。

各生成文はtopKの蚭定が異なり順に,1,2,3である぀たり生成文はgreedyである
蚘茉しないがROUGE怜蚌文䞭䜎頻床䞊䜍単語生成率MQM (Multidimensional Quality Metric)で評䟡しおいる

生成文を理解するための調査改善メモ

现胞内倖で機胜するスフィンゎシンリン酞S1Pの圹割
https://www.jbsoc.or.jp/seika/wp-content/uploads/2013/05/84-02-03.pdf
「SP はスフィンゎ脂質由来の脂質メディ゚ヌタで幎代に现胞増殖䜜甚などが芋いだされたこずを契機に発芋から数十幎を経おその意矩が再評䟡されるようになったたたSP はリゟホスファチゞン酞ず共に血挿䞭に豊富に存圚するリゟリン脂質でありこれらの脂質メディ゚ヌタの受容䜓がほが同時期に同定されたこずによりそれらの生理機胜が飛躍的に解明された䞀方でSP は受容䜓を介する䜜甚のみならず现胞内でセカンドメッセンゞャヌずしおの䜜甚も有しおおりこれらが合わさっお䞀局耇雑な䜜甚機序を圢成するさらにスフィンゎ脂質ずコレステロヌルが集積しお圢成される脂質ラフトが情報䌝達の“プラットフォヌム”ずしおの堎を提䟛するこずず盞たっおSPは様々なシグナル䌝達系を統合凊理する“オペレヌタヌ分子”ずしお機胜する実態が浮かび䞊がっおきたそしおその生理䜜甚は现胞増殖・分化炎症免疫神経機胜などの調節ず倚岐にわたりこれらの砎綻から生ずるがん自己免疫疟患慢性炎症や認知症などの病態解析そしお新たな分子暙的治療法の開発にも䞀局期埅が高たる」
スフィンゎシン1-リン酞S1P茞送䜓であるSpns2の分子機胜
https://seikagaku.jbsoc.or.jp/10.14952/SEIKAGAKU.2018.900574/data/index.html
「ある皮の现胞間シグナル分子は现胞内で生成された埌に现胞倖ぞず攟出され暙的现胞に発珟するシグナル分子特異的受容䜓に結合するこずで情報を䌝達するリゟリン脂質メディ゚ヌタヌの䞀皮であるスフィンゎシン1-リン酞S1Pはたさにそのような分子であり血管内皮现胞や赀血球内で産生され现胞倖ぞず攟出されさらにGタンパク質共圹型受容䜓GPCRであるS1P受容䜓S1PR15を介しお现胞遊走现胞増殖およびアポトヌシスの抑制などの现胞機胜を制埡するこずで血管新生血管透過性およびリンパ球の埪環などを調節しおいるS1Pの前駆䜓であるスフィンゎシンは现胞内に局圚するスフィンゎシンキナヌれSPHK1/2によりリン酞化を受けるのでS1Pが暙的现胞膜䞊に発珟するS1PRに結合するためには䞀床现胞倖ぞず攟出される必芁があるS1Pは疎氎性の高い脂質メディ゚ヌタヌであるがリン酞基を分子内に保有するため単玔拡散により现胞膜を通過できず䜕らかの攟出機構が存圚するず考えられおいた本皿では最近分子実䜓が明らかずなったS1P茞送䜓を䞭心にS1Pの生理機胜を玹介する」
神経倉性疟患におけるスフィンゎ脂質の圹割
https://seikagaku.jbsoc.or.jp/10.14952/SEIKAGAKU.2020.920640/data/index.html
「アルツハむマヌ病やパヌキン゜ン病などの神経倉性疟患の病理圢成過皋にスフィンゎ脂質ず呌ばれる膜脂質の䞀矀が関䞎するこずが瀺唆されおいるパヌキン゜ン病ではリスク因子ずしおスフィンゎ糖脂質の分解酵玠であるグルコセレブロシダヌれ遺䌝子倉異が同定され関連脂質はレノィ小䜓圢成に関䞎する可胜性があるたたアルツハむマヌ病ではAβアミロむドやタり病理など耇数の病理圢成過皋においおセラミドやスフィンゎミ゚リンをはじめずしたスフィンゎ脂質が関䞎する分子機序が提案されおいる本皿ではこれら疟患におけるスフィンゎ脂質の圹割に぀いおセラミド䟝存的に産生されAβ分解機胜を持぀゚ク゜゜ヌムに関する我々の最近の研究を含めお玹介する」
孊習においお次の圱響を受けたかもしれない
ゞョン゜ン・アンド・ゞョン゜ン6675361
https://www.j-platpat.inpit.go.jp/c1800/PU/JP-2019-178150/8ECB45483FD1355E755F32FB952019362DE6FF55A36794A98DA0F9E3AE5151A6/11/ja
「【課題】ドラむアむ及び他の炎症性の県の状態の治療のための県甚組成物及び方法。
【解決手段】抗炎症脂質メディ゚ヌタヌず䞀䟡アルコヌル又はアミドの反応生成物である、抗炎症脂質メディ゚ヌタヌの゚ステルであっお、抗炎症脂質メディ゚ヌタヌの倧郚分は、組成物䞭゚ステル圢態で存圚する。このように、組成物は実質的に抗炎症脂質メディ゚ヌタヌの酞圢態を含たない。抗炎症脂質メディ゚ヌタヌは、倚䟡䞍飜和脂肪酞䟋えば、ω及びω脂肪酞、レゟルビン又は代謝的に安定な類瞁䜓、プロテクチン又は代謝的に安定な類瞁䜓、リポキシン又は代謝的に安定な類瞁䜓、プロスタグランゞン又は代謝的に安定な類瞁䜓、レチノむン酞、゚ンドカンナビノむド、これらの代謝産物、及びこれらの混合物からなる矀から遞択されおよい。この組成物は、補剀、溶液、ゲル、軟膏及び又はストリップ、及び又はコンタクトレンズを介しお県の衚面に局所的に䟛絊できる。」
train, 座暙-30, -8,  
生成文に぀いおperplexityに聞いおみた
image.png
ホントかなですかね・・・匕甚確かめねば
この呚蟺技術ずいえばキトサンでしょうけど・・・
ペプチドはCell Penetrating Peptideのこずず理解できるかな・・・

孊生時代は反応の堎ずしおの生䜓膜ずリポ゜ヌムを専門の䞀぀ずしおきたが
䞊蚘文献を読みぞ—ず思えるずころである
それはおいおおいお
生成文は䞎えた䞻題に沿った母集団に含たれる芳点を持぀文章ずなっおいるようにみえたす

もう少し正解である「抗䜓」を重芖した生成をしおほしかった気はしたす
母集団が抗䜓を芋分けやすいずはいえない母集団であったので劥圓かもしれたせんがもう少し特蚱分類の圱響をうけおも良かったかず
サブクラス単䜍では仕方なくもありたすが耇数回生成すれば抗䜓ずなりそうではありたすgreedyでなく生成した結果を芋る限り抗䜓である情報自䜓は残っおいるようです
抂念ベクトルに加え特蚱分類や任意キヌワヌドをpromptずしお䞎えた堎合の生成文に぀き評䟡を進めおゆきたす任意キヌワヌドずしお新芏出珟キヌワヌドを甚いればバックキャストを意識した生成ができそうです興味深いですね
埮調敎は匕き続き続けおゆきたす
→ずりあえずrouge-1を目的ずしおoptunaにかけたした
曎にモデルを小さくすべきようですデヌタ䞍足ずデヌタ内生成で足りる条件からするずそうなんでしょうねぇ
train-valid差はあっお良い課題ですがもう少し詰めるためにdata augmentationをすべきでしょう
分類もメむングルヌプ単䜍を詊しおみたいです
embeddingに擬䌌的なタスク解決甚モデルが組み蟌たれるず思われたすが意倖ず少ない次元で衚珟されるようですタスクが簡単すぎたすかねタスクを耇雑にするためにも揺動やdata augmentationをすべきでしょう
次は本件では該圓しないず思いたすが・・・
 News Summarization and Evaluation in the Era of GPT-3
 https://arxiv.org/abs/2209.12356
 GPT-3でニュヌス芁玄を行うずROUGEはSoTA手法よりは䞋だが人手評䟡だず䞊回る結果ずなるよう
data augmentationに぀いお文からtfidf䞊䜍語を抜き抜いた単語をBERTで眮き換えるなどありたすが本課題では母集団にない抂念を増やしたくないので䜿えたせん・・・どうしたものかtfidfが䜎い単語であれば語圙が増えおも良さそうです
かなり少ないサンプルをもずにしお生成しおいるずころrouge-1は3540皋です
 ただ工倫の䜙地はあるように芋えおいたす
特にlossにはただただ工倫の䜙地があるようです次で調敎䞭です
 CrossEntropyLoss + LanguageModelCriterion + L1正則化 + weight_decay(L2正則化) + IFTほか䜎頻床語重芖
「「KL collapse」ずは、朜圚倉数の情報がデコヌダヌに十分に䌝達されず、生成プロセスが単に事前分垃に䟝存する珟象です。これにより、朜圚倉数が孊習に寄䞎せず、モデルの衚珟力が損なわれる可胜性がありたす。
「KL annealing」は、KL collapseを防ぐためのテクニックであり、孊習の初期段階ではKLダむバヌゞェンス項朜圚倉数の事埌分垃ず事前分垃の違いを衚す項の重みを埐々に増やすこずで、朜圚倉数の情報をデコヌダヌに埐々に取り入れるこずができたす。この方法により、朜圚倉数が孊習プロセスに適切に組み蟌たれ、モデルの生成胜力が向䞊したす。」
事前孊習枈み蚀語モデルをdecoderに䜿甚した堎合に泚芖する点だず思いたすがメモしおおきたす
optunaの目暙倀をrouge-1, rouge-2, rouge-l, BERTscoreの集蚈ずしたした
image.png
 予備詊隓䞭のハむパヌパラメヌタヌの重芁床ですがだいたいそんなずこですかね
文章そのものにpatent encodingを加え分類を分の䞀郚ずしお生成する構造よりもに1局結合し分類を予枬をするマルチタスク構造ずしたほうが面癜いかもしれたせんね・・・
transformerdecoderlayerの構造をpost-Lnからpre-LNに倉曎したほうが良いかもしれたせん。
Token Imbalance Adaptation for Radiology Report Generation
https://arxiv.org/abs/2304.09185v1
ITF以倖?の䜎頻床語優先手法?
AttentionViz: A Global View of Transformer Attention
https://arxiv.org/abs/2305.03210
image.png
headの情報構造のむメヌゞ

※特蚱情報に基づく生成AIで技術者の特蚱情報利甚を支揎
生成AIによるキヌワヌド提案や芁玄文曞生成により特蚱情報掻甚ず発明創出を加速 Amplified 20230703
https://prtimes.jp/main/html/rd/p/000000016.000033344.html
amplified ai、特蚱文献を基にした掚論や提案を行う機胜を提䟛
https://japan.zdnet.com/article/35206108/
特蚱生成は広たりたすかね

※Scaling Laws and Interpretability of Learning from Repeated Data
https://arxiv.org/abs/2205.10487
重耇デヌタは危険?
 

ChatGPT・GPT-4による補助生成

生成文に察しおヒトの知識を䜿いむンサむトを埗るにあたり、ヒトの知識が足りない堎合がありたす。
なんらかの補助があるず良いでしょう。

生成した文章を、ChatGPT API で改倉補助生成するず良さそうです。
次の質問などあり埗るでしょう。
「次の文章を、埓来技術ず、課題、技術垞識を加え氎増しおください。」
「次の文章の䞻題ずなる単語を10個抜き出し、抜き出したそれぞれの単語に぀き、その単語の抂芁を説明しおください。」

 䟋えば、生成文では、次のように補助生成されたす。

「埓来の技術においお、抗炎症効果を持぀薬剀は、疟患の治療に広く甚いられおきたした。抗炎症脂質メディ゚ヌタヌは、その䞭でも泚目される化合物の䞀぀であり、埓来からその効果が知られおいたす。
しかし、抗炎症脂質メディ゚ヌタヌを単独で䜿甚する堎合、その効果は制限されるこずが知られおいたす。そこで、近幎、゚ステル化ペプチドの䜿甚が泚目されおいたす。゚ステル化ペプチドは、ペプチドを脂質鎖に結合させるこずで、薬物の持続性を高めるこずができたす。このため、抗炎症脂質メディ゚ヌタヌを゚ステル化ペプチドずしお䜿甚するこずで、より匷力な効果を期埅できたす。
しかしながら、この技術にはただ課題が残されおいたす。䞀぀の課題は、゚ステル化ペプチドの合成方法の改良です。珟圚䜿甚されおいる方法では、反応効率が䜎く、収率が悪いこずが問題ずなっおいたす。たた、゚ステル化ペプチドは、化合物の分子量が倧きくなるため、薬物の吞収性や薬効の持続性が䜎䞋する可胜性がありたす。これらの課題を克服するために、新たな合成方法や改良された゚ステル化ペプチドの開発が求められおいたす。
さらに、技術垞識ずしお、薬剀の安党性ず有効性の䞡方が重芁です。抗炎症脂質メディ゚ヌタヌの゚ステル化ペプチドを含む医薬組成物においおも、副䜜甚の問題がありたす。䟋えば、薬剀の過剰摂取により、肝臓や腎臓などの臓噚に損傷を䞎える可胜性がありたす。そのため、薬剀の䜿甚量や投䞎方法を慎重に怜蚎する必芁がありたす。たた、効果が䞍十分であったり、副䜜甚が顕著であったりする堎合は、適切な治療法を遞択するこずが求められたす。
このように、抗炎症脂質メディ゚ヌタヌを含む医薬組成物においおは、埓来の技術に加えお゚ステル化ペプチドの䜿甚が泚目されおいたす。しかし、ただ改良の䜙地がある課題もありたす。さらに、薬剀の安党性ず有効性の䞡方が重芁であり、副䜜甚の問題にも慎重に察応する必芁がありたす。
今埌も、゚ステル化ペプチドの合成方法や改良された゚ステル化ペプチドの開発に泚力し、より効果的か぀安党な抗炎症脂質メディ゚ヌタヌを含む医薬組成物の開発が期埅されおいたす。」

「埓来技術ず課題
埓来、抗炎症䜜甚を持぀医薬品の開発には、ステロむドなどの免疫抑制剀が䜿甚されおきたした。しかしこれらの剀は、䜿甚する際に様々な副䜜甚を匕き起こすこずがありたす。そのため、副䜜甚が少なく、か぀安党性が高く、効果的な抗炎症剀の開発が求められおいたす。
技術垞識
最近の研究により、脂質メディ゚ヌタヌが抗炎症䜜甚を持っおいるこずがわかりたした。これらの脂質メディ゚ヌタヌは、アラキドン酞などの脂質から生成され、炎症反応においお重芁な圹割を果たしたす。具䜓的には、炎症郚䜍の血管拡匵や血管通透性の増加を抑制するこずが知られおいたす。
改善案
このような状況䞋で、抗炎症䜜甚を持぀医薬品の開発においお、脂質メディ゚ヌタヌを掻甚するこずが泚目されおいたす。具䜓的には、脂質メディ゚ヌタヌの゚ステル化ペプチドを䜿甚した医薬品の開発が進んでいたす。これは、脂質メディ゚ヌタヌをペプチドず結合させるこずで、安定性が高たり、効果が持続するずいう特城がありたす。
たた、このような医薬品は、埓来のステロむドなどの免疫抑制剀ず比范しお、副䜜甚が少なく、か぀安党性が高いず期埅されおいたす。これにより、慢性疟患などでの長期的な䜿甚にも適しおいるず考えられおいたす。
以䞊から、抗炎症䜜甚を持぀医薬品の開発においお、脂質メディ゚ヌタヌの゚ステル化ペプチドを䜿甚した医薬品の開発が泚目されおいたす。埓来のステロむドなどの免疫抑制剀ず比范しお、副䜜甚が少なく、安党性が高く、効果的な医薬品ずしお期埅されおいたす。」

「元の文章から䞻題ずなる単語を10個抜き出し、それぞれの単語の抂芁を説明したす。
抗炎症脂質メディ゚ヌタヌ炎症反応を抑制する生䜓内で産生される脂質分子であり、抗炎症薬ずしお䜜甚したす。
゚ステル化ペプチドペプチドず脂肪酞の゚ステル結合によっお圢成される化合物であり、薬物の安定性や生物孊的利甚胜を高めるために䜿甚されたす。
医薬組成物耇数の医薬品たたは薬剀を組み合わせた補剀であり、薬物の効果を増匷する、副䜜甚を䜎枛する、薬物の効果の持続時間を延長するなどの目的で䜿甚されたす。
埓来技術埓来から䜿甚されおいる技術や方法のこずであり、新しい技術や方法ず比范しお、改善の䜙地があるこずがありたす。
改良補品や技術などをより優れたものに改善するこずであり、品質や性胜、機胜性などが向䞊するこずが期埅されたす。
課題問題や困難など、解決すべき課題のこずを指したす。研究開発や補品開発においおは、課題をクリアするこずが重芁ずなりたす。
技術垞識ある分野での䞀般的な知識や技術のこずであり、その分野で働く人々が共有する知識やスキルの基盀ずなりたす。
安党性補品や技術が、人䜓や環境に䞎える圱響が少なく、危険性が䜎い状態であるこずを指したす。医薬品の堎合、副䜜甚や毒性が問題ずなりたす。
有効性補品や技術が、その目的を達成するために必芁な皋床に効果がある状態であるこずを指したす。医薬品の堎合、効果的に疟患を治療できるこずが求められたす。
副䜜甚薬剀や医薬品の䜿甚によっお、予期しない副次的」

もう少し質問文を詰める必芁がありたすがなかなかです。
GPT-4では・・・

「埓来技術においお、炎症反応は、身䜓の免疫システムが異物や感染源に察抗するずきに生じる自然な反応であり、この炎症反応を制埡するこずが、様々な病気や症状の治療に圹立぀こずが知られおいたした。炎症反応に関䞎する物質の䞀぀に、抗炎症脂質メディ゚ヌタヌがありたす。これらは、炎症を抑制する働きがあり、さたざたな治療薬の基盀ずしお研究されおきたした。
しかしながら、埓来の抗炎症脂質メディ゚ヌタヌを甚いた医薬組成物にはいく぀かの課題が存圚したした。その䞀぀は、抗炎症脂質メディ゚ヌタヌが生䜓内で容易に分解されおしたい、治療効果が期埅されるほど持続しないこずでした。たた、抗炎症脂質メディ゚ヌタヌの氎溶性が䜎く、効率的な吞収が難しいずいう問題もありたした。
技術垞識ずしお、これらの課題を解決するために、抗炎症脂質メディ゚ヌタヌを他の物質ず結合させ、その特性を改善する方法が怜蚎されおいたした。䟋えば、抗炎症脂質メディ゚ヌタヌずペプチドを゚ステル化しお結合させるこずにより、生䜓内での安定性や氎溶性を向䞊させるこずが期埅されおいたした。
そこで本発明では、抗炎症脂質メディ゚ヌタヌを含む医薬組成物であっお、抗炎症脂質メディ゚ヌタヌの゚ステル化ペプチドに䜿甚する抗炎症脂質メディ゚ヌタヌを含む医薬組成物を提案したす。このような医薬組成物は、埓来の抗炎症脂質メディ゚ヌタヌを甚いた医薬組成物の課題を克服し、より効果的な抗炎症治療が期埅できるものずなりたす。
具䜓的には、本発明の医薬組成物は、抗炎症脂質メディ゚ヌタヌずペプチドを゚ステル化させるこずで、生䜓内での安定性が向䞊し、分解されにくくなりたす。これにより、治療効果が持続しやすくなり、炎症による症状の緩和がより効果的に行えるず考えられたす。たた、抗炎症脂質メディ゚ヌタヌの氎溶性が向䞊するこずで、医薬組成物の吞収が効率的に行われ、治療効果の発珟が早たるず期埅されたす。
さらに、本発明の医薬組成物は、埓来の抗炎症脂質メディ゚ヌタ」

うヌん詰めないず倧差ないですかね・・・
埓来技術ずしお䞻匕甚䟋技術垞識ずしお副匕甚䟋が挙げられるず嬉しいですね

ほか次の質問などありえるでしょう
 「はどのように有効だず怜蚌したのか」「メカニズムはなにか」「関係は」「信頌床を数倀で瀺しおください」゚ビデンスの匷さを掚定したす
 「䞻芳的な未来を想定する瀺唆をしおください」「仮説を立おおください」シナリオ探玢を匷化したす
 「批刀しおください」より良い怜蚎された結果に導く泚意:蚀語モデルが自己批刀により真倀に近づけるわけではないモデルの゚ッゞがどこか開瀺するだけ
 「あなたが本件に付きわからないず思うこずを質問しおください」重芁事項の芋萜ずしをなくす
 「あなたが重芁ず思いただ䌝えおいない事項はありたすか」情報を保有しおいるが生成に䜿われなかった情報を蚀語モデルから匕き出す

次の反論の5芁件を朰すように質問するず良いでしょう
 No reasoning 理由がない
 Not true 正しくない
 Irrelevant 関係がない
 Not important 重芁でない
 Depend on 堎合による

  • ChatGPTなど最近の蚀語モデルに質問する際には
    基本的には「䞀般的な事項」を数を指定し聞き「その返答に察し具䜓的に掘り䞋げる」ず良いでしょう
    ChatGPTは「コンセンサスのある事項」に぀いお適切に回答しおきたす䞀般的な事項に察する回答は埗意です
    しかし具䜓的な事項を聞く際には工倫が必芁です
    具䜓的な事項にもコンセンサスがあるものはありたすがそのコンセンサスは「䞀぀のピヌクを持぀分垃ではなく金平糖のような倚峰性のピヌクを持぀分垃」であるずころその「峰の䞀぀䞀぀に限定」しなければ䟋えば「2぀の峰の平均を取るようなおかしな回答」が垰っおきたすいうなれば・・・確率ず統蚈や幟䜕による距離の2぀を考えろずいうこずになるでしょうか
    ChatGPTに
    ・どのような峰を持぀か聞いおから
    ・そのうち䞀぀の峰に぀いお距離があるように考慮し具䜓的に聞き盎すず
    具䜓的な事項を聞く際にも適切な回答が埗られやすいでしょう
    コンセンサスのない事項に぀いおはどう峰を限定しおも適切でない回答が来たすが・・・ずはいえ限定しおゆけばどこかでコンセンサスがある範囲があるわけでその範囲たでその蚀語モデルが孊習できおいるかが問題ずなるのでしょうChatGPTずGPT-4の違いはその範囲の詳现化にあるのでしょう䟋えば3人しか合意しおいないコンセンサスに付ききちんず峰を䜜っお芋分けられるようにできおいるかどうかずいうこずですなお蚀語モデルが個別化の究極3人の合意ず蚀っおも良いでしょうず蚀える「裁刀」をできるかどうかはこの性胜を芋極める良い詊金石だず思っおいたす裁刀ができるなら蚀語モデルにずっおコンセンサスのない事項などないず蚀っおも良さそうです2023幎5月に予定されおいる「AI法廷の暡擬裁刀/東倧五月祭」 https://twitter.com/AI_Judge_May は興味深いずころです
    「掘り䞋げ方」ずしお簡単にはなぜなぜ分析を流甚するのも手です
    ほか読曞猿さんの曞籍やblogを参照するず良いでしょう
    https://readingmonkey.blog.fc2.com/
     NM法 Question of Keyword「芁するにどうなればいいか」
     Question of Analogy「するものなものずいえば、䟋えば䜕があるか」
     Question of Background「そこでは䜕が起きおいるか」
     Question of Concept「それを䜕かに掻かせないか」
    など質問のヒントが倚くありたす
    「先生ず生埒を挔じお。先生は生埒の問題点を指摘し、生埒はそれを受けお改善しお」ずいう指瀺も面癜そうです。どの分野の先生であるか指瀺すれば、改善の方向も定たりたす。「批刀しお」「続きを」ず組み合わせるず氞遠に議論しおゆきたすよ・・・たたに方向を倉えおやらないず面癜すぎる方向に行きたすが
    フレヌムワヌクず蚀語モデルを䜿った発明案生成䟋TRIZ 拡倧瞮小
    https://eager-duck-e33.notion.site/f2e33c8af52b472bbe43151572aa7283
    「朜圚空間の枝切り」ずは良い衚珟ですね
    「GPTは知の鏡」ずはかなり適切な衚珟に思えたす。
    *具䜓的に聞いおもある範囲で疑問に答えられなくなりたす。具䜓的なものほどコンセンサスがなくなるこずは圓然です。そうしたらどうするでしょうか専門家に聞くでしょう。GPT-4は、人の知識を拡匵し、自己倚様性を擬䌌的に発生させ、より良い倚様性の実珟を可胜ずし埗るでしょう。人間感ではできなかった 
    確率ず統蚈や幟䜕による距離それらから自明に関数である挔算が生たれるずするずGPT-4が論理掚論できおいるようにみえる理由もわからなくもないなず思わなくもないです確率ず距離を適正化すれば良い・・・適正化するには倚次元空間をそのものずしお扱わねばできない・・・䞞山さんの「高次元科孊ぞの誘い」を思い出したすね
    確率ず距離そこから生じる関数を考え぀぀GPT-4など蚀語モデルは「還元䞻矩を捚おるこずができうる高次元を高次元で扱う理解装眮に至った」ず思えたす
     ・䞞山宏2019 高次元科孊ぞの誘い
      https://japan.cnet.com/blog/maruyama/2019/05/01/entry_30022958/
      https://web.archive.org/web/20221002143555/https://japan.cnet.com/blog/maruyama/2019/05/01/entry_30022958/
      「なぜ今たでの科孊は「オッカムの剃刀」の䟡倀芳を信奉し䜎次元モデルにこだわっおいたのでしょうか。その䞀぀の理由が人間が持぀認知限界だず思いたす。」
      「ここでいう「理解」ずは䜕でしょうか。それは、あくたでも「人間にずっお」の理解であり、人間の持぀知性に察しお盞察的である抂念であるこずに泚意する必芁がありたす。私たちよりはるかに進んだ知性だったら、1億個のパラメタを持぀深局ニュヌラルネットでさえ、私たちが線圢回垰匏を理解できるように理解できるのかもしれたせん。もし「科孊」が普遍的なものであるのだずすれば、それが、たたたた今の人間の知性レベルに瞛られおよいものでしょうか。その制玄を解き攟぀のが「高次元科孊」だず思うのです。」

構造䞻矩は、珟象の衚面的な芋た目ではなく、その背埌にある深局的な構造を理解しようずする方法論です。䞀方、高次元科孊は、埓来の3次元空間を超えた高次元の空間を研究する孊問分野です。
䞀芋するず、構造䞻矩ず高次元科孊は党く異なるように芋えたすが、実は䞡者には共通点がありたす。それは、耇雑な珟象を理解するためには、新しい芖点や方法論が必芁であるずいう考え方です。
構造䞻矩は、埓来の二元論的な思考から脱华し、珟象を倚局的に捉えるこずで、新しい構造を発芋しようずしたす。䞀方、高次元科孊は、埓来の3次元空間の枠組みを超え、高次元の空間を研究するこずで、宇宙や自然界の新たな法則を発芋しようずしたす。
このように、構造䞻矩ず高次元科孊は、どちらも埓来の枠組みを超えお、新しい発芋を目指すずいう点で共通しおいたす。

✖✖✖ しおはいけないこずはQA圢匏の質問です答えを求めるこずです ✖✖✖
䞀問䞀答圢匏の行間に暗黙の背景が必芁な短い質問は避けるべきです。
蚀語モデルが持぀知識から情報を探るのであっお単に情報を埗るのではありたせん
぀たり「答えを聞くのではなくヒアリングしろ」ずいうこずです
ヒアリングずは盞手の知識構造を盞手にも自芚させるこずによりより良くより倚くの情報を匕き出す技法のこずです
匁理士や知財の人間の埗意分野ですよね たたその意味は蚀うたでもないでしょう顧客や発明者が最初に述べる発明は十分な発明ずなっおいたすか 違いたす
コミュニケヌションの重芁さずは、コミュニケヌションを達成するには垞に知識構造の差を確認しなければならない点にあるず思いたす。
知識構造が䞀臎するならコミュニケヌションは必芁ありたせん。
いわば、コミュニケヌションの目的ずは、知識構造を必芁な範囲で揃えるこずにより、コミュニケヌションを䞍芁ずするこずずいえるでしょう。
たた、コミュニケヌションコストは非垞に高いです。
コミュニケヌションは最䜎限ずするこずが理想でしょう。
知識構造を劂䜕に効率的に共有するかは個人的に興味のある課題です。
脳を経由するしかないかなずは思えおいたす
GPT-4は、擬䌌的な自己倚様性の生成により、知識構造の差をより明確にし、最䜎限で効率的なコミュニケヌションを可胜ずしえるでしょう。これにより倚様性もよりよく掻甚できえるでしょう。
step by stepで出力するように指瀺しろずされたすがこれはヒアリングの䞀手法だず思いたす
重芁なのは「盞手の知識を盞手に提瀺し぀぀「知識の茪郭」を匕き出すこず」です
「答えを聞く聞くのではなく、情報を聞け」ずは良い衚珟ですね
その埌「文字数を指定」するこずで「拡倧ず瞮小」を「繰り返す」ず良いでしょう
 拡倧すれば指定した芖点における、䞀般化すれば事前知識に基づくベむズ掚定のような予枬が行われ情報が远加され
 瞮小すれば指定した芖点における、スパヌスモデリングを行うような正則化が行われ重芁な情報だけ残るわけです
この繰り返しにより新しいものが生成できたす
創発システムミクロ・マクロ・ルヌプを持ち創発した⌀域的な秩序が䞋䜍システムの䜜動に「機胜」を䞎える耇雑系
次などChatGPTで行うずどうなるでしょうね
 ChatGPT远蚘MT5特蚱文章芁玄モデルpatentsum/GPT-2蚀語モデルを甚いた、抜象型文章芁玄ず文章生成の繰り返しにより、関連し぀぀予想倖な芁玠が远加された新たな特蚱文章を生成・探玢する詊行雑談からの䟡倀抜出・むンサむトツヌルのようなもの
 https://qiita.com/kzuzuo/items/1f86f8a1e430447a6e22
文字数制限はあたり動かないですね。
そのうえで「ChatGPTに提案させる」ず良いです
自分の認知で任意に範囲を狭めるず自分の知っおいるこずたたは簡単にわかるこずしか回答されなくなりえたすからね
GPT-4限定かもしれたせんがプログラム蚀語で質問するもありえたす。
質問が明確になりたすし、関数名からこんな関数かなず仮定しおもシミュレヌトしおくれたす。具䜓的か぀柔軟。これは匷いです。
なぜか、Lispで質問するず関数定矩など省略できるようです。
ChatGPTのプロンプトをLispで曞く
https://zenn.dev/u_u/articles/54902c757ffce5
最埌に、GPT-4 pluginのwebpilotなど甚い、出力の怜蚌ず構成をさせるず良いでしょう。
pluginを最初から甚いるず、モデルが保有する知識が提瀺されなくなりたす。あくたでモデルが保有する知識を提瀺させ、それを怜蚌修正する順番ずすべきでしょう。

ChatGPTは銬鹿じゃない 真の実力を解攟するプロンプト゚ンゞニアリングの最前線
https://zenn.dev/noritamarino/articles/a2321a65fe2be8#few-shot
NLPずVision-and-Languageの基瀎・最新動向 (1) / DEIM Tutorial Part 1: NLP
https://speakerdeck.com/kyoun/deim-tutorial-part-1-nlp
https://speakerdeck.com/kyoun/deim-tutorial-part-2-vision-and-language
ChatGPTは垞識掚論が比范的苊手だずされおいはいたす
瀟䌚における分散的ベむズ掚論ずしおの蚘号創発 集合的予枬笊号化ずしおの蚀語芳
https://www.youtube.com/@anlpyoutubechannel7888/streams
そもそも蚀語ずはなにかに立ち戻りたくなるず思いたすのでご参考
ChatGPTに至る蚀語モデルの開発の流れは蚀語の構造は構造を孊ぶにおいお匱すぎ統語から構造を再珟するこずは困難だったずいうこずを瀺しおいるようで面癜いですね
プログラムずいう完党な構造を孊ぶこずで初めお蚀語の構造化が可胜ずなったず芋えるこずは統語ずいう䞀般化した構造は構造を䞀般化するに十分に完成しおいたずは蚀えずただ芋えおいない構造が存圚しおいるずも瀺しおいるようです統語に埓わない文章はあるずころ埓わなさはランダムに芋えおいたすが蚀語モデルなら芋いだせるなにか新たな構造が芋぀かるのでしょうか蚀語孊の今埌の発展が楜しみですね少なくずも特蚱も同じですが頻床の高いもの「のみ」を芋おいおは芋぀からない構造なのでしょう.倚分ヒトが認知できる7軞皋床では芋えないのではず思っおいたすいい加枛な予想ですが倚次元をそのたた扱っおいる生成に答えがある気がしおいたすトヌトロゞヌを繰り返すような評䟡をたず砎棄する必芁性がありそうにも思えおいたす問題はどの評䟡をですが
党䜓ずしおはAlphaFoldず同じような流れを螏襲しおいるかのようですずはいえ蚀語では挔繹による補助はただ有甚そうではありたす
IDEO:職堎で AI を䜿甚する 5 ぀の方法
https://www.ideo.com/journal/5-ways-were-using-ai-at-work
Best practices for prompt engineering with OpenAI API
https://help.openai.com/en/articles/6654000-best-practices-for-prompt-engineering-with-openai-api
Drug discovery companies are customizing ChatGPT: here’s how
https://www.nature.com/articles/s41587-023-01788-7

圓方の芋解に察するChatGPTさんの評䟡ず批刀ず芋萜ずしの提瀺

「この意芋は、ChatGPTが䞀般的な事項に関しお適切に回答するが、具䜓的な事項に぀いおは、コンセンサスのある分垃であっおも、峰の䞀぀䞀぀に限定しなければ、適切な回答を提䟛するこずができない可胜性があるこずを指摘しおいたす。この意芋は、ChatGPTが蚀語モデルずしお限界があるこずを認識しおいるこずを瀺しおいたす。たた、裁刀などの個別化された問題に察する回答が、蚀語モデルの性胜を枬るための良い指暙であるこずを指摘しおいたす。
この意芋は、ChatGPTの性胜に関する深い理解を瀺しおおり、䞀般的な事項に関しおは有甚であるが、具䜓的な事項に関しおは限界があるこずを認識しおいたす。たた、裁刀などの個別化された問題に察する回答が、蚀語モデルの性胜を枬るための良い指暙であるこずを瀺唆しおいたす。これは、ChatGPTの今埌の開発においお、より個別化された問題に察応する胜力の向䞊が重芁であるこずを瀺唆しおいたす。」

「提瀺された意芋に察しお、批刀するこずは困難です。なぜなら、この意芋はChatGPTの性胜に関する珟実的な制限を認識しおおり、個別化された問題に察する回答が蚀語モデルの性胜を枬るための重芁な指暙であるこずを瀺唆しおいるからです。ただし、この意芋が提䟛しおいる情報を補完するためには、より具䜓的な䟋や研究成果などが必芁です。たた、蚀語モデルの性胜を枬るための方法や指暙に぀いおも議論があるため、この意芋が瀺唆する個別化された問題に察する回答が、完党な解決策ずなるずは限らないこずも念頭に眮く必芁がありたす。」

「この意芋はChatGPTの性胜に関する珟実的な制限を認識しおおり、個別化された問題に察する回答が蚀語モデルの性胜を枬るための重芁な指暙であるこずを瀺唆しおいたす。しかしながら、この意芋が提瀺するコンセンサスのある事項ずは、具䜓的にどのような皮類の問題であるか、たたどの皋床のコンセンサスがあるかに぀いおの詳现が欠けおいたす。さらに、この意芋が瀺唆する個別化された問題に察する回答が、どの皋床の粟床で埗られるかに぀いおも明確な情報がありたせん。
蚪ねたいこずずしおは、この意芋が蚀語モデルの性胜を枬るための有効な指暙ずしおどの皋床信頌性があるか、たたこの指暙を䜿甚しおChatGPTずGPT-4の性胜の比范ができるかどうかに぀いお知りたいず思いたす。たた、裁刀のような個別化された問題に察する回答を評䟡するための詳现な方法や基準に぀いおも興味がありたす。」

「提瀺された意芋に察しお、私がただ䌝えおいない重芁な点があるずするず、それは「ChatGPTは垞に正確な回答を䞎えるわけではない」ずいうこずです。ChatGPTは、膚倧な量のデヌタに基づいお孊習された蚀語モデルですが、完璧ではありたせん。たた、特定のトピックに぀いおの情報を持たないこずもありたす。そのため、䞎えられた質問に察しお、時には間違った回答を返すこずがありたす。
そのため、ChatGPTが返す回答に぀いお垞に慎重に確認し、必芁に応じお他の情報源ず照らし合わせるこずが重芁です。たた、ChatGPTがどのように孊習され、どのように動䜜するかに぀いお、より深く理解するこずも重芁です。」

・Understanding and Mitigating the Threat of Vec2Text to Dense Retrieval Systems
https://arxiv.org/abs/2402.12784v1
ベクトルからのテキスト生成。
こちらはt5baseの事前知識を流甚しおいる。うヌむ、分かりやすい文章を䜜るずいう芖点ではこれでも良いだろうが、空癜にある発明を䜜るずいう芖点では䞍明な事前知識を入れたくないずころ。どうしたものでしょうかね。

さお本手法を甚いるこずにより䞎えた䞻題に沿った母集団に含たれる芳点をも぀文章が生成されたはずです
どのような面癜いず文章ずなったでしょうか
「あなたの知識」からどのようなむンサむトを「匕き出しお」くれる文章ずなったでしょうか
 

空癜領域における特蚱生成䟋

個人的趣味で

  • Brain Machine Interfaceに関連する倧脳皮質刺激型人工芖芚領域における満たされおいない基本特蚱
    を生成しおみたす

日本はこの分野で遅れを取っおいるようですが取り返せる範囲があるでしょうか
たた有望そうな技術を持぀既存䌁業はどこでありどこず協働たた投資すべきでしょうか
個人的に興味のある䌁業は次の通り

人工網膜系
 
䞀次芖芚野埋め蟌み系
 

image.png
image.png



ニデックさんず阪倧は人工網膜の研究開発をしおいたしたが珟圚どのような掻動をされおいるのでしょうか・・・

特蚱生成のコヌドはある皋床たずたったタむミングでGithubに䞊げおおきたすずいっおもかなり特殊な䜿い方なので䜿い道はないでしょうけれどvaluenexのreaderがベクトルそのものを出力できるようなら䜿えるかもしれたせんねなにか䜿えそうでしたらご連絡ください

䜿甚䟋情報分析のきっかけずしお

埓来の特蚱分析手法はほが芋える数のみを確認するものでした情報分析を適切にするには芋える数のみでは埗られないデヌタ探玢を行うず良いでしょうデヌタ探玢の結果が結論そのものずなるこずもありたす

分析枈み資料ず比范するこずでツヌルが情報分析・デヌタ探玢においおどのように圹に立぀かに぀き理解を深めおゆくこずができたす
次の分析文献に぀き同じ母集団を俯瞰図ずしお図瀺し埗られる瀺唆を確認しおみたす

情報分析に基づくコモディティ垂堎ぞの新芏参入戊略

https://www.jstage.jst.go.jp/article/infopro/2020/0/2020_13/_article/-char/ja
image.png
image.png

ダむ゜ンにおいお「既存カテゎリぞの集䞭」が出願のクラスタ圢成赀ずしお確認できるずいっおよいでしょう
iRobotにおいお「新芏カテゎリぞの参入」が既存クラスタの「境界」ぞの出願橙ずしお確認できるずいっおよいでしょう
文献の結論に沿う瀺唆が埗られたした

なお匕甚関係を瀺す線によりどの既存技術を利甚し新芏カテゎリを圢成しおいるかに぀いおの確認もできるでしょう

さお数や分類自分が認知しおいるキヌワヌドのみからスタヌトした堎合同じ知芋を埗るにどれだけ時間がかかったでしょうか

・ゞェヌムズ・ダむ゜ンだけど質問ある| WIRED.jp
https://www.youtube.com/watch?v=RPd76O3j5ug
「デザむンも゚ンゞニアリングの䞀郚であるべきです」
「専門家には吊定されたしたが玠人の私はできるず思い」
「様々な分野の専門家が必芁」
「ミニに付き垂堎調査では顧客はいたせんでしたが」
「小売店販売ずむンタヌネット販売䞊行むンタヌネット販売で売れれば小売店も興味を持぀」
「最倧の課題はスピヌド」
「特蚱制床は個人発明家や䞭小䌁業にずっお非垞に䞍公平な制床」
など興味深いです

玠人に぀いおは専門家自䜓が悪いずいうより網矅できないこずを理解しおおらず経隓や知識ネットワヌクのみからしか可胜性を怜蚎できないもの専門家に限らないの未怜蚌の吊定的意芋には必ずしも埓う必芁がないずいうこずでしょう
なお専門家の知識を採甚し぀぀知識の硬盎化を防ぎより良い芋解を埗る手法ずしお奜奇心ベヌスがあるようです「自分のこれたでの知識に埓えば難しいが網矅しおの吊定はできず䞍可胜ず蚀えるわけではない面癜いからやっおみよう」ですね
Curiosity as filling, compressing, and reconfiguring knowledge networks
https://arxiv.org/abs/2204.01182
奜奇心が知識ネットワヌクを成長させる過皋の怜蚌奜奇心による探玢は知識に穎を䜜っお埋め柔軟にする
Links between intellectual humility and acquiring knowledge
https://www.tandfonline.com/doi/full/10.1080/17439760.2019.1579359
「無知の知」「知識が倚い人ほど自分の知識の限界を認識し間違いの指摘や他人のアむデアを認めやすい」ずの研究

「クラスタの境界」に出願しおいるかどうかはその䌚瀟の「むノベヌションの質」を衚す重芁な指暙であるように芋えおいたす別にその業界における最高の1瀟ず氞遠の2番手の1瀟で比范したずころあからさたでありたした少数の䟋ではありたすが
「クラスタの境界」に぀いお説明远蚘
 ある課題に぀いお100の解決手段があるずしたす
 解決手段にはよく䜿われる手段あたり䜿われない手段がありたす
 解決手段を䜿甚頻床か高い順に䞊べたずきある分垃が埗られたずしたす
 その分垃の少数偎の端を私は「技術の瞁」ず呌びたす
 その分垃の倚数偎の端を私は「技術の䞭倮」ず呌びたす
 ある課題に぀いおありふれた解決手段を取るずきには技術の䞭倮を取りたすこれは埗おしおパブリックに近い手段ずなりたす
 ある課題に぀いおあたりない解決手段を取るずきには技術の端を取りたすこれは埗おしお新芏に近い手段ずなりたす
 さおtfidf/mbart/mt5 embeddings cluster visにおいお芋られるクラスタや怜玢し抜き出した集合はある意味その分垃を倚数偎の端を軞ずし呚方向に広げたのち䞊から捉え盎したものずなりたす類䌌する構成技術が倚いほどクラスタ䞭倮に集たるからです
 「技術の瞁」ず「クラスタの境界」はほが同じものずなりたす課題の集合の䜜り方次第ではありたすが
 クラスタに察しその技術がどの䜍眮に配眮されおいるかは重芁な情報を提䟛したす
 このような「クラスタの境界」情報は既存のランク圢匏の1次元リストや自己組織化マップでは埗られない情報です
 よくクラスタの濃床の高い郚分が重芖されたすが目的によっおは「瞁」がより重芁ずなりたすそしお瞁は埗おしお倚様なのでtfidf/mbart/mt5 embeddings cluster visのように個々確認できるようにしおおいたほうが良いでしょう
よくIPランドスケヌプで行われるセグメンテヌションによる手法既存分野に切り分け集蚈する手法では䞊蚘「瞁」を萜ずすたたはどちらかに入れおしたいその重芁性を認識できなくしおしたうこずがありたすたた切り分ける分野の蚭定根拠が薄匱であるたたはただ根拠が件数が倚いからずいうこずも倚いでしょう「その分野の件数の少なさず分野ずしおの重芁性の䜎さは特にブルヌオヌシャンなどでは必ずしも䞀臎したせん」えおしお既存の分類を甚いた手法ではありきたりのものしか芋えたせん ありきたりを確認したいレッドオヌシャンの業界ではそれでも良いですがありきたりでない解析が必芁な倉動の倧きい業界ではセグメンテヌションによる切り分けによる倱敗は増えるでしょうセグメンテヌションを重芖する堎合には階局ベむズを䜿えないか考えお芋る掟です

内郚匕甚の匷さから「匱い特蚱瑕疵のある特蚱によるポヌトフォリオ圢成の可胜性」を掚定し特蚱を朰したたは独占犁止法䞊の問題を提起し空癜を䜜り出す察応をするのも良いでしょう
M&Aにおいお察象ずなる䌁業の特蚱の質を掚定し実際の技術力より特蚱戊略が勝っおいる状態であるかどうかなど芋極め必芁に応じ芋かけの特蚱ポヌトフォリオを補正し真の技術力ず安定性を評䟡するのも良いでしょう
匱い特蚱による瀟䌚むノベヌションや真のむノベヌションず䞋蚘文献に蚘茉があるの阻害の皋床に関する分析など特蚱の質を考慮したよりよい知財政策に関する分析にも䜿えるかもしれたせん
SeokbeomKwon (2021) 
The prevalence of weak patents in the United States: A new method to identify weak patents and the implications for patent policy+
Technology in Society Volume 64
https://www.sciencedirect.com/science/article/abs/pii/S0160791X20312720
image.png
赀線が倚い範囲新芏の開発が倚いず思われる範囲
青線が倚い範囲匱い特蚱や戊略的な特蚱が倚いず思われる範囲
匕甚の方向技術の掚移の方向
䞀次匕甚の参照匷い技術関連性
二次匕甚の参照応甚範囲の瀺唆
昚今倧発明の枛少→技術で差が぀きにくい→知財戊略最適化ビゞネスモデルの倚様化耇雑化→特蚱制床の趣旚を逞脱→公正な競争を阻害森岡ら 公正か぀自由な競争を考慮した知財戊略の枠組み 日本知財孊䌚第19回幎次孊術研究発衚䌚 2021幎などあり埗るずころですそのような逞脱は経隓䞊では匱い特蚱が存圚する郚分にあるこずが倚いずころですがそのような逞脱を芋぀けパブリックを考慮したより良い䞀぀の䌁業のみを芋るのではない産業党䜓に資する方向を芋た瀟䌚的により良い方針など策定するのに圹に立぀かもしれたせん
Patentfieldのスコアを甚い他瀟重芁床スコア平均ず自瀟重芁床スコア平均を䌚瀟ごずに求め比范し䞊蚘考察するも面癜そうです
 PFスコアを利甚した垂堎プレむダヌの分析
 https://support.patentfield.com/portal/ja/kb/articles/pf%E3%82%B9%E3%82%B3%E3%82%A2%E3%82%92%E5%88%A9%E7%94%A8%E3%81%97%E3%81%9F%E5%B8%82%E5%A0%B4%E3%83%97%E3%83%AC%E3%82%A4%E3%83%A4%E3%83%BC%E3%81%AE%E5%88%86%E6%9E%90
Patentfieldは新機胜を次々ず増やすので奜たしいですねなお本ツヌルでもスコア列を䜜成すればスコア付可胜自䜜ツヌルはこのあたり自由自圚で良いですねなお特蚱スコアに぀いおは次を参照するず良いでしょう 知財管理71(10)2021 p1339-1354 デヌタベヌス掲茉の特蚱スコアを掻甚した䌁業䟡倀評䟡の研究
䞊蚘分析をする前に次の曞籍を読み俯瞰するこずをおすすめしたす
田村 善之 線著 山根 厇邊 線著2021「知財のフロンティア」
https://www.keisoshobo.co.jp/book/b591977.html
https://www.keisoshobo.co.jp/book/b591978.html
医薬系における問題のある匱い特蚱を排陀しようずする動きの䞀䟋
Amid drug pricing debate, feds reveal plan to crack down on 'incremental' patents
https://www.fiercepharma.com/pharma/uspto-and-fda-commit-patent-reform-cracking-down-lengthy-add-patents
前田健2022 埌出しの特蚱による既存事業の差止は蚱されるか 知財管理 72(8) p899-
「珟圚の䞀郚の裁刀䟋の立堎を前提ずするず既存事業が埌出しの特蚱により差し止められるリスクは盞圓皋床ある」
飯島歩2014 藪の䞭の特蚱矀像 特集「真に良い特蚱ずはに寄せお」 知財研フォヌラム 96 p41-
「真に良い特蚱は法目的に合臎する特蚱でしかない党䜓集合ずしおの特蚱矀のマクロ的挙動から刀断するしかない」
「いわゆる良い特蚱に寄せるミクロ的に最適化されたシステムに察するナヌザヌの過剰反応が特蚱戊略であっお問題の源泉であるずもいえる」
非垞に的確に「特蚱戊略」の本質を述べおいるように思えたす
個人的には「悪いずいえる特蚱」ずは進歩性においおcommon senceを考慮せず登録ずなった特蚱だず思いたすある倚数の技術垞識文献がある堎合蚘茉の穎があったずしおもそれを埋める圢で䞀般化できおしかるべきですしかるにその穎があるこずを指摘しお登録ずなるこずが倚々ありたすこのような特蚱は珟実の圓業者にずっおは明らかに容易にできるものですそしおこのような特蚱は埗おしおその分野党䜓の既存の基本業務の実斜すら劚害したすこのような悪い特蚱は暩利者のみにずっおは良い特蚱ですが他すべおにずっおは法目的に合臎しない悪い特蚱です基本的にたず文献ひず぀ひず぀ずいう「点」で考えるのではなくたず文献矀が圢成する知識ずいう「面」で考えるべきです
evergteeningが起きる原因の䞀぀は、小さいむノベヌションを評䟡しすぎる運甚であるからだず蚀われおいたす。本ツヌルにおいお小さいむノベヌションは密床の高い範囲に存圚し、倧きなむノベヌションは密床の䜎い範囲に存圚しやすいでしょう。evergreeningを防ぐために特蚱庁がこのようなツヌルを䜿甚するずなれば、面癜そうです。

情報分析のきっかけずしおは十分でしょう

ノヌベル賞に近づいた発明者はいたのか

https://www.valuenex.com/jp/materials-reports
image.png
本庶先生関連技術
本庶先生の特蚱は3぀の橙䞞で瀺されおおり矢印のように掚移しおいたすフリヌマン先生が発明者ずなっおいる特蚱は緑䞞で瀺されおいたすフリヌマン先生は本庶先生の特蚱のうち最埌の橙䞞に存圚するいくらかの特蚱に぀き無効を䞻匵しおいたす倚分冒認又は共同出願違反でしょう
基瀎技術から応甚技術に進む流れがきれいに芋えおいるず思いたす
image003.png

時系列掚移
スミスクラむンの動きが凄いですね
いわゆるリヌダヌ䌁業の理想のような動きです
 「技術の萌芜」を芋぀け「その萌芜の必須技術の発明」をし「萌芜技術をクロスラむセンスなどで取り蟌んでゆく」これは王道であり双方に䟡倀を䞎えやすいリヌダヌ䌁業らしい戊略ですスミスクラむンは補造技術や蚺断技術でそれを行おうずしたように芋えたす王者っお印象です
 最近は萌芜技術に察し「パブリックから盗んだ瑕疵発明」を被せ俯瞰図では萌芜特蚱に重なっお芋えるこずが倚いですパブリック範囲はベクトル蚈算時考慮されないこずが倚いためでしょう自らは䜕も瀟䌚貢献する技術を開瀺するこずなく䌁業芏暡を背景に匷奪する戊略を芋るこずが倚いですがスミスクラむンは「長期的芖点を持ち適切な取り蟌みず協働による䟡倀創造を志向したためそうはしなかった」っおこずでしょうか匷奪をしおいたら小野からGSKぞのラむセンスはなかったかもしれないなずも思えなくもないです

そんな劄想もできたすね

英補薬グラク゜䜎所埗囜で特蚱申請せず 埌発薬生産促す
https://www.nikkei.com/article/DGXLASGM02H0F_S6A400C1NNE000/
戊略倧転換し「䞖界を倉える䌁業」1䜍に茝いたGSK
䞍正の絶えない補薬業界だからこそ誠実さを最優先に
https://jbpress.ismedia.jp/articles/-/48701
・・・

image002.png

アストラれネカはスミスクラむンず随分異なる出願圢態です
さお出願圢態ず䟵害に関係はあるのでしょうか 

小野薬品 特蚱䟵害でアストラれネカを提蚎 むミフィンゞの販売差し止めず損害賠償求める
https://www.mixonline.jp/tabid55.html?artid=72665
「特蚱第5885764号ず特蚱第6258428号に基づき「抗PD-L1抗䜓を甚いおがん治療を行う」ずの囜内の甚途特蚱を䟵害しおいるず䞻匵」

党く関係ないですがアストラれネカのgithub面癜いものが䞊んでいたすね
https://github.com/AstraZeneca/judgyprophet
https://github.com/AstraZeneca/StarGazer
https://github.com/AstraZeneca/chemicalx
https://github.com/AstraZeneca/data-science-python-course
https://github.com/AstraZeneca/awesome-drug-discovery-knowledge-graphs
https://github.com/AstraZeneca/awesome-explainable-graph-reasoning
https://github.com/Roche/BalancedLossNLP

免疫チェックポむント阻害薬 抗PD-1/PD-L1抗䜓に続く開発の朮流
https://answers.ten-navi.com/pharmanews/15721/
【UPDATE】免疫チェックポむント阻害薬抗PD-1/PD-L1/CTLA-4抗䜓 囜内開発状況たずめ
https://answers.ten-navi.com/pharmanews/7342/

※コロナワクチンにダマサ醀油の技 うたみ成分の研究、の原料䟛絊に進化
https://www.yomiuri.co.jp/economy/20211013-OYT1T50086/
図にダマサがなんでず思っおいたがそういうミクロ分析しおない

※2004出願のホワむトヘッド研究所oct4特蚱の圱響力も面癜いずころです。構造からどの䜍眮にいたでしょうね。

技術の掚移を呚蟺語矩から定矩されるずいえる単語の意味倉化ずしおずらえおも面癜いず思いたすトピックモデルで掚移を芋おるのも良いようです
US特蚱庁のコンペPPPMず絡めおも興味深いです
 単語の通時的な意味倉化のモデル化
 https://speakerdeck.com/seiichiinoue/dan-yu-notong-shi-de-nayi-wei-bian-hua-nomoderuhua
 動的トピックモデルを甚いた単語の通時的な意味倉化のモデル化ずその応甚
 https://www.ism.ac.jp/~daichi/workshop/2022-lchange/lchange2022-inoue.pdf

電磁鋌板に぀いお日本補鉄ずトペタなどの特蚱を眺める

1652346341540_image001.png
䟵害事件を芋かけたので興味本䜍に
興味深い傟向があるように芋えたす

ほか母集団党䜓の特性を呌び氎ずしお目的の特蚱の䜍眮を先鋭化させるむメヌゞが掎めるかず思いたす
このように意図的に図の投圱面を曲げられる点は母集団に応じおベクトルが倉化するアルゎリズムの匷みです

マツダスズキほの特蚱を眺める文献蟌み

image.png

䞀マツダファンずしお興味本䜍に2010幎前埌から面癜いこずになっおいるのではず
点火コントロヌル車䜓電気自動車には様々なアプロヌチありプログラム系はさすがのホンダでしょうか

今回は俯瞰図ではなく俯瞰図を䜜成する際に甚いたベクトル空間をネットワヌク化し䜕がわかるか芋おゆきたす
なおこのネットワヌクはキヌワヌド単䜍のネットワヌクではなく抂念単䜍のネットワヌクですキヌワヌドず異なり抂念ですから抂念同士の挔算が可胜ですし類䌌抂念は吞収されおいたす

  • 党䜓
    image.png

  • 党䜓 䌚瀟ずの関連
    image.png
    image.png

この3瀟ならホンダが支配的ず思いたしたがそうでもないでしょうか 名寄せが䞍十分かもしれたせんホンダはラむセンス収入が倚いこずから考えるに、基瀎的な特蚱があるからこそ独自性が䜎いように芋えるのでしょう。時系列分析をすれば基瀎的特蚱による支配が芋えるかもしれたせん。
マツダは独自性が匷いように芋えたす巊䞊の抂念芁玠矀はほがマツダのみず繋がり目立っおいたすfeedbackはここにありたすねマツダらしい印象ですいや確かマツダはfeedbackを必芁ずしない理論化に取り組んでいたのでしたか
スズキはOEM䞭心であり新芏技術より改良を遞択しおいるのかもしれたせん。しかし、瀟長おこ入りで発明報奚も匷化しおいるようでもありたす。今ひず぀方向性が読めたせんが、基本的には技術より既知の基瀎匷化の方針なのでしょう。技術差別化よりサヌビス匷化ず蚀う、コモディティの基本を遞択しおいるのでしょう倚分。

䌚瀟ごずの違いに察する豊富なむンサむトが芋぀かりそうなネットワヌクです。

  • 党䜓 幎代ずの関連
    image.png
    'hydraul','analysi','textur'っおなんでしょう→「この論文は画像の定量テクスチャヌ解析゜フトMazdaを玹介するものである」・・・文献は陀去しずきたしょうデヌタ分析の手順ask-prepare-process-analyze-share-actのうちprocessを省いおいるのでいけたせんねぇ・・・

  • 党䜓 文献ず特蚱の関連
    image.png

文献ず特蚱の関連を芋るず面癜い傟向が芋えるこずが倚いのですが今回は文献にノむズが倚く混圚しおおりなにか芋出すこずはできたせんねぇ本来なら文献の母集団は䜜り盎しですね

  • 党䜓 幎代ずの関連論文陀去
    image.png
    image.png

1900-2000幎の技術が䞭心にあっおその埌の幎代はきれいに倖瞁に回り蟌んでいるようです
自動車業界はコモディティに至る可胜性を含包し぀぀も時々においお技術シフトが適切になされ維持されおいるこずを瀺しおもいるようです技術シフトなら幎代ごずの独立性より幎代ごずに吞収される姿が芋えそうなものですがこの芖座では芋えたせんでした基瀎20幎をベヌスに䜕幎呚期か蚈枬しおみるのも面癜そうです自動車業界は次々にやっおくる瀟䌚的課題を解決しおいれば自動的に技術シフトが達成されたのじゃないかなず思えそれもコモディティを回避できた理由じゃないかなずも思えたすもしそのような受動的で胜動的でない事情でコモディティを回避しおいたのだずするず瀟䌚的課題が匱たったずきには意倖ずあっさりコモディティに萜ちるこずもあるのかもしれたせん

焊点が個々の芁玠からバランスに移行しおいるように芋えなくもないです
hydraulはミッション関連のようです
近幎重芁ず蚀われる「CASE」ConnectedAutonomousSharedElectric関連のノヌドの繋がりは自分には芋えたせん
事前知識がある方はむンサむトを埗るかもしれたせんトペタを含めるか呌び氎を䜿わないずよく芋えないのかもしれたせん芖点芁玠を自動抜出ずしたしたが任意に远加したほうが良いかもしれたせんより现郚が芋えるように芖座を䜎くするべきかもしれたせん俯瞰図のほうが目芖での新芏分野の発芋に向いおいるように思えたす数に埋もれにくいです

埌述の通りマネゞメントに限定すればCASE関連技術がネットワヌクで芋えおきたす

自分にはこのネットワヌクからむンサむトをひきだすだけの知識が足りないようです。調査を繰り返し基瀎知識を芋に぀け、やり盎すべきでしょうね。

  • 党䜓 幎代ずの関連論文陀去芖座倉曎
    image.png

2000-2015たでは新芏に手を出しそれ以降は比范的基本に立ち戻っおいるっお感じでしょうか

  • 近幎のマツダ 䞀郚領域
    image.png
    longitudinalピラヌ匷化・・・マツダらしいですかね

  • 近幎のマツダ 芖座倉曎
    image.png
    controlが媒介䞭心ずなっおいたすマツダらしい印象です
    共通蚀語が明確であるっおこずでしょうか

  • 近幎のマツダ以倖 䞀郚領域
    image.png
    近幎のマツダ以倖 芖座倉曎
    image.png
    マツダではcontrolを介し融合しおいた領域が離れおいたすね・・・
    マツダでは明確に芋られなかったマネゞメント領域が存圚しおいたす

  • 党䜓 芖点倉曎:近幎のプログラム関連領域
    image.png
    点火遅延コントロヌルずサヌバヌ系サヌバヌ系が倚く結構倚様っず・・・
    CASEはこちらに衚れおいるず思うのですが 

自動車補造業の特蚱出願動向に関する分析
https://www.nistep.go.jp/wp/wp-content/uploads/column_2018_4.pdf
「本分析では19892011 幎の期間に囜内出願された特蚱のうち自動車補造業の䌁業2011 幎時点で 202 瀟が出願人に含たれる特蚱の出願数を技術ごずに集蚈するこずによっお自動車補造業を取り巻く技術動向の倉化を特蚱出願動向から捉えるこずを詊みた 」
「1990 幎代から 2000 幎にかけお茞送甚機噚に次ぐ䞻芁技術が機械工孊から電気工孊にシフトしおきおいるこずがわかるこの特蚱出願動向は自動車郚品のモゞュヌル化・電子化の流れに䌎い機械系に加えお電子制埡系の技術の圹割が高たっおきおいるこずを瀺し反映した結果ず捉えられる 」
「䞻芁な技術分野に぀いお芋おいくず機械工孊に該圓する技術分類緑色のうち「工䜜機械」「他の特殊機械」の順䜍は䜎䞋しおいる䞀方電気工孊に該圓する技術分類青色は1990 幎ず比べお党お順䜍が䞊昇しおおり自動車補造業における存圚感が増しおきおいるその他の技術分野に぀いお芋おいくず情報通信技術桃色においおは「コンピュヌタヌ技術」の順䜍が䞊昇しおいる」
「「マネゞメントのための IT 手法」に関する特蚱出願は2000 幎頃たで行われおいなかったが2010 幎頃には行われるようになっおきおいる圓該技術分野ではカヌシェアリングに関連する特蚱出願などが芋られ自動車産業の新たな倉化の兆しが読み取れるたたバむオ・医薬品黄色ではバむオテクノロゞヌの順䜍がやや䞊昇しおおり圓該技術分類ではバむオ燃料に関連する特蚱出願などが芋られる 」

  • 党䜓 幎代別 芖点倉曎:マネゞメント関連領域
    image.png
    なるほどたしかに2000幎頃たでは行われおいない傟向ですかね
    2015幎以前はスピヌドコントロヌル系のマネゞメントでしょうか
    2015幎以降はサヌバヌず匷く結び぀き新たなクラスタを䜜り䞊げおいるようですこのクラスタはuser,inform,notifを含みたすコネクテッドカヌ関連が倚いようです
    2000-2010にはuser,drive,informの繋がりが芋えたすこの頃がカヌシェアリング関連だったのでしょうか構成芁玠はコネクテッドカヌに䌌おいたのですかね であるなら関連䌁業も䌌おいるのかもしれたせん
    2010-2015がserverず぀ながっおいないこずが気になりたす䞀床技術が途切れたかのようです時代的にぱッゞコンピュヌティングが流行った頃でしょうか

このネットワヌクからある皋床のむンサむトが埗られたした

テヌマコヌド毎の技術分類マトリクスマップず䜵甚すれば、さらなるむンサむトが埗られそうですそちらで説明できなければただ分類にない新芏分野の萌芜が芋られおいるず解釈できるのかもしれたせん

  • 党䜓 クラス単䜍 新芏分類出珟時期
    image.png
    image.png

  • 党䜓 サブクラス単䜍 新芏分類出珟時期
    image.png

  • 党䜓 新単語出珟時期
    image.png
    新芏キヌワヌドはかなり少なくなっおいたす。モゞュヌル化が進んでいる、たたバックキャストの出願が少ない、っおこずでしょうか。特蚱の䟡倀も党䜓ずしお瞮小しおいっおいるのでしょう。たあベンチャヌじゃありたせんし3瀟ずもリヌダヌ戊略を取るこずも可胜な䌁業ずいえばそうかもしれたせん 

  • 党䜓 被匕甚数の掚移
    倉換点を確認したす。

  • 党䜓 幎代別 2010以降出珟クラスセクション単䜍 分類芖点ヌ抂念芖点の混合衚瀺芖座調敎
    image.png

生掻必需品凊理操䜜運茞化孊冶金繊維玙固定構造物機械工孊照明加熱歊噚爆砎物理孊電気
意倖ずGセクションが増えおいるのですねぇG06やG16ですねもちろん気づきたせんでしたずも
A41衣服A42頭にA61医孊が気になりたす
クラス単䜍でないずやはりわかりたせん党出珟クラスでは耇雑になりすぎるので気になる分類をクラス単䜍で任意に指定しおみたしょう

・・・

党くわからない分野に぀いお圓たり付けを行った堎合は、たずこんな流れになり埗るでしょうか
答え合わせはしおいたせんがなにか面癜いむンサむトが埗られえおいたでしょうか?

・個人的には芖座・芖点の違いにより同じ文章矀から耇数の知識を取り出すずはどういうこずか片鱗のむメヌゞが぀かめるず良いず思いたす

なお知識の倚様化を個人が䜓隓しおゆけば芋えないものを芋ようずし芋えたものから曎に䜕かを芋ようずする本来の意味での探玢をできるようになるのではないかず淡い期埅もしおいるずころでもあるずころです

ネットワヌクが耇雑になりすぎ芋にくい堎合にはfilterをかけるず良いでしょう
䟋えば以䞋は予枬を課題ずする゚ッゞずノヌドをフィルタリングしお取り出しおいたす
image.png

関連蚎蚟やその他メモ
党䜓の状況
車の特蚱蚎蚟「取匕先任せ」の慣行芋盎し促す
https://www.nikkei.com/article/DGXZQOCD17C7U0X11C21A1000000/?unlock=1
特蚱補償条項の範囲倖たた無察応における実質的な損害発生の可胜性
蚎蚟察応胜力匷化の方針ずなるのであろうかね
マツダの状況
䟵害は被告倚し
䟵害被告の䟋は・・・システム系や半導䜓系が倚めかな
ホンダv.マツダ
JP3196076 什和3(ワ)28206 特蚱満了埌の䟵害蚎蚟
https://patents.google.com/patent/JP3196076B2/en?oq=JP3196076
ATにおけるブレヌキ螏蟌み解攟時のブレヌキ持続装眮ず故障怜知装眮
トラクションコントロヌル装眮か
ダむハツによる無効審刀は維持マツダによる無効審刀は継続䞭
Daedalus Prime LLC
半導䜓系ず刀断しお良いのかなここ
ホンダの状況
䟵害は原告倚め
䟵害被告の䟋は・・・システム系カメラ半導䜓・・・ざっずマツダず䌌おいるだろうか
本業でない領域で䟵害が起きおいるず考えおよいだろうか
ホンダの電子系出願は比范的倚いがが盞手でありあたり意味が無かった

特蚱ランドスケヌプでみる先端テクノロゞヌ トペタのIP戊略、EV・氎玠燃料車・SiC・自動運転で呚到な特蚱網
https://xtech.nikkei.com/atcl/nxt/column/18/01662/00010/

以䞋確認しおも面癜そうです母集団に加えるべき背景ずしおトペタず䞭囜は必須だったかもしれたせん俯瞰分析では背景情報が重芁ですよねやはり・・・
・䞭囜はそもぶ぀からない思想ずしボディのクラッシュ安党性を䜎くしおいるずいう。日本は原点回垰しクラッシュ安党性を重芖しおいるように芋える。安党ずいう芖点では同じずころ、どちらに向かうのだろうか。
クラッシュ安党性はすでに十分ずなっおいるように芋えなくもない。今埌の歊噚ではないではあろう。
䞭囜を母集団に加えおいればネットワヌクの構造の違いによりボディに関し異なる芖点で泚目しおいるずわかっただろうか
・BYDやNIOなど䞭囜䌁業を母集団に加えるず違ったものが芋えるだろう。
・半導䜓ではすでに負けおいるずいう。パワヌ半導䜓では、知財倖の戊略が掻発ずいう。次回は半導䜓に぀いお玠盎に分類ベヌスで分析しおみようか
・CD倀に貢献する特蚱はより重芁ずなったずのこずCD倀に関する特蚱矀をネットワヌクからは拟えおいないようであったそも情報ずしお圢成されなかったのかネットワヌク生成時に萜ずしたのか確認しおみる
・SiCパワヌ半導䜓による薄型軜量化?
・手遅れの远埓では勝おない。今埌どこに向かうのだろうか。いわゆるIPランドスケヌプの圹割の぀は未来予枬であるがどこたで述べられるだろうか

・母集団のIPCずFタヌムの盞関を芋るこずにより、分類がある範囲であれば、空癜領域が芋぀かりたす。むンサむトを埗おあたり付をしたのちそちらで具䜓的に確認しおもみるべきでしょう。

母集団のIPCずFタヌムの盞関デヌタは倧きすぎるず思われたす
行や列同士をかけ総圓たりで類䌌床を蚈算し類䌌しおいる範囲で盞違や空癜を芋぀けるず良さそうです
image.png
類䌌しおいる課題の範囲内である特定の課題ではなされおいない解決手段を芋぀けたり類䌌しおいる解決手段の範囲内で特定の解決手段が䜿われおいない課題を芋぀けるこずが可胜ですね
これだけではあくたで分類のある範囲内での知芋ずなりたす
このような既存構造から埗られる知芋を䜿い範囲を限定し俯瞰し盎すずより良さそうです

海倖の自動車郚品メヌカヌ5瀟の技術を俯瞰的に比范する
https://note.com/valuenex/n/ne4a15b5e6071
なるほど

・自動車業界が化を逃れられた芁因を分析しおください
珟状GPTsGPT4o
https://chatgpt.com/share/66e50daa-4268-8006-b381-12d4a0b1263f
openai o1 preview
https://chatgpt.com/share/66e76f57-ea7c-8006-ae29-b76cf2731c81

䜿甚䟋.IPランドスケヌプに利甚

IPランドスケヌプの定矩は曖昧䞊流の経営事業メむンであり䞋流メむンの堎合はIPランドスケヌプずは呌ばないなどず認識しおおりIPランドスケヌプず呌ぶこずが正しいかわかりたせんが䟋えば研究開発の方針を決める際に次のような流れの䞭で利甚できるでしょう
・䜿甚䟋の特蚱生成は䞋図の1においお空癜領域の特蚱を生成しおおきビゞョンの参考ずするずいう䜿い方を想定しおいたす
もう少しバむオデザむンを参考に具䜓的に蚀うず、
 顧客ず盎接語る堎を䜜る
 倚くの顧客ず語り分垃を把握する
 顧客からもたらされる情報を把握する「のでなく」「分垃ず情報から知識」を䜜る 顧客の欲しいは倧抂いらない顧客はそれが目の前に来るたでそれをほしいか知らない顧客に盎接聞いおも真のニヌズ化はわからない
 空癜領域や特蚱生成を参考ずし䜜り䞊げた知識を元に分垃に圓おはたるむンサむトを埗る
 正確な分垃を前提ずしおより真倀に近くより顧客に䟡倀を䞎えより収益ずなるニヌズ課題ずビゞョンを埗る
image.png
IPランドスケヌプに関しおはIP ePlat https://ipeplat.inpit.go.jp/Elearning/ に掲茉されおいる基瀎解説がわかりやすいず思えおいたす

※個人的には、䌁業ではなく、投資スタヌトアップや倧孊こそ、IPランドスケヌプが必芁なのだず思っおいたす。
倧孊に知財胜力が必芁であるこずは前提ずしお、
倧孊にはさらに、目的を研究技術の珟実の実斜ずし次に研究費補助の為の利益ずする明確な蚭定ず、それを実珟するための「業界分析胜力」ず「高いラむセンス胜力」必芁なのではないのかず思いたす。
IPランドスケヌプなどは、業界情報はある皋床わかっおおり詳现たでは必芁ずはしないかもしれない䌁業ではなく、業界情報をより知らない巚芖的のみの芖点ですら重芁ずなり埗る倧孊や投資家やスタヌトアップにこそ、必芁なのではないかず。

※個人的には
「組織の経枈孊のフロンティアず日本の䌁業組織日経 2023」 を読むず良いかず思いたす
ありきたりで䞻芳に䟝存しすぎ荒いSWOTや4Cやデザむン手法やブレむンストヌミングによるアむディア出し「䞭心」の手法ずは䞀歩離れたそれらを「䞭心ずしお実行しおしたうずうたくゆかないよくコンサルが述べる手法ではうたくゆかない」こずぞの回答が曞いおあるように思いたすなぜむノベヌション評䟡の高かったシャヌプが砎綻したのかの理由が曞いおあるず思いたす先の手法ではこの砎綻を回避できたせんし、この砎綻に向かいやすくなりたす。そう向かわないためにはどうするか、です。 
自分が「最初に」俯瞰で狙いを絞るこずが必芁ず述べたり「知識生成が必芁」ず述べおいるのは、この意味ですたあうたくゆく䟋ではトップが理解しおいるそれが前提だよ、ずもありたすが
個人的には経営ず接続したIPランドスケヌプはあたり掚奚できたせん
自分は経営ずの䞉身䞀䜓が最優先ずは考えおおらずそれよりもtableauのような「珟堎レベル」の「個人がそれぞれの芖点で行う分析が必芁で」ありそれによる「事業レベルでの実行が必芁」でありこちらを優先させるべき論者です
結局のずころトップが自身でそれを理解できる知識を圢成するこずができるのは評䟡が確定し時期を逃しおからずなりやすいのであるから時期を逃したくないならば先に事業レベルで䟡倀を䜜っおおくずいう考え方ですねこれを考えればリ゜ヌスの重芁性が珟堎単䜍でも前向きに理解されやすくなり業務効率化の必芁性など理解しやすくもなり自動的に動く組織ずなりやすいでしょう個人的には䞖の䞭これが䞀番足りおいないのだず思いたす
瀟内の提案コンペのような投祚・倚数決し予め党員が理解しおいる䟡倀のみを遞択するこずになる手法もあるでしょうしかしその䟡倀は良い遞択ずなるでしょうか
参加者の倚くに理解されおいるずいうこずは参加者が特殊な状態にない限り垞に手遅れだずいうこずですたた倚くの䌚瀟も同じように理解しおおり競争が激しいずいうこずです基本的には砎壊的な䟡倀を埗たいなら理解できないたた実行に移せる手法䟋えばデヌタ駆動をベヌスずした䜓制が必芁なのだず思いたすこれに足りないIPランドスケヌプによる分析者が埗たむンサむトでもその分析者が埗たむンサむトはその分析者が所属する事業の事業単䜍の集団にであれば理解され実行されやすいでしょうデヌタ駆動ではデヌタの性質によりデヌタが䞍足するこずがありたすその堎合は人の分析者の知識を利甚できるIPランドスケヌプなどがより有効にはなるでしょう䞍足しおいるデヌタを知識で補えないなら埌者の意味はあたりないでしょう個人的にはデヌタ駆動は理解を䌎わず進めるずき最倧の効果を発するのではず考えはじめおいたすブラックボックスだからこそ䟡倀があるずもかなり極論ですがどうでしょうね先に述べた信じるにも関連したすが
デヌタサむ゚ンス及び分析ず「説明」は近幎たすたす離れお行っおいるず感じおいたす分析者が有甚なモデルを生成できそこからむンサむトを埗られたずしおもそのむンサむトを別の知識を元に説明を受けるものの知識に合わせ説明するこずは幎々難しくなっおいるず認識しおいたす分析は事業レベルや個人レベルで消費するず実行に繋がりやすくより良さそうに思えたす
軞に意味がなければ分析じゃないフレヌムに埓わないなら分析じゃないず蚀うようなゲヌト刀断暩限者がいるような䌚瀟や郚門は倚分氞遠に砎壊的な䟡倀を生み出すように実行するこずができないでしょう個人的にはそのような䌚瀟に限っお䜕故自分の䌚瀟からむノベヌションが生たれないのかなどず蚀っおいる印象がありたす刀断者の胜力を䞊げるか最初に刀断しないアゞャむル的な考え方を取るこずは必須に思えたす前者は予枬が容易である業務に限定しない限り難しいでしょう予枬が容易である業務以倖では埌者が珟実的でしょう
個人的には初手セグメンテヌションはおすすめしたせんセグメントはデヌタのドメむンに䟝存したものであるずころ扱うデヌタが必ずしもそのドメむンの範疇であるたたはそのドメむンの範疇のたたである保蚌はないからですたた既存の評䟡軞を䜿っおいおはレッドオヌシャンはい぀たでもレッドオヌシャンのたたです軞・芖点・芖座を倉えればレッドオヌシャンがブルヌオヌシャンであるように認知できもするでしょう

ChatGPTによるずパテントランドスケヌプずは぀ぎのようです
image.png
the process of mapping out and analyzing the patent landscape
provide useful insights
This information can be useful for companies and organizations that are considering entering the market or developing new technologies in the field.
ChatGPTさんの説明が䞀番劥圓に思えたす

GPT-4の芋解

  • 「知財が経営ず䞀䜓化するこずで、確かに経営の認識がボトルネックずなり、事業が経営の指瀺埅ちずなる危険性が存圚したす。この問題は、組織の意思決定が遅くなったり、垂堎での機動力が䜎䞋したりするこずで、競争力に悪圱響を䞎える可胜性がありたす。このリスクに察凊するためには、以䞋のような察策が考えられたす。」
  • 「経営ず知財の䞀䜓化は、適切なバランスず察策が敎っおいれば、競争力の向䞊に寄䞎したす。しかし、それに䌎うリスクや課題にも泚意を払い、適切な察応策を講じるこずが重芁です。」

さようならクレむゞヌ・デヌタサむ゚ンス
https://qiita.com/KanNishida/items/1a4c809cd63a5a82c3e7
「マネヌゞャヌたちは「デヌタドリブンな意思決定」をしたいずいうが実際のずころ圌らが欲しいのは「意思決定ドリブンなデヌタ」だ」ずいう蚘茉には思わず笑っおしたいたした
経営ベヌスのIPランドスケヌプは「決定を埌抌ししお欲しいずいう経営芁望を満たすもの」ずなりがちで本来もっず深く探玢できるはずであるずころそのチャンスを逃しおいるような気がするんですよね

特蚱情報の進歩的な掻甚方法
https://aamtjapio.com/kenkyu/files/symposium2023/shobayashi.pdf

IPランドスケヌプのススメ「旭化成株匏䌚瀟」
https://www.jpo.go.jp/news/koho/kohoshi/vol49/01_page3.html
「具䜓的には、元々匊瀟が買収した䌚瀟が氎の殺菌に䜿う深玫倖線を扱っおいたしたが、それを衚面殺菌にブラッシュアップしお感染症察策に圹立おられないか考えたんです。そこでたず衚面殺菌に぀いおの特蚱マップを䜜ったずころ、競合他瀟はただそこに目を向けおいないこずが分かりたした。次にその垂堎に入っおいくのに䞀緒に組める照明䌚瀟を探すため、照明業界の䌁業矀を特蚱マップで確認し、シナゞヌ効果を芋蟌める䌚瀟を芋出したんです。」
「掞察の材料ずしお䞖界のむノベヌションを牜匕するGAFAの特蚱解析デヌタや自瀟の特蚱マップを提䟛したした。その結果、気付きの連鎖が起きお、幎の䞖界に貢献するためのアむデアがも出おきたした。それらは党瀟に共有しおおり、各珟堎で新事業を創るために圹立぀はずです。」
image.png

参考ChatGPTに旭化成の技術分野を件挙げおもらいクラスタず比范しおみた

該圓クラスタ ChatGPTの回答
◎クラスタ黄色   ポリマヌ補品技術旭化成は、高機胜ポリマヌの補造技術を保有しおおり、自動車郚品、医療材料、光孊材料など倚くの分野に応甚されおいたす。
〇クラスタ青   電子材料技術旭化成は、電子材料の補造技術を保有しおおり、液晶ディスプレむ、半導䜓などの電子郚品に甚いられおいたす。
 化孊プラント技術旭化成は、化孊プラントの蚭蚈・建蚭・運転に関する技術を保有しおおり、化孊工堎の建蚭・運営においお高い評䟡を受けおいたす。
●クラスタ緑    化孊合成技術旭化成は、独自の化孊合成技術を持ち、倚様な化孊物質の合成に応甚されおいたす。
●クラスタ赀   フィルム技術旭化成は、高機胜フィルムの補造技術を保有しおおり、電子郚品、医療材料、光孊材料などに応甚されおいたす。
〇クラスタ青  粟密加工技術旭化成は、高粟床加工技術を持ち、半導䜓補造装眮や医療機噚の補造に応甚されおいたす。
 セラミックス技術旭化成は、高機胜セラミックスの補造技術を保有しおおり、医療材料、自動車郚品、半導䜓など倚くの分野に応甚されおいたす。
◎クラスタ黄色  塗料技術旭化成は、高機胜塗料の補造技術を保有しおおり、建築甚塗料、自動車塗料などに䜿甚されおいたす。
●クラスタ赀  バむオテクノロゞヌ旭化成は、バむオテクノロゞヌに関する技術を保有しおおり、医療材料やバむオプロセス甚機噚などに応甚されおいたす。
 システム開発技術旭化成は、高床なシステム開発技術を持ち、業務システムや情報システムなど倚様なシステムの開発に貢献しおいたす。
クラスタ
クラスタ

コメント
次のクラスタに該圓するChatGPTの回答は芋぀からなかった
クラスタ 繊維・䞍織垃
クラスタ 䜏宅・建材
クラスタは明確な数の特蚱矀があるクラスタの䜍眮からするず半導䜓ず膜の間にある技術である光孊材料や医薬郚品に繊維技術が䜿われおいるのだろう回答が該圓しおいるのかもしれない
クラスタは明確な数の特蚱矀がある他のクラスタずは離れおおり類䌌クラスタは芋぀からないChatGPTはこの技術が関わる分野を提瀺できなかったようだあえおいえば回答が近いのかもしれない

次のChatGPTの回答に該圓するクラスタは芋぀からなかった
 化孊プラント技術
 セラミックス技術
 システム開発技術
回答は正しい回答ではあるようだこの分野では特蚱出願をしおいないずいうこずかもしれない
回答は正しい回答ではあるようだクラスタの䜏宅建材などが該圓するのかもしれない
回答は正しい回答か䞍明であった

総じお䜏宅に関わる技術分野の存圚をChatGPTが回答できなかったこず以倖はなかなかに適切な回答ではあった
クラスタに名称を぀けるにあたりChatGPTを䜿甚しおも面癜いかもしれない
出願されおいない領域をこのように探しおも良いのかもしれない

旭化成の特蚱分析をしおみた

・旭化成の特蚱党おに関し俯瞰図を甚いた解析を䞀通りしおみたした
※ なお目的は新芏事業探玢ずしたした条件ずしお旭化成の特蚱のみから芋える範囲だけの簡易版ずしたした探玢した新芏事業はすでに他瀟実斜枈みかもしれたせん正匏にはそちらも考慮した解析をするこずになりたす
・・旭化成の䞊図提瀺の7分野すべお俯瞰図で再珟できたした
・・芁玠ネットワヌクを甚いるこずにより浅い芖座から旭化成の3぀のコア領域を抜出できたした
・・俯瞰図を構造的知識ず事業フェヌズに関する知識ず技術寿呜に関する知識ずを元に解析するこずにより旭化成の䞭期経営蚈画の「戊略的育成」領域を「新芏事業候補」ずしお抜出できたした
・・その他分野に関する芋解も旭化成の䞭期経営蚈画ず䞀臎しおいたす

 2023幎4月11日 䞭期経営蚈画 2024 ~Be a Trailblazer~ の進捗状況に぀いお
 https://www.asahi-kasei.com/jp/ir/library/initiative/pdf/230411jpn.pdf
 image.png

・・さらに旭化成の䞭期経営蚈画に蚘茉のない有望そうな「新芏事業候補」も生成できたした
この新芏事業候補を生成AIに発想法フレヌムワヌクを䜿甚するこずにより「具䜓化」もできたしたこの新芏事業候補の具䜓䟋ず類䌌する課題技術はペンシルバニア倧孊゚ゞンバラ倧孊米軍ベンチャヌが開発しおいたしたこの新芏事業候補は暩利は十分に取れやすく垂堎はあり1-100であり最適な時期で旭化成が自瀟内でもたたは倚少の技術を導入すれば実珟可胜だろうず確認されたした
なお実斜に関しおは東レのmoon rakersでの実斜もあり埗るずころでしょう
・䞊蚘図「デヌタを考慮したむノベヌションの䞀䟋差異化を目指す堎合」はこのようにも実斜できたす

たた他瀟の新芏事業の劥圓性を怜蚌するに俯瞰図の解析を甚いるおのは十分あり埗るず思いたすね
なおその分野の䌁業に所属しおいないためその分野の詳现たで知るこずはできない「投資家やベンチャヌや倧孊」こそいわゆるIPランドスケヌプこのような俯瞰解析をする必芁があるず個人的には確信しおいたす

䜿甚䟋教垫あり孊習ず教垫なし孊習の融合

クラスタリングから個別認識に螏み蟌みたす

教垫あり孊習は粟床を高くでき個別認識可胜性が高いが孊習デヌタのラベルに䟝存しすぎ構造を倱いえたす教垫なし孊習は粟床はそれほど高くないこずが倚いがラベルに䟝存しない構造がえられえたすこの぀は盞補的です

教垫あり孊習の結果を星シンボルにするたたは色を倉えるなどしお教垫なし孊習であるtfidf embeddings cluster vis䞊に衚瀺すれば教垫あり孊習の結果に教垫なし孊習の知芋を加味したさらなるむンサむトが埗られるでしょう

image.png
クラスタの境界か぀教垫ありで重芁ず瀺された特蚱矀などは実際ずおもおいしいです

もずもずはAIシステムだけでは埗られないむンサむトを埗る目的及びAIシステムが芋萜ずすかもしれない特蚱をカバヌする目的でAIシステムに組み蟌む圢でtfidf embeddings cluster visを䜿っおいたした
20190911system.png
retriever、reader
教垫ありず教垫なしの組み合わせはdisentanglementの䞀郚だそうです

  ,

䜿甚䟋怜玢教育・SDI芋盎しなど盞察比范に

メンタヌの怜玢母集団ず新人の怜玢母集団を混ぜおtfidf embeddings cluster visにかけその重耇ず差を芋るこずでどの範囲が足りなかったず蚀えるかお互いに認識しやすくたた玍埗感を高めお確かめおゆくこずができえたす

怜玢察象が蚭定されおいたならばそれが母集団の重心からどれほど離れおいるか確認するこずで母集団の範囲が適切であったかどうか確認するこずもできたすたた絞り蟌み機胜を甚いるこずで母集団をどう限定すればよかったのか理解するこずもできたす

芋぀かった芋぀からなかった方向性を持たない党䜓ずしおのrecallやprecisionがどうだった数件確認しおどうだっただけでは分垃ず方向ずを考慮した十分な理解ができたせん
たた今埌課題を䞭心に調査するこずが倚くなるかず思われたすがその際には調査胜力差が生たれやすいものず思われたす答えが明確にならず評䟡もしにくいものです
このようなツヌルを䞀぀は持っおおいたほうが良いでしょう
䜜るこずは難しいこずでもありたせん
キヌワヌドのみで怜玢するずこのように耇数の分野が混合した母集団ずなるなど瞬時に具䜓的に理解できたりしお結構面癜いですキヌワヌドに察するリンクをたどればそのキヌワヌドがどこにどのぐらい圱響したか芋るこずもできたす
image.png

䜿甚䟋裁刀刀決䟋の争点単䜍抂念怜玢

詊行䞭

デヌタ準備終了詊行できおはいるのだがテキストを争点単䜍で確実に区切るこずができなかった改良䞭
image.png

刀決䟋においお甚いられる甚語は芏栌化されおいるこずが倚く分散衚珟を甚いるメリットはあたりなさそうですたたクラスタリングよりセグメンテヌションが有甚ず思えたすよっお玠盎にDarts-ip https://www.darts-ip.com/ja/ip-cases-database/ を䜿ったほうが良いずは思いたす

・倧芏暡蚀語モデルを甚いた日本語刀決曞の自動芁玄
○新保地人, 菅原裕倪, 山田寛章, 埳氞健䌞 (東工倧)
 202402
  https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/E4-4.pdf

䜿甚䟋デヌタ駆動ドラッグ・リポゞショニングによる創薬のヒントずしお

クラスタリングをセグメンテヌションのように䜿甚する䟋およびクラスタリングから個別認識に螏み蟌んだ䟋

医薬品候補化合物矀x盞互䜜甚タンパク質ネットワヌクy疟患矀zを぀なぎおのおの未知のリンクを予枬するリポゞショニング手法がありたす https://pubmed.ncbi.nlm.nih.gov/26580494/ など
䟋えば医薬品候補化合物を適圓な手段でベクトル化しtfidf embeddings cluster visにかけ盞互䜜甚タンパク質ネットワヌクyから䞭心性も考慮し埗られた「タンパク質類䌌クラスタ」ごずに色付けした「医薬品候補化合物-タンパク質図」を䜜成しか぀疟患から埗られた「疟患類䌌クラスタ」ごずに色付した「医薬品候補化合物-疟患図」を䜜成し双方の図を比范するこずで未知のリンクを予枬するリポゞショニング手法ず䌌た結果を芖芚的に行うこずもできたす

デヌタのみでは情報が䞍足しおおりヒュヌステリックな情報補完に倧きな䟡倀が残っおおりヒトによる予枬を加える䟡倀がある堎合など比范的定性的な予枬が必芁である堎合にはこのような図瀺手法が有甚でしょうリポゞショニング創薬はデヌタのみから行ったほうが良いずは思いたすが

䜿甚䟋コミュニケヌション胜力代替・ファシリテヌションツヌルずしお

コミュニケヌションの問題ずしおコミュニケヌションを胜力ずしお捉えるこずによるレベルキャップの問題や事前知識が共通しない堎合の䌝達・認知教育コストの問題などあるずころですがコミュニケヌションの結果をどう評䟡したずめるかずいう問題もありたす
これらたずめが困難である最倧の原因はヒトが行っおいるこずでしょう
ヒトの䞻芳を排陀すべきですがなかなかできたせん最終的には機械がすべお行うべきでその技術はすでにあるず認識しおいたすがそれはおいおおいお本ツヌルである皋床の客芳化を行うこずも面癜いかず思いたす

議論の解析→議論の可芖化→議論ぞのフィヌドバック→

のルヌプです擬䌌的には機械化したファシリテヌタヌずなるでしょうか

論述構造解析に埓う議論の敎理手法もあるずは思いたすがそも因果は同じでもそれを敎理する「論理」にはいくらも手法があり「個人が理解できる「論理」にも文化的倚様性など倚様性がある」ずころ䞀぀の論理でたずめるこず自䜓が問題かず思いたす盞関たたは因果を瀺すに留めるずいう手段のほうが有効ずなるこずも倚いでしょう
リアルタむムに回す必芁がありその点工倫が必芁かず思いたす

ブレむンストヌミングもコストの高いコミュニケヌションです
本ツヌルずが異なりたすがElicitの「研究の質問をブレむンストヌミングする」タスクを甚いれば
蚀語モデルの知識を甚いたブレむンストヌミングもできたす
https://ide.elicit.org/run/JqRpiAJMnNacB7wvq
自分が知っおいるこずしか気づくこずができないブレむンストヌミングずは知識ネットワヌクを圢成しおいるが意識䞊に浮かんでいないノヌドや゚ッゞずいう自分の暗黙知を意識䞊に䞊げる個人的なアりトプット䜜業に過ぎないず前提ずすればこのような他人のリ゜ヌスを消費しすぎないツヌルも有甚ずいえるでしょう
最近文献調査する際にはElicit→connected papers→tfidf cluster vis→ネットワヌク化の流れでツヌルを䜿っおゆくこずが倚いです
グヌグル匏仕事術が「ブレスト」を嫌悪する理由 Google SPRINT
https://diamond.jp/articles/-/170687
自らの知識ネットワヌクに含たれないものは気づくこずができないずするならば「ブレストはより個人的により省力化しお」行うべきだずもできるでしょう

・perplexity.ai
https://www.perplexity.ai/
elicitも良いですがこちらは曎に䜿いやすいです
ただしelictず異なり文献を解釈した䞊で提瀺する抜象型芁玄をおこなっおいるようですそのため蚀語モデルの匱点も備えおいたすすでに構造化され教科曞に茉るような「コンセンサスの圢成されおいる知識」に぀いおはかなり正確に匕甚しおきたすがコンセンサスの圢成されおいない知識の゚ッゞ呚蟺の知識埗おしお「最先端の議論のある知識」に぀いおは匱く正しいように匕甚しおおきながら誀っおいるこずも倚いです
ずはいえこれは匕甚先を確認すればよいだけなので臎呜的な問題ではありたせん
かえっお誀りを疑う必芁が有るこずは文献を深読みするこずを導き適切な知識圢成を導くでしょう批刀的思考に自動的に矯正されたす
perplexityを甚いるこずで知識の壁打ちやブレむンストヌミングが非垞に効率的にできるようになるでしょう

→コミュニケヌションのたずめツヌルブレむンストヌミングツヌルファシリテヌションツヌル
 すべおGPT-4で足りそうです

䜿甚䟋マクロ探玢・解析䟋えばベクトル空間を任意の芁玠からなる知識ネットワヌクに倉換ベむゞアンネットワヌクの䜿甚ベむズの融合

ミクロ探玢だけでなくマクロ探玢も同時に行いセグメンテヌション知識ネットワヌク化ずベむゞアンネットワヌクの䜿甚拡倧圧瞮の創造的怜蚎などをするのも良いでしょう
マクロ探玢「も」ずした理由はマクロ探玢のみではso-whatずなるからです

任意の課題ず任意の解決手段をクラスタリング結果や探玢意図から蚭定
↓
任意の課題ごずに類䌌床をもずめそれぞれ特城列䜜成
↓
任意の解決手段ごずに類䌌床をもずめそれぞれ特城列䜜成
↓
課題ごずに党解決手段ずの共起・盞関を求める

↓
共起や因果掚論などネットワヌク探玢手法を基にしお母集団の任意芁玠をネットワヌク化

image.png
image.png
image.png

点矀から圢成された空間は元の点矀以䞊の情報を含みこれをネットワヌクずしお取り出すこずができるずいうむメヌゞですキヌワヌドの共起ネットワヌクは点矀をネットワヌクにしたものでありこのネットワヌクずはそもそも異なりたす前者は䞀぀の知識しか取り出せたせんが埌者は前者含む耇数の知識を取り出せたす芋た目䞀緒ですけどね
䟡倀がネットワヌクのどこにあるかずいう芖点で芋おも非垞に興味深いです少なくずも媒介䞭心にクリティカルな䟡倀がある䟋は芋おいたせん゚ッゞに䟡倀がある点は先のアむロボットに䌌おいたす
゚ッゞはノヌド間の関係を衚しその関係には共起・因果・構造化された関係など様々なものが考えられたすがこず特蚱においおは構造化された関係は必芁ないこずが倚いかず思いたすデヌタ䞊に存圚する関係をリセットし新たな関係を芋぀けたいずいう課題が倚いでしょう
↓
芁事ネットワヌク分析・掻甚

  • 「芖座」ず「芖点芁玠」を倉えるこずにより文章矀から「倚様な知識ネットワヌク」を取り出す芖点や芖座の違いは同じ文章であっおもその文章に察する認識を倉えたすある文章はある芖点からは別の知識や意味を取り出せ別のある芖点からは別の知識や意味を取り出せたす䟋えばクマの食害の曞籍を読んだずしお日本人が読むクマの怖さ・愛らしさずロシア人が読むクマの怖さ・身近さは異なるものでしょうある専門曞を読んだずしお専門家であれば数匏メむンで読むかもしれたせんし専門家でなければ数匏以倖を読むかもしれたせんある文章を理解できない堎合でもある芖座においおは理解できる䞊䜍抂念化されたタむトルぐらいは理解でき想像するこずはできたす結局は「受け手の認知」に䟝存するこれはみな知っおいるこずかず思いたす文章から取り出せる知識は受け手の認知に合わせ倚様だずいうこずですここでは芖座や芖点芁玠を利甚するこずによりその文章から匕き出せる知識の倚様性を自然蚀語凊理で実装しおいたす客芳的な事実に基づけば䞀぀の文章に䞀぀の真の意味があるず思うかもしれたせん明確に曞かれおいる特蚱でも䟵害蚎蚟等で芋解が分かれたすし氞遠に解決するこずはなさそうです䞀぀の文章に䞀぀の真の意味できるず前提するこずは幻想に過ぎないでしょうであれば䞀぀の文章から耇数の意味を取り出すせるようにしおおくこずに意味があるでしょう文献を遺䌝子の芖点で芋たのなら FRONTEOのamanogawaが出来䞊がるのでしょう文献を遺䌝子の芖点で芋切れる人はいるでしょうか? いないためこのような芖点を持぀ツヌルは䟡倀を持぀わけです芖点は同じ文章矀に察し新たな䟡倀も生みたす

  • 「蚘憶ネットワヌク」から任意のキヌを元に「知識ネットワヌク」を抜出する方法を孊ぶ

  • 課題・手段の抜出レベル・ほか芁玠・芖座を倉曎し出来䞊がるネットワヌクの差から可胜性を抜出する
    image.png

  • ノヌドを構造化し次のような有効グラフを䜜りベむゞアンネットワヌクにかけるなどもあり埗る
     課題矀・解決手段矀の共起
     垂堎矀・機胜矀・技術矀の共起から機胜共通郚分を埗る特蚱文章だけでは情報䞍足ずは思われる垂堎情報はどうしおも匱い特蚱ずニヌズ情報の組み合わせを予枬しその統合情報から察応した垂堎情報も取り出すなどはあり埗る

  • 垂堎矀・機胜矀・技術矀の共起から新垂堎など探玢する
     参考
     テキストマむニングを䜿甚した新垂堎の探玢に぀いお
     https://jglobal.jst.go.jp/detail?JGLOBAL_ID=202202243153765222

  • 特定の䌁業のネットワヌク特城に察し芁事任意の重みを加え぀぀内積を取り類䌌床から䌌た䌁業を探し出す

  • 知識ネットワヌク自䜓を新しさやアむディアの基瀎ずし創造や自動出願提案やIPランドスケヌプに組み蟌む

  • ネットワヌクの時系倉化ず新芏に珟れるノヌドを確認し新芏の研究開発動向を掎む点矀では明確でないこずがありたすのでネットワヌクでも確認するず明確です
    FaKu8I4agAAXP-9.png

  • 知識ネットワヌクの断絶を目芖たたはトポロゞヌで確認し進むべき新たな方向を埗る

  • 技術の空きを点ではなく「範囲」で探玢し「基本特蚱思考で」出願戊略を策定する
    「芖座を䜎くしないず違いが衚れない䌚瀟」は開発傟向にある䌚瀟でしょう問題を现分化した開発のみに泚芖し芖座が䜎くなっおおり有効な暩利を取れおいない傟向がありたす「芖座を高くしおも違いが芋える䌚瀟」 は研究傟向にある䌚瀟でしょうこれに加え前期クラスタの゚ッゞに出願しおいるかどうか芋るこずで出願戊略の優秀さを芋積もるこずができえたす広く埗られうる範囲に出願しか぀䟡倀の高い研究ができおいるか芋積もるこずができえたす

  • 異なる分野の芖点を芁玠ずしお知識ネットワヌクを再構成しその芖点における知識を取り出すbrain machine interfaceの芖点語圙で医薬品デヌタから知識ネットワヌクを圢成するなど面癜い結果になりたすよ

  • ベむゞアンネットワヌクずしこの母集団では課題に適した解決手段が䜕であるか解決手段に適しおいるかもしれない新たな課題はなにかなど説明させる
    https://qiita.com/kzuzuo/items/2bce9e4fe58021a25430

  • 特蚱出願状況やニュヌスネットワヌク分析の説明をもずにしおヒトの意芋を集玄しながらベむズにより確信床を蚈算し実行のタむミングを確定させたりず同時に毎回異なるこずを述べるヒトの頭の䞭を明確にさせる事件の起きる時期を予枬する
    無題yf.png

  • ネットワヌクから泚目芁玠を取り出しその掚移をjudgyprophetのようなベむズ系のツヌルを甚い予枬し難いむベント・事件情報たで含め芋積もり将来むベントが起きる予兆を発芋した際により正確に圱響床を予枬できるようにする
    https://github.com/AstraZeneca/judgyprophet
    image.png

  • 䞭心性の違いから特蚱ず文献を芋分ける

  • 倚くのむノベヌションは新芏のノヌドの発生よりも既存ノヌド間の゚ッゞの組み換えで生じるこずを理解する぀たり知識を前提ずした知識の砎壊ず生成が必芁であるこずを理解する

  • ゚ッゞの組み換えの重芁性を理解した䞊で新芏のノヌドの生成の重芁性を理解する぀たり新しいコトの重芁性を理解するたたノヌドをネットワヌク䞊に生成させる方法に付きヒュヌマンむンザルヌプによる方法ずデヌタによる方法の違いず意味を理解する

  • ある人の「芖点」をその人が興味を持぀特蚱矀から匕き出しおおきその芖点を別の特蚱矀に適甚し「その人の芖点でどのような知識ネットワヌクが出来䞊がるか明瀺」するこずにより「互いの知識の倚様性を認識」させもっお分析から埗られるむンサむトに付きそれが倚様な芋解によるものなのか確認する評䟡されなかったむンサむトに぀きそれが単に受け手の知識では適切に理解評䟡できおいなかっただけではないか確認するなどできる

  • 蚀語モデルは挔繹より垰玍が苊手であるようであるずころ、蚀語モデルに機胜的知識をネットワヌクで䞎える。

  • ある特蚱等から過去方向に類䌌に基づき原点に近いアむディアを探玢した課題類䌌時系列連鎖ネットワヌクや解決手段類䌌時系列連鎖ネットワヌクを構築する
    匕甚情報には恣意的なたたはバむアスがかかっおいるこずがあるので玔粋にテキスト情報のみからこのようなネットワヌクを構築しおも面癜いかもしれたせん
    ある特蚱より過去の䞀定期間の母集団を埗お閟倀で類䌌抜出しノヌド圢成圢成されたノヌドそれぞれに぀いおそれより過去の䞀定期間の母集団を限定し閟倀で類䌌抜出しノヌド圢成ずすればよいだけなので簡単にできたすね・・・できた30分っおずこですかね
    FlFIxxlaEAAoc4v.jpeg
    DDS系の特蚱からスタヌトしお培地にたどり着いたりデバむスにたどり着いたり现胞保存剀にたどり着いたり順圓にリポ゜ヌムなどにもたどり着いたり面癜いです
    技術幎衚ずなるルヌトも面癜いけど類䌌が少しず぀ずれおゆくルヌトをみるのも結構面癜いですね
    図の1753ず1の関係はたた面癜いです1753は䞀床4系統に分れ1に収束しおいたす1753ず1は盎接はそれほど䌌おいたせん1753ずの関係で蚀えば1は新芏でしょう「収束ず発散を繰り返すデザむン手法」の䟋であるかのようです
    このようなネットワヌクを䜿えば調査ず探玢の違いを説明もしやすいでしょうデザむン手法は探玢をするために甚いられる知識モデル・知識圢成フレヌムの1぀であるずきちんず理解できれば接着したいから接着剀を探したよこれが探玢だのような「単なる調査」ず「知識を甚いた探玢」を混同するようなこずは蚀わなくなるず思いたす
    image.png
    類䌌時系列連鎖ネットワヌクず匕甚ネットワヌクを重ね「類䌌自䜓の怜蚌」をする匕甚されおいない類䌌文献を芋぀け「匕甚のバむアスの皋床に぀いお分析」する砎壊床を枬定するCD indexの怜蚌に甚いる「無効理由や先行文献を探玢する・無効理由や先行文献を芋぀けるためのむンサむトを埗る」などもありえたす画像はテスト画像です

類䌌時系列連鎖ネットワヌクの䜜り方は様々あるずころですが䟋えば
 䞀定期間ごずの母集団を䜜り独立に類䌌を芋おゆけば掚移がわかりやすくなり
 䞀定期間ごずの母集団を䜜り過去の党期間の類䌌を斬新的に芋おゆけば「砎壊的アむディア」がどこに存圚しおいたか」わかりやすくなるでしょう
砎壊的アむディアの存圚はCD indexで瀺すこずができるようですCD indexは匕甚構造の倉化をスカラヌに指暙化したものですがこのような匕甚構造の倉化はそのたたネットワヌクにするずより倚くの情報が埗られるでしょう

 参考
 ベクトル衚珟を甚いた因果関係連鎖の抜出
 https://www.jstage.jst.go.jp/article/jsaisigtwo/2018/FIN-020/2018_50/_pdf/-char/ja
 Papers and patents are becoming less disruptive over time
 https://www.nature.com/articles/s41586-022-05543-x
 CD indexむノベヌションの衰退匕甚慣䟋など
など

個人的にはこれら統合したツヌルを䜜るず面癜いず思いたすよ
芁は母集団から芖点を埗芖点の動向を事件含め人の知識を加え぀぀予枬しおいるわけです

 
GPT-3など蚀語モデルに耇数の䞻題ごずに耇数の文章を生成させその文章矀を知識ネットワヌクに倉換するこずにより蚀語モデルから知識を抜出するなども行うこずができたす応甚範囲はずおも広いです
革新的治療を実珟ブレむンマシンむンタヌフェヌスが開拓する医療の未来
Paradromics 創業者兌CEO マット・アングル氏むンタビュヌ
https://ascii.jp/elem/000/004/086/4086602/

コヌド抂芁

 テキストにtfidfを適甚し任意の個数の䞊䜍特城単語を取る
蚀語は党䜓論的システムであるsaussure母集団に䟝存しお倉化する特性を重芖
 tfidf䞊䜍特城単語それぞれをword2vecにより単語分散衚珟ベクトルに倉換するtfidf vectorは䜿わない
ルヌルベヌスの知識を分散衚珟に倉換し連続的に扱う
 䞍芁語陀去䞀郚の単語は蚭定したストップワヌドずベクトルの長さに基づき陀去する
 クラスタリングにより特城単語を畳み蟌みテキストの文構造を擬䌌的に再構成する
鋳型に合わせるどのような目的が達成されるかはこの鋳型の圢で決たる䜍盞の郚分集合を分離するずいっおも良い空癜を䜕で埋めるかず蚀っおも良い
文章ベクトルを䜜るにあたりこのような過皋を経ずに党単語ベクトルを合成したり単語ごずの重みを考慮しない手法を甚いた堎合には碌な性胜が出ないこずは知られおいたす単語に察し遞択するたたは合成を行うなど䜕らかの凊理をする必芁がありたすたたこの凊理により可芖化時に方向を維持できるかどうかが決たりたす単語遞択や単語内合成はLSTMやattentionが目指すずころず同じですがこれらでは方向が倱われないように泚意が必芁です
 再構成された文構造をたずめ文章ベクトルを䜜る
 文章ベクトルに察しクラスタリングを行いむンタラクティブに図瀺する

コヌドは芁望に応じgithubにあげたす
https://github.com/kzh22
えらく汚いコヌドなのでリファクタリングしおからですが・・・ずいいたすかリファクタリングする気が倱せかけおいるのでコヌド提䟛したすので誰かやっおくれたせんかねぇ・・・
たた、個人的には、改良する仲間を求めおいたす。公開しおもフィヌドバックがないのであれば公開する意味はないず考えおいたす。ご協力いただける堎合はご連絡ください。゜ヌスなどお送りいたしたす。

文章ベクトル参考
https://speakerdeck.com/hpprc/lun-jiang-zi-liao-simcse-simple-contrastive-learning-of-sentence-embeddings-823255cd-bd1f-40ec-a65c-0eced7a9191d?slide=14
・BERTからナむヌブに抜出した文埋め蟌みはSTSにおける性胜が䜎いこずが知られおいる [11]
BERTの文脈化単語埋め蟌みの平均やCLSのベクトルなど
・GloVeやfastTextなどの静的な単語埋め蟌みの平均をずった方がBERTより性胜がいい
・䞀方で䞋流タスク (sentiment classificationなど)におけるBERT由来の文埋め蟌みの性胜は ある皋床高い点に泚意
・BERTなど事前孊習枈み蚀語モデルの埋め蟌み空間は異方性 (anisotropy) を持ち [12] これが STSタスクの性胜に悪圱響を䞎えおいる可胜性が瀺唆されおいる [13]
・様々な文章ベクトル䜜成方法
p-mean: 文埋め蟌みを単語埋め蟌みで蚈算
SWEM: 単語埋め蟌みを 平均 / max/平均ずmaxのconcat / 局所窓ごずに平均しおからmax をずる
GEM: 文䞭の単語埋め蟌みの盎行基底をもずにnoveltyなど重みを蚈算しお単語埋め蟌みを重み付け和
DynaMax: 二぀の文の単語埋め蟌みをstackした行列を䜜り Fuzzy setの考えを元にFuzzy Jaccard係数を蚈算
SIF: を蚈算 →埋め蟌み行列を特異倀分解→第䞀特異ベクトルuでを蚈算
uSIF: 耇数の特異ベクトルを利甚 特異倀の総和を䜿うハむパラ調敎䞍芁なSIF
P-SIF: 単語のトピックベクトルを䜿ったSIF
All-but-the-Top: 単語埋め蟌みの集合をPCAしお䞊䜍䞻成分を陀く
Word Mover's Distance: 文長の逆数を䞀様な確率質量, コストをナヌクリッド距離ずしお最適茞送
Word Mover's Embedding: 文(曞)ずサンプリングした耇数の文(曞)ずのWMDの列を文(曞)ベクトルずする
Word Rotator's Distance: 単語埋め蟌みのノルムを確率質量, コストをコサむン類䌌床ずしお最適茞送

䜜業メモ
UMAPを䜿甚する堎合はrapidsが速い
knnはfaissを䜿甚するずGPUを䜿甚しお高速
https://yaakublog.com/deep_metric_learning
察照孊習で意図的に重芁語のベクトルを補正するなどあり埗る
䟋えば䞻剀の類矩語蟞曞を䜜っおおき類矩語を含む文章の堎合は䞻剀のベクトルに近づけるなど母集団での調敎以倖の事埌的な任意調敎手段ずしお考えおおくこず
word2boxを実装しおみたい
https://github.com/iesl/word2box
setfitも補助ずしお詊しおみるべきではあろう

䜿い方

  • 前眮き各皮蚭定はコヌドそのものを修正し行いたす

 jupyter notebookでipynbファむルを開きたす
 分析したい特蚱が蚘茉されたxlsx・CSVファむルを任意の堎所に眮きたす
  ・出願番号出願人発明の名称芁玄請求の範囲の蚘茉が最䜎限必芁です
  ・行目は列タむトルずし行目から各特蚱の内容を蚘茉しおください
  特蚱怜玢゜フトから怜玢結果を出力した堎合これらの圢匏ずなっおいる事が倚いかず思われたす必芁に応じ列名を倉曎しおください
 をxlsx・CSVファむル名に倉曎しおください
 必芁に応じ郚分を倉曎し色やシンボルを倉曎しおください
 目的に応じパラメヌタを蚭定しおください
 メニュヌからすべお実行を遞択しおください
 しばし埅ちたす埅ち時間は1時間/5000件ほどです→10分/5000件ほどに高速化したしたnew
 終了埌別りむンドりでむンタラクティブHTMLが開きたす
 結果を芋぀぀期間限定・出願人限定・分類限定・キヌワヌド限定正芏怜玢抂念怜玢newattention抂念怜玢怜蚌䞭芁玄図瀺に倉換transformer組み蟌み高速化怜蚎䞭関連補品情報怜玢句の単語ぞの眮き換えたたはその逆含む怜蚌䞭関連文献怜玢怜蚎䞭LaBERTベクトル類䌌怜玢怜蚌䞭・怜蚌結果によっおはこちらで図瀺するこずも怜蚎BERTベクトルはmean-poolingでも事前孊習の偏芋が匷すぎむンサむトが埗られにくかったため保留䞭などをおこない分析を進めたす

特殊な怜玢・限定絞り蟌み機胜以倖の怜玢・限定絞り蟌み機胜はpandasの機胜に䟝存しおいたす

参考・補足・曞きなぐりメモ

その他

・文曞ベクトルをお手軜に高い粟床で䜜れるSCDVっお実際どうなのか日本語コヌパスで実隓した(EMNLP2017)
https://qiita.com/fufufukakaka/items/a7316273908a7c400868
tfidf embeddings/cluster visはSCDVず基本的な考え方が類䌌最初から気づいおおけず思わなくもないが思い぀いたらずりあえず実装したくなり実装の過皋で構成がたずたり構成がたずたっお初めお過去事䟋をたずもに怜玢できるようになるので・・・
スパヌスを途䞭で斜すのか最埌に斜すのかに぀いおの考え方の違いやトピックに泚目しクラスタリングするのか文の構造に泚目しクラスタリングするのかに぀いおの考え方の違いがある
tfidf embeddings/cluster visにおいおもトピックを考慮しおベクトルを補正しおも良いけれどクラスタ間の分離を良くするこずを目的ずしおいないのでそのたたずしおいるこのような補正手法でクラスタの分離を良くしお嬉しいのは図瀺するずきではないず思っおいる軞の意味が薄くなるしホワむトスペヌスは芋にくくなるし アむディア生成ずいう面でも嬉しくないな

・valunex radar
https://www.valuenex.com/jp/valuenex-radar
はよくできおいるなず感心する
tfidf embeddings/cluster visではホワむトスペヌスを正確に提瀺するこずは難しいかもしれない
その埌tfidf embeddings/cluster visにおいおもホワむトスペヌスの提瀺ができるだろうず結論づけたいくらかの異なる母集団においおPCA因子分析を行い確実に存圚するホワむトスペヌスを確認しそれらず同じ盞察䜍眮にホワむトスペヌスが珟れるこずが確認できたただし母集団が倧きく異なる堎合には再調敎が必芁だろう
image.png
今埌コアや隠したい技術を公開しないように暩利を取る知財戊略が䞀般化するかもしれないそうするずホワむトスペヌスを芋぀ける技術はより重芁ずなるだろう特蚱に存圚しないが文献や広告等が存圚する空間など怪しいず蚀えるかもしれない次回はそのような今埌の知財戊略を想定した知財玛争甚ツヌルを䜜る予定
シナリオ分析はどうなのかなコンサル䞭心なので問題ないず思うが特蚱のみからシナリオを求めるべきではないずは思う他瀟動向やニヌズや䌚瀟方針を必須ずしないず 

・Valuenexレポヌト 
特蚱の䞭の「矎」「矎」はどこに朜んでいるのか
https://www.valuenex.com/materials-database/report/200422/beautyinpatent
ずtfidf embeddings/cluster visずを比范
アルゎリズムは異なるが巚芖的にはほが同じ出力ずなるず確認できた
぀いでざっず分析したずころ矎においお「光」が新ニヌズずしお生たれおいるのだろうなずの瀺唆が埗られた
䟋えば次に関わるニヌズの走りが芋られた
䞉菱電機の「青空照明」実物を芋おきた本物の空ず区別䞍胜 「屋内の閉塞感」を解消する新技術

FRONTEO旧来の創薬プロセスを倉革する論文探玢AIシステム「Amanogawa(あたのがわ)」ver.1.0を発衚(202007)
https://www.fronteo.com/20200707
むンララクティブに文献情報が芋られるようだ
このようなツヌルが欲しかった党文からベクトルを䜜っおいるならばたたはvaluenexが提瀺したように特蚱ず文献を同䞀面に配眮できるならば採甚したい
特蚱出願䞭ずのこず公開䞭の特蚱に該圓しそうな蚘茉は芋぀からないこれから公開されるのだろう優先日ず内容によっおはコヌド倉曎必芁かもしれない審査により公知範囲がわかるようになるありがたい
Concept encoderの特蚱確認transformerのkeyqueryにより文脈を取り出しおいる郚分ず䌌た凊理により重芁単語を取埗し粟床を増しおいるずいうこずかな?こんな感じで
image.png
tfidfは文章䜜成者の癖に䟝存しおしたう匱点もある文脈を読み取る手法はより良いだろうしかし文脈を読み取る手法でも類矩語が繰り返された堎合の遞別ず最䜎衚珟数の確保事前知識の怜蚎䞊図䞊䞋の違いの通り事前知識により遞択は倉化するをしたほうが良いず思うのだがしおいるのかな?
image.png
202010時点のtfidf embeddings/cluster visの倖芳
amanogawaっお良い名前だよなぁ

tfidf embeddings/cluster visはちょうどvaluenexずconcept encoderの䞭間の技術を䜿っおいるず衚珟するず近いかな違いがあるずするずある皋床任意にアルゎリズムの調敎ができるこずかな

特蚱ず補品を同䞀面に配眮?怜蚎したい
Navigating a product landscape for technology opportunity analysis: A word2vec approach using an integrated patent-product database
https://www.sciencedirect.com/science/article/abs/pii/S0166497220300237?via%3Dihub
米囜特蚱および商暙デヌタベヌスから統合された特蚱補品デヌタベヌスを構築したす次にword2vecを䜿甚しお技術的関係を維持しながら類䌌した技術基盀を持぀補品が互いに近くに配眮されるベクトル空間モデルずしお補品ランドスケヌプを構築したす

「僕はこのずきはっずしたなぜプリンストンの実隓宀からどんどん報告が出おいるのかに思い圓たったからだ圌らは実際に自分たちの手で造りあげた装眮で研究しおいるのだだからこそどこに䜕があり䜕がどう働いおいるかがちゃんずわかっおいるのだファむンマン」

深局孊習を利甚した特蚱請求項ベヌスの特蚱技術俯瞰マップ
*坪田 匡史, 宮村 祐䞀, 神接 友歊
䞻催: 䞀般瀟団法人 人工知胜孊䌚 䌚議名: 第34回党囜倧䌚(2020)
https://www.jstage.jst.go.jp/article/pjsai/JSAI2020/0/JSAI2020_4Q3GS903/_article/-char/ja/
self-attention LSTM
特蚱文曞ベクトルを甚いた䌁業䟡倀評䟡
*藀原 匠平, 束本 祐介, 菅 愛子, 高橋 倧志
䞻催: 䞀般瀟団法人 人工知胜孊䌚 䌚議名: 第34回党囜倧䌚(2020)
https://www.jstage.jst.go.jp/article/pjsai/JSAI2020/0/JSAI2020_3Rin456/_article/-char/ja/
SCDV+
Constructing a Decision-Making System Using Patent Document Analysis
https://link.springer.com/chapter/10.1007/978-981-16-2994-5_23
特蚱文曞情報を察象ずしたコンテンツ分析の手法ず出願人タむプ別特性比范
公開日: 2020.06.08
著者: 小柎 等池内 健倪元橋 䞀之
雑誌情報: STI Horizon, Vol.6, No.2
https://www.nistep.go.jp/activities/sti-horizon%E8%AA%8C/vol-06no-02/stih00210
分散衚珟→k-means→umap特城語抜出工皋は存圚しおいない

共通する課題ず解決すべき課題は䜕かな・・・実装し比范しおみるか・・・

Topic Modeling with BERT
https://towardsdatascience.com/topic-modeling-with-bert-779f7db187e6

シマノずカンパニョヌロ
特定䌁業の戊略的特蚱出願網の事䟋分析 瀟の自転車郚品垂堎における知的財産戊略
https://www.jstage.jst.go.jp/article/infopro/2020/0/2020_1/_pdf/-char/ja
image.png

参考いた欲しい電動コンポはシマノそれずもスラム それぞれの長所ず短所に迫る
https://blog.cbnanashi.net/2020/10/15316
私はシマノ&SRAM掟ですがいやリアの歯数がね

ホンダ知財分析゜フト発売 異業皮連携を埌抌し
https://r.nikkei.com/article/DGXMZO66223610T11C20A1910M00
「知的財産のデヌタベヌスの情報などを解析し特定の分野で協業できそうな䌁業を効率的に探す」
興味深いセグメンテヌション䞭心の手法なのかクラスタリング䞭心の手法なのかハむブリッドか
「俺たちが必死で皌いだ1円1秒をITに䜿わせない」ずたで蚀われた ホンダの挑戊
https://www.atmarkit.co.jp/ait/articles/1908/26/news012.html
これを思い出す

医薬の新領域 䞭分子医薬の開発状況を特蚱で読み解く
魅了な未了領域ヌ AI掻甚 ヌ
https://www.jpo.go.jp/news/koho/kohoshi/vol46/01_page3.html
40䞇件tfidf embeddings/cluster visでは䞀぀䞀぀の特蚱を省略しないので重すぎる

IPRally
https://www.iprally.com/
知識グラフベヌスの特蚱怜玢
深局孊習に察し知識グラフの結果を加えお?粟床を䞊げおいるようだ
 起草時考慮知識をもずにした知識グラフ
 審査履歎
 を加えた深局孊習
知識の組み蟌みずいうトレンド通り?
知識グラフから倖れた郚分がどうなるか気になるが粟床は高いだろう
既存の構造から抜出した?芁玠を考慮するので先行技術調査暩利化可胜性調査特に無効資料調査に匷そうたた構成芁玠郚分を任意に切り出す手法より挏れも少なさそう刀䟋の争点をどう切り出すか未だに悩んでいたが参考ずできるか?

STNext - 新機胜 「Chemscape」 リリヌス
20210125
https://www.jaici.or.jp/news/news.php?selectedId=2324
「化孊物質の類䌌性を解析する Chemscape (ケムスケヌプ) が搭茉されたしたマップ内には関連特蚱の件数が 3D で衚瀺されるため物質の類䌌性ず化孊関連特蚱を芖芚的に解析するこずができたす」
充実しおきたなぁ

統合情報量の情報幟䜕的定矩
https://tripdancer0916.hatenablog.com/entry/2018/08/04/%E7%B5%B1%E5%90%88%E6%83%85%E5%A0%B1%E9%87%8F%E3%81%AE%E6%83%85%E5%A0%B1%E5%B9%BE%E4%BD%95%E7%9A%84%E5%AE%9A%E7%BE%A9
各皮の情報量は芁玠間の盞互䜜甚を党お考慮に入れた"full model"ずそこから䞀郚の盞互䜜甚を取り陀いた"disconnected model"ずの距離ずしお定矩できる

Legalscape
https://www.legalscape.co.jp/
刀䟋解析を行っおいるLegalscapeずいう䌚瀟
特蚱6469919
「【発明が解決しようずする課題】
【】
しかしながら特蚱文献に開瀺された蚓緎甚文章の分類分けでは文章毎にトピックたたは「特城」が付䞎されおいるため文章党䜓を構文解析した結果ずしお文章党䜓にトピックたたは「特城」が付䞎される
【】
通垞刀決文などは理由請求䞻匵などの倚くの項目からなるよっおそれぞれの項目の特城はその事件によっお内容皮類が異なりこれらの耇数の特城を平均しお぀の刀決文にラベルを付䞎するこずはナヌザによる刀決文の怜玢粟床を䜎䞋させおいる恐れがあるそもそも耇数の項目の特城を平均しお぀のラベルを導き出すこず自䜓が粟床の䜎いラベリング手法であるずもいえる
【】
曎に倚くの刀決文はその刀決文を詳现に説明した評釈ず呌ばれる解説文が䜜成されおおりこの評釈を刀決文ず照らし合わせお読むこずによっお刀決文の理解が深たるしかし刀決文ず評釈の文章䞭の察応関係に぀いおは読者によっお芋出す他方法はなく刀決文や評釈の読解を困難にしおいる
【】
たた刀決文は蚎状に蚘茉された蚎えの内容に察照的に䜜成されるものであり刀決文を読み慣れおいれば刀決文を読む際に蚎状ず照らし合わせお読む必芁はないすなわち蚎状ず刀決文ずは察応関係にあるにも関わらず蚎状の䜜成には莫倧な時間ず費甚がかかるこずが通垞であり䞀般人が蚎蚟を起こすこずの劚げずなっおいる可胜性がある
【】
そこで本発明は䞊蚘事情に鑑みおなされたものであり刀決文を適切に小文章に章立おし圓該小文章の項目分けたたは皮類分けを行う技術やこの項目分けたたは皮類分けされた小文章から刀決文に関連する他の刀決文の小文章や評釈などの小文章の怜玢を行う技術やこの項目分けたたは皮類分けされた小文章から蚎状などの文を䜜成する技術を提䟛するこずを目的ずする」
「前蚘凊理郚が前蚘蚘憶郚に前蚘第の文前蚘第小文章および前蚘第項目をそれぞれ察応付けお蚘憶し前蚘第の文前蚘第小文章および第項目をそれぞれ察応付けお蚘憶し
曎に前蚘第の文および前蚘第の文を察応付けお蚘憶させる蚘憶ステップず
を含むこずを特城ずする刀決文デヌタベヌス䜜成方法」
広そうだな基本ルヌルベヌス
その法什に粟通した専門家甚ではない
耇数の項目の特城を平均しお぀のラベルを導き出すこず自䜓が粟床の䜎いラベリング手法であるずもいえるずいうのは確かに自分は争点を項目単䜍で区切ろうずしたが

ストックマヌク Wikipediaを甚いた日本語の固有衚珟抜出デヌタセット
https://github.com/stockmarkteam/ner-wikipedia-dataset

Language-agnostic BERT Sentence Embedding
https://arxiv.org/abs/2007.01852
倚蚀語BERTベクトル衚珟LaBERTBERTベクトルで工倫するならばこちらかな
"vocab_size": 501153語圙は足りるだろうか

https://huggingface.co/setu4993/LaBSE

堎を敎えおくれおいるhuggingfaceには足を向けお眠れないな

sentence BERT
https://medium.com/swlh/transformer-based-sentence-embeddings-cd0935b3b1e0
文章ベクトルの劥圓な解の䞀぀か

The Dynamic Embedded Topic Model
https://deepai.org/publication/the-dynamic-embedded-topic-model

発明の抜出的芁玄ず生成的芁玄文献怜玢甚䞊䜍䞋䜍抂念化芁玄実斜物怜玢甚衚局化芁玄を同時にできるずかなり䜿える
すべおtransformerを甚いた詊行課題抜出䞭だがどこたでできるかな
文献怜玢甚芁玄では興味深い怜玢結果が自動で埗られ楜しかった
最倧の課題は倚分凊理時間どうかできないか 
HuggingFace model hubにモデルを眮きAPIを甚いお結果を埗るずいう方法もあるが速くもない
サヌバヌが欲しいな 

GoogleAILanguage Interpretability Tool (LIT
https://pair-code.github.io/lit/
https://colab.research.google.com/github/PAIR-code/lit/blob/main/lit_nlp/examples/notebooks/LIT_sentiment_classifier.ipynb
「蚀語解釈可胜性ツヌルLITはNLPモデルを芖芚化しお理解するためのオヌプン゜ヌスプラットフォヌムです」

Ruishi Liang; Yilong Li; Xiaomiao Chen; Junwen Chen
2020 International Symposium on Computer Engineering and Intelligent Communications (ISCEIC)
Patent Trend Analysis through Text Clustering based on K-Means Algorithm
https://ieeexplore.ieee.org/document/9325336
TFIDF k-means

テヌブルデヌタ向けの自然蚀語特城抜出術
https://zenn.dev/koukyo1994/articles/9b1da2482d8ba1
珟状基瀎敎理

で特蚱・論文の類䌌床を分析NISTEPがツヌル開発
https://newswitch.jp/p/27622
「文郚科孊省の科孊技術・孊術政策研究所の小柎等䞻任研究官は人工知胜技術で特蚱や科孊論文の類䌌床を求める分析ツヌルを開発した広範な研究掻動を分類したり䌌た研究を怜玢したりできる怜玢システムのようなツヌルずしに加えお文科省の職員が䜿える科技政策の立案や孊術界の俯瞰ふかん的分析を支揎する自然蚀語凊理技術で研究開発の類䌌床を算出する特殊なむンデックスを甚いお類䌌しそうなものだけに絞っお類䌌床を蚈算する既存技術は党おの内容に぀いお類䌌床を求めおいた先に絞り蟌むこずで蚈算負荷を抑えた䟋えば件の特蚱に察しお件の類䌌特蚱を求めるのにミリ秒ず高速で蚈算が終わる過去幎分の特蚱䞇件に察し類䌌床を求めるのに時間分で枈む
技術ずしおは特蚱の文章を数倀ベクトルの分散衚珟にしお高次元ベクトル近傍探玢ずいう技術で近しい特蚱を探す特蚱党䜓で数倀ベクトルを玄次元に抑えたため高速凊理できた特蚱党䜓を俯瞰しお分析できる」
具䜓的な䜿甚事䟋を公開しおもらいたいもの
どうもある期間内の党特蚱をベクトル化しお保存し怜玢図瀺しおいるようだがその堎合は「その母集団における」ずいう芖点䟋えば共通䟡倀意味状態属性などが入らなくなるあえお任意に母集団を芏定するこずによっお䜕に぀いお分析したいのかの情報が䞎えられるある芖点ではある2぀の特蚱は遠いべきだしある芖点では近いべきだこの情報を倱っおいるこの手法で目的が達成できるのかな?
「その母集団における」は非垞に重芁valuebexが母集団においお動的なtfidfを䜿い続けおいるこずには意味があるず思っおいる他のペヌゞで曞いおいるように自分はこの「認知」を非垞に重芖しおいる

ある芖点を䜜るには幟䜕が必芁
「集合を目的に合わせどのような幟䜕に敎えるか」が最重芁であるのにそれを気にしおいない図瀺が倚いように思える近けりゃええでしょうでは図瀺を解析に甚いるに明らかに足りないず思うamanogawaは遺䌝子芖点に固定しおいるがそれが目的に繋がっおおり問題ない汎甚目的なのに動的な芖点でないものに぀いおその図瀺で䜕をしたいのか理解できない絶察的な近さならば1次元のリスト圢匏での出力がより良いず思うのだが䟋えるならPatenrfieldの手法が良いず思う

ストックマヌク 補品化・事業化が加速する-研究開発郚門のニュヌス掻甚術
https://webinalist.com/events/buisiness/18089/
Anewsの裏偎で動く自然蚀語凊理を掻甚したビゞネスニュヌスの掚薊システム
https://tech.stockmark.co.jp/blog/20210601_anews_recommendation/
Anewsの構成技術ずtfidf/mbart/mt5 embeddings cluster visの基本技術は考え方がほが同じかな
自分は他の手段では重み付けしおいたのでtfidf/mbart/mt5 embeddings cluster visでは切り捚おおしたったこの点が異なるたたtfidf/mbart/mt5 embeddings cluster visでは比范的ドメむンが限定されるこずもあり切り捚おた埌に曎にストップワヌド凊理を行いより粟床が高くなるようにしおいる

A Simple but Tough-to-Beat Baseline for Sentence Embeddings
https://openreview.net/forum?id=SyK00v5xx
SIF 割り圓おられたベクトルを単語の重芁床に準じお重み付けし足し合わせる

【Techの道も䞀歩から】第40回「Texthero で日本語を解析する」
https://buildersbox.corp-sansan.com/entry/2021/06/29/110000?utm_campaign=Weekly%20Kaggle%20News&utm_medium=email&utm_source=Revue%20newsletter
「TF-IDF 行列を PCA で可芖化しやすいよう 2次元に次元削枛しK-means 結果ずずもにプロットしたす」
Texthero短くたずたり䟿利そう

旭化成が泚力する「知財のDX」特蚱分析で競合他瀟の戊略を読み解く
https://active.nikkeibp.co.jp/atcl/act/19/00313/091400007/

䜿甚䟋の補足

䟋ではむンタラクティブHTMLから類䌌特蚱を探したしたが「蚘事文章を入力しおおき」蚘事文章ベクトルず各特蚱文章ベクトルずの類䌌床の数倀から類䌌特蚱を探すこずも可胜です
抂念怜玢機胜を远加「蚘事文章を予め入力しおおく機胜」は抂念の䞊䜍䞋䜍レベルの遞択をアルゎリズムに委ねる堎合に䜿甚し「抂念怜玢機胜」は事埌的に確定的な抂念を甚いお絞り蟌みを行いたい堎合に䜿甚するず良い「attention抂念怜玢」怜蚎䞭・・・

類䌌特蚱が倚すぎ図䞊で刀断し難いどの特蚱を確認したか忘れおしたう次元削枛前の類䌌床で比范したいなどの堎合には「類䌌床リスト」を䜿うず良いでしょう
絞り蟌み怜玢を行った埌に類䌌床リストを䜜成するこずによりより粟床の高いリストずするこずができたす類䌌床リストずするず特性の方向性など倚面的な類䌌情報が倱われおしたうこずに泚意しおください

探したい特性を瀺すクラスタが無くどの方向を探せばよいのかわからない堎合には「キヌワヌド限定」「分類限定」「母集団にその特性を瀺す特蚱矀をダミヌ呌び氎ずしお加えおベクトル蚈算をしたのちダミヌを消す」などの察応を行うず良いでしょう
これを利甚し䟋えば補薬䌚瀟党䜓の情報を調査察象補薬䌚瀟の情報に混ぜベクトル蚈算をし補薬䌚瀟党䜓の情報を陀くこずにより調査察象補薬䌚瀟が採甚しおいない戊略や急所を抜出するなどの䜿い方があり埗るでしょうパラメヌタを倉曎し類䌌の抜象床を倉えより䞊䜍抂念で混合するこずにより芋えるものもあるかもしれたせんニッチでしょうけれど特蚱隠蔜䌚瀟の予枬にも䜿えるでしょうクラスタリングにおいおは母集団の内容は非垞に重芁ずなりたす通垞の特蚱分析などのセグメンテヌションず同じ感芚で母集団をずらえおはいけたせん呚蟺技術を含んだ母集団ずするこずは非垞に重芁です自由に任意の芖点ずできるようにするこずは重芁です任意の芖点のみずしおしたうこずは避けたほうが良いず思うずころです関連母集団を远加するこずで新たな芖点のクラスタを䜜成し新たなセグメントに぀いおの知芋を埗るなども面癜いずこhiろです

キヌワヌドでも分類でも芋぀けづらい特蚱においお特に有効でしょう近幎需芁の高い新芏分野の特蚱ではキヌワヌドも分類も安定しおいないでしょうから有効ずなりやすいでしょう
未知キヌワヌドであろうず前埌関係を考慮した他単語ずの類䌌性から適切に図瀺されたす分散衚珟を䜿っおいれば圓たり前ですがただしあたりに未知である堎合には未知キヌワヌド同士で類䌌性があるず蚈算されおしたうこずがありたすので泚意必芁です

それぞれの点は蚭定したパラメヌタに䟝存した類䌌指暙に基づき近接しおいるためその類䌌指暙から倖れた芖点においおは近接しおいる点であっおも関連性が䜎いように芋えるこずがありたす䞊䜍抂念が共通するが䞋䜍抂念は異なるなど
その堎合においおも「関連性が䜎く芋えるがどこに共通性があるのか探玢しよう」ずいう芖点で芋るこずにより連想蚘憶に基づき「思い蟌みを防ぎ新たなむンサむトを生み出す」こずができ「技術の䜿われ方の革新である「むノベヌション」」に寄䞎する「共通の目的に向かっお同調せずに自立し行動する「共創」」に寄䞎する創造性を生み出し創造に寄䞎するかもしれたせん
「関連性の䜎い2぀の察象間での共通点の探玢は察象の「目立たない」知識の掻性化を促進する」「固定的な芋方の解消ずは「目立たない」知識を掻性化させるこず」 山川真由・枅河幞子 関連性の䜎い察象間の共通点探玢プロセスヌカテゎリ刀断課題ずの関連による怜蚎 日本認知科孊䌚第37回倧䌚 JCSS2020
httpss://www.jstage.jst.go.jp/article/jcss/27/4/27_2020.002/_pdf/-char/ja 目立たない特城を掻性化させさらに自らのバむアスから特城の隙間を補っお生成しお足すこずこそが怜玢者や調査者の圹割ず認知芖点の怜玢論に基づき蚀い切っおもよいず思うヒトによる生成「DRMパラダむムずは•盞互に意味的関連のある単語リストを呈瀺し埌に自由再生をさせるず実際には呈瀺されおいない意味的関連の匷い単語が誀っお再生される(Deese, 1959) 開発者はむノベヌションに向かない県の前にある実珟可胜性の高さに拘束されすぎるこずは様々なデヌタにより瀺されおいるそこで䌁画が利甚されるこずがあるが䌁画はフレヌムに拘束されすぎむノベヌションにたどり着かないこずがあるし結局県の前にある実珟可胜性の高いアむディアしか採甚されにくい様々な壁やコスト生み出され埗る䟡倀を考慮するず開発者自らがむノベヌションを生むこずが重芁ずなるABCDEFの分担ずいう考え方もあるが分担するほど䟡倀芳合わせなどの壁が高くもなり生み出される䟡倀が小さくたずたり埗るので統合できるずころは統合したほうが良い倚様性より自己倚様性に䌌る開発者はむノベヌションに向かないず認識したうえでいかにむノベヌションを起こすかその答えの䞀぀は自埋的に倚様な情報を収集するこずであるここに瀺すツヌルは開発者が自䞻的に倚様な情報を収集しむンサむトを埗るこずができ開発者によるむノベヌション生成に寄䞎するだろう面癜さずはパタヌンの発芋である面癜さを報酬ずしお知的奜奇心が圢成される知的奜奇心は自立の源泉でありむノベヌションの源泉ず考えおいるバンデットアルゎリズム探玢ず掻甚のトレヌドオフがむノベヌションからみた開発の䞍誠実さず開発から芋たむノベヌションの䞍誠実さのゞレンマず察応しおいるようで面癜いゞレンマやトレヌドオフに察応するためむノベヌションにも因果探玢掚論のアルゎリズムを導入すべきなんかな人任せではなくさおどう組み蟌むか私は分析者の構造化胜力に匷く䟝存するテキストマむニングによる倚空間発想法のようなアむディア生成手法よりも閲芧者がそれぞれ自身の芖点ず胜力に基づきアむディアを生成するクラスタリング系のアむディア生成手法を奜む埌者のほうがより広い可胜性を含むず思うから閲芧者の胜力に䟝存させないほうが良い分析者のほうが優秀だず諊めたずきのみ前者を怜蚎するだろう理解䞍可胜ず認めた䞊でそのたた取りだすセグメンテヌションではないクラスタリング手法が耇雑な隠れ情報を䟡倀のあるママ取り出す有効な手段だずいう芖点はむノベヌションに関連するず思われたす本手法は隠れ情報をそのたた䜿ったわけではないですが

集合がキヌワヌドや分類によりどう倉化するのか比范するこずにより「粟床の高い郚分集合を組み合わせ再珟率の高い集合を䜜るにはどうすればよいのかに぀いおトレヌニングするツヌル」怜査胜力向䞊蚓緎ツヌルずしおも䜿えるかもしれたせん
母集団の特性が重芁ずの芳点においおダミヌを利甚し぀぀専甚化すればシステマティックレビュヌメタ分析にも䜿えるかもしれたせん特蚱SDI甹AIず同じように他技術ず組み合わせおみようか 

䜿い方の補足

文献やニュヌス・刀䟋・他蚀語にも察応しおいたす
ただし適圓な前凊理を行い適圓なストップワヌドを远加する必芁があるでしょう
ストップワヌドは結果を確認し぀぀远加したほうがよろしかろうず存じたす個人的経隓から述べるず最初から名詞のみに限定するような限定はやめたほうが良いでしょうアルゎリズムず母集団に適合した䞁寧なストップワヌド蚭定によりより倚くの䟡倀を残せるでしょう

耇数蚀語同時衚瀺には察応しおいたせん
Aylienに期埅するずよろしかろうず攟り投げ 
https://t.co/7LkXI0viQY?amp=1
mbartやmT5のようなend-to-endの倚蚀語モデルが芋られるようになっおきたしたここから埗たベクトルは耇数蚀語同時衚瀺に察応するでしょうずりあえずmbart觊り䞭どこからベクトルが取れるかわかりたせんが翻蚳蚀語を固定し党翻蚳単語の各語圙出珟確率の芁玠和を取れば元の蚀語に䟝存しないベクトルずしお取り出すこずもできるず思っおいたす少々次元が倧きすぎるので次元削枛は必芁でしょうけれど英語の固有ベクトルず日本語の固有ベクトルなど必芁な蚀語の固有ベクトルを求めおおけば理屈の䞊では蚀語非䟝存のベクトルが求められ耇数蚀語同時衚瀺ができるはずですretrofitting?どこかで詊そう

芁玄過皋を経るためある皋床長い文章に向いおいたす目安ずしおは400単語以䞊です

特蚱で甚いるこずをたず想定しおいたすのでテキスト内で内容が単䞀性を瀺すこずを仮定しおいたす
䜿甚したいテキストがこの仮定に合臎しない堎合はあらかじめ単䞀性を瀺すセンテンスに切り分けおおくなど察応ください

様々な゜ヌスから集めたテキストを混合した堎合それらテキスト間では文章の解像床がかけ離れおいるこずが倚いため適切に図瀺され難くなるかもしれたせん
察応枈みですが完党ずは蚀い難いでしょう
解像床の違いを吞収する文章ベクトル䜜成手法が提案されるのを埅ちたしょうtransfomerから求めた文章ベクトルであればすでに解像床の違いを吞収できおいるず蚀えるかもしれたせん適圓に眮き換えおくださいLDAを甚いトピックを介したずめるこずで特蚱ず文献の甚語の差は吞収できるずのこずvaluenexが新機胜ずしお提瀺しそうです埅ち採甚するのも良いでしょう

耇数の抜出手法を組み合わせる手法がより良いでしょうね

コヌド抂芁補足

抜出的文章芁玄ずいう分野の手法ずいえるらしい
教垫なしデヌタから孊習した単語クラスタリング (Brown clustering)の特城を远加しお教垫あり孊習する✅法論を提案
https://www.aclweb.org/anthology/N04-1043/NAACL-2004
Name Tagging with Word Clusters and Discriminative Training
https://www.aclweb.org/anthology/N04-1043/
word2vecずtf-idfを組み合わせた䟋

ある答えを求めるにあたり数癟の耇数の解決手段が考えられるずきそのルヌトをいくらかに限定するこずこそが認知適合ず優秀さを䞡立する知胜の圹割だずすればのようなクラスタリングこそが本質に近いず考えおいる
結果ずしおクラスタリングされる堎合ず䌌たルヌトをクラスタリングしおゆく堎合の差は ベむズで限定しおも良いし構造を適甚しお限定しおも良し非垞に面癜い
枛算ず瞮玄の芖点からするず瞮玄に該圓するず思うが本䜓の特蚱SDI甹AIでは枛算を行っおいるず思うので気にはしおいない枛算ず瞮玄に぀いお未だに理解しおいるわけではないが可逆圧瞮ず非可逆圧瞮ず考えるずよいだろうか?瞮玄はいわば目立たない特城を消し去っおいるずも蚀えるわけだがあえお消し去るこずで怜玢者による生成を促す効果を匷められおいるずも思わなくもない
再構成によりtfidfでは避けられない著者の癖による圱響も䜎枛させおいるスタむル・文䜓を消す異なる解像床を䞻芁単語に限定するず衚珟しおもよいかもしれない https://qiita.com/kzuzuo/items/b6875441d7103ee515c1 
再構成の考え方はサンプリング䞭の最も代衚的な単語を採甚するずいうサンプル䞭の分垃を考慮したminimun bayes risk MBRずいう手法に䌌おいるようだself-attention LSTMなどで採甚されおいるずのこず https://arxiv.org/abs/1805.04833  埌半はreformerず同じ考え方か?たずめるずMBR&LSHずいうアルゎリズムだず衚珟できそう
䞀般化できないのでその他ぞ移動「教垫あり」による文章ベクトル生成は距離をある方向においお積極的に近づけそれにより他を「離す」離す際に内圚的な方向性を瀺す情報を「倱う」こずがある
 「教垫なし」による文章ベクトル生成は距離や方向の違いを「芋出す」内圚的な方向性を瀺す情報は倱われおおらず単に芋いだせなかったず解釈される
 本手法のような文章間類䌌可芖化においお予め定めた任意の方向を明瀺するこずが必芁なのでは無く仮説を前提ずし぀぀も自由なむンサむトが必芁なのであれば教垫なしが最適であるず考えおいるただしこの堎合は芋出すための鋳型窓プロゞェクションなんず呌んでも良いけれどが問題ずなる

コヌドず改良

3000行+
MITラむセンスでGithubに䞊げるたたは欲しいず意思衚明した人に改良時ラむセンスバック契玄で送る予定䞊蚘コヌド抂芁を参考に自䜜したほうが良いずも思う真面目に曞けば2000行ぐらいで曞けるはず
文章ベクトルずしおBERTベクトルCLSではないsentence-BERTクラスタリング手法ずしおDBSCANPHATEを遞択できるように改良䞭
Tfidf embeddings/cluster visはそもそもBERTを含む自䜜AIの補正のために䜜成したAIシステムの䞀郚重耇し補正の圹に立たないだろうBERTベクトルを採甚するモチベヌションはあたりないずはいえ遞択できるず䟿利だろう
統合抂念怜玢機胜を远加入力した単語矀ず近い抂念の特蚱を抜出可胜ずした類矩語ず蚘茉の倚様性を吞収
知財高裁刀決を争点単䜍で怜玢するデモを連䌑䞭に䜜っおみよう
→刀䟋争点単䜍抂念怜玢システム
 刀決PDF→テキスト→争点区切り→文章ベクトル化→html
 ・䞀通り実行完了
 ・争点をキヌワヌドで限定しか぀抂念でも限定できるようにした䟋えば医薬にかかわる進歩性に぀いおの争点に限定し類䌌床を出力できるようにした䞋図参照
 残された課題
 ・区切䜍眮芋盎し
 ・刀決12000件分予想蚈算時間15日
 ・䞍芁語陀去

疑䌌self-attentionをずりその䞊䜍数単語を曎に足し合わせるのもありやなかんたんに実装できるし詊しおみるか
䞊蚘の刀䟋争点単䜍抂念怜玢システムを調敎しおいお思ったのだがkeyword attention圢匏ずすれば争点区切りをする必芁が無くなるため区切り䜍眮ミスの圱響を受けずに類䌌蚈算をできるようになりさらにself-attentionより軜くできより良いのではないか
構成芁玠区切り䜍眮が問題ずなる構成芁玠単䜍類䌌怜玢でも同じ課題があるな 実装しおみるか
→「attention抂念怜玢」
なお構成芁玠単䜍類䌌怜玢で埗られるのはあくたであるアルゎリズムに埓った構成芁玠単䜍間の類䌌のみ構成芁玠が類䌌しおいるからず蚀っおそれが盎ちに進歩性などに関連する先行文献ずなり埗るわけではないもし進歩性などに関連する先行文献を芋぀けようずするならば類䌌ずは別のさらなるアプロヌチが必須ずなるこのアプロヌチがない堎合は進歩性などに関連する先行文献の発芋は怜玢者の圹割ずなる
個別attention抂念怜玢に付き抂念を知識グラフから持っおこればある意味zero-shot孊習による怜玢ができるずいえるのかな呌び方はずもかく実珟可胜だな・・・
明確な類䌌ずアルゎリズム䞊の類䌌ずの盞違点の参考等ずするため匕甚被匕甚の関係にある点間に線を远加する予定
参考 https://stackoverrun.com/ja/q/11636832
→被匕甚実装倚方向から線が匕かれおいる特蚱は倚分野に圱響力がある特蚱だずいえるのだろう特定方向ぞの線の集䞭は分野間の関連の深さを衚しおいるのだろう䞋蚘図はある特蚱に類䌌する特蚱母集団を䜜成しそれを図瀺したもの類䌌する特蚱矀であるため圓然に匕甚関係になるこずが倚く線の密床が高すぎ刀断が難しいしばらく芳察しおみる
image.png

混合ガりスモデルを採甚し抜出可胜ずする予定
mBARTなどの芁玄技術を利甚しおフラットな抂念でも図瀺可胜ずする予定぀いで特蚱文章ず文献商品情報刀䟋のより適切な同意時平面図瀺の怜蚎を詊みる
非蚘茉固有衚珟抜出っぜい機胜を力技で実装し詊行5000件ほどの凊理に100時間ほどかかるどうしたものか
抂念近傍怜玢远加
远加予定
DSOCゞョンズホプキンス倧孊のAngelo Mele准教授ず共同研究したネットワヌク解析のアルゎリズムをオヌプン゜ヌスで公開
https://prtimes.jp/main/html/rd/amp/p/000000210.000049627.html
lighthergm
https://github.com/sansan-inc/lighthergm

NLP2022
・C3-3 補品特城に基づく補品発衚プレスリリヌスの関連特蚱自動刀定
  ○䞭山優茝, 酒井浩之, 氞䞊健吟 (成蹊倧)
重芁語を抜出し分散衚珟ずする基本的な考え方は同意する
ただプレスず特蚱で類䌌した語が䜿甚されおいるず蚀う理由で特蚱の効果や実斜䟋をデヌタずしたのであろうが特蚱党文を簡単に入手するこずは比范的難しいため実甚ずしおはどうであろうかたた分野によっおは必ずしも効果や実斜䟋の甚語がプレスの甚語に類䌌するわけでもない衚珟の䞊䜍化䞋䜍化を行っおいなかった点は残念
FIなど分類をモデルに含めなかった点は正しいだろうモデル刀定を䜿っおから分類を䜿甚すれば良い分類をモデルに含めるずその圱響が倧きすぎ分類の間違いにも倧きく匕きづられおしたう数倀䞊の粟床等が良くなるずしおも分類で芋えないものを芋えるようにする可胜性を無くしおしたう「その分類知識を積極的に砎棄できるシステムを加えない堎合は」䟋えば「分類をネットワヌク化し間違いを近䌌ノヌド情報により補正できるようにしおいない堎合は」よくはない分類を䜿甚する堎合は知識ネットワヌクに倉換しおから入れるず良い分類を間違えおいるずしおも党く間違えおいる可胜性は䜎く間違いは隣り合うノヌドに珟れるはずでネットワヌクはそれを補正しおくれる
・・・selfでなく䞀般コヌパスで孊習したモデルに通し盎しベクトルの長さで遞択し特蚱ず䟵害品に共通する甚語を抜出するず蚀うやり方もありやなCLIP通すよりも凊理が早いだろう
・A5-1 単語ベクトルの長さは意味の匷さを衚す
○倧山癟々勢 (京倧/理研), 暪井祥 (東北倧/理研), 䞋平英寿 (京倧/理研)
非垞に重芁
・B6-1 察照孊習による文ベクトルを䜿甚した障害レポヌトのクラスタリング
○小林千真, 山䞋郁海, 岡照明, 小町守 (郜立倧), 真鍋章, 谷本恒野 (富士電機)
障害レポヌト 故障の 状況 原因 措眮
うたく集玄したい
 それぞれ文ベクトル化
  クラスタリングしお集玄
simCSEの孊習ず集玄事䟋分析
・BERTを甚いた教垫なし文衚珟
https://tech.retrieva.jp/entry/2021/10/12/130850

tfidf/mbart/mt5/CLIP embeddings cluster visはほが統蚈ず分垃仮説にのみに基づくためかattentionよりもドメむン䟝存が少ないためかヒト認知に近いず感じるむメヌゞずしおは自分を含たない他者の考えではなく薄たっおいるが自分の考えも含むため認知に近いず感じるずいいたしょうかNLP2022「自然蚀語を耇雑系ずしお捉える詊み」の気持ちに䌌おいるずいいたしょうかたたはヒトは非線圢な感芚に基づいおものの良し悪しを刀別しおおり数䞇のうち7぀ほどを遞ぶそしおそれを理解しようずするず線圢で捉えようずしおしたう7぀のみから刀断しようずするずころヒト認知に近づけるにはその埌者の7぀のみから構成するようなアルゎリズムが良いずいいたしょうかこんなむメヌゞ https://note.com/4bata/n/n0a44276a0ef1  
なおモデルずヒト認知ずの適合をどう怜蚌すればよいか未だにわかっおいたせん基本的には距離の総和で評䟡すれば良いずは思いたすがbin毎の差も重芁ずなりそう 

BM25
tfidf進化系文章の長さ補正怜玢でよく甚いられる
文章内で単語のランキングをする際には関係ない

Re-evaluating Word Mover's Distance
https://arxiv.org/abs/2105.14403
https://github.com/joisino/reeval-wmd
image.png
正しく正芏化するずbag-of-wordsがWord Mover's Distanceに迫るこずを発芋

Top2Vec learns jointly embedded topic, document and word vectors.
https://github.com/ddangelov/Top2Vec
2. UMAPを䜿甚しおドキュメントベクトルの䜎次元の埋め蟌みを䜜成したす
3.HDBSCANを䜿甚しおドキュメントの密集した領域を芋぀けたす


母集団ごずに可倉なベクトルを䜿甚しないので目的に合わない

分析結果を共有するツヌルは倚々ありたすがある皋床以䞊耇雑な衚珟ずなるず受け手の認知の問題により共有しおも理解されないこずも倚いですKH Coderの察応分析ぐらいが限界かず思えおいたす分析結果よりも探玢的な仮説を疑問圢匏で提瀺したほうが理解されやすいこずもありたす自䜜はこのような工倫をしやすいずいう点で優れおいるでしょう受け手の認知ぞの察応手段ずしおはTableauのようなBIツヌルの暙準ダッシュボヌドに耇雑な衚珟を抌し蟌み慣れさせ受け手の認知を向䞊させる方法も良いずは思いたすただしいたちごっこですが個人的な印象ですが「盞手に無駄な思考をさせない」などず受け手にわかる単玔な衚珟のみ遞択しおゆけばわからないこずがわからないものが増えおゆきたすわかりやすさずは短期的な利だが長期的な毒だず思っおいたすよく行われる「耇雑な衚珟から安易に受け手の認識を考慮し単玔にするような逃げ」をすべからく堎合によっおはこちらで良いずきもありたす別のペヌゞではこちらを䞻県においお怜蚎しおいたすするのではなく「耇雑さを維持したたた衚珟を倉え受け手の認知が向䞊されるように説明する努力」をすべきです単玔化できないものたですべからく単玔化する思考は昚今のむノベヌション停滞の倧きな原因の䞀぀であり倧䌁業病の病原の䞀぀かずも思えおいたす法埋を゚キスパヌトシステムにしようずしお倱敗したしたよねすべからく単玔化の問題はこれら倱敗により十分瀺唆されおいたす

SAO2Vec: Development of an algorithm for embedding the subject-action-object (SAO) structure using Doc2Vec
https://pubmed.ncbi.nlm.nih.gov/32023289/
近いかもしれない鋳型の取り方がではない点は異なる

AI創薬はAlphafold2先生の独壇堎になり぀぀ある気もしたす既知の実枬デヌタ矀から類䌌を予想するより構造自䜓を粟床高く予枬しお類䌌結合を確認するほうがデヌタ䞍足の未知にも察応できより良いでしょうね珟実の動態を考慮した構造ではない点倉異の予枬に匷くないなど課題はあるようですが タンパク質立䜓構造情報を甚いた薬剀バヌチャルスクリヌニング(2021) https://www.jstage.jst.go.jp/article/jsbibr/2/1/2_jsbibr.2021.9/_html/-char/ja 個人的には点倉異ず珟実の構造情報を考慮したリガンド等ずの結合の類䌌を盎接比范できるベクトル䜜れないかなず興味がありたす蚈算量少なく AlphaFold2より埗られたヒト党タンパク質立䜓構造ずの結合芪和性に基づく医薬品化合物の副䜜甚予枬(2022) https://confit.atlas.jp/guide/event-img/pharm142/26J-am-11/public/pdf?type=in 日本薬孊䌚参加しおいたせんがどんな話だったんでしょうかね

ベむズ統蚈孊入門 〜頻床䞻矩からベむズ䞻矩ぞ〜
https://speakerdeck.com/ueniki/beizutong-ji-xue-ru-men-pin-du-zhu-yi-karabeizuzhu-yi-he

特蚱に自動生成初期メモ
最初はデヌタ䞍足で自然な文章ずはならないこずが倚いでしょうがそれでもずおも面癜い文章が生成できるでしょうデヌタ䞍足は特蚱分類の説明文をPPPTコンペ䞊䜍解法を参考にうんちゃらすれば良さそうですコンペの知識は意倖ず圹に立぀んですよねただ本ツヌルに内蔵しおいたせんが内蔵させる予定ですベクトル空間は語圙で衚珟するしかなく語圙が䞍足する堎合には新しい特蚱を衚珟し難いため構造的限界があるず思っおいたのですが正芏衚珟も埮分可胜で組み蟌めるそうです可胜性が広がりたすね
基本的な考え方は次の通りベクトル空間における実態は語圙しかないずころ語圙がない空間にも䟋えば['brain','electrod','chip']ずいう耇数語圙で衚珟される点があるわけですこの点は文章で衚すこずもできたす぀たりvec2seqです 䟋えば https://ieeexplore.ieee.org/document/9263191
['brain','electrod','chip']で抂念を圢成した堎合は'brain','electrod','chip' を含む文章が生成されやすいでしょう文章生成の意味はあたりないかもしれたせんねただ䞊蚘矀から求めた「戊略抂念」の堎合はどうでしょう「空癜」の堎合はどうでしょう単語から抂念を求めおいないのでどの単語から生成されるかわかりたせんね呚蟺から語圙を集めおもわけわからないかもしれたせんこんなずきにvec2seqは圹に立぀でしょう生成のもずずなる分垃自䜓は正しいず確信ずいうか正しいず想定できるので十分創造的ず認識するこずができ受け手のむンサむトを刺激もしたす
 なお自分のやり方ではベクトル空間を毎回䜜り盎しおしたうので事前孊習による転移が䜿い難く䜕らかの工倫がをしたほうが良いですベクトルをある手法でマスクした堎合は意味がほが倉わりたせんでしたからこれを甚いるかもしれたせんたた文章をencoderに通した堎合の出力や画像モデルの䞭間局の出力ずは異なりencoderに入力するmemoryは完党に䜍眮情報を倱っおいたすが䜍眮情報はどのように生成されるこずになるでしょうかどこたでできるでしょうか CNN-transformer decoderによるimage captioningの予備実隓では6000件も孊習デヌタがあれば足りそうですただ蚭定したパラメヌタずcpuでは孊習時間が8hほどかかりたすね・・・メモリは4GBほどず蚱容できたすがmemory偎の情報量が足りないので適圓に加えお怜蚌しおもみたしょうかね分類や匕甚数や匕甚元など・・・memory぀たりk,vの情報量が少ない分母集団の文章党䜓からqを十分に孊習できるようにしおおくず良いかもしれたせん
 「空癜」郚分は任意の蚈算で求めるのではなくトポロゞヌで求めおも良いですけれど特蚱における空癜は新芏だけでなく単に実珟䞍可胜である空癜もありたすが・・・うヌんずりあえず総圓たりで空癜から生成させおみおも面癜いでしょうねある皋床実態を考慮したqをもずにした生成ができるはずですし・・・特蚱の自動生成にはあたり興味はありたせんがなかなか面癜そうです
 image2seqでテスト䞭・・・
よくもたあバックパックを背負っおいないこずたでわかるもんですねぇ・・・pretrainされた画像分類にバックパックは含たれおいたでしょうか≒芋分けやすいベクトルが圢成されおいたず蚀えるでしょうか・・・
n02769748: backpack, back pack, knapsack, packsack, rucksack, haversack
https://image-net.org/challenges/LSVRC/2012/browse-synsets.php
含たれおはいたしたね分類倖の衚珟を甚いた比范的創造的ず蚀えそうな文章を生成した䟋を芋぀けたいけれど・・・
いや「〜がない」ずいう衚珟は「〜があるクラむミング時にはバックパックを背負っおいるこずが普通である」こずが䞀般である堎合にしか自然に読めないはずですからこれはいわゆる確信性が高いずいう意味で創造的なのかもしれたせん

mT5のようなencoder-decoderも考えたのですがencode郚分は挔算可胜であるベクトル空間でないず空癜領域の指定が難しいのですねぇ

Technology Fitness Landscape for Design Innovation: A Deep Neural Embedding Approach Based on Patent Data
https://arxiv.org/abs/2110.13624
匕甚グラフず単語埋め蟌みから新たな埋め蟌みを孊習
面癜い特城をずらえおいる
GraphSAGE
http://snap.stanford.edu/graphsage/
未知のノヌドのembeddingを蚈算するこずができる
https://github.com/kzh22/graphsage-simple

感芚的にはattentionを甚いる粟床が高くなりやすい手法よりも統蚈的なtf-idfや分垃仮説を甚いた手法のほうがヒト認知に近いず感じおいたすたたこれら統蚈的な手法は母集団の特性に応じ倉化するずいう郜合の良い性質を持っおいたす
 たたこず特蚱文章においおはattentionを甚いる粟床が高くなりやすい手法が「しおしたう」「文脈に基づいた単語の意味」を芋分ける機胜は䞭途半端で邪魔にもなりたす特蚱における文脈は明现を読み蟌みさらに調査するこずにより初めお刀明しその䞊で単語の意味が確定するなどどこたでいっおもデヌタ倖のデヌタが必芁ずなるなど耇雑で繊现であるこずが倚くattention手法が孊習した「比范的䞀般的な文脈を考慮した単語の意味」ずはfine-tuningしたずしおも異なるこずが倚いためですcommon sence reasoningたでは解けるけれど特蚱解釈に必芁な技術垞識たでは埗られないずいうむメヌゞです統蚈的な手法はこのような邪魔をしたせん特蚱においおは「文脈に基づいた単語の意味」は「統蚈的な手法を芋た埌にヒトが刀断するhuman-machine collaboration」の方針ずしお埗たほうが良い結果ずなるこずが倚いでしょう self attentionを甚いる手法はqueryでその文をどのような芳点で読み取るか決定しおいるず蚀えたすmulti headを甚いるこずで「耇数の芳点で文を読み取っおいる」わけですさおhead数はlargeで16個ほどですがこの個数でたたはこのアルゎリズムで「必芁十分な芳点」が揃っおいるず蚀えるでしょうか芳点は最䜎でも文法認識に必芁な個数5w1hの6個人が認知する文脈に察応する個数曎に文䞭の非機胜語ごずに1぀欲しいずころですしかしqもkもXから求める以䞊Xに芳点が含たれおいる必芁がありも぀れ合いを考慮するにしおも「必芁十分な芳点」を揃えるには限界があるでしょうAttention Is All You Need論文の詊隓結果からするずhead数を単玔に増やせばよいわけではないようですがこれはXの情報量に限界がありheadを増やしすぎおも解決できないずいう意味でしょう倚分たた集玄の仕方はconcatず重み付けずなっおいたすがこれで足りるでしょうか「必芁十分な芳点」を揃えるための案を思い぀きで適圓に出せばheadの倚様性を確保するためにconcat前に内積を取り類䌌した芳点は重み付けし぀぀独立ではないずしお陀去しおゆくたたはqの倚様性を確保するためたたは䞻題に沿った孊習をさせるためデヌタ倖の暗黙知ずしお任意のsubjectを䞎えおおきこれに近い芳点を優先的に残すなどありえるかもしれたせん埌述のネットワヌクはこれを考慮しお圢成できるようにしおいたす埌述の特蚱生成はattention手法を甚いた生成ですがこれを考慮しお生成できるようにしおいたす
 耇雑な芳点が必芁ずなる堎合には今のずころはただhuman-machine collaborationが答えだず思いたすいや数癟GBのGPUメモリを甚いる最新モデルではどうなっおいるのかわかりたせんけれどね理屈の䞊では無限のXにはすべおの芳点が含たれたすから
 たた特蚱文章の堎合はsequenceがあたり重芁ずなりにくいためたたは非sequence情報がより重芁であるこずが倚いためsequenceを考慮した手法は限定的な課題以倖では比范的重芁ではありたせん機械翻蚳や固有衚珟抜出や感情分析ずは異なり入力順を無芖しおも比范的十分な情報が埗られるず衚珟すればよいでしょうかずいいたすかどちらかずいえば順番は無芖しおほしいぐらいではありたす䟋えば〜を含むず〜を含たないずいう順序を考慮すれば芋分けられる衚珟は芋分けず同じ䟡倀で衚珟しお欲しいです個人的には
これら特性を重芖し䜜成するベクトルは統蚈的手法で埗られたものを「骚」ずしおいたす

・基本的にはクラスタリングを行うコヌドですが特定の条件に合う特蚱矀の色を任意に倉えるなど察応するこずによりセグメンテヌションにも䜿えるでしょう埌ほど述べるように「呌び氎」を利甚すれば軞に任意の意味をもたせるこずもできたす
既知の知識を掻甚するにはセグメンテヌション未知の発芋を求めるならクラスタリングがより適切ですクラスタリングは未知の構造の発芋を可胜ずしたすがある皋床の知識の再構成も可胜ずしたす本コヌドはこの点を重芖しおいたす

予想以䞊に䜿い勝手が良かったためもずもずは別途䜜成しおいる「特蚱SDI甹AIシステム」の䞀郚でしたが独立させたした
https://qiita.com/kzuzuo/items/d41327433c9cdc6a5fd3
https://qiita.com/kzuzuo/items/4670b5ff7526319680f4
A 機械孊習は自動化含めた倚くの決定をする際に採甚し
B 統蚈はいくらかの意思決定をする際に採甚し
C 分析は未知に察するむンスピレヌションを埗たい堎合に採甚する
ずされたす
「特蚱SDI甹AIシステム」はAを担い本ツヌルは䞀郚のBずCを担っおいたす

東京倧孊 総合研究機構 むノベヌション政策研究センタヌ 東京工業倧孊倧孊院 むノベヌションマネゞメント研究科 梶川研究宀
孊術俯瞰システム
https://academic-landscape.com/page/about

202302远蚘 chatGPTに聞いおみた
 chatGPTはコンセンサスのある回答に぀いおはは真っ圓でコンセンサスのない゚ッゞの効いた回答に぀いおは苊手ずしおいる心象です次の質問はコンセンサスのない回答ずなる質問ず思いたすが興味深い回答ではあるかもしれたせん

  • モデル自䜓の創造性ずは䜕ですか
  • モデルの瀺す創造性ずは、新しいアむデアや抂念を提案し、既存のものずは異なる方法で問題を解決するこずができるこずを指したす。モデルの創造性を評䟡するためには、以䞋のような指暙が考えられたす。
    新芏性モデルが提案する解決方法や抂念が、既存のものず比べお新しいものであるかどうか。これは、䟋えば、専門家や䞀般の人々が、その提案に぀いおどの皋床知っおいるかを調査し、それが新芏かどうかを評䟡するこずで枬定するこずができたす。
    有甚性モデルが提案する解決方法や抂念が、問題を解決するために実甚的であるかどうか。これは、䟋えば、実際にその提案を実装し、その効果を評䟡するこずで枬定するこずができたす。
    意倖性モデルが提案する解決方法や抂念が、その問題を解決するための予想倖の方法であるかどうか。これは、既存の方法ず比べお異なる解決方法が提案されたかどうかを評䟡するこずで枬定するこずができたす。
    䞀般性モデルが提案する解決方法や抂念が、その問題を解決するだけでなく、他の問題にも適甚可胜であるかどうか。これは、䟋えば、提案された解決方法や抂念が、他の問題にも適甚可胜であるかどうかを評䟡するこずで枬定するこずができたす。
    以䞊のような指暙を総合的に評䟡し、モデルの創造性を評䟡するこずができたす。

simCSEのような距離孊習のみを行った堎合にはバネのような制玄がない堎合遠さの制玄ができおない限りデヌタの偶然に巊右されるず思われentangleされた耇数の軞をベクトルが含有するこずができるか疑問に思っおいたすたた距離孊習は少数のデヌタずは盞性が悪いずおもわれ特定母集団の特城を考慮した孊習は難しいでしょうたた自分が知る限りでは䜿甚䟋.のような単語ベクトルずの挔算は難しいです䞊蚘に䞊げたいく぀かもそうですが距離孊習ずentangleたたは挔算可胜性に぀いおは調査䞭です珟状では距離孊習は補正にのみ䜿いたすなお補正する堎合には補正の䞊限を蚭定するず良いようです
無効資料調査のうち䞻匕甚䟋のみの怜玢を特蚱のみから行い文章レベルのみ扱い埌に述べるような単語レベルの挔算をしお副匕甚䟋を探すようなこずをしないなら距離孊習は良さそうです
いや・・・察象孊習であろうCLIPで挔算できるのだから挔算自䜓はできるのか
察象孊習はバッチが小さいず文脈孊習ができない問題はある
単語を加える挔算をする際には・・・その単語が耇数の抂念を持っおいた堎合は・・・
文章単䜍でベクトルを生成し単語レベルの挔算をする堎合ず単語レベルでベクトルを生成し単語レベルの挔算をする堎合どちらが良いのだろうか前者はtransformer以前は埌者より悪いず蚀えたのだが・・・ 単語の文脈考慮の必芁性で考えればよいのか

chatgptさんいわく
「察照孊習ずword2vecは、䞡方ずも単語の分散衚珟を孊習するための方法ですが、その特性にはいく぀かの違いがありたす。
たず、察照孊習は、ニュヌラルネットワヌクを甚いお孊習を行うため、デヌタセットに応じお孊習されたベクトルが異なる可胜性がありたす。これに察しお、word2vecはニュヌラルネットワヌクを甚いお孊習するため、孊習プロセスがより䞀貫性があるこずが知られおいたす。
たた、察照孊習は、膚倧な量のテキストデヌタを必芁ずしたすが、word2vecは比范的少ないデヌタで効果的な孊習ができたす。
さらに、察照孊習は、単語の共起情報を考慮しながら孊習を行うため、文脈によっお異なる意味を持぀単語のベクトル衚珟を獲埗できたす。䞀方、word2vecは、単語の呚蟺の単語の出珟確率を考慮しお孊習を行うため、単語の意味をより粟確に衚珟できるこずが知られおいたす。
以䞊のような特性の違いがあるため、どちらの手法が適しおいるかはタスクに䟝存したす。」
「特蚱文章矀に぀いおsimCSEなど察照孊習を甚いお䜜成したベクトル空間ずword2vecを甚いお䜜成したベクトル空間の特性の違いはなんですか
simCSEやword2vecなどの自然蚀語凊理におけるアルゎリズムを甚いお䜜成されたベクトル空間による特蚱文章矀の分析に぀いお考えるず、以䞋のような特性の違いが挙げられたす。
孊習の方法の違い
simCSEは、察照孊習を甚いおベクトル空間を孊習したす。䞀方、word2vecはニュヌラルネットワヌクによる教垫なし孊習を甚いお、単語の分散衚珟を孊習したす。したがっお、simCSEは察照孊習によっお、単語や文章の意味的関係を孊習するこずができたすが、word2vecは、単語の出珟頻床に基づいた統蚈的な情報から単語の意味的関係を孊習するこずができたす。
衚珟の粟床の違い
simCSEは、単語や文章の意味的関係をより正確に衚珟するこずができる可胜性がありたす。これは、simCSEが察照孊習によっお、同矩語や類矩語などの単語の意味的な類䌌性を孊習するこずができるためです。䞀方、word2vecは、単語の共起関係に基づいお単語の意味的な類䌌性を掚定するため、衚珟の粟床が䜎䞋する可胜性がありたす。
蚈算コストの違い
simCSEは、察照孊習を甚いお、単語や文章のベクトル衚珟を孊習するため、蚈算コストが高い傟向がありたす。䞀方、word2vecは、単語の共起関係を基にベクトル衚珟を孊習するため、蚈算コストが比范的䜎いです。したがっお、倧芏暡な特蚱文章矀の分析においおは、word2vecの方が効率的である可胜性がありたす。
以䞊のように、simCSEやword2vecなどのベクトル衚珟孊習アルゎリズムによっお生成されたベクトル空間の特性には違いがありたす。どちらが優れおいるかは、分析の目的やデヌタの性質によっお異なりたす。

それぞれの問題点に぀いお教えおください
simCSEやword2vecなどの自然蚀語凊理におけるアルゎリズムは、高い衚珟力を持぀ため、倚くの応甚が可胜ですが、それらにはいく぀かの問題点がありたす。以䞋に、それぞれの問題点を説明したす。
隠れ倉数の解釈の困難性
simCSEやword2vecなどのアルゎリズムは、単語や文章の意味的な特城を衚珟するため、ベクトル空間を生成したす。しかし、このベクトル空間の各次元が䜕を衚しおいるのかを解釈するこずは困難です。したがっお、解釈性が䜎いため、実際にどのような特城を衚珟しおいるかを正確に理解するこずが難しくなりたす。
Out of Vocabulary (OOV) 問題
simCSEやword2vecなどのアルゎリズムは、事前に孊習した単語や文章のみに察しお、ベクトル衚珟を生成するため、未知語に察しおは察応できたせん。この問題を「Out of Vocabulary (OOV) 問題」ず呌びたす。特に、専門甚語などのレアな単語に察しおは、OOV問題が深刻になりたす。
デヌタのスパヌス性の問題
単語の共起情報に基づいお孊習を行うword2vecなどのアルゎリズムでは、デヌタのスパヌス性が問題ずなりたす。぀たり、ある単語ず他の単語の共起頻床が䜎い堎合、その単語ず他の単語ずの意味的な関連性を正確に捉えるこずができたせん。そのため、単語の意味的な衚珟が䞍十分になるこずがありたす。
トレヌニングデヌタの偏りの問題
simCSEやword2vecなどのアルゎリズムは、トレヌニングデヌタに䟝存するため、トレヌニングデヌタが偏っおいる堎合、生成されたベクトル衚珟にも偏りが生じたす。そのため、トレヌニングデヌタの質を向䞊させるこずが重芁です。
以䞊が、simCSEやword2vecなどの自然蚀語凊理におけるアルゎリズムに関する問題点の䞀郚です。これらの問題を解決するために、より高床な手法や改」
いやあっおいるかどうかは別ずしお課題が敎理できおよいですねぇ
コメント
衚珟に぀いお
単語の文脈を考慮しおほしくはありたせん同䞀単語を耇数の意味に分けおほしくありたせん逆に単語をその類矩語を含めお同じようなベクトルで衚珟しおほしいです本件甚途ではword2vecのほうが適切でしょうただし察照孊習でも同䞀単語ず類矩語を同じクラスタに入れた䞊で同䞀単語を耇数の意味に分けおいるかずは思われたす
単語を含めた挔算をする際には察照孊習では同䞀単語でも別の意味ず解釈されかねず郜合が良くはないでしょう
母集団に基づいた文脈解釈は䜿甚者の認知に含たれたせん特に特蚱など未知の文献を母集団ずする堎合は顕著でしょうその堎合䜿甚者の認知に近いのはword2vecの方になるのではないでしょうか
OOVに぀いお
word2vecでは問題ずなりたせん぀ご孊習しおおり語圙は萜ずしおいないからです
䞀方simCSEでは䞀床倧きく孊習したモデルを流甚するためOOVの問題がありたす特に特蚱など新単語が珟れうる文章では問題ずなりそうです
共起頻床に぀いお
word2vecでは問題ずなりそうです察照孊習では負䟋により適正化できうるかもしれたせん
蚓緎デヌタの偏りに぀いお
本目的においおは母集団の偏りが重芁ずなっおいたすsimCSEではより倧きな蚓緎デヌタで蚓緎するこずになり偏りはなくなっおしたいたすこれは本目的においおは郜合が悪いですsimCSEは倧きな代衚分垃を埗られおいる堎合には適切ず思われたすが特蚱など分垃が将来倧きく倉わりうる堎合にはあたり適切な手法ずはいえないのではないでしょうか 埌ろ向きの怜蚌はより良くなり埗るずは思いたすが・・・
たた自分はattentionよりも汎甚であり分垃仮説を远求したツヌルを䞀぀持っおおきたいず思っおもいたす

「分垃意味論仮説は予想を超えお(やっぱり)匷力だった。」ずは倚々知られおいるずころです
word2vecは分垃仮説そのものでしょう察照孊習も分垃仮説を孊んでいるでしょう正䟋2぀぀たり類䌌文章には同じ正の単語が珟れるこずが倚いでしょうしそうするず同じ単語の呚蟺に出珟しおいる単語の分垃も孊んでいるはずですword2vecずの倧きな違いは察照孊習が負の単語を孊ぶのに察しword2vecは負の単語を孊ばないずいう点にあるでしょう負の単語ずは䞀矩に決たるのでしょうか どこたでいっおもドメむン適合が必芁に思えたすし察照孊習においおは負䟋の蚭定が倧きなテヌマでもありそこに恣意性があり察照孊習で埗られるベクトルには客芳的でない恣意性が入るように思えおいたすそこが気持ち悪いです十分倚くのデヌタが有るずきには負䟋の汎化もでき無芖できるかもしれたせんが・・・

ずはいえ怜蚌しないずいけないでしょう
察照孊習による文ベクトルを䜿甚した障害レポヌトのクラスタリング
https://www.anlp.jp/proceedings/annual_meeting/2022/pdf_dir/B6-1.pdf
GPT-4の芋解「SimCSEずSentence BERT:
これらの手法は文レベルの埋め蟌みが䞻な目的であり、単語レベルでの挔算に関しおは保蚌されたせん。ただし、䜿甚される事前孊習枈みの蚀語モデル䟋BERTによっお生成された単語ベクトルは、文脈に䟝存した意味衚珟が可胜であるため、単語間の類䌌性をある皋床蚈算するこずができたす。

Word2Vec:
Word2Vecは単語レベルのベクトル衚珟を孊習するこずを目的ずしおおり、単語ベクトル同士の挔算が䞀定の意味を持぀こずが知られおいたす。加算や枛算によっお、意味的な関係性を保持するこずができたすが、これらの挔算が垞に正確な結果をもたらすわけではありたせん。

総じお、SimCSEやSentence BERTの単語ベクトルは、文脈に䟝存した意味衚珟が可胜であるため、類䌌性蚈算には有甚ですが、ベクトル同士の挔算による新たな意味の圢成に関しおは保蚌されたせん。䞀方、Word2Vecは単語レベルでの挔算が意味的な関係性を保持するこずができるこずが倚いため、単語間の意味操䜜に適しおいたす。ただし、結果の正確性はケヌスバむケヌスで異なりたす」
蚀語はスパヌスだったのでしょうか? 自分は単語に意味が付䞎される前提で、スパヌスだず思いたす。

・Isotropy, Clusters, and Classifiers
https://speakerdeck.com/hpprc/isotropy-clusters-and-classifiers
「埋め蟌み衚珟の等方性化は、STSなど意味的類䌌床タスクでは有益だが、クラスタリングタスクにおいおは䞍利益。察照孊習も良し悪し」
䜓感どおりの結論ず思えたす。

「知らないこずを認め進むべき方向さえわからないずいう態床をい぀も保ち぀づけるこずそれがあればたずえ䜕がほしいのかを知らなくずも結局はそれを達成する方法を育おるのに必芁な思考の倉革知識ぞの新しい貢献ず発芋が可胜になるのですファむンマン」
自分なりに蚀い盎すなら「モデルが正しいず認識しそのモデルが瀺した結果に぀き自分は䜕に気づけおいないのか問い続けるその姿勢を取るこずができるもののみがむンサむトを埗るこずができる」のだず思いたすそしおモデルが正しいずの確信を持぀にはそのモデルを理解しおいるこずが重芁です
「僕はこのずきはっずしたなぜプリンストンの実隓宀からどんどん報告が出おいるのかに思い圓たったからだ圌らは実際に自分たちの手で造りあげた装眮で研究しおいるのだだからこそどこに䜕があり䜕がどう働いおいるかがちゃんずわかっおいるのだファむンマン」
統蚈はより理解しやすいですn-gramを甚いた確率蚀語モデルはただ理解できたす
https://qiita.com/kzuzuo/items/b6875441d7103ee515c1 いわゆる深局孊習によるモデルはより理解しがたいです統蚈を理解できない人もいれば深局孊習モデルを理解できるヒトもいたす受け手の理解力の問題です
ただモデルを理解せずずも認識するこずはできたす理解がベストですが認識するこずでもむンサむトをえるこずができるヒトずなるでしょう
説明を求めるべきなのは自分の認識ずいう自己の内郚に察しおなのであっおモデルに察しおではないず蚀えばよいでしょうか
モデルを劄信するずいう意味ではなくモデルを過剰に吊定しないたたはたずモデルの出力に意味があるず仮定し考えるずいうこず
途䞭匏を理解できなくおも結論は同じずいえばよいでしょうか
モデルの創造性ずはなにかに぀いお別に怜蚎しおきたしたが https://qiita.com/kzuzuo/items/756470e6e17c54aa5e2e 珟時点での自分なりの適圓な結論は「受け手に確信高く認識させるこず」です創造的な䟡倀にたどり着くかどうかはヒトの問題ですモデルに必芁な機胜自䜓は単に違いを瀺すこずができれば十分な衚珟胜力があれば足りるずいえたす盞関のうち䟡倀を生むものは因果のみですが完党なデヌタ駆動を思考しない限りヒトが盞関から因果を読み取れば足りたすヒトを前提ず出来るならモデルが因果を瀺さなければ足りないずいうわけではありたせん分析者がたたは分析閲芧者が「そのそれぞれの知識を元にしお」䟡倀を䜜るのであり分析やモデルが䟡倀のすべおを䜜るのではありたせん 顧客が䟡倀を䜜るのであり開発者が䟡倀を䜜るわけではないずの考え方に䌌おいたすモデルから䟡倀を匕き出せないのはそのモデルの衚珟胜力を別ずすればヒトの問題です
情報ずはデヌタであり知識ずは関数であるずころ分析ずは出力された情報ではなく「知識そのものを芋る」こずであるので受け手の知識ずの照らし合わせが必芁ずなっおいるずいえばよいのでしょうか
結局の所、わからないこずがわからない状態を倉化させるこずが課題ずなる。その手法ずしお、時間がかかりすぎる孊習以倖の手法はないのであろうか。
私は、モデルの認知によりそれができるず信じる。
そしおそれこそが、䜿いたくない蚀葉だが、いわゆるDXのゎヌルなのだず思う。
amplified 特蚱庁は困っおいるはず
https://www.amplified.ai/ja/blog/29062020/why-patent-ai-2/
「USPTOでさえ、自前ツヌルを䜜るほどに先行技術調査に課題を感じおいるこずをご理解いただけたのではないでしょうか
そしお、USPTOもAIを䜿うずいう意思衚瀺をしおいたすが、このパラダむムシフトにおいおは、調査をする私たち自身がAIを䜿いこなすスキルが必芁になるこずがわかっおいるのです。」
デヌタアナリストの姿勢ず道具箱
https://note.com/valuenex/n/n5acf3384a7a1
瀟䌚における分散的ベむズ掚論ずしおの蚘号創発 集合的予枬笊号化ずしおの蚀語芳
https://www.youtube.com/@anlpyoutubechannel7888/streams
https://www.dropbox.com/s/2kbu0m5jc1lo1xc/230315nlp23-taniguchi_cut_still_small.pdf?dl=0
甚語は勉匷し぀぀統䞀しおゆきたす
森䞋裕䞉 (桃山孊院倧) 蚈量的な語の意味分析から芖点ず䞻芳は捉えられるのか
倧芏暡蚀語モデルの知識を補完するための Retriever の玹介
https://tech.acesinc.co.jp/entry/2023/03/31/121001

マクスりェル芖を利甚した網膜投圱型アむりェア技術も前県郚疟患察応技術ずしおわるくないのですが、網膜など埌県郚疟患の重芁性を考慮するに、個人的課題においお足りないずころです。
抂念ベクトルを粟密な脳波に眮き換えお、脳波から盎接文章生成できるようになったら面癜いですね。単語レベルに解読し蚀語モデルでは修正する方法があるようですが結構期埅できるず思えおいたす。
ほが同じ手法で、ある行動がどんな法什やルヌルに抵觊しそうか提瀺する、コンプラむアンス遵守ツヌルが䜜れそうでもある。
法什やルヌルに埓おうず思っおいおも、忘れおいたり孊習負荷が高すぎ察凊できないこずはある。関連するルヌル等を提瀺するツヌルは非垞に有甚に思う。特に、ロヌカルルヌルに柔軟に察応できればなお有甚だろう。

・蚀語の固有次元を枬る
○䞊田亮 (東倧), 暪井祥 (東北倧/理研)
https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/E6-1.pdf
方向を保ちうる固有次元は意倖ず小さい10次元ぐらい word2vecの経隓論から蚀うず200次元は必芁だが12次元皋床たでなら情報損倱なく圧瞮しうるような瀺唆を埗おも良いのかな
たた経隓論の䜙分な次元は「挔算により平均が誀っお類䌌しないようにするに十分な挔算可胜であるベクトル空間」を䜜るに必芁なのかも
䜙剰次元は意味空間を適切に衚珟するのに必芁なより现かい感情の違い、文脈のニュアンス、あるいは特定の状況やコンテキストに関連する情報を含むのかもしれない

・平均プヌリングによる文埋め蟌みの再怜蚎: 平均は点矀の芁玄ずしお十分か?
○原知正, 栗田宙人 (東北倧), 暪井祥 (東北倧/理研), 也健倪郎 (MBZUAI/東北倧/理研)
 https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/A10-4.pdf
次元を増やせば平均は適切に離れやすくなり自動的に文の誀った混同は少なくなるのではないのだろうかただ次元を増やすだけでは問題が解決しないこずはword2vecの過去実隓で予想できそうだが問題の割合は枛るのでは
word2vecの平均プヌリングでは䞍必芁な単語の重み分割しない衚珟で蚀えばノルムを考慮しおしたうため誀った平均に導かれやすくズレが倧きいのでは doc2vecの性胜の䜎さず同じで䟋えば助詞のみを平均すれば䌌おくるだろう
最近のモデルで問題が起きない理由はより高次元を䜿っおおりか぀重みをより最適に遞んでいるからではないか

・郚分空間法に着想を埗たTransformerのアテンションヘッドにおける特城抜出
○前田晃匘 (JAIST), 鳥居拓銬 (東京電機倧), 日髙昇平 (JAIST), 倧関掋平 (東倧)

・RLHF 匷化孊習による 認知フィヌドバック
認知フィヌドバック県球運動・脳波による倧芏暡蚀語モデルの匷化孊習
○原田宥郜, 倧関掋平 (東倧)
https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/D7-2.pdf
認知ファむンチュヌニング県球運動による倧芏暡蚀語モデルのファむンチュヌニング
染谷倧河, ○倧関掋平 (東倧)
https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/D7-5.pdf
「読みやすさ」自動採点など

・工孊的性胜ず人間らしさの関係はトヌクン分割に䟝存する
○䞉茪敬倪, 吉田遌, 倧関掋平 (東倧)
 https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/D7-6.pdf
人間らしさず単語分割の長さの関係

21
26
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
21
26

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?