地平線まで行ってくる。

記録あるいは忘備録。時には検討事項。

自然言語処理:spaCyとBERT(transformers) #1

簡単に自然言語処理にトライできるspaCy。産業的な製品向けのための自然言語処理らしい。だが、初心者がこだわらずに挑戦するのにも向いていると思う。

 

spacy.io

 

しかも、spaCy3ではtransformersのモデルも使える様になったので、ちょっくら使ってみようとしたら、ぱっと出来なかった・・・。事前学習モデルに追加学習させて分野特化型モデルなんてものを使って見たり、モデルを比較したり、と言ったことをやりたかった。

 

github.com

 

huggingfaceのtransformesのlibraryを使って追加学習を実施。モデルをspaCyで使う、という流れ。先人に資料を見ながら試行錯誤。あまり凝ったことをしようとしなければ、fineturingまでできそうな、流れを把握したところ。

 

何かネタないかな・・・。