Word2vec

単語単位の分散表現

• Word2vec
  • 自然言語処理における分散表現の一つのオリジナル
  • 基本原理くらいは知っていてもいいかもしれない
  • gensimがよく使われる
• Fasttext で文書分類問題までやったった
  • fastと名前がついているだけあってfacebookが公開しているモデルは高速に動作する
  • 分散表現とクラス分類に対応していたり、利便性が高い
  • 特にこのモデルで利用されている分かち書きの特徴から未知語に強いとされている
• 日本語Wikipediaで学習済みのBERTが公開されているので使い方メモ
  • Google の検索エンジンにも採用されている、らしい
  • 自然言語処理の研究を大きく変えたモデル
  • 関連する技術であるTransformerは自然言語処理だけでなく、画像処理の界隈にも流用された
  • huggingfaceで日本語版のBERTも色々と公開されている
• 日本語に対応したT5
  • この日本語版のモデルの作者が公開しているサンプルがわかりやすい
  • また同じ作者がSBERTのモデルも公開している

文単位の分散表現

• tf-idf
  • 最初の選択肢
  • 単語の出現頻度を計算してスコアを割り当てる
  • gensimがよく使われる
• BM25
  • 単語の出現頻度を計算してスコアを出す
  • QAモデルの最初の大雑把な検索によく使われる印象
• doc2vec
  • word2vecの文書版
  • gensimがよく使われる
• Universal Sentence Encoder
  • 結構重宝する
  • そこそこ性能もよく使い勝手がいい
• SBERT
  • GPUがないとしんどいかも
  • 性能自体は上のUSEよりも体感ではいい

概要

分散表現を用いた検索システムを作る。

1. teratailから質問をスクレイピングする。
2. スクレイピングした文章をもとにword2vecを学習する。
3. word2vecによって得られた分散表現をもとにcosine similarityを計算して、クエリと質問文の類似度を得る。
4. 類似度をもとにソートする。

ソース

teratail_w2v_question.ipynb

word2vecを理解しよう！

• word2vec のアルゴリズムについて、勉強しようとして苦戦していませんか？
  • アルゴリズムの基になる発想は意外に直観的なものですが、その直観をアルゴリズムの記述から読み取るのはコツが要るかもしれません。
  • 実際に動くモデルで遊んでみて、反応をみながら感覚を掴むといいと思います。
  • 一行単位で実行できるプログラムを自分の手で動かしながら、出力を確認できると分かりやすいと思いませんか？

環境構築不要！

• そこでGoogle Colaboratory というサービスを利用して、手軽にword2vecを動かして、アルゴリズムの仕組みを理解しましょう！
  • Google Colaboratory はGoogleが提供しているサービスです。
  • Gmailのアカウントを持っていれば環境構築の手間が省け、Googleの計算資源を利用できるものです。
• そこでword2vecを動かせるプログラムを用意しました。
• このプログラムは技術書典というイベントで頒布させていただき、50以上の方に利用していただきました。

購入は以下のリンクから

• 詳細は以下のリンクからどうぞ。
  • word2vecのアルゴリズムを把握するためにプログラムを動かしながら挙動を理解しよう