ファストテキストでスピードアップする本当の理由

Question

ファストテキストペーパーで言及されているパイプラインではテクニックを使用していますが、スピードアップの本当の理由は何ですか - 否定的なサンプリングとheirerchichal softmax以前のword2vec論文では私は明らかに、このスピードアップが起こる作っている実際の違いを、理解することはできませんよ？

Answer 1

スピードアップはそれほどありませんか？

FastTextでword2vecに相当する単語ベクトルトレーニングを大幅に高速化するアルゴリズムのブレークスルーはありません。あなたはトレーニングの言葉と共有する部分文字列に基づいて、目に見えない単語のベクトルの訓練後の合成を可能にするFastTextで文字ngramsオプションを、使用している場合は、すべての単語が訓練を必要とするため（そして、私は、訓練が遅くなることを期待したいです）

FastTextのスピードアップは、コードがうまく調整されていて、実装経験が豊富であるためです。