2017-08-01 3 views
0

私はスキップグラム学習アルゴリズムのプロセスを理解しようとしてきました。私に混乱を招くこの小さな詳細があります。skip-gramの複数出力はどういう意味ですか?

次のグラフ(スキップグラムを説明する多くの記事やブログで使用されています)では、複数の出力は何を意味していますか?つまり、入力語は同じで、出力行列は同じです。次に、入力単語の近くに出現するすべての単語の確率集合である出力ベクトルを計算すると、それは常に同じでなければなりません。

skipgram model

希望誰かがそれを起こしやすいツー誤解の図のようなものだ。この〜

答えて

0

で私を助けることができます。そのダイアグラムの3つの出力のそれぞれは、の異なる入力(コンテキスト)ワードの結果と見なす必要があります。

単語と、隠れ層を介して、出力レイヤーには、(各サイズのノードで)V出力値が得られます。負のサンプリングモード) - 図の上の結果。 という単語を入力すると、中間結果が得られます。 という単語を入力すると、結果が得られます。

0

This articleが適切に説明しているようです。出力の各「チャンク」は、文脈の1つの位置(テキスト中の入力単語の前後の単語のウィンドウ)の予測を表します。出力は「本当に」単一のベクトルですが、図は単語ベクトルのCインスタンスに対応することを明確にしようとしています。ここで、Cはコンテキストのサイズです。

関連する問題