word embeddings/word2vec ..の使い方は？実際の物理的な辞書を使って

Question

私のタイトルが間違っていたり、良くなっていたら、教えてください。

私は問題を説明している既存の論文/記事を見つけようとしています。単語のベクトルを作成して、それらの部分の合計に等しいようにしようとしています。 例：Cardinal（鳥）は、赤、鳥、およびその唯一のベクトルに等しくなります。 そのようなモデルを訓練するために、入力は辞書のようなものかもしれず、各単語はその属性によって定義されます。 のような何か：

枢機卿：鳥、赤、...

ブルーバード：青、鳥、....

鳥：温血動物、羽、くちばし、両眼、爪....

翼骨、羽....

したがって、この例では、各ワードベクトルは、その部品の単語ベクトルの和に等しく、そうで

。

元のword2vecでは、Vec（マドリッド）-Vec（スペイン）+ Vec（パリ）=約Vec（パリ）のような意味的距離が保存されていたと私は理解しています。

ありがとうございます！

PS：可能であれば、新しい単語を後で追加することができます。

Answer 1

必要なコンポーネントの辞書を作成する場合は、実際にはword2vecはまったく必要ありません。指定するディメンションは既に定義済みです。ディメンションを使用するだけです（例：

kb = {"wings": {"bone", "feather"}, 
     "bird": {"wings", "warm-blooded", ...}, ...} 

値がセットされているので、あなたがセット交差を行うことができます：Pythonで

kb["bird"] | kb["reptile"] 

あなたはいくつかの方法が比較のために再帰的要素を分解見つける行う必要があります、単純化、等が挙げられる。これらのそのような操作中に起こると予想されることに基づいて行わなければならない決定です。

このような手動辞書の開発は、かなり古い方法です。 SchankやAbelsonのような人々は、1970年代にこのようなことをしていました。問題は、これらの辞書がより複雑になるにつれて、それらの辞書は維持するのが困難になり、近似においてはより不正確になることである。あなたはエクササイズとして試してみることを歓迎します---それは一種の楽しみかもしれません！---しかしあなたの期待を低く抑えてください。

また、これらの分解で失われた意味の側面もわかります。 word2vecの注目すべき特性の1つは、単語のゲシュタルトの感性です---言葉は部分で構成された意味を持つかもしれませんが、部分全体の合計を全体よりも大きくする部分があります。分解では、ゲシュタルトは失われる。

辞書を作成しようとするのではなく、大規模なコーパスからW2Vが提供するものを調べて、その情報をどのように活用できるかを見てみるのがよいでしょう。正確にW2Vがテキストからレンダリングするものの言語学は完全には理解されていませんが、埋め込みに固有の何かをしようとすると、言語について新しいことを学ぶかもしれません。