NLPタスクでシーケンスからシーケンスへのRNNについてかなり混乱しています。以前は、分類タスクのいくつかの神経モデルを実装しました。これらのタスクでは、モデルは単語の埋め込みを入力として受け取り、分類を行うためにネットワークの最後にsoftmaxレイヤーを使用します。しかし、どのように神経モデルseq2seqタスクを行うのですか?入力が単語埋め込みである場合、神経モデルの出力は何ですか?これらのタスクの例には、質問応答、対話システム、機械翻訳が含まれます。シーケンス間シーケンスNLPタスクにRNNを適用する方法は?
1
A
答えて
0
エンコーダ/デコーダアーキテクチャを使用できます。エンコーダ部は入力を固定長のベクトルにエンコードし、デコーダはこのベクトルを出力シーケンスにデコードします。レイヤーのエンコードとデコードは、目的関数(これはやはりソフトマックスを使用することができます)と共同して学習することができます。 this paperを参照してください。これは、このモデルをニューラルマシンの翻訳でどのように使用できるかを示しています。ここで、デコーダは、正しい変換を生成するために、1つずつ単語を発する。
関連する問題
- 1. タスクのシーケンス
- 2. シーケンスのバイナリ分類のためのRNN
- 3. Cron4Jでシーケンスを適用する
- 4. コード実行シーケンスを適用する
- 5. 複数のシーケンスをGMMHMMに適合させる方法は?
- 6. C#タスクをシーケンスで実行する効率的な方法
- 7. RSTNのc_tとh_tをRNNのシーケンスの2つ置きにリセット
- 8. シーケンスを合計する方法は?
- 9. (シーケンスの)シーケンスのシーケンスを平滑化
- 10. Django Model PKにカスタムOracleシーケンスを使用する方法は?
- 11. multiindexデータフレームに刻々と変化するシーケンスを適用する
- 12. matplotlibプロットの時間順シーケンスをアニメーション化する方法
- 13. シーケンスのすべての要素に述語を適用する
- 14. Linqを使ってシーケンスのサブシーケンスにフィルタを適用する
- 15. スカラでシーケンスを分割する方法
- 16. 子コンポーネントのシーケンスでHTMLコンポーネントラッパーを再利用する方法は?
- 17. すべてのテストの前にFactoryGirlでシーケンスをリセットする適切な方法
- 18. はシーケンス
- 19. を作成および使用シーケンスをOracleストアドプロシージャに - シーケンス
- 20. R:シーケンス(1,1,1,2,3,3,3,5,5,5,6,7,7,7,8)を作る方法
- 21. 可変長シーケンスのシーケンス学習に対する奇妙な動作シーケンス
- 22. シーケンス
- 23. シーケンス
- 24. シーケンス
- 25. シーケンス
- 26. 単一のクエリを使用してシーケンスが適用されるすべてのシーケンスとカラムを取得する方法
- 27. Array.forEachを使用するときのシーケンスを防ぐ方法
- 28. シーケンスに因子を追加する方法は?
- 29. PromiseのシーケンスをRxJSでRx.Observableに変換する方法は?
- 30. openCV:ビデオを画像シーケンスに分割する方法は?