分割された寄木細工としてdfを保存します。レコード挿入によるレコードには時間がかかります。どのように私はそれを保存し、ハイブテーブルを指すことができます助けることができます。分割された寄木細工を保存する
0
A
答えて
0
df.write.parquet("/parquet/file/path")
次に、パーケットファイルの場所を指すHive external table
を作成できます。
+0
実際には、データを段階的に取得し続けます。動的パーティションではなく、1つの列で区切られた円柱として直接保存するデータを挿入します。 –
+0
@HEMANTHKUMAR:1つの列で分けられた寄木細工はどういう意味ですか?あなたはHiveテーブルのパーティション化を意味しますか? – Shankar
+0
ええ、私はハイブテーブルを分割しました –
関連する問題
- 1. spark:open CSV;分割された寄木細工として保存する
- 2. 1つの大きな寄木細工ファイルをキーで複数の寄木細工ファイルに分割
- 3. 寄木細工と分割によるスパークデータフレーム
- 4. インパラ+寄木細工ファイル
- 5. sql conf nullpointer寄木細工
- 6. 寄木細工:メタデータとcommon_metadata
- 7. 保存後にスタンドアロンクラスタ読み込み寄木細工ファイル
- 8. PrestoDB - 寄木細工のファイルはどこに保存されていますか?
- 9. ハイブ結果が寄木細工ファイルとして保存されます
- 10. 寄木細工ログレベルを変更する
- 11. Sparkで寄木細工ファイルを保存するとエラーが発生する
- 12. C#で寄木細工データをシリアライズ
- 13. Spark Avroから寄木細工記者
- 14. 寄木細工のスキーマとスパーク
- 15. sqoopインポートの寄木細工のサイズ
- 16. Javaオブジェクトから寄木細工ファイル
- 17. hbaseの寄木細工のファイル形式
- 18. スパーク2.0.0 - 寄木細工は、空のテーブル
- 19. スパーク&寄木細工のクエリのパフォーマンス
- 20. Google DataFlow&閲覧寄木細工ファイル
- 21. 寄木細工のフォーマットのデータセット
- 22. 寄木細工のファイルが複製され、HDFSに保存される様子を示します。
- 23. Spark寄木細工統計(最小/最大)積分
- 24. ネストされた寄木細工のファイルをPigにロードしますか?
- 25. Javaで寄木細工を書いてください
- 26. HDFSのgetmergeリカバリを使った寄木細工の構築
- 27. スパークの寄木細工のネストした値を平坦化
- 28. 同じ大きさの同じ寄せ木細工のファイルは、
- 29. Flinkを寄木細工のエラーに変換する
- 30. 寄木細工をAvroに変換する
実際に私は増分データを取得していますが、私は動的パーティションを作成します。むしろ1つの列で区切られた寄木細工として直接保存するデータを挿入します。 –