大きなCSVファイルの読み込みに適したプログラムはありますか?私が扱うデータファイルの中には、1 GBの範囲にあるものもあります。彼らはExcelで扱うには余りにも多くの行を持っています。 Accessを使用すると、実際にデータベースに直接インポートする必要があるので、少し遅くなる可能性があります。大規模なCSVファイルを開くことができ、データを簡単かつ迅速にスキャンするのに役立つ簡単なスプレッドシートレイアウトを提供するプログラムはありますか?大きなCSVファイルを扱うためのプログラム
答えて
LOAD DATA INFILE
コマンドを使用して、テーブルにCSVファイルを非常に迅速にインポートできます。 CSV storage engineを使用して、インポート手順をバイパスしてCSVファイルから直接読み取ることもできます。
LOAD DATA INFILE
でネイティブテーブルにインポートすると、起動コストが発生しますが、その後は、インデックスフィールドと同様に、より高速にINSERT/UPDATE
を実行できます。 CSVストレージエンジンの使用は、最初はほとんど瞬間的ですが、順次スキャンだけが高速になります。
更新:This article(インスタントデータロードというセクションにスクロールダウン)が使用して語るの両方のMySQLにロードするCSVデータへのアプローチ、および例を示します。
私は15-30MBのCSVファイルで構成された不動産MLSのデータセットで作業しました。 MySQL LOAD INFILEがなければ、各フィードは処理に1時間以上かかりました....しかし、MySQLとrawテーブルを使用して、より大きなデータセットでさえ5〜6分まで処理を削減しました。 – David
vEditはこれに最適です。私は日常的に100 + meg(私はあなたが1つのギグに言ったことを知っている、私は彼らがそれを2倍に扱うことができる自分のサイトで広告すると思います)ファイルを開きます。これは、正規表現のサポートと他の多くの機能があります。 70ドルは、あなたがそれでやることができる額のために安いです。
スプレッドシートの静的フィールドサイズビューに接続していない場合、GVimは大きなファイルを処理できます。
実際にデータで何をしたいかによって異なります。そのような大規模なテキストファイルがあれば、通常は一度にデータの小さな部分集合だけが必要なので、探したい部分を引き出すための 'grep'のようなツールは見落とさないでください。
メモリにデータを格納することができ、Pythonが好きな場合は、AugustusのUniTable部分をチェックすることをお勧めします。 (免責事項:アウグストゥスは、オープンソース(GPLv2の)ですが、私はそれを書き込み、会社のために働く。)
それは非常によく文書化されていないが、これは、あなたが行くのに役立つはずです。
これはインターフェイスのような優れた機能を直接提供するわけではありませんが、少しの作業ですぐに多くの統計情報を取得できます。
reCSVeditorは大きなCSVファイルを編集するのに最適なプログラムです。不要な列を取り除くのに理想的です。私は1,000,000個のファイルを非常に簡単にファイルに使用しました。
+1 reCSVeditorは私のために働いてくれました。2GBファイルが200万行以上ありました。 –
私はジップをダウンロードしましたが、使用方法はわかりません。 – aasthetic
@ richi_18007 Recsveditorは内容を解凍してからインストーラを実行します –
- 1. 巨大なcsvファイルを扱う
- 2. 大きなCSVファイルを扱うにはどうすればいいですか?
- 3. Androidで大きなXMLファイルを扱う
- 4. 大きなXMLファイルを扱うEmacs
- 5. 大きなCSVファイルを作成するためのJava IOのベストプラクティス
- 6. 大きなCSVファイルを読む
- 7. Reactで大きなフォームを扱うためのプラグインまたはパターン?
- 8. Android:大規模な配列を扱うためのベストプラクティス
- 9. なぜ配列が大きいCSVファイル
- 10. SVGファイルを扱うためのクロスブラウザソリューション?
- 11. ファイルを扱うための宝石
- 12. PHPでサーバ上で大きなファイルを扱う
- 13. Djangoで大きなファイルを扱う(負荷が高い)
- 14. 非常に大きなnetCDFファイルをPythonで扱う
- 15. 大きなオブジェクトを扱うJavascriptビルドシステム
- 16. C#で大きなテキストファイルを扱う
- 17. Go、DER、大きな整数を扱う
- 18. iOSで大きな画像を扱う
- 19. 大きなブラックベリーアプリケーション(たくさんの画像)を扱う
- 20. キャッシュストリーミング大容量ファイルを扱う
- 21. CSVでカンマを扱う
- 22. Android EditTextで大きなファイルを扱うことができません
- 23. 巨大な.csvファイルを読む
- 24. UNIXのコマンドラインで大きなcsvファイルを分割する方法
- 25. PHPで2つの大きなCSVファイルをマージする
- 26. mySqlの準備のためのcsvを扱う最善の方法
- 27. Erlang:巨大なSASLクラッシュレポートを扱うための戦略は何ですか?
- 28. 巨大なXMLファイルを読み込んでMemoryErrorを扱う
- 29. 膨大な量のデータを扱うデータベース
- 30. phpMyAdminを使用して大きなcsvファイルをインポートします。
はい、あります。 [OpenRefine] [1](またはGoogle Refine)を使用できます。 OpenRefineはステロイドのスプレッドシートに似ています。 操作できるファイルサイズは、コンピュータのメモリによって異なります。 [1]:http://openrefine.org –