2011-08-05 6 views
0

非常に大きなリストをメモリに保持し、特定のポイントからそれらのリストを処理する方法があるのだろうかと思っていました。これらのリストは処理する前に約4000億もの数字を持つので、私たちはそれらを分割する必要がありますが、私はリストを処理しようとしたときにどこから開始するのかについてはわかりません。 Pythonの特定のポイント。編集:現在、私たちはを複数作成していませんしかし、それが簡単なら、私は確かにそれを行うでしょう。特定のポイントからのループスルーリスト?

答えて

1

数値がバイトであっても、400GB(またはlong-scale meaningで10億を使用する場合は400TB)は通常RAMに収まらない。したがって、私はnumpy.memmapまたはh5pyがあなたが探しているものかもしれないと思います。

0

さらに、@lazyr'sの点では、numpy.memmapメソッドを使用するとnumpy配列のビューで私のprevious discussionが役に立ちます。

これは、メモリのスタックとすべてがの場合、実際にはがRAMにある場合、考えておくべき方法です。

関連する問題