Tensorflow：グラフにデータを入力

Question

私はTensorflowを使ってアルゴリズムを書いています。次のように私のコードの構造は次のとおりです。

1. は、各リストは、CSVファイルから単一の行が含まれている場合は、csvファイルからデータを読み込み、リストのリストに保存します。

2. feed_dictアプローチを使用して、グラフに1行のデータを入力します。これは、すべての行が処理されるまでループで実行されます。

TFグラフはGPUで実行されます。私の質問は、CPUからGPUに起こるデータ転送に関連しています。 feed_dictを使用すると、ホストからデバイスへの小さな転送がたくさんあるでしょうか？はいの場合、feed_dictを使用してバルク転送を行い、TFグラフにループを使用することは可能でしょうか？

Answer 1

はい。ファイルサイズが小さい（例えば、1行のテキスト）場合、ホストからデバイスへの小さな転送が多くなる可能性がある。ここで

は、カスタムfill_feed_dict機能付きfeed_dict使用例です：https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/mnist/fully_connected_feed.pyご利用の場合

しかし、TensorFlowのQueueRunnerを使用して多くの小さなファイルを処理する方が簡単かもしれません。これにより、データをプリフェッチしてTensorFlowグラフのデータ可用性を向上させるリーダースレッドのプールが作成されます。

Create the graph, etc. 
init_op = tf.global_variables_initializer() 

# Create a session for running operations in the Graph. 
sess = tf.Session() 

# Initialize the variables (like the epoch counter). 
sess.run(init_op) 

# Start input enqueue threads. 
coord = tf.train.Coordinator() 
threads = tf.train.start_queue_runners(sess=sess, coord=coord) 

try: 
    while not coord.should_stop(): 
     # Run training steps or whatever 
     sess.run(train_op) 

except tf.errors.OutOfRangeError: 
    print('Done training -- epoch limit reached') 
finally: 
    # When done, ask the threads to stop. 
    coord.request_stop() 

# Wait for threads to finish. 
coord.join(threads) 
sess.close() 

（https://www.tensorflow.org/how_tos/reading_data/#batching）