2016-07-18 9 views
2

Tensorflowで3Dデータを処理するLSTM RNNを構築しようとしています。 this紙から、グリッドLSTM RNNはn次元にすることができます。私のネットワークのアイデアは、3Dボリューム[depth, x, y]であり、ネットワークは[depth, x, y, n_hidden]である必要があります。ここで、n_hiddenはLSTMセル再帰呼び出しの数です。アイデアは、各ピクセルがLSTM再帰呼び出しの独自の "文字列"を取得することです。Tensorflow Grid LSTM RNN TypeError

出力は[depth, x, y, n_classes]である必要があります。私は、バイナリセグメンテーションやってる - 前景と背景のだと思うが、そのクラスの数がちょうど2

# Network Parameters 
n_depth = 5 
n_input_x = 200 # MNIST data input (img shape: 28*28) 
n_input_y = 200 
n_hidden = 128 # hidden layer num of features 
n_classes = 2 

# tf Graph input 
x = tf.placeholder("float", [None, n_depth, n_input_x, n_input_y]) 
y = tf.placeholder("float", [None, n_depth, n_input_x, n_input_y, n_classes]) 

# Define weights 
weights = {} 
biases = {} 

# Initialize weights 
for i in xrange(n_depth * n_input_x * n_input_y): 
    weights[i] = tf.Variable(tf.random_normal([n_hidden, n_classes])) 
    biases[i] = tf.Variable(tf.random_normal([n_classes])) 

def RNN(x, weights, biases): 

    # Prepare data shape to match `rnn` function requirements 
    # Current data input shape: (batch_size, n_input_y, n_input_x) 
    # Permuting batch_size and n_input_y 
    x = tf.reshape(x, [-1, n_input_y, n_depth * n_input_x]) 
    x = tf.transpose(x, [1, 0, 2]) 
    # Reshaping to (n_input_y*batch_size, n_input_x) 

    x = tf.reshape(x, [-1, n_input_x * n_depth]) 

    # Split to get a list of 'n_input_y' tensors of shape (batch_size, n_hidden) 
    # This input shape is required by `rnn` function 
    x = tf.split(0, n_depth * n_input_x * n_input_y, x) 

    # Define a lstm cell with tensorflow 
    lstm_cell = grid_rnn_cell.GridRNNCell(n_hidden, input_dims=[n_depth, n_input_x, n_input_y]) 
    # lstm_cell = rnn_cell.MultiRNNCell([lstm_cell] * 12, state_is_tuple=True) 
    # lstm_cell = rnn_cell.DropoutWrapper(lstm_cell, output_keep_prob=0.8) 
    outputs, states = rnn.rnn(lstm_cell, x, dtype=tf.float32) 
    # Linear activation, using rnn inner loop last output 
    # pdb.set_trace() 

    output = [] 
    for i in xrange(n_depth * n_input_x * n_input_y): 
     #I'll need to do some sort of reshape here on outputs[i] 
     output.append(tf.matmul(outputs[i], weights[i]) + biases[i]) 

    return output 


pred = RNN(x, weights, biases) 
pred = tf.transpose(tf.pack(pred),[1,0,2]) 
pred = tf.reshape(pred, [-1, n_depth, n_input_x, n_input_y, n_classes]) 
# pdb.set_trace() 
temp_pred = tf.reshape(pred, [-1, n_classes]) 
n_input_y = tf.reshape(y, [-1, n_classes]) 

cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(temp_pred, n_input_y)) 

ある現在、私はエラーを取得しています:TypeError: unsupported operand type(s) for +: 'int' and 'NoneType'

それはRNNの使う初期の後に発生します。当然のoutputs, states = rnn.rnn(lstm_cell, x, dtype=tf.float32)

xは、私がここで何種類GridRNNCell戻り、任意のhelpeを伝えることができません

タイプのfloat32のでしょうか?これは問題になる可能性があります。私はこれにもっと議論を定義するべきですか? input_dimsは意味がありますが、output_dimsはどうすればよいですか?

これはcontribコードのバグですか?

GridRNNCellはcontribの中に位置しています/ grid_rnn /パイソン/ OPS/grid_rnn_cell.py

+0

私はこのインターフェイスもやっています。私はあなたの質問への答えを知らないが、input_dimsは次元ではなくサイズであるべきですか? – jstaker7

+0

@ jstaker7正しいですが、input_dimsが正しくありません。私は何が正しいのか分からないと言わなければならないが。あなたはこのパラムを理解していますか? –

+0

まだ分かりません。私は元のプルリクエストの明確化を求めました:https://github.com/tensorflow/tensorflow/pull/1665 – jstaker7

答えて

2

どのバージョンのGrid LSTMセルを使用していますか?

あなたはhttps://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/rnn/python/ops/rnn_cell.py

を使用している場合、私はあなたが「feature_size」と「frequency_skip」を初期化しようとすることができると思います。 また、別のバグが存在する可能性があります。動的な形状をこのバージョンに供給すると、タイプエラーが発生する可能性があります。

+0

私はあなたが「動的な形を食べている」と思うかもしれませんが、私は別のプロジェクトに忙しかったので、これについてお返事します –

+0

動的な形を与える - 「なし」 - これの原因でした問題 –

3

私は、コードの実装決定のいくつかの不確かだったので、私は自分自身をロールバックすることを決めました。これを念頭に置くべきことの1つは、これが単なるセルの実装であるということです。 hベクトルとmベクトルの位置と相互作用を処理する実際の機械を構築するのはあなた次第であり、データを渡して次元を適切に横断することを期待するほど単純ではありません。

たとえば、2次元で作業している場合は、左上のブロックから始めて、入力されたxとyベクトルを取り出し、一緒に連結してから、セルを使用して出力を計算しますxとy)後で近隣のブロックで使用するために出力を保存するのはあなた次第です。これらの出力をそれぞれ対応する次元に個別に渡し、それらの隣接するブロックのそれぞれで、入力ベクトルを(同じ次元ごとに)連結し、隣接するブロックの出力を計算します。これを行うには、各次元に1つずつ、2つのfor-loopが必要です。

多分contribのバージョンはこれで動作しますが、私が持っているいくつかの問題(ここで間違いがありますが、私が知る限り): 1)ベクトルはconcatとsliceを使って処理されますタプルよりも。これにより、パフォーマンスが低下する可能性があります。 2)各ステップで入力が投影されているように見えますが、それは私とうまくはまりません。この論文では、グリッドの端に沿って到着するブロックについてのみネットワークに投影し、全体には投影しません。

コードを見ると、実際は非常に簡単です。おそらく、紙を読んで、必要に応じてコードを調整したり、自分で調整したりするのが最善の策です。セルは、各ステップで繰り返しを実行するためにのみ有効であり、送受信するhおよびmベクトルを管理するためではないことに注意してください。

2

はい、動的な形状が原因でした。これを修正するための広報があります:https://github.com/tensorflow/tensorflow/pull/4631

@ jstaker7:試していただきありがとうございます。 Re。問題1、上記のPRは、状態と出力のタプルを使用して、うまくいけば、パフォーマンスの問題に対処することができます。その少し前にGridRNNCellが作成されました。その当時、TensorflowのLSTMCellはすべてタプルの代わりにconcat/sliceを使用していました。

Re。問題2、GridRNNCellは、Noneを渡すと入力を投影しません。次元はの入力の両方とも反復であり、入力がない場合(inputs = None)、計算には再帰テンソルを使用します。 GridRNNCellを直接インスタンス化することで、2つの入力ディメンションを使用することもできます。

もちろん、すべてのケースで汎用クラスを作成すると、コードが複雑になってしまい、よりよいドキュメントが必要になると思います。

いずれにしても、あなたの改善点を分かち合うことができれば、それをもっと分かりやすくする必要があります。とにかくオープンソースプロジェクトの本質です。

+0

それを聞いてうれしい、そして歓迎します:)残念ながら、その答えはそれが答え、コメントでなければならないということに、残念なことにSOの厳しい方針があります。あなたはあなたの投稿を言い換えることができますか?役に立つ情報が入っているかもしれないと思いますが、_私はまだコメントできません - スタイルの '回答'は通常かなり早く削除されます。 – m00am

関連する問題