TensorFlowのインセプションモデルを微調整する

Question

自分のデータセットで事前トレーニングされたインセプションモデルを使用したいと思います。インセプションモデル自体の変数も微調整したいと思っています。

私は、次のリンクからTensorFlowの事前訓練を受けたインセプションモデルをダウンロードした次のように私はインセプションモデルをロード

http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz

：

APIの

graph = tf.Graph() 
with graph.as_default(): 
    with tf.gfile.FastGFile('classify_image_graph_def.pb', 'rb') as file: 
     graph_def = tf.GraphDef() 
     graph_def.ParseFromString(file.read()) 
     tf.import_graph_def(graph_def, name='') 

（サイドノート：これらの6つのネストされ複雑な行の代わりにgraph = tf.load_graph('inception.pb')と書くだけでいいです。）

私はインセプションモデルのソフトマックス・分級前の最後の層のためのテンソルへの参照を取得します：

last_layer = graph.get_tensor_by_name('pool_3:0') 

今、私は新しいソフトマックス・分類器を訓練することができるようにグラフに新しいソフトマックス・分類器を追加したいですInceptionモデルの変数の一部またはすべてを調整します。これは、新しいsoftmax分類器だけが私自身のデータセットで訓練されている学習を転送するのではなく、微調整であると理解しています。

私はその後（y_trueはプレースホルダ変数であることに注意してください）新しいソフトマックス・分類器を追加するPrettyTensorを使用します。

with pt.defaults_scope(activation_fn=tf.nn.relu): 
    y_pred, loss = pt.wrap(last_layer).\ 
     flatten().\ 
     softmax_classifier(class_count=10, labels=y_true) 

しかし、これは最後の部分は読み長いエラー・メッセージが得られます。

ValueError: Tensor("flatten/reshape/Const:0", shape=(2,), dtype=int32) must be from the same graph as Tensor("pool_3:0", shape=(1, 1, 1, 2048), dtype=float32). 

を

私はこのように2つのグラフを組み合わせることはできません。

次のように私も（インセプションモデルの最後の層が2048個の機能を持っている注意してください）reshape()代わりのflatten()を使用して試してみました：

with pt.defaults_scope(activation_fn=tf.nn.relu): 
    y_pred, loss = pt.wrap(last_layer).\ 
     reshape([-1, 2048]).\ 
     softmax_classifier(class_count=10, labels=y_true) 

しかし、これは、ほぼ同じエラーを与える：

ValueError: Tensor("reshape/Const:0", shape=(2,), dtype=int32) must be from the same graph as Tensor("pool_3:0", shape=(1, 1, 1, 2048), dtype=float32). 

私はまた、graph.as_default()のようにそれをラップしようとしました：

with graph.as_default(): 
    with pt.defaults_scope(activation_fn=tf.nn.relu): 
     y_pred, loss = pt.wrap(last_layer).\ 
      reshape([-1, 2048]).\ 
      softmax_classifier(class_count=10, labels=y_true) 

しかし、これは同様のエラーを与える：

ValueError: Tensor("ArgMax_1:0", shape=(?,), dtype=int64) must be from the same graph as Tensor("cross_entropy/ArgMax:0", shape=(1,), dtype=int64). 

私はインセプションモデルの微調整をどのように行うのでしょうか？私は新しいsoftmax-classifierを追加したいと思います。そして、Inceptionモデル自体の変数の一部またはすべてを微調整したいと思います。

ありがとうございます！

---

EDIT：

私は問題の部分的な解決策を持っています。

エラーメッセージは、with graph.as_default():ブロック内にすべてのコードを入れなかったためです。ブロック内のすべてのコードを入れてエラーメッセージを修正し、上で説明したようにPrettyTensorを使ってInceptionモデルに新しいsoftmax-layerを追加できるようになりました。

しかし、インセプションモデルは明らかに、すべての変数が保存される前に定数に変換されたことを意味する「固定」グラフです。

私の質問は今、Inceptionモデルのグラフを何とか「フリーズ」することができるかどうかです。そのグラフの変数の一部または全部を引き続き習得できますか？どうすればいい？

代わりに、新しいMetaGraph機能を使用する必要がありますか？私はインセプションモデルの事前訓練を受けたメタグラフをダウンロードすることができ

https://www.tensorflow.org/versions/r0.11/how_tos/meta_graph/index.html

？

Answer 1

私もまったく同じ質問があります。まず、次のようにしてネットワーク全体を微調整することができます。https://github.com/tensorflow/models/tree/master/inception#adjusting-memory-demands 自分のデータセットにこのコードを実装する方法を理解しました。問題は、ネットワーク全体を微調整し、最後の2つの開始モジュールを新しいコンバレイヤーとソフトマックスで置き換えたいということです。しかし、私は全体の微調整を行うと、8番目の開始モジュールまでウェイトを復元し、新しいレイヤーのみを訓練する必要があると思いますが、これはテンソルフローからのリストア関数によってのみ起こることはありません。別の良いトリックはここにあります：https://www.tensorflow.org/versions/r0.9/how_tos/image_retraining/index.html あなたはpreprainedネットワークを.pbファイルから取ることができますが、これはテンソルフローによる転送の学習にのみ有効です。唯一の解決策は、ネットワーク全体の微調整でしたが、それを.pbファイルにエクスポートして、私が望むレイヤーまで微調整されたウェイトを取ることができましたが、まだ実装できません。一般に、テンソルの流れは、どうやってこれを行うことができないのか分かりません。 gitでも質問を投稿します。私たちができることを誰かが正確に知っているなら、答えてください。

Answer 2

私はtf-slimを使用して、創世記モデルを微調整します。ここに図書館があります。https://github.com/tensorflow/models/tree/master/research/slim。彼らは、カスタムデータセットの開始時の微調整について説明するウォークスルーを提供しました。また、ライブラリには、モデル定義の一般的な分類モデルと重みファイルがあります。