生成的協(xié)議緩沖區(qū)文件tf.saved_model.save不包含GraphDef消息，而是包含一個(gè)SavedModel.?您可以在 Python 中遍歷它SavedModel以獲取其中的嵌入圖，但這不會(huì)立即用作凍結(jié)圖，因此正確處理它可能很困難。取而代之的是，C++ API 現(xiàn)在包含一個(gè)LoadSavedModel調(diào)用，允許您從目錄加載整個(gè)保存的模型。它應(yīng)該看起來(lái)像這樣：
#include <iostream>
#include <...>? // Add necessary TF include directives
using namespace std;
using namespace tensorflow;
int main()
{
? ? // Path to saved model directory
? ? const string export_dir = "...";
? ? // Load model
? ? Status s;
? ? SavedModelBundle bundle;
? ? SessionOptions session_options;
? ? RunOptions run_options;
? ? s = LoadSavedModel(session_options, run_options, export_dir,
? ? ? ? ? ? ? ? ? ? ? ?// default "serve" tag set by tf.saved_model.save
? ? ? ? ? ? ? ? ? ? ? ?{"serve"}, &bundle));
? ? if (!.ok())
? ? {
? ? ? ? cerr << "Could not load model: " << s.error_message() << endl;
? ? ? ? return -1;
? ? }
? ? // Model is loaded
? ? // ...
? ? return 0;
}
從這里開(kāi)始，您可以做不同的事情。也許您最愿意使用 將保存的模型轉(zhuǎn)換為凍結(jié)圖FreezeSavedModel，這應(yīng)該讓您可以像以前一樣做事：
GraphDef frozen_graph_def;
std::unordered_set<string> inputs;
std::unordered_set<string> outputs;
s = FreezeSavedModel(bundle, &frozen_graph_def,
? ? ? ? ? ? ? ? ? ? ?&inputs, &outputs));
if (!s.ok())
{
? ? cerr << "Could not freeze model: " << s.error_message() << endl;
? ? return -1;
}
否則，您可以直接使用保存的模型對(duì)象：
// Default "serving_default" signature name set by tf.saved_model_save
const SignatureDef& signature_def = bundle.GetSignatures().at("serving_default");
// Get input and output names (different from layer names)
// Key is input and output layer names
const string input_name = signature_def.inputs().at("my_input").name();
const string output_name = signature_def.inputs().at("my_output").name();
// Run model
Tensor input = ...;
std::vector<Tensor> outputs;
s = bundle.session->Run({{input_name, input}}, {output_name}, {}, &outputs));
if (!s.ok())
{
? ? cerr << "Error running model: " << s.error_message() << endl;
? ? return -1;
}
// Get result
Tensor& output = outputs[0];
