tf-trt warning: could not find tensorrt-原创手记-慕课网

在使用TensorFlow TRT时，我们可能会遇到一个警告信息：“tf-trt warning: could not find tensorrt”。这个警告意味着在编译过程中无法找到TensorFlow的TRT库，从而无法继续编译。

对于这个警告，我们需要进行如下分析和解读：

首先，我们需要确认你的环境中已经安装了TensorFlow TRT库。如果你使用的是Linux系统，可以尝试运行以下命令来安装TRT库：

pip install tensorflow==2.4.0

如果你使用的是其他操作系统，请查阅官方文档以获得正确的安装方法。

如果已经安装了TensorFlow TRT库，但仍然收到警告信息，那么我们需要检查你的编译环境是否正确设置。你可以尝试以下步骤：

在项目根目录下创建一个名为“.toc”的文件。
在文件中添加以下内容：

#include <tensorflow/core/public/session.h>
#include <tensorflow/core/platform/env.h>

using namespace tensorflow;

int main(int argc, char** argv) {
  Session* session;
  GraphRoot* root;
  Graph* graph;
  Tensor<DT_FLOAT>* input;
  Tensor<DT_FLOAT>* output;

  // 创建Session对象
  Status status = NewSession(SessionOptions(), &session);
  if (!status.ok()) {
    std::cerr << "Error creating session: " << status.ToString() << "\n";
    return 1;
  }

  // 创建根节点
  root = new GraphRoot(SessionPerThreadBucket(session));
  if (!root->NewRoot(SessionOptions(), &graph)) {
    std::cerr << "Error creating root graph: " << status.ToString() << "\n";
    return 1;
  }

  // 创建输入张量
  input = new Tensor<DT_FLOAT>(DT_FLOAT);
  input->flat<DT_FLOAT>().set(0.0f);
  input->set(new Tensor<DT_FLOAT>(DT_FLOAT, TensorShape<DT_FLOAT>(), TensorInfo<DT_FLOAT>()));

  // 创建输出张量
  output = new Tensor<DT_FLOAT>(DT_FLOAT);
  output->flat<DT_FLOAT>().set(0.0f);
  output->set(new Tensor<DT_FLOAT>(DT_FLOAT, TensorShape<DT_FLOAT>(), TensorInfo<DT_FLOAT>()));

  // 运行Session
  Tensor<DT_FLOAT> outputTensor;
  status = session->Run({{input, input}}, {output, output}, &outputTensor);

  if (!status.ok()) {
    std::cerr << "Error running session: " << status.ToString() << "\n";
    return 1;
  }

  // 打印输出
  std::cout << "Output: " << outputTensor.flat<DT_FLOAT>() << "\n";

  // 释放内存
  session->Close();
  root->Close();