博客纲领：

如何自学tensorrt?

入门指南将聚焦于TensorRT的1版本，详细介绍如何从Python或TensorFlow等框架开始，通过中间步骤转换为ONNX格式，进而使用TensorRT进行优化。本指南将重点介绍使用Parser的TensorRT工作流，以及实际工程中的通用流程。

TensorRT入门指南(一)TensorRT简介

tensorflow如何入门（tensorflow入门视频）

TensorRT工作流主要分为使用框架自带的TRT接口和使用Parser两种方式。使用框架自带接口如TF-TRT和Torch-TensorRT，易于集成但性能和兼容性可能受限。使用Parser方法则更为常用，通过TF/Torch等-ONNX-TensorRT的流程搭建网络，性能和兼容性更优，支持网络调整和插件编写。

TensorRT是NVIDIA推出的一款用于在NVIDIA GPU硬件平台上提升模型推理速度和吞吐量的C++推理框架。它支持多种精度，包括FP3TP3FP16和INT8，其中TF32和FP16相比FP32在精度上有所牺牲，而INT8则进一步降低至一个字节的精度。

TensorRT还提供其他功能，包括Plugins、多种数据类型与精度、量化、动态形状及DLA支持。Plugins用于实现TensorRT不支持的算子，量化技术提高计算效率，减少内存需求。动态形状允许输入维度在运行时变化，DLA硬件加速卷积等计算。此外，提供了命令行工具Trtexec和调试工具Polygraphy。

TensorRT的核心主要包括plugin、samples和tools三部分，分别用于增加自定义算子、TensorRT使用教程示例与工具操作。TensorRT代码非开源，用户在编译时需先安装库文件。与之相比，AMD的MIGraphX具有开源特性，但其代码目前尚不明确。

TensorRT是一种强大的深度学习推理优化工具，它极大地简化了原本需要自定义类推理框架并连接众多算子的过程。只需一行代码调用，即可利用其内置的高效算子流程集成，极大地提高了效率。

普通程序员如何正确学习人工智能方向的知识?

1、第一步：复习线性代数。对基础数学的理解是AI学习的关键，线性代数作为基础数学的一部分，对其复习有助于理解AI算法。第二步：入门机器学习算法。通过学习和实践，了解基础的机器学习算法，如线性回归、逻辑回归、决策树等。第三步：尝试用代码实现算法。

2、学习人工智能的旅程可以从多个角度出发。如果你是具有编程基础的程序员，推荐从数学、Python编程技能入手，进一步深入机器学习和深度学习领域。

3、零基础入门人工智能，首先需要掌握基础的数学知识，特别是高等数学，如微积分、线性代数、概率论和凸优化等，这些是理解和实现算法的基础。对于编程语言，推荐Python，因为它简单易学且在人工智能领域广泛应用。接着，深入学习机器学习和深度学习算法。

TensorFlow简易教程:入门指南

1、首先，确保安装了Python环境。通过pip安装TensorFlow：pip install tensorflow 导入TensorFlow库：python import tensorflow as tf 假设我们有以下一组数据，分别是特征X和目标y。

2、在Keras中，Layer对象通过__call__方法定义，用户可将其作为函数调用来执行层逻辑。在TensorFlow.js中，使用apply()方法实现相同功能。apply()支持对具体张量进行命令式评估，既可以在SymbolicTensor上调用，返回SymbolicTensor，也可以在实际Tensor值上调用，返回具体Tensor。

3、在TensorFlow 3中，Dataset API位于contrib包中，而在TensorFlow 4中，Dataset API已被移出contrib包，成为核心API的一部分。以下示例代码将基于TensorFlow 4版本进行，若使用TensorFlow 3版本，则需要进行简单的修改（即在代码中添加contrib）。接下来，让我们从基础的概念了解Dataset API。

Tensorflow入门(二)什么是张量(Tensor)

1、Tensor，源于Tensorflow的名称构建，是其计算图的核心元素，每个节点的输入和输出都是张量，它们之间的连接则代表数据流动。在深度学习的世界里，张量本质上是多维数组，如果具备高等数学和线性代数的知识，可以更深刻地领悟：它就像创建高维度矩阵（向量）的工具，频繁用于卷积运算中。

2、张量（Tensor）是基础概念，也是PyTorch、TensorFlow的关键知识点之一。张量是一种数据存储和处理结构，可以理解为标量、向量、矩阵的更高维度扩展，通常使用秩（Rank）来表示维度，如标量为0阶、向量为1阶、矩阵为2阶，还有更高阶张量。

3、TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理。Tensor（张量）意味着N维数组，Flow（流）意味着基于数据流图的计算，TensorFlow为张量从图象的一端流动到另一端计算过程。TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统。