AI 训练营中学习如何用TLT和TensorRT做路标识别的训练和推理，你get了么？ 科汇科技-四川 NVIDIA英伟达 GPU服务器 官方授权分销代理商
作者：管理员 发布于：2020-09-22 15:50:04 文字：【
大】【
中】【
小】
摘要：
9月20日 （周日）早上9点30分开始，参加第二届 Sky Hackathon 大赛的学生团队、导师和旁听的开发者，近200人参加了 NVIDIA 举办的赛前在线培训课程。
在 AI 训练营中，培训内容主要覆盖：
- 基于目标检测的深度学习模型的训练过程
- 利用 NVIDIATransfer Learning Toolkit 对模型进行剪枝等优化过程
- 利用 NVIDIATensorRT 对训练好的模型进行部署
- 利用 JetsonNano 进行实际场景实验
- 深度学习数据集的收集，筛选，清理和标注等过程。
AI 训练营中几个重点
TLT 入门非常容易。使用 TLT 训练 AI 模型不需要 AI 或深度学习方面的专业知识。具有深度学习基础知识的用户可以开始使用简单的 spec 文件和预先训练的模型来构建自己的定制模型。
预训练的模型也可以从 NGC 下载。该工具包包含一个命令行界面（CLI），可以从 Jupyter 笔记本运行，这些笔记本包装在 Docker 容器中。TLT 由一些简单的命令组成，例如数据增强，训练，修剪和模型导出。TLT 的输出是经过训练的模型，可以使用DeepStream 和 TensorRT 在 NVIDIA 边缘设备上进行部署以进行推理。
TLT 旨在在具有 NVIDIA GPU 的 x86 系统上运行，例如基于 GPU 的工作站或 DGX 系统，或者可以在具有 NVIDIA GPU 的任何云中运行。
TensorRT 是一个高性能的深度学习推理（Inference）优化器，可以为深度学习应用提供低延迟、高吞吐率的部署推理。TensorRT 可用于对超大规模数据中心、嵌入式平台或自动驾驶平台进行推理加速。TensorRT 现已能支持 TensorFlow、Caffe、Mxnet、Pytorch 等几乎所有的深度学习框架，将 TensorRT 和 NVIDIA 的 GPU 结合起来，能在几乎所有的框架中进行快速和高效的部署推理。
TensorRT 加速 DL Inference 的能力来源于 optimizer 和 runtime。其优化原理包括四个方面：
-Layer & Tensor fusion: 将整个网络中的 convolution、bias 和 ReLU 层进行融合，调用一个统一的 kernel 进行处理，让数据传输变快，kernel lauch 时间减少，实现加速。此外，还会消除一些 output 未被使用的层、聚合一些相似的参数和相同的源张量。
-Mix precision：使用混合精度，降低数据的大小，减少计算量。
-kernel auto-tuning：基于采用的硬件平台、输入的参数合理的选择一些层的算法，比如不同卷积的算法，自动选择 GPU 上的 kernel 或者 tensor core 等。
-Dynamic tensor memory：tensorrt 在运行中会申请一块 memory，最大限度的重复利用此内存，让计算变得高效。
引用哈尔滨工业大学参赛团队指导教师总结的：
IT解决方案
产品品类：
云与数据中心、深度学习和人工智能、设计和专业视觉化、NVIDIA CLARA、高性能计算、NVIDIA DRIVE 平台、GEFORCE、GPU 服务器
产品品型：
JETSON NANO、JETSON XAVIER NX、JETSON AGX XAVIER、JETSON TX2、数据中心 GPU、DGX 系统、HGX、EGX、NGC、虚拟 GPU、DGX 系统、NGC、NVIDIA TITAN RTX、TESLA、T4 企业服务器、QUADRO、QUADRO VDWS、GRID VPC/VAPPS、NVIDIA TITAN RTX、IRAY、MENTAL RAY、QUADRO EXPERIENCE、TESLA、T4 企业服务器、DGX、DGX-2、NGC、GPU 云计算
产品品牌：
NVIDIA 英伟达
解决方案：
nvidia控制面板、nvidia是什么意思、nvidia geforce gtx 750 显卡怎么样、nvidia显示设置不可用、nvidia控制面板怎么设置玩游戏最好、nvidia官网、nvidia显卡、nvidia arm、英伟达公司简介、nvidia官网网址、nvidia干嘛用的、nvidia和amd显卡区别、nvidia有必要安装吗、英伟达官网、英伟达显卡、英伟达显卡排名天梯图、英伟达驱动、英伟达是哪个国家的、英伟达和amd、英伟达和英特尔的关系、英伟达收购arm最新消息、英伟达30系显卡、英伟达2070、英伟达市值、英伟达rtx30系列显卡、GPU 服务器
应用场景：
游戏开发、医疗保健和生命科学、高等教育、工业、媒体与娱乐、零售、智慧城市、超级计算、电信、运输、金融
更多品类和方案、价格 请咨询：
成都科汇科技有限公司
地址：成都市人民南路四段1号时代数码大厦18F
电话：400-028-1235
QQ: 1325383361
手机：180 8195 0517（微信同号）
