📌 课程目录 (30章) — 请启用JavaScript以查看交互卡片。
- 01 · TensorRT-LLM概述
- 02 · 开发环境搭建
- 03 · TensorRT插件基础
- 04 · 第一个自定义插件
- 05 · 插件输入输出管理
- 06 · CUDA Kernel基础
- 07 · 自定义Kernel编写
- 08 · 插件中的注意力机制
- 09 · 量化算子插件
- 10 · MoE算子
- 11 · 融合算子设计
- 12 · 自定义AllReduce插件
- 13 · 动态形状处理
- 14 · 插件调试与Profiling
- 15 · 插件测试与验证
- 16 · 自定义Attention
- 17 · 稀疏化算子插件
- 18 · 长序列优化算子
- 19 · 自定义Norm算子
- 20 · 插件中的控制流
- 21 · 多模态模型算子
- 22 · 自定义Softmax优化
- 23 · 插件与Python前端交互
- 24 · 插件打包与分发
- 25 · TensorRT-LLM源码解读
- 26 · 自定义量化校准插件
- 27 · 高性能KV Cache管理
- 28 · 插件安全与稳定性
- 29 · 社区插件生态
- 30 · 综合实战项目