01
燧原科技概览
公司背景、发展历程、核心产品线(云燧T系列、云燧i系列)、市场定位与差异化优势。
公司产品线
02
软件栈全景图
燧原“驭算”软件栈整体架构、TopsRider开发平台、TopsInference推理引擎、TopsRAG框架、TopsCC编译器。
架构平台
03
TopsRider开发平台详解
平台功能、模型迁移工具链、调试与性能分析工具、与PyTorch/TensorFlow的兼容性。
开发迁移
04
TopsInference推理引擎
引擎架构、高性能推理优化策略、动态批处理与量化技术、支持的主流模型与算子。
推理优化
05
TopsCC编译器技术
编译器前端与后端、图优化与算子融合、内存管理与调度策略、与CUDA的编译对比。
编译优化
06
TopsRAG框架
检索增强生成(RAG)技术原理、燧原RAG框架的独特设计、知识库构建与检索优化、在AI大模型中的应用。
RAG大模型
07
模型迁移实战(一)
PyTorch模型迁移至燧原平台、常见API映射与适配、数据加载与预处理适配。
PyTorch迁移
08
模型迁移实战(二)
TensorFlow模型迁移、Keras模型转换、自定义算子注册与实现。
TensorFlowKeras
09
模型迁移实战(三)
ONNX模型导入与优化、PaddlePaddle模型迁移、多框架混合部署方案。
ONNXPaddlePaddle
10
性能调优方法论
性能分析工具使用(Profiler)、计算与访存瓶颈识别、算子级与图级优化策略。
调优Profiler
11
分布式训练支持
数据并行、模型并行、流水线并行在燧原上的实现、集合通信库(RCCL)适配。
分布式RCCL
12
混合精度训练
FP16/BF16/INT8混合精度原理、燧原TopsAMP工具使用、精度调试与损失缩放。
混合精度AMP
13
大模型适配(一)
LLaMA系列模型在燧原上的部署、模型切分与显存优化、KV Cache优化。
LLaMA显存
14
大模型适配(二)
ChatGLM系列模型适配、Flash Attention实现、长序列推理优化。
ChatGLMFlashAttention
15
大模型适配(三)
GPT系列模型适配、MoE架构支持、专家并行策略。
GPTMoE
16
视觉模型适配
ResNet/ViT/Swin Transformer迁移、图像预处理加速、多卡推理优化。
视觉ViT
17
多模态模型适配
CLIP/BLIP模型迁移、图文对齐优化、端到端推理流水线。
多模态CLIP
18
语音模型适配
Whisper/Conformer模型迁移、流式推理优化、语音特征提取加速。
语音Whisper
19
推荐系统模型适配
DCN/DeepFM模型迁移、稀疏特征处理优化、Embedding层加速。
推荐DeepFM
20
TopsRider调试工具链
断点调试、内存泄漏检测、算子执行追踪、性能热点分析。
调试工具链
21
TopsInference高级特性
动态形状推理、多流并发执行、模型加密与保护、A/B测试框架。
高级加密
22
TopsCC编译优化实战
手动算子融合、循环展开与向量化、内存布局优化、编译选项调优。
编译优化调优
23
燧原与CUDA生态对比
编程模型差异、内存管理对比、算子库对比(TopsOps vs cuDNN)、性能基准测试。
CUDA对比
24
燧原与昇腾生态对比
软件栈架构对比、模型迁移难度对比、生态成熟度与社区支持。
昇腾生态
25
燧原与寒武纪生态对比
指令集架构差异、编译器技术对比、推理性能对比。
寒武纪对比
26
燧原与英伟达生态对比
硬件架构差异、软件栈完整度、开发者体验、生态壁垒分析。
英伟达生态
27
燧原软件生态建设
开源策略、合作伙伴计划、开发者社区运营、技术文档与教程体系。
生态开源
28
行业应用案例(一)
互联网推荐场景、广告CTR预估、燧原方案优势与效果数据。
推荐广告
29
行业应用案例(二)
金融风控场景、智能客服、大模型推理服务、燧原部署实践。
金融客服
30
未来展望与趋势
燧原软件路线图、AGI时代的算力需求、国产AI芯片软件生态发展趋势、总结与建议。
展望趋势