📘 推理引擎·课程目录
19 门专题
⚡ 点击封面或标题跳转至对应课程文件夹 · 编程主题渐变封面
⚙️
性能 · 调优
《llama.cpp 性能调优完全指南》
📁 课程文件夹
index.html
🔧
硬件加速
《llama.cpp与硬件加速器适配实战》
📁 课程文件夹
index.html
🧠
多模态
《llama.cpp多模态模型推理实战》
📁 课程文件夹
index.html
📄
源码 · 解析
《llama.cpp推理引擎源码解析》
📁 课程文件夹
index.html
🧩
分片 · 加载
《llama.cpp模型分片与加载策略实战》
📁 课程文件夹
index.html
🔄
模型转换
《llama.cpp模型转换与格式详解》
📁 课程文件夹
index.html
📉
量化
《llama.cpp模型量化实战手册》
📁 课程文件夹
index.html
⚡
算子 · 优化
《llama.cpp算子开发与优化实战》
📁 课程文件夹
index.html
🔁
推理管线
《llama.cpp自定义推理管线从入门到精通》
📁 课程文件夹
index.html
🏗️
环境搭建
《从零搭建本地大模型推理环境》
📁 课程文件夹
index.html
💾
内存优化
《大模型推理内存优化全攻略》
📁 课程文件夹
index.html
🔋
功耗优化
《大模型推理功耗优化实战》
📁 课程文件夹
index.html
⚖️
精度 · 速度
《大模型推理精度与速度平衡术》
📁 课程文件夹
index.html
🎮
嵌入式GPU
《嵌入式GPU加速大模型推理实战》
📁 课程文件夹
index.html
📱
设备部署
《嵌入式设备部署大模型实战》
📁 课程文件夹
index.html
🧑💻
应用开发
《本地大模型应用开发进阶》
📁 课程文件夹
index.html
☁️
服务化部署
《本地大模型服务化部署指南》
📁 课程文件夹
index.html
🌐
边缘计算
《边缘计算大模型推理方案实战》
📁 课程文件夹
index.html
🌍
分布式推理
大规模模型分布式推理方案实战
📁 课程文件夹
index.html