边缘计算定义、核心价值、与云对比、AI推理在边缘侧的挑战与机遇。
Ollama是什么、设计哲学、核心组件(模型管理、推理引擎、API接口)、与llama.cpp的关系。
树莓派、Jetson Nano等ARM设备安装、依赖检查、源码编译与二进制安装对比。
低功耗x86平台(NUC)、Docker部署、GPU加速(OpenVINO / CUDA)。
Ollama模型仓库、Modelfile详解、从HuggingFace导入、模型版本管理。
量化原理(FP16/INT8/INT4)、Ollama量化格式、精度与性能影响、实际操作。
REST API (生成/聊天/嵌入)、参数调优(temperature, top_p, max_tokens)、流式输出。
ollama-python库安装、同步/异步调用、错误处理、超时设置、批量请求管理。
推理延迟优化、批处理策略、KV Cache优化、模型预热。
内存管理、CPU亲和性、NUMA优化、功耗与性能平衡。
同时运行多个模型、热切换、基于负载自动调度、资源隔离。
LoRA原理、边缘设备加载LoRA适配器、合并与部署。
图像/文本本地预处理、数据增强、缓存策略、与Ollama推理整合。
完全离线模型分发、依赖打包、本地模型仓库搭建、更新策略。
工业网关部署、Modbus/OPC UA数据接入、推理结果回传。
Ollama + OpenCV实时视频帧分析、关键帧提取、目标检测与描述。
本地Whisper + Ollama LLM + 本地TTS,全离线语音助手。
本地向量数据库(Chroma/FAISS) + Ollama嵌入+生成,构建边缘RAG。
传感器数据采集、时序异常检测、告警阈值、Ollama推理可视化。
本地商品识别、顾客意图分析、实时推荐、数据脱敏上传。
本地医疗影像分析(X光/CT)、报告生成、HIPAA合规注意事项。
Ollama状态监控(Prometheus+Grafana)、推理日志收集、异常告警。
K3s/KubeEdge管理多边缘节点、Ollama分布式推理、负载均衡。
边缘-云协同架构、模型增量更新、数据脱敏上传、云端训练边缘推理。
硬件选型成本、功耗成本、运维成本、与纯云端方案对比。
Ollama常见错误(OOM、模型加载失败、API超时)、日志分析、性能瓶颈定位。
边缘AI发展趋势、Ollama路线图、项目总结与最佳实践清单。