什么是Ollama
核心优势
安装配置(Win/Mac/Linux)
模型仓库介绍
ollama pull
ollama list
ollama rm
ollama run
命令行交互
API调用模型
参数调整(temperature)
Modelfile语法
创建自定义模型
设置SYSTEM提示词
TEMPLATE配置
REST API概览
/api/generate
/api/chat
/api/embeddings
API认证安全
安装ollama-python
初始化客户端
发送聊天请求
流式响应
错误处理重试
对话上下文
多轮对话
管理token长度
滑动窗口
Redis存储历史
好Prompt三要素
角色设定
Few-shot示例
思维链(CoT)
常见陷阱
为什么需要知识库
架构设计
文档解析(PDF/Word/MD)
文本分块(Chunking)
向量化嵌入
选择嵌入模型
向量数据库(Chroma/FAISS/Qdrant)
批量入库增量
RAG架构原理
检索流程设计
余弦相似度
结合Ollama实现RAG
排序过滤
意图识别分类
多轮状态管理
对话分支逻辑
异常处理
超时降级
整体架构图
模块划分
数据流设计
高可用设计
水平扩展
FastAPI项目初始化
路由设计
请求/响应模型
依赖注入
中间件配置
用户表设计
对话记录表
知识库表
SQLite/PostgreSQL
ORM(SQLAlchemy)
HTML/CSS布局
聊天界面设计
消息气泡组件
输入框与按钮
响应式适配
Vue3/React项目
状态管理(Pinia/Redux)
WebSocket实时通信
Markdown渲染
代码高亮
JWT认证原理
登录/注册
Token刷新
RBAC权限控制
API密钥管理
日志分级格式
Loguru记录日志
Prometheus指标
Grafana面板
告警规则
模型量化(GGUF)
批处理请求
缓存策略(LRU)
异步处理
连接池优化
单元测试(pytest)
接口测试
压力测试(Locust)
对话质量评估
A/B测试框架
Docker容器化
Docker Compose
Nginx反向代理
SSL证书
CI/CD流水线
模型路由策略
按场景选择模型
模型热切换
版本管理
成本控制
插件架构设计
插件生命周期
热加载机制
插件市场
常用插件示例
国际化方案
语言检测
翻译服务集成
多语言知识库
本地化适配
ASR选型
TTS选型
WebRTC实时语音
语音唤醒词
情感分析
多租户架构
数据隔离
审计日志
合规性检查
SLA保障
输入过滤清洗
Prompt注入防护
敏感信息脱敏
速率限制
DDoS防护
模型选择策略
Token用量监控
缓存命中率优化
混合部署(本地+云端)
按需扩缩容
从零搭建电商客服
需求分析
技术选型
开发迭代
上线运维总结