收官项目要做一件事:把专栏所有技术点串成一个能直接照着搭的 AI 智能知识库平台。它不是 PPT 里的"演示架构",是 MVP 2 周能上线的工程方案。
这一篇是收官项目的上篇:架构设计。中篇(Day88)讲 RAG 智能问答核心实现,下篇(Day89)讲多模型路由 + 用量统计 + 上线部署,Day90 是职业发展收官。
一、先定需求:到底要做什么
拒绝画大饼,我把业务场景卡死:
产品名:内部技术知识库(KB-Bot)用户:研发团队 200 人核心功能:
上传 PDF / Word / Markdown / 代码文件,系统自动解析 + 切片 + Embedding 入库
用自然语言提问,系统从知识库里找答案,给出处引用
多轮对话(追问上文)
流式输出(打一个字出一个字,不转圈)
管理后台看用量 + 成本仪表盘
关键非功能:
答案 P95 延迟 ≤ 3 秒(不含大模型生成时间)
文档解析吞吐 ≥ 50 篇/小时
单文档最大 100 MB(PDF 含扫描件走 OCR)
大模型供应