ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

一个RAG优化的预告

一个RAG优化的预告
不久后会发布一个自己做的RAG项目的全流程描述。 自己从B站以及博客等渠道寻找有关RAG的优化,发现大多数只是提出了有什么问题,解决的时候要注意哪些事项,但真正有可实现可参考的代码和流程方案进行参考的内容并不多,这里发布的解决方案仅仅是自己的思考,但每个解决方案都有详细的说明和代码实现。 “发现大多数”是因为有的确实提供了解决方案,但是,基本完全是“调用LLM”判断。 例如, 如何切片?按标题切,怎么按标题切?调用LLM判断是不是标题。 RAG对话中所有问题都要RAG检索吗?怎么优化,调用LLM判断是否走RAG RAG中的会话压缩怎么处理?喂给LLM总结摘要。 。。。 如果不管什么问题都走LLM,1.思考时间不可控。2.思考结果不可控。3.思考成本不可控。4.思考方案是LLM本身的能力,不能自定义,相当于黑盒操作。 仅限于我自己看到的这些有关RAG的优化,要么只提问题,要么提出说的天花乱坠的方案但没有代码实现,要么就是清一色的调用LLM做判断。这个系列的文章就是为了解决以上问题的。 当然,还是那句话,这个系列的解决方案仅仅是自己的思考和实现,以及个人精力有限,若有问题可联系指正。 本系列解决的问题不限于以下: 1.切片策略 2.检索方案 3.权限安全 4.会话管理 。。。 以上内容,个人观点,仅供参考
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进