ByteCat

微软亚洲研究院的研究员们提出了一种基于查询需求分层的RAG任务分类法，直指大模型应用在不同认知处理阶段所面临的难点和定制化的解决手段。

实现一个具备反馈循环机制的RAG系统，通过持续学习实现性能迭代优化。

过滤并压缩检索到的文本块，只保留最相关的内容，从而减少噪声并提高响应质量。

重排序作为初始检索后的第二步过滤，确保使用最相关的内容进行响应生成。

通过修改用户查询，可以显著提高检索信息的关联性和全面性。

上下文块标题（CCH）通过在每个块嵌入之前添加高级上下文（如文档标题或部分标题）来增强RAG。

引入上下文增强检索，确保检索到的信息包括相邻的片段，以实现更好的连贯性。

与固定长度块切分不同，语义块切分是根据句子之间的内容相似性来分割文本的。

LlamaIndex是一个用于构建生产级RAG应用的落地开发框架。

RAG是一种应用架构，通过将信息检索组件合并到文本生成过程中，增强了标准LLM的功能。