Llama 3超越GPT-4！英伟达推微调新框架RankRAG

佐治亚理工学院与英伟达的两位华人学者最新共同研发了一款名为RankRAG的创新微调框架，该框架针对复杂RAG流程实现了显著简化，使用单一的LLM对检索、排名及生成任务进行统一操作，效果远超传统流程。RAG技术在辅助大规模文本生成时普遍使用，然而，原有流程敏锐地识别到了如k值选择的局限性：当k值过大使长上下文处理变得吃力，或k值偏小削弱了检索效率。RankRAG创新性地通过微调与扩展LLM能力，使LLM能够自我适应进行检索和排名。相较于常规流程，该框架在数据效率和性能方面都有显著提升。实验证明，通过微调更高效的Llama模型，在多个通用和生物医学领域基准测试中，RankRAG的表现具有一定竞争力，甚至超越了前代顶级模型约10%的水平。这项技术引入了高度交互性和可编辑性的元素，允许用户在生成内容后进行实时编辑与迭代，显著提升工作效率，并且被推广至可与任何平台分享的成果。RankRAG的微调方案分为指令监督与多阶段强化训练两个阶段，旨在提升LLM在不同指令、检索与上下文排名能力上的综合性。通过该框架，AI生成的内容在通用领域性能上超过了目前开源顶级系统。尤其在长尾QA及多跳QA任务中有超10%的性能提升。在适应性应用如生物医学RAG基准Mirage上，即使是未经专门训练的模型，RankRAG也展现出对专业领域任务的超越。随着RankRAG的不断优化与普及，我们期待AI与人类协作流程更加顺利，技术及应用得到更大幅度的发展与创新。欲深入了解RankRAG技术，请访问论文：https://arxiv.org/abs/2407.02485