Rlaif 相关的热门 GitHub AI项目仓库

Distilabel是一个用于合成数据和AI反馈的框架，面向需要基于验证过的研究论文构建快速、可靠和可扩展的数据管线的工程师。

开源AI反馈助力GPT-4V超强可靠性（CVPR'25论文）

持续更新的强化学习从AI反馈（RLAIF）文献列表

This training offers an intensive exploration into the frontier of reinforcement learning techniques with large language models (LLMs). We will explore advanced topics such as Reinforcement Learning with Human Feedback (RLHF), Reinforcement Learning from AI Feedback (RLAIF), Reasoning LLMs, and demonstrate practical applications such as fine-tuning

基于离线逆强化学习的查询相关提示评估和优化

ZYN：基于是非题的零样本奖励模型

《Timo：迈向更好的语言模型时间推理》(COLM 2024) 的代码和数据

利用纯合成数据，蒸馏式自我批判能够改进大型语言模型的输出结果。

Starling-7B是一个开放的、大型的语言模型（LLM），它使用基于人工智能反馈的强化学习 (RLAIF) 技术开发而成。该模型旨在执行各种复杂的语言相关任务，包括自然语言理解和生成。

一个基础的RLAIF流程实现，使用GPT-2-Large模型进行摘要任务，并使用TL;DR数据集进行训练。