Finetuning 相关的热门 GitHub AI项目仓库

使用Llama 3.3、DeepSeek-R1和推理大型语言模型微调，速度提升2倍，内存占用减少70%！

欢迎来到Llama食谱！这是你构建Llama模型的指南，涵盖了推理、微调、检索增强生成（RAG）等入门知识。我们还会向你展示如何使用Llama模型家族解决端到端问题，以及如何在各种服务提供商平台上使用它们。

用于大语言模型训练的高效Triton内核

一个高效、灵活且功能齐全的工具包，用于微调大型语言模型（InternLM2、Llama3、Phi3、Qwen、Mistral等）

H2O LLM Studio：一个用于微调大型语言模型 (LLM) 的框架和免代码图形用户界面 (GUI)。文档：https://docs.h2o.ai/h2o-llmstudio/

一个用于自动机器学习和参数调优的快速库。加入我们的Discord：https://discord.gg/Cppx2vSPVP

使用大型语言模型 (LLM)，通过自然语言与你的 SQL 数据库进行交互。

构建多智能体大型语言模型 (LLM) 应用最简单、最省力的方法。

精选的大型语言模型、Text2SQL、Text2DSL、Text2API、Text2Vis 等技术的教程和资源。

InternLM-XComposer2.5-OmniLive：一个用于长期流式视频和音频交互的综合多模态系统

一个用于元学习研究的PyTorch库

构建、定制和控制你自己的大型语言模型 (LLM)。从数据预处理到微调，xTuring 提供了一种轻松个性化开源 LLM 的方法。加入我们的 Discord 社区：https://discord.gg/TgHXuSJEk6

Create Custom LLMs

教你打造一个通晓人情世故的大语言模型，课程涵盖提示词工程、检索增强生成（RAG）、智能体（Agent）和大型语言模型微调等教程。

循序渐进，掌握应用人工智能

针对BERT、CLIP等模型的任务导向嵌入式微调

王兴耀、陈杨毅、袁立帆、张毅哲、李云珠、彭浩和姬恒发表在ICML 2024会议上的论文“可执行代码操作能提升大型语言模型智能体性能”的官方代码库。

本仓库收集了关于“大型语言模型知识蒸馏综述”的论文。我们将知识蒸馏分解为知识提取和蒸馏算法，并探讨了大型语言模型的技能和垂直领域蒸馏。

这是一本持续更新的手册，方便读者轻松追踪文献中最新的NL2SQL（文本转SQL）技术，并为研究人员和实践者提供实用指导。如果我们遗漏了任何有趣的研究，请随时联系我们。

用于微调、消融研究和单元测试开源大型语言模型的工具包