Llm Firewall 相关的热门 GitHub AI项目仓库

Dify是一个开源的大型语言模型（LLM）应用开发平台。Dify拥有直观的界面，集成了AI工作流程、RAG管道、智能体功能、模型管理、可观测性功能等，让您可以快速地从原型开发到产品上线。

GPT4All：在任何设备上运行本地大型语言模型。开源且可用于商业用途。

这款工具旨在为GPT、GLM等大型语言模型提供更便捷易用的交互界面，尤其针对论文阅读、润色和写作进行了优化。它采用模块化设计，支持自定义快捷按钮和函数插件，并能剖析和翻译Python和C++等项目代码。此外，它还具备PDF和LaTeX论文的翻译和总结功能，支持同时查询多个LLM模型（例如ChatGLM3等本地模型），并已接入通义千问、DeepSeekCoder、讯飞星火、文心一言、Llama 2、RWKV、Claude 2、MOSS等多种模型。

让网站更容易被人工智能访问

一步一步用PyTorch从零开始实现一个类似ChatGPT的大型语言模型。

多智能体框架：首家AI软件公司，迈向自然语言编程

学习大型语言模型 (LLM) 的课程，包含学习路线图和 Colab 笔记本。

统一高效微调100多个大型语言模型和视觉语言模型 (ACL 2024)

一种高效且内存利用率高的用于大型语言模型推理和服务的引擎

汇集了令人惊艳的大型语言模型 (LLM) 应用，这些应用使用了 OpenAI、Anthropic、Gemini 和开源模型，并结合了 AI 智能体和检索增强生成 (RAG) 技术。

一个用于自主智能体的编程框架？PyPI：autogen-agentchat Discord：https://aka.ms/autogen-discord 办公时间：https://aka.ms/autogen-officehour

集桌面端和Docker容器于一体的AI应用程序，内置检索增强生成（RAG）、AI智能体、无需编码的智能体构建器等功能。

LlamaIndex 是一个领先的框架，用于基于你的数据构建强大的、由大型语言模型 (LLM) 驱动的智能体。

将整个网站转换为 LLM 可用的 Markdown 或结构化数据。只需一个 API 即可抓取、爬取和提取数据。

使用Llama 3.3、DeepSeek-R1和推理大型语言模型微调，速度提升2倍，内存占用减少70%！

拖拽式界面，轻松构建你专属的LLM流程

将生成式AI轻松集成到您的应用中！专注于您的产品，而非RAG技术本身。简单易用，轻松集成到现有产品，并支持自定义！兼容各种大型语言模型（LLM），例如GPT4、Groq和Llama；兼容各种向量数据库（Vectorstore），例如PGVector和Faiss；支持各种文件类型；您可以随心所欲地进行配置。

我们提供一个基于大型语言模型的聊天机器人，它可以接入微信公众号、企业微信、飞书和钉钉等平台。您可以选择使用GPT-3.5、GPT-4、GPT-Neo、DeepSeek、Claude、文心一言、讯飞星火、通义千问、Gemini、GLM-4、Claude、Kimi或LinkAI等多种模型。该机器人可以处理文字、语音和图片，还能访问操作系统和互联网，并支持根据您自己的知识库定制企业智能客服系统。

Ray是一个AI计算引擎。它包含一个核心分布式运行时和一套AI库，用于加速机器学习工作负载。

一个用于日常对话的生成式语音模型。