Mlops 相关的热门 GitHub AI项目仓库

一种高效且内存利用率高的用于大型语言模型推理和服务的引擎

学习如何设计、开发、部署和迭代生产级别的机器学习应用。

Qdrant 是一款高性能、大规模的向量数据库和向量搜索引擎，专为下一代人工智能而设计。云端版本也已上线：https://cloud.qdrant.io/

使用云原生技术栈构建多模态AI应用

精选的优秀开源库列表，用于部署、监控、版本控制和扩展你的机器学习模型

快速将数据和人工智能算法转化为可投入生产的 Web 应用程序。

机器学习工程公开课

This repository delivers end-to-end, code-first tutorials covering every layer of production-grade GenAI agents, guiding you from spark to scale with proven patterns and reusable blueprints for real-world launches.

Weaviate是一个开源的向量数据库，它既存储对象也存储向量，允许将向量搜索与结构化过滤相结合，并具备云原生数据库的容错性和可扩展性。

一个开源的AutoML工具包，用于自动化机器学习生命周期，包括特征工程、神经网络架构搜索、模型压缩和超参数调整。

DataTalks.Club提供的免费MLOps课程

精心整理的 MLOps 参考资源列表

在云端运行任何开源大型语言模型（LLM），例如 DeepSeek 和 Llama，并将其作为兼容 OpenAI API 的端点。

一些 Jupyter Notebook 示例，演示如何使用 Amazon SageMaker 构建、训练和部署机器学习模型。

AI 开发平台。使用 Weights & Biases 训练和微调模型，并管理从实验到生产的模型。

构建、管理和部署 AI/ML 系统

一本关于机器学习系统设计的练习册。并非“机器学习系统设计”这本书的代码库。

A server-client framework to train any AI agent with rollouts and feedbacks

AI 数据库。存储向量、图像、文本、视频等。与大型语言模型 (LLM)/LangChain 配合使用。存储、查询、版本控制和可视化任何 AI 数据。实时将数据流传输到 PyTorch/TensorFlow。https://activeloop.ai

轻松构建AI应用和模型服务 - 快速创建模型推理API、作业队列、大型语言模型(LLM)应用、多模型管道等等！