cog-Wizard-Vicuna-13B-Uncensored

欢迎来到Llama食谱！这是你构建Llama模型的指南，涵盖了推理、微调、检索增强生成（RAG）等入门知识。我们还会向你展示如何使用Llama模型家族解决端到端问题，以及如何在各种服务提供商平台上使用它们。

一份精选的关于大语言模型/大视觉语言模型推理的优秀论文及代码清单，涵盖了WINT8/4、Flash-Attention、Paged-Attention、并行化等技术。

Simple, scalable AI model deployment on GPU clusters

RamaLama的目标是让使用人工智能变得枯燥乏味。

只需改一行代码，就能在你的应用中用其他大型语言模型（LLM）替换OpenAI GPT。Xinference赋予你自由选择任何所需LLM的权利。使用Xinference，你可以运行任何开源语言模型、语音识别模型和多模态模型的推理，无论是在云端、本地服务器还是你的笔记本电脑上。

将任何面部图像转换成视频游戏角色，风格可以是像素艺术、黏土动画、3D 或玩具风格。

企业级API网关，帮助您监控并设置每个API密钥的成本或速率限制。实现对每个用户、应用程序或环境的细粒度访问控制和监控。支持OpenAI、Azure OpenAI、Anthropic、vLLM和开源LLM。

Kubernetes上的AI推理操作符。这是在生产环境中部署机器学习模型最简单的方法。支持大型视觉模型 (VLMs)、大型语言模型 (LLMs)、嵌入和语音转文本。

在 llama.cpp（或任何本地兼容 OpenAPI 的服务器）上进行模型交换

使用Prometheus和GPT-4评估你的大型语言模型（LLM）的响应