litellm
Public一个Python软件开发工具包(SDK)和代理服务器(大型语言模型网关),可以调用100多个OpenAI格式的大型语言模型API,支持Bedrock、Azure、OpenAI、Vertex AI、Cohere、Anthropic、SageMaker、Hugging Face、Replicate和Groq等平台。
一个Python软件开发工具包(SDK)和代理服务器(大型语言模型网关),可以调用100多个OpenAI格式的大型语言模型API,支持Bedrock、Azure、OpenAI、Vertex AI、Cohere、Anthropic、SageMaker、Hugging Face、Replicate和Groq等平台。