inference-gateway
Public一个开源、高性能的网关,可以统一多个大型语言模型(LLM)提供商,涵盖本地解决方案(如Ollama)和主要的云提供商,例如OpenAI、Groq、Cohere、Anthropic和Cloudflare。
创建时间:2025-01-09T07:27:25
更新时间:2025-11-20T16:59:52
https://inference-gateway.github.io/docs/
78
Stars
0
Stars Increase
一个开源、高性能的网关,可以统一多个大型语言模型(LLM)提供商,涵盖本地解决方案(如Ollama)和主要的云提供商,例如OpenAI、Groq、Cohere、Anthropic和Cloudflare。