La pasarela AI de Portkey actúa como interfaz entre las aplicaciones y los modelos de LLM alojados. Optimiza las solicitudes de API a OpenAI, Anthropic, Mistral, LLAMA 2, Anyscale, Google Gemini, etc., utilizando una API unificada para un enrutamiento fluido. Esta pasarela es rápida y ligera, incluye un mecanismo de reintento, admite el equilibrio de carga entre múltiples modelos y garantiza la fiabilidad y el rendimiento de las aplicaciones.