Arch é um gateway de código aberto projetado para lidar com prompts. Ele utiliza modelos de linguagem extensos (LLMs) rápidos para processar prompts e integrar-se perfeitamente a sistemas back-end. Construído com Envoy, Arch suporta qualquer linguagem de aplicativo e oferece implantação rápida e atualizações transparentes. Ele fornece vários recursos, incluindo gerenciamento de tráfego, gateway front-end/edge, monitoramento e rastreamento de ponta a ponta, ajudando os desenvolvedores a construir aplicativos GenAI rápidos, robustos e personalizados.