OfoxAI統一大模型API網關,一個API接入100+模型,低延遲易集成。
一切龍蝦的始祖,支持多平臺和大模型,完全開源。
Respan是統一可觀測性、評估、提示優化和LLM網關的工程平臺。
開源LLM路由器,路由請求到最具成本效益模型,節省70% AI令牌成本。
Google
$0.49
輸入tokens/百萬
$2.1
輸出tokens/百萬
1k
上下文長度
Openai
$2.8
$11.2
Xai
$1.4
$3.5
2k
$7.7
$30.8
200
-
Anthropic
$105
$525
$0.7
$7
$35
$17.5
$21
Alibaba
$1
$10
256
$6
$24
$4
$16
$2
$20
Baidu
128
Bytedance
$1.2
$3.6
4