OpenAI推GPT-4o預測輸出功能:響應速度提升5倍,但更貴了
OpenAI近日推出了一項重要更新,爲GPT-4o模型引入"預測輸出"(Predicted Outputs)功能。這項創新技術顯著提升了模型的響應速度,在特定場景下最高可達到原有速度的5倍,爲開發者帶來全新的效率體驗。這項由OpenAI與FactoryAI聯合開發的功能,其核心優勢在於能夠繞過已知內容的重複生成過程。在實際應用中,特別是在更新博客文章、迭代現有回覆或重寫代碼等任務上表現出色。根據FactoryAI提供的數據顯示,在編程任務中,響應時間縮短了2至4倍,將原本需要70秒的任務壓縮至20秒內完成。目前