Nvidia推出NIM微服務,加強企業AI代理安全控制
Nvidia近日發佈三項新的NIM(Nvidia Infrastructure Microservices)微服務,作爲NeMo Guardrails開源工具包的擴展,旨在爲企業AI代理應用提供更精細的安全管控能力。這三項新服務各具特色:一是針對內容安全,防止AI生成有害或帶有偏見的內容;二是確保對話限定在獲批主題範圍內;三是防止AI代理突破系統限制或越獄。通過部署這些輕量級專門模型作爲安全護欄,開發者可以彌補全局政策可能存在的保護漏洞。此舉反映了AI落地過程中的實際挑戰。儘管Salesforce CEO馬克·貝尼奧夫曾預測其平臺未來一年內