LiteLLM導入分類器強化請求路由 甲骨文雲生成式AI應用效益提升
商傳媒|林昭衡/綜合外電報導開源Python程式庫LiteLLM已全面整合至甲骨文雲(OCI)生成式AI平台,其AIGateway(人工智慧閘道)現在能夠透過訓練過的分類器,智慧地將用戶請求導向最適合的OCIGenerativeAI模型。這項技術更新旨在為甲骨文雲生成式A
商傳媒|林昭衡/綜合外電報導開源Python程式庫LiteLLM已全面整合至甲骨文雲(OCI)生成式AI平台,其AIGateway(人工智慧閘道)現在能夠透過訓練過的分類器,智慧地將用戶請求導向最適合的OCIGenerativeAI模型。這項技術更新旨在為甲骨文雲生成式A
商傳媒|葉安庭/綜合外電報導開源Python函式庫LiteLLM已原生支援OracleGenerativeAIInfrastructure,這項整合讓開發者能透過單一OpenAI相容閘道,存取部署於OracleCloudInfrastructure(OCI)上的多樣
商傳媒|責任編輯/綜合外電報導軟體開發者和DevOps工程師現可透過LiteLLM與Docker技術,建立一個自主託管的AI模型閘道器,將應用程式請求路由至多個大型語言模型(LLM),並透過單一的OpenAI相容API介面進行管理。LiteLLM的核心優勢