高效小型AI模型降低「Token」成本 高德納預估2027年成主流
商傳媒|何映辰/台北報導在人工智慧(AI)應用日益普及的當下,企業如何有效管理AI成本已成為一大關鍵。一份最新分析揭示,發展小型且專業化的AI模型,是降低「高流量AI」應用成本的致勝策略。高流量AI,簡而言之,是指那些需要處理大量查詢或任務的AI系統;而模型大小與成本的關聯性,則在於模型規模
商傳媒|何映辰/台北報導在人工智慧(AI)應用日益普及的當下,企業如何有效管理AI成本已成為一大關鍵。一份最新分析揭示,發展小型且專業化的AI模型,是降低「高流量AI」應用成本的致勝策略。高流量AI,簡而言之,是指那些需要處理大量查詢或任務的AI系統;而模型大小與成本的關聯性,則在於模型規模
商傳媒|責任編輯/綜合外電報導專注於模型評估與威脅研究的非營利機構METR(模型評估與威脅研究機構)近期證實,其人工智慧模型API遭到駭客入侵,導致價值高達60萬美元的AI代幣被盜用。這起事件凸顯了AI領域在快速發展下,網路安全所面臨的嚴峻挑戰。駭客是透過一款開發