AI教學大躍進! 陽明交大引進高性能AI設備強化實際部署與系統整合能力
▲耐能智慧捐贈三臺 KNEO 300高性能AI設備,攜手陽明交大共同推動低功耗AI系統於實際場域的落地應用。(圖/陽明交大提供)
【勁報記者羅蔚舟/新竹報導】
陽明交大與耐能智慧(Kneron)4/30日共同宣布,由耐能智慧捐贈三臺 KNEO 300高性能AI設備,共同推動生成式人工智慧、大型語言模型與邊緣智慧運算相關教學與研究,強化實際部署與系統整合的能力,並共同推動低功耗AI系統於實際場域的落地應用。
▲耐能智慧捐贈三臺 KNEO 300高性能AI設備,攜手陽明交大共同推動低功耗AI系統於實際場域的落地應用。(圖/陽明交大提供)
此次設備導入後,陽明交大可將AI教學與研究從模型訓練延伸至實際部署與系統整合。學生可在校內進行大型語言模型推論與優化、生成式AI應用開發,以及模型量化、知識蒸餾等關鍵技術實作,並進一步將模型部署至終端設備,驗證即時運算與實際應用情境。
陽明交大副校長唐震寰表示,人工智慧的發展正從單純追求算力規模,邁向兼顧能效、延遲與部署彈性的系統架構競爭。對大學而言,關鍵不僅在於擁有高性能運算資源,也須具備能支援新世代AI應用的基礎設施。此次耐能智慧為校內引入低功耗、可邊緣部署的AI平臺,象徵在既有現有運算基礎上,進一步導入邊緣運算能力,朝向「雲邊協同」的新型AI基礎架構發展。
▲耐能智慧捐贈三臺 KNEO 300高性能AI設備,攜手陽明交大共同推動低功耗AI系統於實際場域的落地應用。(圖/陽明交大提供)
耐能智慧創辦人暨執行長劉峻誠則指出,隨著生成式 AI 與大型模型快速發展,產業對算力的需求已從單純追求規模,轉向效率、能耗與實際部署能力的平衡。未來AI將不再僅存在於雲端,而是逐步進入各類終端與邊緣設備。KNEO 300 正是在此趨勢下設計,期望用比傳統 GPU更低的功耗,提供可支援大型語言模型與生成式 AI 的實用平臺,並讓學界能更早接觸實際部署環境,培養具備系統整合能力的人才。
電機系方凱田主任表示,設備將導入現有「人工智慧導論」、「大型語言模型」與「生成式人工智慧」課程,讓學生實際參與模型優化與部署流程,培養跨越軟硬體的系統整合能力。對研究團隊而言,該平臺可用於驗證生成式AI、個人化模型及體現智慧(Embodied AI)等前瞻技術在推論效率、能耗與部署成本上的可行性,成為研究成果從理論走向應用的關鍵基礎。
▲耐能智慧捐贈三臺 KNEO 300高性能AI設備,攜手陽明交大共同推動低功耗AI系統於實際場域的落地應用。(圖/陽明交大提供)
未來AI將逐步進入各類終端設備。隨著生成式AI應用從雲端走向終端裝置,此次的挹注與合作也被視為學界強化AI落地能力、銜接產業需求的重要一步。