企業主必懂十大AI術語:辨識AI浮誇、防範資安風險,駕馭智慧職場新挑戰
隨著人工智慧(AI)技術日益普及,職場中出現大量新興詞彙,其中許多聽起來專業,但對企業主、人資部門與管理者而言,理解其應用意義已是刻不容緩。掌握這些AI術語不僅有助於制定合適的HR政策與供應商合約,也能更有效率地進行績效評估,應對智慧職場帶來的挑戰。
部分企業為追求生產力,會獎勵員工最大化使用AI「Token」(Tokenmaxxing)。Token是人工智慧模型處理文本的基本單位,例如將人類語言拆解成單詞或字元。然而,過度強調此一指標可能導致員工灌水提示詞或執行不必要的AI任務,反而造成過度勞累,降低實際效益。
在市場行銷上,企業誇大、虛報或虛假宣傳其產品或服務的AI功能,這種現象被稱為「AI washing」(AI漂洗)。如同「綠色漂洗」(greenwashing)般,美國聯邦貿易委員會(FTC)與美國證管會(SEC)已對此採取執法行動。此外,品質低落、內容空泛且缺乏獨創性的AI生成內容,即使技術上連貫,但缺乏人類視角,則被稱為「AI slop」。這類內容可能侵蝕客戶與員工的信任,並間接傳達品質不重要的錯誤訊息。
員工在未經公司批准或IT部門知情下,擅自使用AI工具,則構成「Shadow AI」。這種行為可能導致機密資料外洩、引發決策上的歧視風險,並讓企業無法追溯資料流向。同時,隨著更多部門員工透過「Vibe coding」(指透過自然語言描述需求,讓AI工具生成程式碼)自行開發內部工具,若未經資安審核,可能引入漏洞或合規問題。當AI工具整合至電子郵件、HR系統時,「Prompt injection」(提示詞注入攻擊)這類攻擊者在文件中嵌入隱藏指令的資安漏洞,也構成嚴重的網路安全風險。
針對AI模型的選擇與部署,「Model card」是AI開發者發布的簡短文件,詳細說明模型的預期用途、限制、訓練資料及已知風險,對於評估新AI工具(尤其用於招聘或績效評估)的適用性至關重要。而「Fine-tuning」(微調)則是指在特定資料集上進一步訓練通用AI模型,以提升其在特定任務或產業的效能;若企業使用內部資料進行 Fine-tuning,這些資料將成為工具運作的一部分。「Open-weight models」是那些底層「權重」(即模型運作的關鍵參數)公開,可供任何人下載和運行於自身系統的AI模型,與OpenAI的ChatGPT、Anthropic的Claude或Google的Gemini等閉源模型不同。「Distillation」是一種將大型複雜AI模型壓縮成更小、更快、更便宜版本,同時保留大部分功能的技術,這類經 Distillation 的模型常被用於預算有限的企業。最後,「Context window」(上下文視窗)是AI模型在一次對話或任務中能「記憶」並考量的文本或資訊量,一旦超出限制,AI會「忘記」較早的內容,可能影響對長篇資料或複雜對話的理解。