人工智慧（AI）對訓練數據的無止盡需求，以及其日漸廣泛的應用，正催生重大的倫理困境，並引發外界對其長期社會影響的關注。
根據《planetearthandbeyond.co》報導，AI的運作高度仰賴持續不斷的訓練數據，驅使科技公司大量抓取網路內容。然而，當這些公司積極推廣AI服務並鼓勵用戶透過AI機器人獲取資訊時，卻反過來衝擊了原有的網路內容生態。例如，Google的AI搜尋摘要功能已對網路出版商造成負面影響，用戶在有AI摘要時點擊連結的意願顯著降低，若關閉此功能，點擊率則會增加一倍。
該報導指出，許多新聞網站、食譜網站、教學網站、部落格及獨立創作者都高度依賴Google搜尋流量來獲取收入。AI搜尋摘要導致的流量減少，直接衝擊了出版商的收入，進而降低其內容產製意願與能力。這形成了一個惡性循環：內容減少意味著AI訓練數據的價值下降，最終可能導致AI面臨「自噬」的困境，反噬了供應其數據的來源。具體數據顯示，受AI搜尋摘要影響，小型出版商的Google流量驟降 60%，中型出版商流量下滑 47%，而大型出版商也面臨 22% 的流量損失。另有研究發現，整體網路出版商的AI摘要流量甚至減少了 80%。
AI的倫理困境不僅止於數據生態。根據《NewsGram》的報導，人工智慧工具正被廣泛運用於全球選舉，影響政治活動與選民行為。政治團體能夠利用個人數據，精準鎖定目標對象，傳遞最具說服力的訊息。
科技公司積極開發AI工具，協助競選團隊提升訊息傳遞與鎖定目標的效率、說服力及持久性。這種影響力透過多種線上與線下管道施展，包括社群媒體平台如Instagram和TikTok、搜尋網站Google的置頂結果、推薦系統的內容推播，以及媒體新聞標題的聚焦等。報導指出，全球有超過 500 家公司專門從事科技驅動的政治說服工作，向政治人物和競選活動出售服務，聲稱能有效影響民意和選票。包括智利、喬治亞、印度、義大利、肯亞、馬來西亞、奈及利亞及美國在內的多個國家，都曾利用個人數據於選舉中進行政治宣傳。這種趨勢引發外界對於AI是否會助長不透明的政治操縱、甚至擾亂民主進程的深切憂慮。
