生成式AI偽造衛星影像 學術期刊誠信面臨系統性危機
圖/精準醫療網
生成式人工智慧(AI)技術快速普及,如今這股浪潮正對地球觀測與健康研究領域帶來空前挑戰。學者 Shannon Colville 與數位健康領域教授 Maged N. Kamel Boulos 近期於《國際健康地理期刊》發表社論,警告生成式 AI 正在製造虛假的地理影像、分析模型與文獻引用,對地理健康研究的真實性構成系統性風險。
地球觀測系統長期被廣泛運用於氣候監測、流行病追蹤與災難救援,其科學價值鏈完全建立在遙測衛星影像的真實性上。然而,現有的期刊編輯與同儕審查機制,難以單憑肉眼分辨經過精細竄改的合成畫面。今年 7 月,Google 曾在旗下軟體 Google Earth 短暫推出一項生成式 AI 功能,允許使用者合成虛假的衛星場景,隨後因引發爭議而在一天內迅速下架,突顯出偽造衛星影像技術已唾手可得。
這類風險不僅止於圖像。社論指出,自動化的統計造假正在取代傳統的人工數據操縱,生成式 AI 能輕易改動數值資料集,將原本不具統計顯著性的結果包裝成顯著發現。學術造假問題已在大型醫學資料庫中浮現,2026 年對收錄於 PubMed 的生物醫學文獻進行審查發現,每 277 篇已發表的論文中,就約有 1 篇包含捏造的文獻引用。
兩位學者指出,單純要求作者揭露是否使用 AI 的政策已難以奏效,因為「語言潤飾」與「生成實質研究內容」之間的界線已日漸模糊。審查員與期刊編輯對 AI 技術的認知差距,也嚴重影響了論文評審的公平性。
此外,在審查過程中將未公開的機密研究數據上傳至商業 AI 平台,更潛藏嚴重的數據主權外洩風險。今年 9 月,OpenAI 與 Anthropic 等主流 AI 開發商便曾陷入未經授權擷取機密稿件與對話資料的爭議。
面對學術誠信危機,作者強調,光靠視覺檢查已無法保證衛星影像反映的是地表的真實狀況。空間數據證據的可信度,未來將高度依賴驗證其未遭竄改的技術監管鏈、資料來源以及採集時的原始元數據(Metadata)。他們建議各大期刊捨棄雲端託管的商業 AI 篩檢工具,改在內部建置具備開源權重模型的獨立運算流程,並引進自動化文獻檢驗系統,在手稿進入同儕審查前築起數位防線。
參考來源
- Fabricated Satellite Imagery and Synthetic Analyses Challeng…(Bioengineer.org)
生成式AI如何影響學術研究的真實性與誠信?
生成式AI技術的普及對地球觀測與健康研究領域構成嚴峻挑戰,其偽造地理影像、分析模型與文獻引用的能力,正對學術研究的真實性帶來系統性風險。現有的期刊編輯與同儕審查機制難以分辨經過精細竄改的合成圖像與數據,自動化統計造假也取代了傳統數據操縱。此外,AI的應用模糊了「語言潤飾」與「生成實質研究內容」的界線,加上審查過程中上傳機密數據至商業AI平台可能導致數據外洩,都加劇了學術誠信危機。未來,空間數據的可信度將高度依賴驗證其未遭竄改的技術監管鏈、資料來源及原始元數據。
生成式AI偽造衛星影像的風險有多高?
生成式AI已能輕易合成虛假的衛星場景,例如Google曾在Google Earth短暫推出此功能後因爭議迅速下架。這類偽造影像難以僅憑肉眼在現有期刊編輯與同儕審查機制下被分辨出來,對依賴遙測衛星影像的科學價值鏈構成威脅。
AI在學術研究中偽造文獻引用的情況有多普遍?
2026年對PubMed收錄的生物醫學文獻審查發現,約每277篇已發表論文中就有1篇包含捏造的文獻引用。生成式AI能自動化地進行統計造假,將不具統計顯著性的結果包裝成顯著發現,加劇了學術造假問題。
期刊應如何應對生成式AI帶來的學術誠信危機?
期刊應捨棄雲端託管的商業AI篩檢工具,改為在內部建置具備開源權重模型的獨立運算流程。同時,應引進自動化文獻檢驗系統,在手稿進入同儕審查前建立數位防線,並加強對AI技術的認知,以確保論文評審的公平性。