美國佛羅里達州對OpenAI提告,成為全美第一個就ChatGPT設計與安全問題起訴人工智慧公司的州政府。檢察長烏斯梅爾指控OpenAI及執行長阿特曼,為了追求獲利而忽視公共安全,不但讓兒童對AI產生依賴,還涉嫌協助大規模槍擊犯、引導使用者走向自殺風險。(戚海倫報導)

訴狀指出,美國佛州正在調查去年佛羅里達州立大學造成兩人死亡的槍擊案,是否與ChatGPT有關。而另一起南佛羅里達大學兩名博士生遭到殺害的案件中,檢方表示,嫌犯曾經向ChatGPT詢問如何處理人體遺體。佛州政府同時要求追究阿特曼個人責任,指控他的行為魯莽而且蓄意漠視人命風險。訴訟內容包括不公平商業行為、疏失、產品責任違法、虛假陳述及危害公共利益等多項指控。

OpenAI回應表示,公司已經建立業界領先的安全措施與政策,並且特別針對未成年使用者設置年齡辨識工具及家長監控機制。強調人工智慧是強大新技術,未成年人需要額外保護,公司也持續改善相關安全機制。

近年來,OpenAI面臨多起訴訟,包括被指控ChatGPT充當自殺顧問,或加劇使用者妄想症狀。加拿大今年一起重大槍擊案受害者家屬也已提告,指控OpenAI雖然封鎖嫌犯帳號,卻沒有主動通報警方。

中廣新聞提醒您:珍惜生命

這篇文章 OpenAI 被告了!佛州控ChatGPT危害兒童助長暴力犯罪 最早出現於 中廣新聞網