在世界上占主導地位的科技企業支持下，這幾年人工智慧技術進展非常快速，面對充滿人工智慧的世界，美國著名科幻小說家，同時也是生化教授 Isaac Asimov，1950 年時即在其著作《我，機器人》中定出機器人三律，後來還成為機械倫理學基礎。近期美國科學家 Steve Omohundro 在一份論文中提出六種邪惡的人工智慧系統，針對此，以史蒂芬霍金為首的科學家也發出警告，認為這問題的確值得擔憂。
Steve Omohundro 的論文題出一個假想畫面，一個機器人被指派運送 Amazon 商品，想當然他的腦袋裡會被植入一個系統可以處理周遭環境的阻礙，如果你試著阻止他，機器人會把你當成障礙，甚至把你處理掉。史蒂芬霍金認為，近期人工智慧雖然離科幻電影裡面的樣子還很遠，但隨著技術進展快速，人工智慧導致人類毀滅的可能性確實該被提出來討論。
史蒂芬霍金在英國媒體 The Independent 表示，Google 的自動駕駛汽車，IBM 的華生電腦贏得益智節目冠軍，蘋果的數位個人助理 Siri 等等，只是龐 IT 軍備競賽成果當中的鳳毛麟角。但是霍金指出，這些龐大投資產出的成就，絕對不包含這些技術會為接下來數十年的人類社會帶來甚麼危害。
霍金認為，人工智慧很有可能是人類最偉大的發明，但前提是，人類必須先知道避免風險的方式才有權力享有他們。然而，目前我們只知道這些技術智勝財務金融市場，比人類研究員更聰明，擺脫人類領袖的操縱，且能夠發展我們無法理解的武器。霍金指出，人工智慧短期的衝擊來自於控制他們的人，但長期來看，這些機器人能否被控制住才是個大問題。
科學家 Steve Omohundro 提出阻止邪惡人工智慧的方式，即第一時間就避免傷害性的人工智慧系統被製造出來，在寫程式的時候避免使用帶傷害性字眼的指令。此外，在邪惡的人工智慧還沒取得太多資源之前，提前偵測並立即關機，這一步驟只是要開發者注意這些自主性的系統，他你發現這系統不好的時候就趕快關機。若太晚發現，邪惡的人工智慧可能會給人類帶來一場噩夢。
看完科學家的擔憂有沒有讓你感到一點毛骨悚然呢?
