科技界領袖:警惕「殺手機器人」的出現


在機器人和人工智慧技術發展迅速的背景下,業界領袖呼籲加強監管,以避免出現「不穩定效應」。他們警告,有關技術可能是一個「潘多拉的盒子」。

人工智慧(AI)和機器人技術產業的一百多名領導人物週一聯名簽署一封公開信,提醒公眾,戰爭領域的"第三次革命"正在悄然發生。

所謂"自主武器"(autonomous weapon)是聯合國常規武器大會討論的議題之一。原定於本週一舉行的會議因故被推遲。

公開信稱:"科技企業開發的人工智慧和機器人技術,有可能被改造用於製造自主武器,我們尤其感到有責任提出警告。"

公開信的簽署人包括SpaceX的CEO埃隆•馬斯克(Elon Musk)以及谷歌DeepMind創始人之一、現負責DeepMind應用人工智慧(applied AI)的穆斯塔法•蘇萊曼(Mustafa Suleyman)。

信中呼籲聯合國加大努力,尋找防止自主武器軍備競賽的途徑,以保護無辜平民不受到此類武器濫用的傷害,避免有關技術引發的"不穩定效應"。

潘多拉的盒子

這並不是業界領袖第一次就所謂"致命性自主武器系統"(Lethal Autonomous Weapon Systems)的災難性後果提出警告。2015年,一千多名知名科學家就曾對這種"殺手機器人"提出警告。

著名物理學家霍金(Stephen Hawking)將人工智慧稱為人類犯下的"最糟糕的錯誤",而馬斯克則稱之為目前可以想像的對人類生存的最大威脅。

"它可能成為恐怖主義的武器、被獨裁者和恐怖分子掌握在手中,加害無辜民眾,它也可能被惡意操控,做出違反人們初衷的舉動。"公開信寫道:"現在我們還有時間採取行動,一旦潘多拉的盒子被打開,就很難再關上。"

德國之聲中文網
激賞明鏡 1
激賞明鏡 2
比特幣激賞明鏡

3KAXCTLxmWrMSjsP3TereGszxKeLavNtD2
激賞操作及常見問題排除
訂閱明鏡家族電視台

留言