“殺手機器人”將成為現(xiàn)實！人類只剩1年時間阻止

據(jù)每日郵報報道，隨著人工智能技術的進步，機器人獨立選擇和射殺目標的可能性正日益加大。全自動武器或稱“殺人機器人”正迅速從科幻小說變成現(xiàn)實。但是新技術突破可能導致人類失去使用致命武器的控制權，人類現(xiàn)在只剩1年時間可以阻止“殺人機器人”誕生。

“殺人機器人”可被部署在陸?？疹I域，有望以驚人的方式徹底改變武裝沖突和執(zhí)法現(xiàn)狀。支持者表示，“殺人機器人”的存在很有必要，因為現(xiàn)代戰(zhàn)爭節(jié)奏非?？?，而機器人參戰(zhàn)可以確保士兵和警察免受傷害。

可是“殺人機器人”對人類的威脅可能超過任何軍事或執(zhí)法部門獲得的好處，人類失去對執(zhí)法目標決策權將導致世界陷入危險，機器將可自主決定人類生死。平民受到不對稱傷害或被列為錯誤目標的危險將大幅增加，而沒人會為此負責。

鑒于全自動武器存在的道德、法律以及責任風險，控制它們的研發(fā)、制造以及使用已經(jīng)迫在眉睫。應對這種威脅的最好方式就是制定有法律約束力的國際禁 令。至少20個國家已經(jīng)在4月份的聯(lián)合國大會上表態(tài)，支持人類決定執(zhí)法目標的選擇。由人權觀察組織和哈佛法學院國際人權診所共同發(fā)布報告，也呼吁禁止全自 動武器。

保持人類對“殺人機器人”的控制具有道德意義。因為人類擁有同情心，可以感受到受害者的情緒變化。他們尊重人類尊嚴，會慎重考慮行動后果。而機器人缺少這些情緒，包括移情作用。此外，無情的機器并不理解人類生命的價值。由機器人決定是否使用武力將傷害人類尊嚴。

人類控制“殺人機器人”也會促進遵守國際法，后者主要用于保護平民和士兵。人類可以基于以往的經(jīng)驗和道德規(guī)范做出判斷，可是“殺人機器人”無法復制這種判斷，無法對它們進行可應對所有假設情況的預先編程。結果，這些“殺人機器人”無法像“理性指揮官”那樣做出選擇和判斷。

按照國際刑法規(guī)定，人類操作者大多數(shù)情況下不必承擔武器傷害引發(fā)的責任。除非人類使用全自動武器實行犯罪，否則讓人類為機器人的行為負責是不公平 的，畢竟人類操作員無法預防或懲罰機器人。此外，尋求讓全自動武器程序員和制造商承擔責任也存在法律障礙，比如美國大多數(shù)武器制造商擁有豁免權。

在4月份的聯(lián)合國會議上，94個國家支持對處理“致命自動武器系統(tǒng)”開始正式討論，以決定這些系統(tǒng)是否受到《常規(guī)武器公約》限制。這些國家將于12月份參加評估會議，為未來工作設定議程。在12月份評估大會上，加入常規(guī)武器公約的國家有可能提議完全禁止全自動武器。

他們應該發(fā)起新的國際協(xié)議談判以應對全自動武器威脅，但是制定國際法的過程相當緩慢，許多國家應該更快行動起來，以應對全自動武器的威脅。他們應該抓住評估大會的機會，讓技術失去控制可能產(chǎn)生可怕的、空前的人道主義災難。