我們需要緊張嗎？十位科技領袖預警人工智能未來

Skype聯(lián)合創(chuàng)始人揚·塔里安的預言

“這一次AI熱潮有著很不一樣的地方。利用AI的邊際進展，你可以很快就大賺一筆。一旦你能夠將排名算法改進1%，那意味著谷歌能夠多賺幾億美元……我想，現(xiàn)在就思考非常具體的AI監(jiān)控機制還為時過早。目前來說，更重要的是在業(yè)界和學術界就什么會引發(fā)寒蟬效應凝聚共識。”

生命未來研究所公開信的預言

生命未來研究所（FLI）的支持者包括摩根·弗里曼（Morgan Freeman）、伊隆·馬斯克、史蒂芬·霍金和麻省理工學院的馬克斯·泰格馬克（Max Tegmark）。“由于AI具有巨大的潛力，研究如何獲得好處同時避免潛在的危險至關重要。”FLI的公開信說道，“我們的AI系統(tǒng)必須要去做我們希望它們去做的事情。” “現(xiàn)在，業(yè)界的廣泛共識是，AI研究在穩(wěn)步前進，它對社會的影響很可能會增加。”該信件寫道，“潛在的益處很大，畢竟人類文明所帶來的一切都是人類智能的產(chǎn)物;我們無法預料當這種智能被AI可能帶來的工具所強化的時候，我們可能會獲得什么，但疾病和貧窮的根除并非不可想象。”

FLI有關自動化武器的公開信的預言

該機構擔心，從輪船到坦克的一切事物都能夠開始獨立思考。FLI成員包括谷歌的AI主管丹米斯·哈撒比斯（Demis Hassabis）和特斯拉CEO伊隆·馬斯克。它警告稱，無需人工干預就能自動選擇和摧毀目標的武器的發(fā)明，可能將會引發(fā)一場新的全球軍備競賽——考慮到現(xiàn)在的AI研究情況，這有可能幾年之內就會發(fā)生。FLI公開信的簽署者指出，“我們認為，AI軍備競賽對于人類不會有好處。我們應該對不在人類實質性控制范圍之內的自動化攻擊武器實施禁令來防止這一切的發(fā)生。”