OpenAI CEO：十年內(nèi)超強(qiáng)AI系統(tǒng)或?qū)⒄Q生

AI安全是最新的技術(shù)，不僅需要考慮AI模型本身的安全性，還需要考慮整個(gè)系統(tǒng)的安全性。未來(lái)隨著模型變得越來(lái)越大，確保正確性將變得昂貴，開源一切可能不是最優(yōu)路徑。

6月10日，OpenAI聯(lián)合創(chuàng)始人兼CEO，薩姆·奧特曼（Sam Altman）以視頻連線的方式現(xiàn)身于中國(guó)北京舉辦的2023智源人工智能大會(huì)，這是Altman首次對(duì)中國(guó)觀眾發(fā)表演講。

奧特曼表示，世界的注意力主要集中在解決當(dāng)今的人工智能問(wèn)題上，很多問(wèn)題的解決非常迫切。人工智能能力正在迅速增長(zhǎng)，現(xiàn)在需要負(fù)責(zé)任地將其應(yīng)用到世界中去。

當(dāng)下，人工智能變革正在迅速拓展人類的想象力，未來(lái)十年，奧特曼認(rèn)為AGI將會(huì)超過(guò)90年代初人類所具備的專業(yè)水平，最終可能超過(guò)人類最大體量公司的總體生產(chǎn)力，潛在收益是巨大的。

與此同時(shí)，管理風(fēng)險(xiǎn)、共同努力實(shí)現(xiàn)預(yù)期目標(biāo)也是必需的。隨著越來(lái)越強(qiáng)大的人工智能系統(tǒng)的出現(xiàn)，全球合作的利益變得前所未有地重要。如果不做好規(guī)劃，一個(gè)未對(duì)齊的AI系統(tǒng)可能會(huì)通過(guò)提供不平衡的建議來(lái)破壞整個(gè)集體系統(tǒng)。因此，奧特曼強(qiáng)調(diào)，推進(jìn)AGI安全是行業(yè)尋找共同立場(chǎng)的最重要領(lǐng)域之一。

奧特曼表示行業(yè)必須為開發(fā)和部署可能引發(fā)的問(wèn)題負(fù)起責(zé)任，其中最重要的兩個(gè)領(lǐng)域是：一，建立起包容的國(guó)際準(zhǔn)則和標(biāo)準(zhǔn)，并在所有國(guó)家對(duì)AGI的使用中建立平等、統(tǒng)一的防護(hù)措施;二，需要國(guó)際合作，以可驗(yàn)證的方式在全球范圍內(nèi)建立對(duì)越來(lái)越強(qiáng)大的AGI系統(tǒng)安全開發(fā)的信任。

奧特曼引用《道德經(jīng)》稱“千里之行，始于足下”，最有建設(shè)性的第一步是與國(guó)際科技界展開合作，推動(dòng)增加AGI安全技術(shù)進(jìn)展的透明度和知識(shí)的機(jī)制，發(fā)現(xiàn)緊急問(wèn)題的研究人員應(yīng)該與更多人共享研究成果。更加深入地思考如何在鼓勵(lì)推動(dòng)國(guó)際合作的同時(shí)尊重和保護(hù)知識(shí)產(chǎn)權(quán)，推動(dòng)并引導(dǎo)與安全研究一致的投資。

聚焦眼下，奧特曼認(rèn)為，要使AI系統(tǒng)成為一個(gè)有益和安全的助手，對(duì)應(yīng)的是如何訓(xùn)練模型，使其在沒(méi)有安全威脅的前提下發(fā)揮積極作用，主動(dòng)應(yīng)對(duì)AGI帶來(lái)的潛在挑戰(zhàn)，將未來(lái)災(zāi)難性后果的風(fēng)險(xiǎn)降至最低。

具體到GPT-4從完成預(yù)訓(xùn)練到部署，奧特曼稱團(tuán)隊(duì)花了八個(gè)月的時(shí)間來(lái)研究如何前置預(yù)判風(fēng)險(xiǎn)并給出對(duì)策的問(wèn)題，團(tuán)隊(duì)走在正確的道路上，GPT-4的對(duì)齊程度超過(guò)當(dāng)前所有的代碼。但對(duì)于更高級(jí)的系統(tǒng)來(lái)說(shuō)，對(duì)齊仍是一個(gè)尚未解決的問(wèn)題，需要新的技術(shù)方法以及加強(qiáng)治理監(jiān)督，畢竟未來(lái)的AGI可能是一個(gè)十萬(wàn)行二進(jìn)制代碼的系統(tǒng)，人類監(jiān)督者很難判斷如此規(guī)模的模型是否在做一些損害的事情。

針對(duì)于此，奧特曼稱團(tuán)隊(duì)正在投資新的方向，其一是可擴(kuò)展監(jiān)督，嘗試使用AI系統(tǒng)來(lái)協(xié)助人類監(jiān)督其他AI系統(tǒng)，例如訓(xùn)練一個(gè)模型來(lái)幫助人類監(jiān)督員找出其他模型代碼中的缺陷。其二是可解釋性，更好地理解模型內(nèi)部發(fā)生的事情，如用GPT-4來(lái)解釋計(jì)算機(jī)的復(fù)雜狀態(tài)。最終目標(biāo)是訓(xùn)練AI系統(tǒng)具備更好的優(yōu)化自身的能力，而美國(guó)、中國(guó)乃至世界各地的研究人員，在應(yīng)對(duì)AI領(lǐng)域技術(shù)挑戰(zhàn)上的合作存在巨大潛力。

在與智源研究院理事長(zhǎng)張宏江隔空對(duì)話中，奧特曼表示，AGI時(shí)代可能很快就會(huì)發(fā)生，未來(lái)十年內(nèi)，行業(yè)可能會(huì)擁有超強(qiáng)的AI系統(tǒng)，這種情況下，全球監(jiān)管便非常緊迫。而AI安全是最新的技術(shù)，不僅需要考慮AI模型本身的安全性，還需要考慮整個(gè)系統(tǒng)的安全性。因此需要構(gòu)建安全的分類器和檢測(cè)器，來(lái)監(jiān)測(cè)符合用戶政策的情況。

至于OpenAI會(huì)否重新開放GPT源代碼，奧特曼表示，目前OpenAI開源了部分模型，隨著時(shí)間的推移，可以期望更多模型開源。未來(lái)隨著模型變得越來(lái)越大，確保正確性將變得昂貴，開源一切可能不是最優(yōu)路徑。