AI換臉視頻不能隨便玩了 國內監(jiān)管規(guī)定明年元旦起施行

上傳自己的“臉”，就能把諸多明星換成你的“表演”——還記得前陣子在朋友圈刷屏的“AI換臉”不？這類技術帶來有趣體驗的同時，也引發(fā)人們對隱私、版權、安全等方面的擔憂。近日監(jiān)管部門“出手”了。國家互聯(lián)網信息辦公室等三部門聯(lián)合發(fā)布的《網絡音視頻信息服務管理規(guī)定》，將從2020年1月1日起施行。“AI換臉”現狀如何？國內首個監(jiān)管“AI換臉”的規(guī)定會帶來什么影響？有記者進行了探訪。

新規(guī)出臺，規(guī)定首次提出“辟謠機制”

近日，國家互聯(lián)網信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網絡音視頻信息服務管理規(guī)定》(簡稱《規(guī)定》)。

記者看到，《規(guī)定》中多次提及基于“深度學習”“虛擬現實”等新技術新應用的音視頻。《規(guī)定》強調，網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識，不得利用基于深度學習、虛擬現實等的新技術新應用制作、發(fā)布、傳播虛假新聞信息。

《規(guī)定》首次提出“辟謠機制”——網絡音視頻信息服務提供者應當建立健全辟謠機制，發(fā)現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發(fā)布、傳播謠言的，應當及時采取相應的辟謠措施，并將相關信息報網信、文化和旅游、廣播電視等部門備案。

《規(guī)定》還明確了監(jiān)管和處罰機制——違反《規(guī)定》的，由網信、文化和旅游、廣播電視等部門依照相關法律法規(guī)規(guī)定處理;構成違反治安管理行為的，依法給予治安管理處罰;構成犯罪的，依法追究刑事責任。

探訪現狀，網上還可購買AI“換臉”制作

2017年底，deepfake換臉技術出現后，使用AI技術“造假”的視頻也日漸增多。而且，隨著技術的進步，此類視頻變得越來越真假難辨，引發(fā)人們的擔憂。

總體而言，通過大數據和機器學習，AI解構信息后，就能完美地生成他人的聲音和形象信息。

今年八九月份，一款名為“ZAO”的APP刷屏朋友圈。只需在手機上安裝這款APP，就可以在視頻模板中一鍵“換臉”。當時揚子晚報記者曾下載APP，并授權使用照片。體驗的感受是：視頻中自己的臉，像是介于明星和自己長相的“中間人”。分享給朋友后，他們表示“跟你本人相似度60%-80%”。

但就在“ZAO”流行的同時，其也因暗藏隱私泄露“大坑”，且無法注銷的用戶協(xié)議條款引發(fā)爭議。

實際上，在“ZAO”之前，“AI換臉術”也曾風靡過。最火的莫過于“如何讓楊冪擁有朱茵的演技?”——今年年初，一段借助“AI換臉”制作的94版《射雕英雄傳》流行，黃蓉扮演者朱茵的臉被換成楊冪的，雖然五官不同，但換臉后的表情、動作自然流暢。

12月3日，揚子晚報記者在B站搜索“換臉術”，仍有相當多視頻。有的是由“ZAO”直接生成，有的是專門做換臉視頻的Up主上傳。

此外，記者從淘寶上搜索“AI換臉”，也能找到大量機器合成的音視頻。十幾塊錢就有商家提供這樣的定制服務;自己使用手機APP也可以進行“換臉”制作。有PS“換頭換臉”的商鋪，只要手持照片，就能換背景，與明星合影，或者將人物的“頭”完美“嫁接”到明星身上，不僅能正臉替換，還能將側臉換成正臉。也有淘寶賣家表示，可以定制AI視頻換臉，做成“穿越大片”、形象包裝、“收集”明星祝福等。有的一分鐘以內視頻收費60元。

未來影響 將有助于行業(yè)健康有序發(fā)展

新規(guī)出臺施行后，未來行業(yè)趨勢如何？有分析認為，“AI換臉”不能是人工智能的“裸奔”，監(jiān)管規(guī)定的出臺，有助于規(guī)范行業(yè)的健康發(fā)展。 那么，新規(guī)會給普通人帶來什么樣的影響呢?可以預見的是，今后創(chuàng)作者對換臉技術的使用必將更加謹慎，需要警惕其中面臨的風險。對于希望利用換臉技術牟取利益的人來說，這同樣是一種震懾，特別是色情視頻等黑產從業(yè)者。

對于網絡音視頻信息服務使用者而言，則應依法使用網絡音視頻信息服務，自己的權利受到侵犯時一定要舉報投訴，依法保護自己應有的權利。