媒體稱應(yīng)加強人工智能倫理治理 防范以假亂真

近期由人工智能研究公司OpenAI推出全新的生成式人工智能模型Sora成為全球關(guān)注熱點。

Sora能將文字、圖像、音頻等信息轉(zhuǎn)化為逼真的視頻，再一次改變了人類對于AI的認知。雖然這一技術(shù)未來可能會對某些行業(yè)產(chǎn)生顛覆式影響，但是人們也必須看到其可能帶來的潛在危險。

近日，經(jīng)濟日報就以“加強人工智能倫理治理”為題，提出了對人工智能倫理的看法。

經(jīng)濟日報在文章中表示，從人工智能技術(shù)驅(qū)動的自然語言處理工具ChatGPT到如今的Sora，從自動生成文字、圖片，再到自動生成視頻，人們驚嘆人工智能突破性進展，同時也伴隨著質(zhì)疑和擔憂，特別是背后的倫理挑戰(zhàn)。

Sora生成的視頻可以以假亂真。這是一把雙刃劍，一方面可以用于藝術(shù)創(chuàng)作；另一方面也可能被濫用于造假、欺騙，甚至顛覆人們對現(xiàn)實的認知。

Sora的出現(xiàn)意味著人工智能技術(shù)已經(jīng)發(fā)展到一個新的高度，同時也對人工智能技術(shù)的監(jiān)管能力提出挑戰(zhàn)。如果不能有效地管控Sora等技術(shù)，可能會出現(xiàn)無法預(yù)料的后果。如今，多個國家和地區(qū)都發(fā)布了相關(guān)的人工智能倫理規(guī)范，而微軟等大型科技公司也發(fā)布了相關(guān)規(guī)范。

不過由于人工智能技術(shù)日新月異，倫理規(guī)范和監(jiān)管制度難免存在滯后性。加之倫理問題的復(fù)雜性，各個國家和地區(qū)規(guī)范存在差異，許多規(guī)定過于原則性，缺乏可操作性，難以有效落地實施。

因此，完善細化相關(guān)倫理規(guī)范，加強審查和監(jiān)管，以及相關(guān)倫理教育和宣傳，更顯迫切。只有正視Sora帶來的倫理挑戰(zhàn)，并加強倫理治理，才能確保人工智能技術(shù)造福人類，而不是成為威脅。