熱門平臺被上海網(wǎng)信辦點名治理 AI濫用一鍵脫衣違規(guī)信息

不談造福人類，AI濫用已經(jīng)難堪，今日早間，上海網(wǎng)信辦發(fā)布了深入開展“清朗·整治AI技術(shù)濫用”專項行動第一階段工作的成果。

據(jù)了解，在強化合規(guī)，全面清理整治違規(guī)AI產(chǎn)品和信息方面。

上海市委網(wǎng)信辦指導(dǎo)小紅書、嗶哩嗶哩、拼多多等15家重點網(wǎng)站平臺，集中清理“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯、未備案等違規(guī)AI產(chǎn)品、商品及相關(guān)營銷、炒作、推廣、教程信息。

小紅書、嗶哩嗶哩主動發(fā)布專項行動治理公告，開通了有害AI內(nèi)容的舉報受理處置渠道；星野開展智能體全面排查清理。

各重點網(wǎng)站和AI平臺共攔截清理相關(guān)違法違規(guī)信息82萬余條，處置違規(guī)賬號1400余個，下線違規(guī)智能體2700余個。經(jīng)整治，網(wǎng)絡(luò)違規(guī)AI信息顯著減少。

此外，圍繞“制作-傳播”環(huán)節(jié)，通過政策指導(dǎo)、生態(tài)協(xié)同與技術(shù)落地，稀宇科技、階躍星辰、通義、小紅書、嗶哩嗶哩、Soul等已基本完成顯式標識規(guī)范上線，加快開發(fā)上線隱式標識和傳播鏈互認驗證，小紅書牽頭編制圖片模態(tài)元數(shù)據(jù)標識實踐指南，上海標識工作取得階段性成效。