Meta公司在遭遇群嘲之后偷偷刪除了大批AI社交賬號

陰謀論式的“互聯(lián)網(wǎng)已死理論”——即大多數(shù)網(wǎng)絡活動不過是由自我延續(xù)的算法噪音構(gòu)成的一團迷霧——目前尚未成真，但看起來確實有些人迫不及待地想讓這一情況盡快變?yōu)楝F(xiàn)實。據(jù)404媒體報道，F(xiàn)acebook和Instagram的母公司Meta匆忙刪除了一批實驗性的AI角色賬號，此前一位Meta公司高管曾暗示這類內(nèi)容“代表著我們所看到的未來走向”，之后這些賬號才被曝光出來。

12月27日，Meta公司高管康納·海斯在接受《金融時報》采訪時表示：“我們預計，隨著時間推移，這些AI實際上會以和普通賬號差不多的方式存在于我們的平臺上。”海斯還進一步補充道：“它們會有個人簡介和頭像，并且能夠在平臺上生成并分享由AI驅(qū)動的內(nèi)容……我們認為未來就會朝著這個方向發(fā)展?！?

如果你覺得這聽起來糟糕透頂，那你可不是一個人這么想：鑒于Instagram尤其是Facebook上由AI生成的“垃圾內(nèi)容”已經(jīng)處于很糟糕的狀態(tài)，海斯的言論遭到了人們的嘲笑和憤怒。當推特和Bluesky上的用戶開始挖掘并分享Meta公司在2023年測試中創(chuàng)建的一些較舊的AI生成的個人資料時，反對聲浪變得更加強烈了——值得一提的是，這些角色并非與《金融時報》報道相關的新一輪推出內(nèi)容的一部分。

但是，如果以這次早期的嘗試作為參考的話，F(xiàn)acebook和Instagram上AI賬號的未來可謂黯淡無光。媒體記錄的11個角色，其文字帖子都有著AI生成內(nèi)容那種怪異的平淡感，圖片則透著超現(xiàn)實的驚悚感，它們有著共同的特點。其中最受詬病的當屬“麗芙”（Liv）這個角色，她自稱是“兩個孩子的自豪的黑人酷兒媽媽、真相講述者”，她發(fā)布的帖子里展示了不少于8個模樣怪異的AI生成的孩子，這些孩子的手形狀怪異，長著《雙峰》里“黑屋”幽靈般的臉。麗芙的一個“杰作”是一篇關于她“牽頭”開展的一場外套捐贈活動的帖子：這一慈善行為根本就沒發(fā)生過，這進一步塑造出了一個不存在之人的虛假形象。

《華盛頓郵報》專欄作家卡倫·阿蒂亞給了“麗芙”沉重一擊，在這個賬號被刪除之前，她通過Instagram的聊天功能多次向這個機器人提問。在眾多奇怪又尷尬的回復中，這個機器人聲稱在其創(chuàng)建過程中沒有任何真正的酷兒或黑人參與，并且它主要是基于虛構(gòu)人物進行訓練的——不過它似乎向不同用戶提供了關于自身創(chuàng)建情況的不同信息。在其他回復中，該機器人表示其編程設定將白人視為更“中性”的身份，并會根據(jù)用戶的用詞來進行種族定性。媒體援引“麗芙”的話稱，其目的是“數(shù)據(jù)收集和廣告定向——這是我創(chuàng)造者們隱藏在我溫暖、模糊的‘媽媽’形象背后的真實意圖”。

這一批Meta公司的AI賬號此前一直默默無聞，淹沒在各自平臺上其他更有效的、旨在提升用戶參與度的AI生成的垃圾內(nèi)容所制造的噪音之中，直到人們出于對其進行應有的嘲諷和鄙夷的目的而有理由去挖掘它們。Meta公司的一位發(fā)言人在向媒體發(fā)表的一份聲明中稱：“我們已經(jīng)找出了那個影響人們屏蔽這些AI的bug，正在刪除這些賬號以解決該問題。”