羅布樂思AI聊天審核效果不錯 但沒法替代真人

大型游戲創(chuàng)作平臺《羅布樂思》已經(jīng)使用機(jī)器學(xué)習(xí) AI 進(jìn)行語音聊天審核長達(dá)一年，由于該游戲有著大量的兒童用戶，公司非常重視審核。在近日舉辦的 GDC  2024 年游戲開發(fā)者大會期間，羅布樂思公司高級技術(shù)總監(jiān) Kiran Bhat 和語音安全負(fù)責(zé)人 Hannes Heikinheimo 透露雖然 AI 審核取得了良好的效果，但有時候真正的人類還是能把這項(xiàng)工作做的更好。

Bhat 在演講中說道：“實(shí)時監(jiān)控語音聽起來很難，因?yàn)橐O(jiān)控語音，你不僅要知道對方在說什么，還要捕捉對方說話的語氣和強(qiáng)度，以判斷某段話是否真的具有惡意?！?

“上下文也是判斷某段話是否具有冒犯性的一部分。所以這是一個非常困難的問題?！?

他繼續(xù)解釋道，公司通過將違規(guī)內(nèi)容涵蓋到 4 個主要類別當(dāng)中來應(yīng)對這些問題，并表示 85% 的違規(guī)內(nèi)容都屬于這些分類，而且“絕大多數(shù)”都可以通過 50 個關(guān)鍵詞來捕獲。他表示：“如果你已經(jīng)涵蓋這些類別的前 50 個關(guān)鍵詞，那么已經(jīng)做的很不錯了?！?

語音安全負(fù)責(zé)人 Heikinheimo 聲稱 AI 監(jiān)管取得了令人印象深刻的成果：在運(yùn)行一年后，該系統(tǒng)已覆蓋 31 個國家地區(qū)，并且每段“活躍聊天時間”的違規(guī)舉報(bào)數(shù)量減少了一半。使用 AI 的一個優(yōu)勢是他們沒有情感且不會疲憊，因此在“非常明顯的違規(guī)情況下，機(jī)器比人類更有效、更穩(wěn)定”。但是，道高一尺魔高一丈，想要真正理解意圖和進(jìn)行判斷，他認(rèn)為“人類仍然強(qiáng)過機(jī)器”。

Heikinheimo 說道：“在那些可能非常接近判定邊緣的東西上，人類仍然表現(xiàn)更好?；蛘咴诜浅：币姷那闆r下，我們沒有那么多數(shù)據(jù)供機(jī)器學(xué)習(xí)系統(tǒng)訓(xùn)練。所以在這些情況下，人類仍然表現(xiàn)更好?！?