大型游戲創(chuàng)作平臺(tái)《羅布樂(lè)思》已經(jīng)使用機(jī)器學(xué)習(xí) AI 進(jìn)行語(yǔ)音聊天審核長(zhǎng)達(dá)一年，由于該游戲有著大量的兒童用戶(hù)，公司非常重視審核。在近日舉辦的 GDC  2024 年游戲開(kāi)發(fā)者大會(huì)期間，羅布樂(lè)思公司高級(jí)技術(shù)總監(jiān) Kiran Bhat 和語(yǔ)音安全負(fù)責(zé)人 Hannes Heikinheimo 透露雖然 AI 審核取得了良好的效果，但有時(shí)候真正的人類(lèi)還是能把這項(xiàng)工作做的更好。

Bhat 在演講中說(shuō)道：“實(shí)時(shí)監(jiān)控語(yǔ)音聽(tīng)起來(lái)很難，因?yàn)橐O(jiān)控語(yǔ)音，你不僅要知道對(duì)方在說(shuō)什么，還要捕捉對(duì)方說(shuō)話的語(yǔ)氣和強(qiáng)度，以判斷某段話是否真的具有惡意?！?

“上下文也是判斷某段話是否具有冒犯性的一部分。所以這是一個(gè)非常困難的問(wèn)題。”

他繼續(xù)解釋道，公司通過(guò)將違規(guī)內(nèi)容涵蓋到 4 個(gè)主要類(lèi)別當(dāng)中來(lái)應(yīng)對(duì)這些問(wèn)題，并表示 85% 的違規(guī)內(nèi)容都屬于這些分類(lèi)，而且“絕大多數(shù)”都可以通過(guò) 50 個(gè)關(guān)鍵詞來(lái)捕獲。他表示：“如果你已經(jīng)涵蓋這些類(lèi)別的前 50 個(gè)關(guān)鍵詞，那么已經(jīng)做的很不錯(cuò)了?！?

語(yǔ)音安全負(fù)責(zé)人 Heikinheimo 聲稱(chēng) AI 監(jiān)管取得了令人印象深刻的成果：在運(yùn)行一年后，該系統(tǒng)已覆蓋 31 個(gè)國(guó)家地區(qū)，并且每段“活躍聊天時(shí)間”的違規(guī)舉報(bào)數(shù)量減少了一半。使用 AI 的一個(gè)優(yōu)勢(shì)是他們沒(méi)有情感且不會(huì)疲憊，因此在“非常明顯的違規(guī)情況下，機(jī)器比人類(lèi)更有效、更穩(wěn)定”。但是，道高一尺魔高一丈，想要真正理解意圖和進(jìn)行判斷，他認(rèn)為“人類(lèi)仍然強(qiáng)過(guò)機(jī)器”。

Heikinheimo 說(shuō)道：“在那些可能非常接近判定邊緣的東西上，人類(lèi)仍然表現(xiàn)更好?；蛘咴诜浅：币?jiàn)的情況下，我們沒(méi)有那么多數(shù)據(jù)供機(jī)器學(xué)習(xí)系統(tǒng)訓(xùn)練。所以在這些情況下，人類(lèi)仍然表現(xiàn)更好?！?