在今年5月的一個(gè)上午，一名戴著假胡子的11歲男孩試圖用偽裝“欺騙”羅布樂思（Roblox）的年齡估算系統(tǒng)，讓它誤以為自己更年長。然而，幾秒鐘后，這套系統(tǒng)便將他的年齡范圍判定在9至12歲之間，證明這家游戲平臺(tái)正在推進(jìn)的新一輪年齡核驗(yàn)措施難以輕易被繞過。

這場(chǎng)由羅布樂思在總部安排的演示，是該公司向媒體展示其最新生物識(shí)別年齡檢測(cè)工具的一部分。自今年起，這套工具在全球范圍內(nèi)上線，并從本月開始被用來將未成年用戶劃分到不同的年齡分級(jí)賬號(hào)中。公司希望借此回應(yīng)外界長期以來對(duì)平臺(tái)兒童安全的質(zhì)疑，并向用戶、家長以及投資者證明其正在采取更強(qiáng)力措施，確保未成年用戶在相對(duì)“適齡”的虛擬環(huán)境中活動(dòng)。

羅布樂思自2006年上線以來，已成長為全球最大、以兒童為主的社交游戲平臺(tái)，平臺(tái)上的虛擬世界由用戶自行創(chuàng)作，官方稱之為“體驗(yàn)”（experiences）。近年來，隨著多起案件與州政府訴訟指控平臺(tái)為“兒童掠奪者的狩獵場(chǎng)”，羅布樂思對(duì)平臺(tái)內(nèi)用戶之間的交流方式進(jìn)行了更嚴(yán)格的整頓。

在最新一輪調(diào)整中，公司正式推出面向未成年人的分級(jí)賬號(hào)體系。5至8歲的用戶將被歸入“Roblox Kids”賬號(hào)，這類賬號(hào)默認(rèn)關(guān)閉所有消息功能，且僅能游玩被標(biāo)記為“極少”或“輕微”內(nèi)容成熟度的游戲。9至15歲用戶則進(jìn)入“Roblox Select”賬號(hào)，平臺(tái)會(huì)逐步開放更多聊天功能，并允許他們接觸內(nèi)容成熟度最高至“中等”的游戲。16歲及以上用戶在一般情況下可訪問平臺(tái)完整的游戲庫與聊天功能。

這一分級(jí)系統(tǒng)建立在羅布樂思此前上線的規(guī)則基礎(chǔ)之上——平臺(tái)已經(jīng)要求所有用戶要么提交政府簽發(fā)的身份證件驗(yàn)證年齡，要么通過生物識(shí)別年齡檢測(cè)，方可使用聊天功能。系統(tǒng)會(huì)自動(dòng)估算用戶年齡，并允許他們只與年齡區(qū)間相近的用戶互相聊天。官方稱，這是在“自報(bào)生日”的舊時(shí)代之后，為未成年人安全所邁出的關(guān)鍵一步。

然而，安全措施的強(qiáng)化對(duì)平臺(tái)的商業(yè)表現(xiàn)帶來了直接沖擊。羅布樂思的日活躍用戶數(shù)已從去年第三季度約1.52億人下降到今年第一季度的1.32億人，市場(chǎng)隨之作出反應(yīng)，公司股價(jià)曾在一個(gè)交易日內(nèi)下跌18%。不少玩家在網(wǎng)上抱怨稱，他們的體驗(yàn)被“鎖定聊天”“AI生成聊天摘要”“新增的游戲年齡門檻”等因素嚴(yán)重削弱。

羅布樂思安全產(chǎn)品政策副總裁伊莉莎·雅各布斯（Eliza Jacobs）在公司位于圣馬特奧的總部接受采訪時(shí)表示，公司將這些調(diào)整視為“對(duì)羅布樂思長期愿景的一項(xiàng)投資”。她承認(rèn)，新規(guī)在短期內(nèi)會(huì)引發(fā)社區(qū)不滿與震蕩，但認(rèn)為在過渡期內(nèi)堅(jiān)持推進(jìn)是必要的。“不是所有人都會(huì)一直滿意，”她說，“社區(qū)對(duì)羅布樂思的感情很深，把平臺(tái)當(dāng)成自己的空間，因此當(dāng)我們引入對(duì)他們?cè)斐蓻_擊的改變時(shí)，我完全理解他們的情緒?！?/p>

羅布樂思目前面臨的法律壓力同樣不斷加劇。至少有9個(gè)美國州因兒童安全問題起訴這家公司，另有3個(gè)州選擇通過與羅布樂思達(dá)成和解，替代訴訟程序。超過150個(gè)家庭也以個(gè)別案件起訴羅布樂思，指控平臺(tái)未能阻止兒童在平臺(tái)上被誘騙或遭到性侵等行為，這些訴訟已在加州北區(qū)聯(lián)邦地區(qū)法院被合并為多地區(qū)聯(lián)合訴訟案件。

對(duì)于批評(píng)，羅布樂思在一份書面聲明中強(qiáng)調(diào)，公司“深切致力于為社區(qū)營造安全、健康且符合年齡的環(huán)境”。聲明稱，外界對(duì)平臺(tái)的指控“根本性地誤解了羅布樂思的運(yùn)作方式，也忽略了我們?cè)谥鲃?dòng)采取、并正在實(shí)施的大量措施，這些措施旨在為在線安全樹立新的標(biāo)準(zhǔn)”。

不過，羅布樂思的年齡核驗(yàn)方案也引發(fā)了隱私和準(zhǔn)確性方面的爭(zhēng)議。公司稱，其第三方服務(wù)商 Persona 會(huì)在完成年齡估算后立即刪除用戶的生物識(shí)別數(shù)據(jù)，以應(yīng)對(duì)用戶對(duì)隱私泄露的擔(dān)憂。與此同時(shí)，部分用戶仍在討論系統(tǒng)判定不準(zhǔn)確或被玩家找到繞過方式的問題。

在更廣闊的互聯(lián)網(wǎng)領(lǐng)域，年齡估算工具正日益得到采納。隨著社交平臺(tái)因未能保護(hù)兒童而遭到抨擊，各類年齡驗(yàn)證措施遍地開花。但數(shù)字權(quán)利和言論自由倡導(dǎo)者則警告，這類技術(shù)可能反過來制造新的安全與隱私風(fēng)險(xiǎn)，尤其是在數(shù)據(jù)如何存儲(chǔ)與使用方面。

雅各布斯介紹說，羅布樂思使用的人工智能技術(shù)會(huì)根據(jù)用戶面部結(jié)構(gòu)估算年齡，一般可以在兒童真實(shí)年齡上下1.4歲以內(nèi)浮動(dòng)。在她看來，與通過下拉列表選擇生日相比，這種方式要準(zhǔn)確得多?！肮催x一個(gè)框告訴系統(tǒng)你已滿13歲，這樣的做法已經(jīng)不夠了，”她說，并表示公司認(rèn)為“自報(bào)年齡時(shí)代已經(jīng)結(jié)束”。

對(duì)于被系統(tǒng)錯(cuò)誤估算年齡的用戶，羅布樂思設(shè)置了多重申訴渠道。雅各布斯表示，那些被系統(tǒng)判定為比實(shí)際更年輕的用戶，可以提交政府身份證件來更正賬號(hào)中的年齡信息；家長也可以在已綁定的孩子賬號(hào)上手動(dòng)修改年齡。同時(shí)，公司在后臺(tái)運(yùn)行一套“持續(xù)年齡估算”系統(tǒng)，通過用戶的“行為年齡”來檢查賬號(hào)登記年齡是否存在異常。

這套系統(tǒng)會(huì)綜合考量用戶游玩的時(shí)間段、所選擇的游戲類型以及聊天中使用的語言風(fēng)格等信號(hào)——例如，“青春期前后孩子的用語與年長一代截然不同”——從而決定是否提示用戶重新進(jìn)行年齡驗(yàn)證。雅各布斯坦言，“沒有任何系統(tǒng)是完美的，我們也知道有時(shí)會(huì)判斷錯(cuò)誤?！惫鞠Ｍ诩m正錯(cuò)誤與防止用戶濫用之間找到平衡點(diǎn)。

在羅布樂思總部參與演示的一位母親克里斯塔·卡羅爾（Krista Carroll）表示，在數(shù)字時(shí)代養(yǎng)育孩子并監(jiān)控其上網(wǎng)行為令人倍感壓力。她認(rèn)為，企業(yè)的安全防護(hù)措施能在一定程度上緩解家長的負(fù)擔(dān)?！拔液芨吲d看到羅布樂思嚴(yán)肅對(duì)待這個(gè)問題，并設(shè)立更多隱私防護(hù)欄，”她說，“希望更多企業(yè)能以此為樣板，思考怎樣保護(hù)我們的孩子?！?/p>

與此同時(shí)，羅布樂思在打擊有害內(nèi)容的過程中，也與其龐大的開發(fā)者社區(qū)產(chǎn)生了摩擦。平臺(tái)上有超過2.45萬名游戲開發(fā)者，其中許多人只是獨(dú)立愛好者，他們共同打造了數(shù)以千萬計(jì)的用戶自制游戲。這些作品過去幾乎人人都可以隨意發(fā)布，這使得平臺(tái)的內(nèi)容監(jiān)管異常困難。

今年5月，羅布樂思對(duì)開發(fā)者出臺(tái)了新的發(fā)布要求：凡是面向16歲以下玩家開放的游戲，開發(fā)者必須完成身份驗(yàn)證、啟用雙重身份認(rèn)證，并繳納一筆“財(cái)務(wù)押金”。具體而言，開發(fā)者要么購買付費(fèi)訂閱，要么為每款游戲支付一次性1000 Robux（平臺(tái)內(nèi)虛擬貨幣）的發(fā)布費(fèi)用。公司將此視為增加一層過濾機(jī)制，防止惡意用戶大量上傳違規(guī)內(nèi)容游戲。過去，包含色情、暴力或其他被禁內(nèi)容的用戶自制游戲?qū)覍页霈F(xiàn)在平臺(tái)上，且不易被審核人員及時(shí)發(fā)現(xiàn)。

但這一新規(guī)立刻在社區(qū)引發(fā)強(qiáng)烈反彈，許多創(chuàng)作者指責(zé)平臺(tái)抬高了小型開發(fā)者的準(zhǔn)入門檻，讓他們難以承擔(dān)為每款作品付費(fèi)的成本。雅各布斯則回應(yīng)稱，這種財(cái)務(wù)承諾對(duì)于確保開發(fā)者真正在乎平臺(tái)與社區(qū)、并愿意“負(fù)責(zé)任地創(chuàng)作”至關(guān)重要?！拔覀兿Ｍㄟ^合適的‘摩擦’機(jī)制確保，面向數(shù)百萬用戶發(fā)布內(nèi)容的開發(fā)者是有投入、有責(zé)任感的。”她說。

根據(jù)公司介紹，凡是向“Kids”和“Select”賬號(hào)開放的游戲，還必須在上線前接受額外審核。審核過程包括由16歲及以上玩家進(jìn)行實(shí)時(shí)試玩，由平臺(tái)觀察者在現(xiàn)場(chǎng)觀看游戲過程，以便識(shí)別潛在安全隱患或政策違規(guī)內(nèi)容。雅各布斯表示，公司通過全球范圍內(nèi)的“社區(qū)安全委員會(huì)”收集反饋，該委員會(huì)由羅布樂思創(chuàng)作者組成，每月向公司就安全措施提供建議。但她也承認(rèn)，無論公司如何溝通，有些改變注定會(huì)招致爭(zhēng)議。

“我們正在構(gòu)建一套我們真心相信的、面向未來的安全與文明生態(tài)愿景，”雅各布斯說，“如果有人因此不時(shí)感到不滿，我們也能夠接受?！?/p>