近日，虎牙直播首創(chuàng)直播實(shí)時(shí)消音系統(tǒng)上線并已在其平臺(tái)應(yīng)用，該系統(tǒng)為直播場(chǎng)景中先審后發(fā)的“事前防控”提供全面的監(jiān)管能力。

　　據(jù)悉，目前主流的內(nèi)容安全審核方法是AI+人工審查，這是一種“事后審查”的處理方式。而虎牙開(kāi)發(fā)的這套系統(tǒng)是一種先審后發(fā)的技術(shù)，基于虎牙自研的音頻算法以及多媒體加工平臺(tái)leaf，可以在不增加直播延時(shí)的條件下，對(duì)直播過(guò)程中的違規(guī)音頻進(jìn)行實(shí)時(shí)消音，有效降低甚至完全阻斷風(fēng)險(xiǎn)內(nèi)容的傳播，實(shí)現(xiàn)實(shí)時(shí)屏蔽、先審后發(fā)。“針對(duì)AI能力在內(nèi)容風(fēng)控上的場(chǎng)景應(yīng)用，我們優(yōu)先選擇了人工審核難度高、效率慢的直播音頻場(chǎng)景上進(jìn)行應(yīng)用，下一步，我們將在直播視頻場(chǎng)景中做出嘗試。”虎牙風(fēng)控團(tuán)隊(duì)負(fù)責(zé)人表示。

　　為了在直播場(chǎng)景內(nèi)做到無(wú)延時(shí)，虎牙多巴胺AI技術(shù)團(tuán)隊(duì)對(duì)語(yǔ)音識(shí)別模型以及解碼模塊進(jìn)行了大量?jī)?yōu)化，對(duì)每個(gè)語(yǔ)音片段的解碼能夠達(dá)到穩(wěn)定一致的識(shí)別時(shí)間。“這很重要，因?yàn)橐纛l片段解碼時(shí)間的大幅波動(dòng)，會(huì)導(dǎo)致違規(guī)音頻漏出。在普通的2.1G主頻CPU上，我們的實(shí)時(shí)率達(dá)到0.08，相當(dāng)于1s音頻只需要80ms就能識(shí)別出來(lái)”，虎牙AI消音技術(shù)負(fù)責(zé)人表示。

　　直播場(chǎng)景的復(fù)雜性較一般的語(yǔ)音識(shí)別場(chǎng)景要大，而復(fù)雜場(chǎng)景的識(shí)別準(zhǔn)確率一直是業(yè)界難點(diǎn)?！皽?zhǔn)確率低會(huì)造成直播的大面積誤消音，使用戶的體驗(yàn)感降低，召回率低會(huì)導(dǎo)致漏出違規(guī)語(yǔ)音，為了得到高召回、高準(zhǔn)確率的目標(biāo)，虎牙多巴胺團(tuán)隊(duì)開(kāi)發(fā)了基于直播場(chǎng)景的VAD算法、語(yǔ)音識(shí)別算法、后處理算法，同時(shí)收集了大量復(fù)雜場(chǎng)景的樣本，進(jìn)行算法迭代優(yōu)化，使得我們?cè)谥辈ミ@種復(fù)雜場(chǎng)景下，也有較高的識(shí)別準(zhǔn)確率以及召回率。另一方面，AI模型的優(yōu)化仍然依賴(lài)樣本校準(zhǔn)工作，這是大量的、系統(tǒng)性、長(zhǎng)期且細(xì)致的?！鄙鲜鲐?fù)責(zé)人表示。

　　國(guó)家互聯(lián)網(wǎng)信息辦公室部署開(kāi)展2022年“清朗”系列專(zhuān)項(xiàng)行動(dòng)時(shí)指出，此次行動(dòng)重點(diǎn)針對(duì)網(wǎng)絡(luò)直播、信息內(nèi)容亂象、網(wǎng)絡(luò)謠言、未成年網(wǎng)絡(luò)環(huán)境等10個(gè)方面。對(duì)每一家互聯(lián)網(wǎng)內(nèi)容平臺(tái)來(lái)說(shuō)，確保平臺(tái)內(nèi)容的合法性和規(guī)范性，健全平臺(tái)內(nèi)容審核機(jī)制成為必須重視的問(wèn)題。

　　資料顯示，虎牙于2015年開(kāi)始研發(fā)的“天眼”AI引擎，將人工智能、計(jì)算機(jī)視覺(jué)等前沿技術(shù)成果與互聯(lián)網(wǎng)內(nèi)容安全相結(jié)合。該系統(tǒng)可針對(duì)不同場(chǎng)景賦能AI能力，實(shí)現(xiàn)智能識(shí)別(包含音視頻、圖像、文本)和業(yè)務(wù)風(fēng)控的落地創(chuàng)新，讓傳統(tǒng)的內(nèi)容安全工作更高效、更節(jié)省成本，并實(shí)現(xiàn)自動(dòng)化風(fēng)險(xiǎn)預(yù)判。此外，“虎牙天眼內(nèi)容安全SaaS解決方案”目前已于亞馬遜云上線，實(shí)現(xiàn)了對(duì)網(wǎng)絡(luò)視聽(tīng)行業(yè)的賦能。

　　虎牙直播內(nèi)容風(fēng)控負(fù)責(zé)人表示，平臺(tái)一直深入推進(jìn)內(nèi)容安全保障工作，采用“AI智能識(shí)別、人工審核和網(wǎng)絡(luò)志愿者”三位一體模式。天眼實(shí)時(shí)消音系統(tǒng)是平臺(tái)AI安全應(yīng)用的一次擴(kuò)容，平臺(tái)將打造全方位安全攻防和更精準(zhǔn)的內(nèi)容審核體系，為健康的網(wǎng)絡(luò)直播內(nèi)容生態(tài)建設(shè)提供參考樣本和前沿解決方案。