近日,中國信息通信研究院、內(nèi)容科技產(chǎn)業(yè)推進方陣發(fā)布2022內(nèi)容審核服務(wù)系統(tǒng)評測結(jié)果,騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)在文本、圖像、音頻、視頻四大類型的16項場景評測中均為滿分,斬獲“全五星”最高評級。
(相關(guān)資料圖)
本次內(nèi)容審核服務(wù)系統(tǒng)評測基于《網(wǎng)絡(luò)治理能力評估規(guī)范:第2部分-有害信息內(nèi)容識別服務(wù)系統(tǒng)》,從內(nèi)容識別系統(tǒng)的圖像、文本、音頻、視頻的智能識別基礎(chǔ)功能、性能兩個維度對產(chǎn)品進行評測,并根據(jù)性能測試結(jié)果評定星級。其中,5星是本次評測的最高能力標(biāo)準(zhǔn)。
獲得五星認(rèn)證的難度相較往年有所提升。本次測評中增加了變體測試和對抗測試,同時測評樣本來源也進行更新,極短音頻、邊緣圖片等復(fù)雜場景增加,這對參與測評系統(tǒng)的內(nèi)容識別精準(zhǔn)性、識別策略靈活性也提出了更高的要求。騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)在四大核心測評場景中均取得五星成績,足見其在內(nèi)容安全領(lǐng)域的能力優(yōu)勢。
騰訊安全天御內(nèi)容風(fēng)控解決方案依托騰訊20多年黑灰產(chǎn)攻防經(jīng)驗,以人工智能為核心,通過風(fēng)控策略的靈活調(diào)度,打造覆蓋圖片、文本、音頻、視頻全內(nèi)容形態(tài)的AI智能內(nèi)容風(fēng)控服務(wù),為網(wǎng)絡(luò)空間清朗保駕護航。
在內(nèi)容識別樣本維度,騰訊在多年產(chǎn)品運營過程中積累了萬億級違規(guī)樣本,覆蓋各個行業(yè)的數(shù)百種違規(guī)類型,并實時跟進監(jiān)管要求,能夠高效識別過濾涉黃、涉恐等違規(guī)內(nèi)容;在底層算法維度,騰訊安全天御內(nèi)容風(fēng)控融合了數(shù)十種算法技術(shù)構(gòu)建綜合識別模型體系,避免單一模型誤判,使機器審核識別準(zhǔn)確率高達95%以上。
此外,隨著風(fēng)控標(biāo)準(zhǔn)和內(nèi)容對抗形態(tài)升級,騰訊安全天御內(nèi)容風(fēng)控體系也緊跟企業(yè)需求迭代升級,配合精細化標(biāo)簽體系,并支持靈活的策略配置以適配不同的應(yīng)用場景。
針對越來越多“語音轉(zhuǎn)文字”的社交場景,如IM聊天消息、多人語音通話、語音聊天室等,天御內(nèi)容風(fēng)控體系在精準(zhǔn)識別低俗語音等違規(guī)內(nèi)容同時,還可借助語音識別(ASR)引擎,轉(zhuǎn)譯語音內(nèi)容,通過文本內(nèi)容風(fēng)控系統(tǒng),幫助用戶進一步處理社交場景中產(chǎn)生的音頻數(shù)據(jù)。
隨著各內(nèi)容平臺多元功能和用戶屬性的演變,內(nèi)容風(fēng)控還涉及不同語種場景的分類檢測。目前,天御音頻審核系統(tǒng)在常見的普通話、英語外,還支持粵語、蒙語、藏語、維語、日語、韓語等小語種及方言的語音內(nèi)容識別,大大提升了音頻審核覆蓋的廣度和深度,可有效應(yīng)對新型對抗變異的內(nèi)容形態(tài)。
資源交易、賬號交易、虛假兼職等廣告信息,往往混雜在海量真實信息中讓人難以分辨,并通過多種手段如同音字轉(zhuǎn)換、文字轉(zhuǎn)拼音等生成對抗變異內(nèi)容。騰訊安全天御內(nèi)容風(fēng)控體系可分別提取內(nèi)容形態(tài)中的關(guān)鍵元素,綜合視、音、圖、文審核能力進行識別過濾,對風(fēng)險廣告進行及時的應(yīng)對和處理。
目前,騰訊安全天御風(fēng)控已為1500多家平臺提供內(nèi)容安全服務(wù),共計審核圖片總量已突破3000億條,累計攔截不良內(nèi)容超5億條,更多次參與護航重大展會、峰會的內(nèi)容安全。
【廣告】
（免責(zé)聲明：此文內(nèi)容為廣告，相關(guān)素材由廣告主提供，廣告主對本廣告內(nèi)容的真實性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé)，請自行核實相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。）
關(guān)鍵詞： 內(nèi)容風(fēng)控
