移動(dòng)互聯(lián)網(wǎng)時(shí)代數(shù)字媒體及社交平臺(tái)快速發(fā)展，互聯(lián)網(wǎng)數(shù)據(jù)量水漲船高，其中視頻類數(shù)據(jù)占比達(dá)到了80％，這標(biāo)志著國(guó)內(nèi)外一批優(yōu)秀的流媒體視頻平臺(tái)的快速成長(zhǎng)，而在社交媒體領(lǐng)域視頻也成了主要的信息載體，大量的數(shù)據(jù)內(nèi)容審核需求隨之而來(lái)。對(duì)于平臺(tái)方而言內(nèi)容審核很關(guān)鍵，通常國(guó)內(nèi)主流的社交產(chǎn)品都擁有超過(guò)千人的審核團(tuán)隊(duì)，流媒體巨頭YouTube、社交巨頭Facebook的內(nèi)容審核人員更是超過(guò)萬(wàn)人。

對(duì)于內(nèi)容審核而言，常見(jiàn)的問(wèn)題包括造謠、傳謠、色情、暴力、種族等，這些問(wèn)題在UGC平臺(tái)尤為凸顯。因?yàn)橛脩艋鶖?shù)龐大，在用音視頻形式輸出內(nèi)容時(shí)，對(duì)于平臺(tái)等審查難度隨之提高，并且有時(shí)違規(guī)內(nèi)容的邊界并不十分的清晰，這都給內(nèi)容審核者的工作帶來(lái)困難。當(dāng)下常見(jiàn)的內(nèi)容審核機(jī)制分為兩種，一是采用過(guò)用戶標(biāo)記有問(wèn)題的內(nèi)容讓機(jī)器學(xué)習(xí)，二是平臺(tái)根據(jù)用戶直接上報(bào)侮辱性、攻擊性內(nèi)容，從管理系統(tǒng)上標(biāo)記此類內(nèi)容，進(jìn)行特別審核并刪除。

政策及行業(yè)層面，國(guó)家互聯(lián)網(wǎng)信息辦公室在2019年11月－12月先后發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》。對(duì)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)、網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、網(wǎng)絡(luò)行業(yè)組織等提出了明確的管理要求。隨后，中國(guó)網(wǎng)絡(luò)視聽(tīng)節(jié)目服務(wù)協(xié)會(huì)聯(lián)合央視網(wǎng)、芒果TV、騰訊視頻、優(yōu)酷等多家平臺(tái)共同制訂了《網(wǎng)絡(luò)綜藝節(jié)目?jī)?nèi)容審核標(biāo)準(zhǔn)細(xì)則》，經(jīng)協(xié)會(huì)常務(wù)理事會(huì)會(huì)議審議通過(guò)，并發(fā)布。

在此背景下，極鏈科技Video＋＋針對(duì)目前行業(yè)面臨的主要問(wèn)題，響應(yīng)政策號(hào)召，結(jié)合人工智能技術(shù)，打造全棧式智能內(nèi)容安全審核引擎——神眼系統(tǒng)，用AI技術(shù)幫助平臺(tái)方減輕內(nèi)容審核壓力、降低內(nèi)容審核成本，為客戶提供一站式的智能內(nèi)容安全解決方案。

神眼內(nèi)容安全審核系統(tǒng)基于先進(jìn)的深度學(xué)習(xí)算法，面向視頻平臺(tái)、社交網(wǎng)站、網(wǎng)絡(luò)社區(qū)、融媒體等客戶群體，提供包括視頻、文本、圖像等泛內(nèi)容的涉黃、暴力、政治敏感等風(fēng)險(xiǎn)內(nèi)容的識(shí)別，高效遏制風(fēng)險(xiǎn)、全面釋放審核人力、提高審核效率、凈化網(wǎng)絡(luò)環(huán)境、提升用戶體驗(yàn)。

產(chǎn)品核心功能包括：智能鑒黃、智能鑒暴、政治敏感人物識(shí)別、公眾人物識(shí)別、違禁品識(shí)別、廣告檢測(cè)、圖像質(zhì)量檢測(cè)、logo識(shí)別、OCR審核等。該系統(tǒng)支持本地私有化部署，獨(dú)立的運(yùn)營(yíng)平臺(tái)滿足精細(xì)化運(yùn)營(yíng)需求，并為客戶配套三次審核流程，機(jī)器＋人工雙重保障審核準(zhǔn)確率高于行業(yè)平均水平，為企業(yè)構(gòu)建牢不可破的安全防御體系。

神眼內(nèi)容安全審核系統(tǒng)基于海量特征樣本的多維度內(nèi)容識(shí)別技術(shù)，采取全序列采樣識(shí)別，支持軌跡流跟蹤，有效提升視頻抽幀的質(zhì)量和檢測(cè)效率。該技術(shù)能為視頻、圖片、文本等場(chǎng)景提供強(qiáng)大的深度學(xué)習(xí)算法和算力保證，對(duì)政治人物、色情、暴恐、旗幟等內(nèi)容進(jìn)行識(shí)別審核，大幅度降低內(nèi)容風(fēng)險(xiǎn)，可減少90％以上人工審核成本。

經(jīng)過(guò)多年的技術(shù)迭代升級(jí)，極鏈科技Video＋＋構(gòu)筑了技術(shù)壁壘，擁有視頻識(shí)別、圖像識(shí)別、文本識(shí)別等人工智能技術(shù)，沉淀了包括VideoAI金目視頻內(nèi)容結(jié)構(gòu)化引擎、頑石OS視聯(lián)網(wǎng)操作系統(tǒng)、VideoNet視頻AI數(shù)據(jù)集等一系列的基礎(chǔ)平臺(tái)，專注消費(fèi)級(jí)視頻AI技術(shù)研發(fā)和商業(yè)應(yīng)用。

目前，神眼內(nèi)容安全審核系統(tǒng)已全面對(duì)外開(kāi)放，極鏈期待與更多企業(yè)攜手并進(jìn)，共同努力打造更加安全健康的網(wǎng)絡(luò)環(huán)境。