互聯(lián)網(wǎng)內(nèi)容越來越朝著視頻化方向發(fā)展，短視頻處于爆發(fā)期，一些不法分子試圖利用視頻風(fēng)口牟利。3月底，深圳警方打掉了一起以短視頻APP為載體，大肆從事淫穢傳播、網(wǎng)絡(luò)賭博以及網(wǎng)絡(luò)詐騙等犯罪活動。

最近，阿里安全圖靈實驗室就發(fā)布了一項關(guān)于社會文化的最新技術(shù)研究，這是一種新型視頻描述生成技術(shù)SGR，可用于視頻內(nèi)容安全和視頻檢索等場景，助力建設(shè)互聯(lián)網(wǎng)清朗環(huán)境，該研究成果被人工智能國際頂會CVPR2021（oral）收錄。

阿里前沿技術(shù)讓AI做“閱讀理解”

SGR可以實現(xiàn)兩類基本功能，一是讓AI對視頻內(nèi)容做“閱讀理解”，生成一段長文本描述視頻中心內(nèi)容，二是可以根據(jù)描述性的文本精準匹配視頻中的相關(guān)片段。

相較于此前必須人工定義關(guān)鍵詞詞庫后，才能“指揮”AI命中檢索，這項AI技術(shù)的目標是僅通過輸入自然語言就能實現(xiàn)檢索，對AI“說句話”，就能找到相應(yīng)片段。

“視頻中如果有人拿起鼠標，點擊電腦，然后脫掉衣服，呈現(xiàn)黃賭毒等相關(guān)違規(guī)信息，以前的技術(shù)路徑上，AI可能還要分析脫掉衣服之前的動作，其實拿鼠標和點擊電腦與后面的違規(guī)內(nèi)容沒什么關(guān)聯(lián)，無需提取這些信息?！痹撗芯康谝蛔髡?、阿里安全圖靈實驗室實習(xí)算法工程師青崧介紹道。

SGR解決了這個問題。給定一個視頻，AI可對視頻的關(guān)鍵候選片段無縫銜接成一個完整的故事，保證了密集型描述的連貫性，且減少了冗余。

該研究共同作者、阿里安全圖靈實驗室高級算法工程師雍秦介紹，雖然目前這個技術(shù)還無法做到“1分鐘講清楚一部電影”，但可做到“兩句話講清楚一個10分鐘以內(nèi)的短視頻”，這意味著通過該技術(shù)未來可迅速判斷整個視頻的關(guān)鍵信息是否包含黃賭毒等違規(guī)內(nèi)容。

更快更準識別違規(guī)風(fēng)險內(nèi)容

通過這兩個功能，AI能快速識別、準確定位違規(guī)片段，無需人類鑒黃師反復(fù)回看確認。

雍秦透露，在SGR技術(shù)研究基礎(chǔ)上，阿里安全近期還將研發(fā)低門檻、高可用的“鑒黃”AI工具，讓AI對視頻不同片段打出“危險指數(shù)”，依賴信息提取直接關(guān)聯(lián)高亮風(fēng)險片段，讓AI鑒黃更智能、高效。

未來，在實際應(yīng)用場景中，通過AI來進行不良內(nèi)容識別的研判準確性和效率將大幅提高，比如判斷視頻內(nèi)容中是否有“一個穿著暴露蘿莉裝的女孩鴨子坐著在錄吃播”，以往要形成“暴露蘿莉裝”“鴨子坐”“吃播”三個標簽，每次依據(jù)一個標簽進行一輪審核，判斷視頻內(nèi)容是否涉嫌低俗，三輪審核交叉驗證。創(chuàng)新工具應(yīng)用后，AI只用輸入“一個穿著暴露蘿莉裝的女孩鴨子坐著在錄吃播”這句話進行一輪研判，準確性也更高。

阿里安全圖靈實驗室資深算法專家華棠指出，阿里安全一直希望從源頭守護安全，這是阿里提出的安全方法論“新一代安全架構(gòu)”的核心理念?！盎ヂ?lián)網(wǎng)上每天產(chǎn)生如此多的視頻數(shù)量，單靠人力無法維護互聯(lián)網(wǎng)清朗環(huán)境，從上述案例也能看到，違規(guī)視頻內(nèi)容危及大眾心理健康和財產(chǎn)安全，我們希望創(chuàng)新算法可以有更多用武之地，構(gòu)建美好安全的網(wǎng)絡(luò)生活?！?/span>