央廣網(wǎng)北京8月22日消息（記者白杰戈）據(jù)中國之聲《新聞縱橫》報道，最近，一則“AI（人工智能）當(dāng)上鑒黃師，可能將取代人力審核”的消息在網(wǎng)上受到關(guān)注。昨天（21日），中國互聯(lián)網(wǎng)協(xié)會在2018網(wǎng)絡(luò)安全生態(tài)峰會上發(fā)布研究報告，討論人工智能技術(shù)在網(wǎng)絡(luò)內(nèi)容安全保障領(lǐng)域的運(yùn)用面臨哪些機(jī)遇和挑戰(zhàn)。

　　這份研究報告表示，網(wǎng)絡(luò)內(nèi)容具有即時性、海量性和多態(tài)性等特點(diǎn)，人工智能技術(shù)可以被用在文字、視頻和圖片（包括其中的人臉和特定標(biāo)識），以及語音信息的檢測識別，成本和效率都優(yōu)于傳統(tǒng)的人工審核。報告的撰寫者之一、國家互聯(lián)網(wǎng)應(yīng)急中心高級工程師徐杰介紹，這源于人工智能的自我學(xué)習(xí)能力。比如，用傳統(tǒng)的方法描述貓跟老虎的區(qū)別，非常復(fù)雜。對于機(jī)器學(xué)習(xí)而言，只要給它提供大量貓和老虎的圖片，它會從這些圖片中學(xué)習(xí)特征、建立模型，這是目前機(jī)器學(xué)習(xí)技術(shù)在網(wǎng)絡(luò)內(nèi)容安全方面最大的優(yōu)勢。

　　報告舉例說，人工智能可以搜索和比對畫面中的敏感人物，識別他們的聲音。類似的技術(shù)在商業(yè)、生活等領(lǐng)域也有用武之地，比如商家識別顧客的姿態(tài)、情緒；直播或短視頻網(wǎng)站檢測涉黃內(nèi)容、不良場景、侵權(quán)畫面、低俗語言甚至驗證主播身份；安防部門可以使用視頻分析技術(shù)設(shè)置警戒區(qū)（線），判斷是否有人進(jìn)入禁區(qū)，并檢測擁擠、追逐、打斗、跌倒、翻越等異常動作或事件，識別爆炸、燃燒、煙霧等危險場景。

　　不過媒體報道顯示，人工智能也存在誤差，兩個倒扣的碗、喝礦泉水的女子、摔跤比賽等畫面，都曾經(jīng)被AI鑒黃師識別為色情圖片。中國互聯(lián)網(wǎng)協(xié)會的報告也坦言，人工智能要廣泛運(yùn)用在網(wǎng)絡(luò)內(nèi)容安全保障領(lǐng)域，技術(shù)上還存在挑戰(zhàn)，比如畫面內(nèi)容識別的速度和準(zhǔn)確率，語音識別系統(tǒng)支持的語言種類有限和噪聲影響等。

　　此外，徐杰介紹說：“如果AI用在一些比較要害的方向，不知道它怎么訓(xùn)練出來的，我們不敢用。攻擊者只要知道是根據(jù)哪些數(shù)據(jù)訓(xùn)練出來的，就可以根據(jù)這些數(shù)據(jù)有針對性地攻擊、對抗這個模型，使其很快失效。”

　　不過，報告仍然對人工智能提高效率、降低成本、節(jié)省人力的作用表示肯定和期待。中國互聯(lián)網(wǎng)協(xié)會副秘書長宋茂恩說，將人工智能引入網(wǎng)絡(luò)內(nèi)容安全保障建設(shè)中，將會在多方面促進(jìn)社會價值進(jìn)一步提升。比如維護(hù)國家安全及社會穩(wěn)定，凈化網(wǎng)絡(luò)空間，保護(hù)知識產(chǎn)權(quán)，降低維護(hù)真實信息的社會總成本，提升互聯(lián)網(wǎng)內(nèi)容質(zhì)量，輿情管控，應(yīng)對以及維護(hù)公民權(quán)益。

　　人工智能在網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域能否取代人類？阿里巴巴集團(tuán)資深算法專家薛暉表示，與人類相比，AI技術(shù)的標(biāo)準(zhǔn)更客觀，它不隨著時間和個人的差異變化，并且它的模型、數(shù)據(jù)、特征更容易被傳承，而人與人之間的一些審核經(jīng)驗、治理經(jīng)驗相對較難傳承。如果中小企業(yè)通過使用專業(yè)的內(nèi)容安全治理服務(wù)商的服務(wù)，能夠?qū)⒊杀窘档礁�低，也可保證業(yè)務(wù)創(chuàng)新不受風(fēng)險的影響。

　　報告的撰寫者之一、中國社會科學(xué)院世界經(jīng)濟(jì)與政治研究所博士后陳哲提醒：“僅靠技術(shù)不能解決所有問題。從長遠(yuǎn)來看，特別是在中國，要考慮到數(shù)據(jù)隱私的保護(hù)以及倫理問題。從研究人文社會科學(xué)的角度來說，做AI要有人文社科情懷，否則AI一定會變成一個冰冷的機(jī)器。”