央廣網(wǎng)上海9月18日消息（記者唐奇云）“2018世界人工智能大會(huì)·人工智能安全高端對話”在上海國際會(huì)議中心召開。作為世界人工智能大會(huì)的分論壇之一，對話由上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和中國信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心和《探索與爭鳴》雜志社共同協(xié)辦。

高端對話專家組發(fā)起《人工智能安全發(fā)展上海倡議》（央廣網(wǎng)記者 唐奇云 攝）

　　本次對話匯聚了全球人工智能安全領(lǐng)域的頂級專家、學(xué)者和產(chǎn)業(yè)精英，圍繞“人工智能安全倫理規(guī)范”“人工智能重塑國家安全”“人工智能賦能網(wǎng)絡(luò)安全”三大主題，把脈人工智能安全發(fā)展未來。與此同時(shí)，作為全世界共同面臨的重要議題，高端對話專家組發(fā)起了《人工智能安全發(fā)展上海倡議》。上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心執(zhí)行主任惠志斌介紹了倡議的主要內(nèi)容：人工智能安全發(fā)展要遵循“面向未來、以人為本、責(zé)任明晰、隱私保護(hù)、算法公正、透明監(jiān)管、和平利用、開放合作”的八大理念。

　　安全倫理規(guī)范 最大限度消除不利影響

　　在人工智能的研發(fā)和應(yīng)用過程中，都需要優(yōu)先考慮倫理規(guī)范的問題。峰橋集團(tuán)總裁陳實(shí)在發(fā)言中提到，未來如果人工智能擁有和人類相似的感知，是否也應(yīng)當(dāng)和人類一樣擁有一定的權(quán)利。他認(rèn)為各國都應(yīng)重視對人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會(huì)倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。

　　歐亞集團(tuán)科技戰(zhàn)略主任保羅？特里奧洛表示，中國在建立人工智能倫理規(guī)范方面發(fā)揮了積極的作用，并重點(diǎn)比較了中國、美國和歐盟在人工智能監(jiān)管方面的差異，提出在監(jiān)管機(jī)制層面各國政府可達(dá)成共同點(diǎn)的建議。

　　華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦、UCloud聯(lián)合創(chuàng)始人兼CEO季昕華、碁震KEEN公司創(chuàng)始人兼CEO王琦在圓桌環(huán)節(jié)，就隱私保護(hù)、就業(yè)替代、機(jī)器權(quán)力等議題上各抒己見，分別表達(dá)了各自在人工智能領(lǐng)域方面的思考。

　　風(fēng)險(xiǎn)與治理 人工智能重塑國家安全

　　人工智能越來越多地被應(yīng)用到戰(zhàn)略決策輔助系統(tǒng)和智能軍事系統(tǒng)，基于人工智能的技術(shù)代差將對國家安全力量對比產(chǎn)生不可逆的影響，迫切需要審視人工智能對維護(hù)國家安全提出的新要求。

　　中國科學(xué)院復(fù)雜系統(tǒng)管理與控制國家重點(diǎn)實(shí)驗(yàn)室主任王飛躍指出，網(wǎng)絡(luò)安全的傳統(tǒng)模式將會(huì)向虛實(shí)糾纏引導(dǎo)的平行范式轉(zhuǎn)化，一個(gè)網(wǎng)絡(luò)安全系統(tǒng)的實(shí)力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統(tǒng)映像。

　　聯(lián)合國人工智能和機(jī)器人中心主任伊萊克利？伯利茲認(rèn)為，人工智能為解決網(wǎng)絡(luò)安全事件、系統(tǒng)漏洞、信息保護(hù)等提供了更加高效、智慧的解決方案，但同時(shí)也容易被非法利用，對社會(huì)造成危害。因此，應(yīng)對現(xiàn)階段人工智能的發(fā)展充分評估，并建立起各方參與的協(xié)同合作模式。

　　國防科技大學(xué)前沿交叉學(xué)科學(xué)院國家安全與軍事戰(zhàn)略研究所所長朱啟超、復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾、斗象科技創(chuàng)始人袁勁松對國防軍事、網(wǎng)絡(luò)攻防、自動(dòng)化武器等話題進(jìn)行了互動(dòng)交流。

2018世界人工智能大會(huì)·人工智能安全高端對話（央廣網(wǎng)發(fā) 世界人工智能組委會(huì) 供圖）

　　AI+安全 人工智能賦能網(wǎng)絡(luò)安全

　　人工智能技術(shù)正在被用于智能網(wǎng)絡(luò)武器威脅網(wǎng)絡(luò)安全的同時(shí)，它也在網(wǎng)絡(luò)安全漏洞檢測、惡意軟件識(shí)別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等方面發(fā)揮著重要作用。

　　中國科學(xué)院院士何積豐指出，在功能安全方面，軟件測試驗(yàn)證正變得更加智能化；在信息安全方面，主動(dòng)防御體系同樣地愈發(fā)智能化。隨著人工智能的發(fā)展，工控功能安全和信息安全將會(huì)更加緊密融合。

　　中國移動(dòng)研究院首席科學(xué)家馮俊蘭認(rèn)為，5G網(wǎng)絡(luò)服務(wù)眾多垂直工業(yè)，數(shù)據(jù)挖掘技術(shù)更易保護(hù)用戶隱私信息，并提出了“通信改變社會(huì)”的愿景，強(qiáng)調(diào)電信運(yùn)營商應(yīng)當(dāng)加強(qiáng)與垂直行業(yè)的互信和協(xié)作。

　　眼神科技CEO周軍、杭州安恒信息技術(shù)股份有限公司首席科學(xué)家劉博、騰訊科恩實(shí)驗(yàn)室總監(jiān)呂一平等與會(huì)嘉賓在圓桌討論中為推動(dòng)人工智能安全技術(shù)發(fā)展，防范網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)積極建言。

中國信息通信研究院安全研究所發(fā)布《人工智能安全白皮書》（央廣網(wǎng)發(fā) 世界人工智能組委會(huì) 供圖）

　　三大重磅報(bào)告 描繪解析人工智能安全

　　值得注意的是，本次對話重磅推出了三份人工智能安全專題報(bào)告。牛金行研究員代表中國信息通信研究院安全研究所發(fā)布了《人工智能安全白皮書》。白皮書從人工智能的安全內(nèi)涵出發(fā)，首次歸納了人工智能安全體系框架，在系統(tǒng)梳理人工智能安全風(fēng)險(xiǎn)和安全應(yīng)用情況的基礎(chǔ)上，進(jìn)一步總結(jié)了國內(nèi)外人工智能安全的管理現(xiàn)狀，提出了應(yīng)對人工智能安全風(fēng)險(xiǎn)應(yīng)對和未來發(fā)展的建議。

　　上海國際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和上海社科院互聯(lián)網(wǎng)研究中心的聯(lián)合課題組，發(fā)布了《人工智能時(shí)代的國家安全：風(fēng)險(xiǎn)與治理》報(bào)告。報(bào)告根據(jù)人工智能技術(shù)和應(yīng)用的發(fā)展趨勢，分析了各國在不同領(lǐng)域所面對的安全風(fēng)險(xiǎn)，提出應(yīng)從提升風(fēng)險(xiǎn)意識(shí)、完善治理體系、加強(qiáng)監(jiān)管能力和探求國際合作等來構(gòu)建風(fēng)險(xiǎn)分析和應(yīng)對框架，提升國家安全的韌性。

　　騰訊公司生態(tài)安全研究中心高級研究員韓李云博士代表騰訊公司安全管理部和上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院發(fā)布了《人工智能賦能網(wǎng)絡(luò)空間安全：模式與實(shí)踐》報(bào)告。該報(bào)告聚焦網(wǎng)絡(luò)安全，分析了網(wǎng)絡(luò)空間安全的演進(jìn)和風(fēng)險(xiǎn)趨勢，結(jié)合騰訊AI安全應(yīng)用全布局和國內(nèi)外企業(yè)的30多個(gè)最佳實(shí)踐，詳細(xì)闡釋人工智能賦能網(wǎng)絡(luò)空間安全（AI+安全）的最新進(jìn)展。最后韓李云指出，人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍(lán)海，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡(luò)空間安全將驅(qū)動(dòng)人工智能國際合作。