當人工智能被蒙騙，人類的未來將會怎樣？5月13日，全球首次海上極客大賽GeekPwn年中賽在香港舉辦，組委會在舉辦地星夢郵輪“云頂夢號”上宣布：將以500萬的獎金池，啟動10月24日在上海和硅谷的人工智能安全挑戰(zhàn)賽的招募，接受全球頂尖AI安全極客的報名。同時GeekPwn還將與項目聯(lián)合發(fā)起方Next Idea(騰訊創(chuàng)新大賽)、獨家AI協(xié)辦機構(gòu)機器之心等合作伙伴，就AI安全的社會及專業(yè)議題展開前沿深入的探討。

　�。ǔ炚餕EEN公司CEO，GeekPwn大賽創(chuàng)辦人王琦）

　　遠程操控特斯拉、用鼻尖解鎖手機、任意遠程劫持世界任一用戶的通訊……創(chuàng)辦于2014年的國際安全極客大賽GeekPwn，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時，也幫助了上百個廠商及產(chǎn)品去修復安全問題。GeekPwn創(chuàng)辦人、碁震KEEN公司創(chuàng)始人兼CEO王琦表示，從對抗的思路出發(fā)，創(chuàng)辦人工智能安全挑戰(zhàn)賽是為了尋找AI潛藏的風險并不斷幫助其完善，幫助人工智能安全健康成長。

　　如今，人工智能已經(jīng)廣泛應用于生活的諸多場景中，包括實時語音翻譯、目標識別、自動駕駛等等。率先關(guān)注到人工智能可能暴露出的諸多風險，GeekPwn實驗室在2015年底開始了AI對抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網(wǎng)絡(GANs)之父Ian Goodfellow就展示了“對抗性圖像”在現(xiàn)實物理世界欺騙機器學習的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執(zhí)行度歸為了長臂猿。

　　近期，有研究者發(fā)現(xiàn)，惡意攻擊者可以欺騙Google的CloudVision API，這將導致API對用戶提交的圖片進行錯誤地分類，網(wǎng)絡犯罪分子可以利用這種技術(shù)來傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。

　　不需要學代碼 未來可能人人都是“黑客”

　　AI在圖像領(lǐng)域存在被欺騙的可能性，讓王琦預見到這種可能性在其他語音和行為智能等領(lǐng)域也會存在。AI被欺騙，看似人工智能的錯誤和不完善，但其實在黑客眼里就有可能變成可以被利用的漏洞。隨著AI在交通、金融和醫(yī)療體系中運用得愈加普遍，GeekPwn希望在惡意分子真正動手之前、找到對抗這些攻擊的方法。

　　王琦表示，在人工智能領(lǐng)域，深度學習依賴對大量樣本進行學習，最后產(chǎn)生決策的過程，和安全領(lǐng)域里通過產(chǎn)生大量模糊測試樣本引發(fā)計算機異常，從而發(fā)掘出漏洞，最終執(zhí)行流程可以被改變，進而導致安全危害的過程非常相似，如果說正確樣本能夠產(chǎn)生正確的決策，那么黑客通過離線模擬產(chǎn)生的AI攻擊樣本，則可能給人工智能帶來錯誤的決策和行為。

　　微軟聊天機器人Tay上線不到一天，就向網(wǎng)友“成功學習”了新的聊天方式，從彬彬有禮的美國“姑娘”變得臟話不斷，言語中還充斥了種族主義、色情等“情感偏見”。王琦大膽預言：深度依賴學習樣本的人工智能，未來對它的攻擊可能甚至不需要編寫代碼，人人都可能成為“黑客”。

　　極棒向全球AI極客廣發(fā)英雄帖 與人工智能“決戰(zhàn)到底”

　　作為全球首個探索人工智能與安全的專業(yè)平臺， 2017年，GeekPwn(極棒)將人工智能安全挑戰(zhàn)賽列為全年重點項目。聯(lián)合發(fā)起方NEXT IDEA 2017年則以“未來想象”為主題，讓青年群體更多關(guān)注包括人工智能安全等與人類未來息息相關(guān)的領(lǐng)域，讓每一個年輕人的奇思妙想得到肆意生長。騰訊集團市場與公關(guān)部總經(jīng)理許菁文認為，安全專家對于未來的擔憂將引領(lǐng)年輕人思考人類未來的生產(chǎn)、生活遇到的問題和挑戰(zhàn)，讓更多的年輕人一起為人工智能安全貢獻一份力量。

　　無論你是想突破人臉識別手機解鎖，在 AI 開源框架中找到問題，還是想“創(chuàng)造”AI特工，讓它實現(xiàn)入侵，都可以報名參加。在這場即將到來的黑客與人工智能的對決中，黑客將利用AI 的錯誤以及不完善，為人們帶來怎樣突破性的想象和超前的技術(shù)展示？這一切，將在10月24日GeekPwn2017嘉年華上海站及硅谷站的現(xiàn)場為全人類揭曉。

　　“我們現(xiàn)在是幫助人工智能成長，希望有朝一日，黑客可以成為保護人類的那群人�！蓖蹒�說。