【全國】 集團(tuán)簡介 關(guān)注我們
幫學(xué)院 商標(biāo)分類表-2024尼斯分類 知識產(chǎn)權(quán)交易

快幫集團(tuán)

騰訊安全團(tuán)隊:谷歌學(xué)習(xí)系統(tǒng)存在的問題

2019-07-09
  騰訊企業(yè)郵箱安全平臺部Blade團(tuán)隊日前對外發(fā)布消息稱,該團(tuán)隊在對谷歌人工智能學(xué)習(xí)系統(tǒng)TensorFlow進(jìn)行代碼審計時,發(fā)現(xiàn)該系統(tǒng)存在重大安全漏洞,利用該系統(tǒng)進(jìn)行編輯的AI場景,有遭受惡意攻擊的可能。
 
  據(jù)騰訊安全平臺部負(fù)責(zé)人介紹,TensorFlow是目前谷歌免費(fèi)開放給AI設(shè)計者的編程平臺,程序員可以在該平臺上進(jìn)行AI組件的設(shè)計工作。當(dāng)含有安全風(fēng)險的代碼被編輯進(jìn)諸如面部識別或機(jī)器人學(xué)習(xí)的AI使用場景中,攻擊者就可以利用該漏洞完全接管系統(tǒng)權(quán)限,竊取設(shè)計者的設(shè)計模型,侵犯使用者隱私,甚至對用戶造成更大傷害。
 
  楊勇說:“通俗地講,如果設(shè)計人員在給機(jī)器人編程時恰好使用了含有該漏洞的組件,那么惡意攻擊者就有可能利用漏洞控制該機(jī)器人,這是非??膳碌?。目前我們在AI安全領(lǐng)域還只是邁出了一小步,未來期待更多的技術(shù)人員一起完善AI,讓AI更安全……”
 
  Blade團(tuán)隊表示,TensorFlow是目前應(yīng)用最為廣泛的機(jī)器學(xué)習(xí)框架之一,已被運(yùn)用在諸多AI場景中,如語音識別、自然語言理解、計算機(jī)視覺、廣告、無人駕駛等;其一旦被黑客控制,后果不堪設(shè)想。目前Blade團(tuán)隊已將漏洞的運(yùn)用機(jī)理致函谷歌公司,而該漏洞需要谷歌安全團(tuán)隊對代碼重新編輯。
 
  對此,一些業(yè)內(nèi)專家也表達(dá)了擔(dān)憂。上海信息安全行業(yè)協(xié)會專委會副主任認(rèn)為,當(dāng)前從事人工智能開發(fā)的企業(yè)幾乎無一例外地將算法和數(shù)據(jù)相融合,一些數(shù)據(jù)可能涉及企業(yè)和用戶的核心秘密,一旦出現(xiàn)安全漏洞,風(fēng)險較高。
 
  所以所有有關(guān)企業(yè)應(yīng)盡快自查是否使用過該平臺進(jìn)行AI編程,同時行業(yè)內(nèi)應(yīng)加強(qiáng)聯(lián)系溝通,消除安全隱患。

文章內(nèi)容來源于網(wǎng)絡(luò),侵刪

常見問題

京公網(wǎng)安備 11010802036823號

   

京ICP備16051929號

   

增值電信業(yè)務(wù)許可證編號:京B2-20190686

   

專利代理機(jī)構(gòu)代碼:16087

   

人力資源服務(wù)許可證編號:1101082019043

   

代理記賬許可證書編號:DLJZ11010820210015

0