騰訊企業(yè)郵箱安全平臺部Blade團隊日前對外發(fā)布消息稱,該團隊在對谷歌人工智能學(xué)習(xí)系統(tǒng)TensorFlow進行代碼審計時,發(fā)現(xiàn)該系統(tǒng)存在重大安全漏洞,利用該系統(tǒng)進行編輯的AI場景,有遭受惡意攻擊的可能。
據(jù)騰訊安全平臺部負責(zé)人介紹,TensorFlow是目前谷歌免費開放給AI設(shè)計者的編程平臺,程序員可以在該平臺上進行AI組件的設(shè)計工作。當(dāng)含有安全風(fēng)險的代碼被編輯進諸如面部識別或機器人學(xué)習(xí)的AI使用場景中,攻擊者就可以利用該漏洞完全接管系統(tǒng)權(quán)限,竊取設(shè)計者的設(shè)計模型,侵犯使用者隱私,甚至對用戶造成更大傷害。
楊勇說:“通俗地講,如果設(shè)計人員在給機器人編程時恰好使用了含有該漏洞的組件,那么惡意攻擊者就有可能利用漏洞控制該機器人,這是非常可怕的。目前我們在AI安全領(lǐng)域還只是邁出了一小步,未來期待更多的技術(shù)人員一起完善AI,讓AI更安全……”
Blade團隊表示,TensorFlow是目前應(yīng)用最為廣泛的機器學(xué)習(xí)框架之一,已被運用在諸多AI場景中,如語音識別、自然語言理解、計算機視覺、廣告、無人駕駛等;其一旦被黑客控制,后果不堪設(shè)想。目前Blade團隊已將漏洞的運用機理致函谷歌公司,而該漏洞需要谷歌安全團隊對代碼重新編輯。
對此,一些業(yè)內(nèi)專家也表達了擔(dān)憂。上海信息安全行業(yè)協(xié)會專委會副主任認為,當(dāng)前從事人工智能開發(fā)的企業(yè)幾乎無一例外地將算法和數(shù)據(jù)相融合,一些數(shù)據(jù)可能涉及企業(yè)和用戶的核心秘密,一旦出現(xiàn)安全漏洞,風(fēng)險較高。
所以所有有關(guān)企業(yè)應(yīng)盡快自查是否使用過該平臺進行AI編程,同時行業(yè)內(nèi)應(yīng)加強聯(lián)系溝通,消除安全隱患。
文章內(nèi)容來源于網(wǎng)絡(luò),侵刪