4 月 7 日，來(lái)自清華的 RealAI（瑞萊智慧）發(fā)布了 RealSafe 人工智能安全平臺(tái)，隨之推出的測(cè)試結(jié)果令人驚訝：通過(guò)平臺(tái)對(duì)微軟、亞馬遜云服務(wù)的人臉比對(duì)演示平臺(tái)進(jìn)行測(cè)試顯示，基于 RealSafe 平臺(tái)生成的對(duì)抗樣本「噪音」能夠極大干擾兩大主流人臉比對(duì)平臺(tái)的識(shí)別結(jié)果。
RealAI 研究團(tuán)隊(duì)選取了一組不同的人臉圖片，通過(guò) RealSafe 平臺(tái)對(duì)其中一張圖片生成對(duì)抗樣本，但不影響肉眼判斷，添加「對(duì)抗樣本」前后分別輸入微軟、亞馬遜人臉比對(duì)平臺(tái)中。
最終結(jié)果顯示，添加「噪音」擾動(dòng)前，兩張圖片相似度低，微軟、亞馬遜平臺(tái)判定為「不相同」，但添加擾動(dòng)后，幾套系統(tǒng)均錯(cuò)誤識(shí)別為「相同」，甚至在微軟平臺(tái)前后相似度的變化幅度高達(dá) 70% 以上。
檢測(cè)出人臉識(shí)別系統(tǒng)「漏洞」的 RealSafe 人工智能安全平臺(tái)，是全球首個(gè)針對(duì)算法模型本身進(jìn)行安全的檢測(cè)平臺(tái)，內(nèi)置領(lǐng)先的攻防算法模型，旨在為企業(yè)用戶提供從算法測(cè)評(píng)到防御升級(jí)的整體解決方案。
而針對(duì)人臉比對(duì)系統(tǒng)的攻擊測(cè)試，是 RealSafe 人工智能安全平臺(tái)為用戶提供的對(duì)抗樣本攻防在線體驗(yàn)。當(dāng)然，RealSafe 還可以幫助人們修復(fù)這些漏洞。正如網(wǎng)絡(luò)安全時(shí)代，網(wǎng)絡(luò)攻擊的大規(guī)模滲透誕生出殺毒軟件，發(fā)現(xiàn)計(jì)算機(jī)潛在病毒威脅，提供一鍵系統(tǒng)優(yōu)化、清理垃圾跟漏洞修復(fù)等功能。RealAI 團(tuán)隊(duì)希望通過(guò) RealSafe 平臺(tái)打造出人工智能時(shí)代的「殺毒軟件」，為構(gòu)建人工智能系統(tǒng)防火墻提供支持。
除了對(duì)抗樣本技術(shù)， RealSafe 平臺(tái)還支持另外兩大功能模塊：模型安全測(cè)評(píng)和防御解決方案。
模型安全評(píng)測(cè)主要為用戶提供 AI 模型安全性評(píng)測(cè)服務(wù)。用戶只需接入所需測(cè)評(píng)模型的 SDK 或 API 接口，選擇平臺(tái)內(nèi)置或者自行上傳的數(shù)據(jù)集，平臺(tái)將基于多種算法生成對(duì)抗樣本模擬攻擊，并綜合在不同算法、迭代次數(shù)、擾動(dòng)量大小的攻擊下模型效果的變化，給出模型安全評(píng)分及詳細(xì)的測(cè)評(píng)報(bào)告。目前 RealSafe 已支持黑盒查詢攻擊方法與黑盒遷移攻擊方法。
防御解決方案則是為用戶提供模型安全性升級(jí)服務(wù)，RealSafe 平臺(tái)支持五種去除對(duì)抗噪聲的通用防御方法，可實(shí)現(xiàn)對(duì)輸入數(shù)據(jù)的自動(dòng)去噪處理，破壞攻擊者惡意添加的對(duì)抗噪聲。根據(jù)上述的模型安全評(píng)測(cè)結(jié)果，用戶可自行選擇合適的防御方案，從而達(dá)到一鍵提升模型安全性的目的。
瑞萊智慧表示，隨著模型攻擊手段在不斷復(fù)雜擴(kuò)張，RealSafe 平臺(tái)還將持續(xù)提供更加豐富的 AI 防御手段，幫助用戶獲得實(shí)時(shí)且自動(dòng)化的漏洞檢測(cè)和修復(fù)能力。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來(lái)，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場(chǎng)趨勢(shì)的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國(guó)際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營(yíng)銷服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
