“這個(gè)安全問(wèn)題不是來(lái)自于你設(shè)計(jì)的考慮不周到，而是主要來(lái)源于算法本身的不安全性。”在8月3日北京舉行的全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能產(chǎn)業(yè)治理論壇上，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸表示，這是當(dāng)下人工智能領(lǐng)域安全問(wèn)題頻發(fā)的根源所在。

　　近日高頻爆發(fā)的企業(yè)數(shù)據(jù)安全問(wèn)題，已使官方層面密集出臺(tái)行動(dòng)決策，其中焦點(diǎn)領(lǐng)域之一便是目前內(nèi)嵌于各大APP的智能算法。如中宣部等五部門(mén)聯(lián)合日前印發(fā)的《關(guān)于加強(qiáng)新時(shí)代文藝評(píng)論工作的指導(dǎo)意見(jiàn)》便明確要求，健全完善基于大數(shù)據(jù)的評(píng)價(jià)方式，加強(qiáng)網(wǎng)絡(luò)算法研究和引導(dǎo)，開(kāi)展網(wǎng)絡(luò)算法推薦綜合治理，不給錯(cuò)誤內(nèi)容提供傳播渠道。

　　張鈸表示，人工智能算法本身帶來(lái)的不安全問(wèn)題很難被預(yù)先發(fā)現(xiàn)或覺(jué)察，所以如果我們?cè)谑褂眠^(guò)程中稍不注意便會(huì)產(chǎn)生無(wú)意識(shí)錯(cuò)用，從而造成非常嚴(yán)重的后果，為此，他認(rèn)為技術(shù)創(chuàng)新是解決這一問(wèn)題的良策之一。

　　除此之外，人工智能領(lǐng)域的善治，還有賴(lài)于法規(guī)、倫理以及企業(yè)自身等諸多層面的因素，對(duì)此多位權(quán)威人士也均給出了相關(guān)建議。

　　源頭出在自身

　　在張鈸看來(lái)，與信息系統(tǒng)中安全風(fēng)險(xiǎn)常來(lái)自軟件設(shè)計(jì)漏洞不同，目前引發(fā)人工智能算法安全風(fēng)險(xiǎn)的源頭更多在于技術(shù)本身?！斑@是由于第二代人工智能技術(shù)本身所引起的，第一代人工智能技術(shù)并不存在這個(gè)問(wèn)題?！睆堚摫硎?。

　　人工智能技術(shù)最早于1956年起步于國(guó)外，到目前為止已經(jīng)歷兩代。第一代人工智能以知識(shí)驅(qū)動(dòng)為特征，也被稱(chēng)作“符號(hào)主義”；第二代人工智能則以數(shù)據(jù)驅(qū)動(dòng)為特征，即目前為人熟知的“大數(shù)據(jù)”“深度學(xué)習(xí)”。中國(guó)人工智能技術(shù)從1978年開(kāi)始發(fā)展，此前以第一代人工智能技術(shù)為主，進(jìn)展較小，近20年里進(jìn)入第二代后才迅猛發(fā)展，但也同時(shí)帶來(lái)此前未有的風(fēng)險(xiǎn)。

　　為此張鈸提出了發(fā)展“第三代人工智能”的呼吁，后者具備知識(shí)、數(shù)據(jù)、算法和算力四大要素，既能最大化當(dāng)前人工智能技術(shù)的效能，也能規(guī)避第二代技術(shù)自帶的算法風(fēng)險(xiǎn)。

　　不過(guò)，創(chuàng)新之路并非坦途，張鈸強(qiáng)調(diào)，發(fā)展第三代人工智能是一項(xiàng)非常長(zhǎng)期的任務(wù)，人工智能安全和治理也是長(zhǎng)期的任務(wù)。

　　“我們解決人工智能安全性問(wèn)題必須兩手抓：第一手抓治理，這個(gè)治理不是短期的任務(wù)，是長(zhǎng)期的任務(wù)；第二手抓創(chuàng)新發(fā)展，這個(gè)創(chuàng)新發(fā)展要克服人工智能算法本身的不安全性，這也是一個(gè)長(zhǎng)期的任務(wù)。我們雖然有兩種途徑去做，但這兩種途徑都非常困難?！睆堚摫硎尽?/p>

　　“治本”亦需“治標(biāo)”

　　張鈸在指出應(yīng)從技術(shù)創(chuàng)新層面發(fā)力去“治本”的同時(shí)，也向記者表示，從法律法規(guī)、倫理規(guī)范、行業(yè)共識(shí)等不同層面去“治標(biāo)”也同樣重要。

　　中倫律師事務(wù)所合伙人陳際紅對(duì)9月1日起即將施行的《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱(chēng)“《數(shù)據(jù)安全法》”）進(jìn)行了解讀。在其看來(lái)，由于人工智能和社會(huì)的關(guān)系越來(lái)越密切，所以立法司法解釋已經(jīng)進(jìn)入到隱私保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全、公平競(jìng)爭(zhēng)、消費(fèi)者權(quán)益保護(hù)等各個(gè)層面。

　　由于人工智能的產(chǎn)業(yè)都離不開(kāi)數(shù)據(jù)處理，因此《數(shù)據(jù)安全法》和人工智能發(fā)展密切相關(guān)。陳際紅認(rèn)為，該法在法律里建立起數(shù)據(jù)安全的標(biāo)準(zhǔn)化體系，設(shè)定一個(gè)數(shù)據(jù)安全的檢測(cè)評(píng)估和認(rèn)證的管理體制?！爸匾倪€是數(shù)據(jù)分類(lèi)分級(jí)的制度，重要數(shù)據(jù)和核心數(shù)據(jù)的清單和管理制度，預(yù)警處理機(jī)制和數(shù)據(jù)活動(dòng)的國(guó)家安全審查，數(shù)據(jù)處理活動(dòng)和國(guó)家安全密切相關(guān)，數(shù)據(jù)交易和數(shù)據(jù)的準(zhǔn)入和監(jiān)管，以及數(shù)據(jù)跨境流動(dòng)的監(jiān)管規(guī)則?！标愲H紅表示。

　　倫理規(guī)范層面，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家曾毅認(rèn)為，人工智能的治理并不存在“發(fā)展優(yōu)先還是治理先行”的矛盾，人工智能穩(wěn)健發(fā)展的兩大前提是可持續(xù)發(fā)展和人工智能的善治，兩者深度協(xié)同。

　　中國(guó)社科院科技哲學(xué)研究室主任、科學(xué)技術(shù)和社會(huì)研究中心主任段偉文則認(rèn)為，數(shù)字技術(shù)與人工智能產(chǎn)業(yè)發(fā)展的倫理風(fēng)險(xiǎn)帶來(lái)了諸多社會(huì)信任問(wèn)題，面對(duì)既防患于未然也溯及既往的數(shù)字治理趨勢(shì)，人工智能企業(yè)應(yīng)直面社會(huì)許可的挑戰(zhàn)，認(rèn)真感知公眾對(duì)科技企業(yè)的認(rèn)知和評(píng)價(jià)?！叭斯ぶ悄芷髽I(yè)不應(yīng)回避社會(huì)監(jiān)督，而是不斷思考、重塑科技的社會(huì)印象，技術(shù)改進(jìn)和倫理設(shè)計(jì)要齊頭并進(jìn)，攜手走向共建性的人工智能倫理治理?！倍蝹ノ谋硎?。

　　此外，在行業(yè)共識(shí)方面，本次大會(huì)推出了國(guó)內(nèi)首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》，這一宣言由北京智源人工智能研究院、瑞萊智慧發(fā)起，聯(lián)合百度、華為、螞蟻集團(tuán)等國(guó)內(nèi)產(chǎn)業(yè)領(lǐng)軍企業(yè)和機(jī)構(gòu)進(jìn)行發(fā)布。在發(fā)起儀式上，宣言成員代表表示，宣言將為積極探索國(guó)內(nèi)人工智能治理的新路徑提供有益經(jīng)驗(yàn)。