繼2018年5月25生效的《歐盟一般數(shù)據(jù)保護條例》(江湖人稱“GDPR”)后，今年4月21日，歐盟首次發(fā)布了針對人工智能技術(shù)的監(jiān)管法規(guī)草案(如下)，長達(dá)108頁，探討了企業(yè)與政府應(yīng)該如何使用人工智能技術(shù)。

　　鏈接：https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence

　　在這項草案中，AI的一系列應(yīng)用范圍都受到了不同程度的限制，包括自動駕駛、招聘簡歷過濾、銀行貸款、入學(xué)篩選與測試評分等等，原因是：可能威脅到公民的人身安全與基本權(quán)利。

　　其中，計算機視覺應(yīng)用最火的人臉識別技術(shù)，在公共場合的應(yīng)用更是被高度禁止，除非是用于尋找失蹤兒童、防止恐怖活動威脅或識別刑事犯罪人員等特殊情況。即使有特殊情況，在公共場合應(yīng)用人臉識別技術(shù)，也需要獲得司法機構(gòu)或其他獨立機構(gòu)的授權(quán)，并有時間、地理范圍和所搜索數(shù)據(jù)庫的限制。

　　違反新法規(guī)的公司，可能會面臨高達(dá)全球銷售額6%(最高2000萬歐元)的罰款。

　　歐盟AI監(jiān)管法規(guī)詳情

　　根據(jù)歐盟的法規(guī)草案，對人工智能應(yīng)用的監(jiān)管根據(jù)風(fēng)險等級，主要分為絕對禁止、高風(fēng)險、較小風(fēng)險與最小風(fēng)險等四類。

　　1、絕對禁止的風(fēng)險：對人類的安全、和權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)將被禁止。這包括操縱人類行為，以違反用戶自由意志的AI系統(tǒng)或應(yīng)用程序，例如通過語音協(xié)助、鼓勵未成年人進行危險行為的玩具，或供政府進行“社交評分”的系統(tǒng)。

　　2、高風(fēng)險：被確定為高風(fēng)險的AI系統(tǒng)包括有以下應(yīng)用的AI技術(shù)：

　　重要的基礎(chǔ)設(shè)施(例如運輸)，可能將公民的生命和健康置于危險中;

　　教育或職業(yè)培訓(xùn)，可能決定人們接受教育和專業(yè)課程(例如考試成績);

　　產(chǎn)品的安全組件(例如AI在機器輔助手術(shù)中的應(yīng)用);

　　就業(yè)，工人管理和自聘職業(yè)(例如招聘流程中使用的簡歷分類軟件);

　　重要的私人和公共服務(wù)(例如信用評分，剝奪了公民獲得貸款的機會);

　　可能會侵犯人們基本權(quán)利的執(zhí)法活動(例如評估證據(jù)的可信度);

　　移民，庇護和邊境管制管理(例如核實旅行證件的真實性);

　　司法和民主程序的執(zhí)行(例如，將法律應(yīng)用于具體事件)。

　　高風(fēng)險的AI系統(tǒng)在投放于市場之前，必須遵守嚴(yán)格的義務(wù)：

　　足夠的風(fēng)險評估和紓解系統(tǒng);

　　提供給系統(tǒng)的高質(zhì)量數(shù)據(jù)集可最大程度地降低風(fēng)險和歧視;

　　記錄活動以確保結(jié)果的可追溯性;

　　詳細(xì)的文件，提供有關(guān)系統(tǒng)及其構(gòu)建目標(biāo)的所有必要信息，以供當(dāng)局評估其合規(guī)性;

　　向用戶提供清晰、充足的信息;

　　適當(dāng)?shù)娜藶楸O(jiān)督措施，以最大程度地降低風(fēng)險;

　　高水平的魯棒性、安全性和準(zhǔn)確性。

　　歐盟新法規(guī)要求，提供高風(fēng)險人工智能技術(shù)的公司要向監(jiān)管機構(gòu)提供安全證明文件，包括風(fēng)險評估與解釋該技術(shù)如何做決策的文檔。企業(yè)還需要保證人為監(jiān)督系統(tǒng)的創(chuàng)建與使用方法。

　　需要注意的是，所遠(yuǎn)程生物識別系統(tǒng)都被認(rèn)為是高風(fēng)險的，并有嚴(yán)格的要求。原則上，這類系統(tǒng)被禁止在公共場合進行執(zhí)法使用，除非是有特殊情況，比如尋找失蹤兒童，防止特定類型的、迫在眉睫的恐怖威脅，或者偵查、定位、識別或起訴犯有嚴(yán)重刑事罪行的犯罪者或嫌疑人。此類使用需要獲得司法機構(gòu)或其他獨立機構(gòu)的授權(quán)，并受時間、地理范圍和所搜索數(shù)據(jù)庫的一定限制。

　　3、較小風(fēng)險(如具有透明義務(wù)的AI系統(tǒng))：在使用聊天機器人(chatbot)等AI系統(tǒng)時，用戶應(yīng)意識到他們是在與機器交流，以做出繼續(xù)交流或停止交流的決定。

　　4、最小風(fēng)險：這條法規(guī)建議允許免費使用AI賦能的視頻游戲或垃圾郵件過濾器等應(yīng)用程序。絕大多數(shù)AI系統(tǒng)都屬于這一類。該法規(guī)草案不對此類AI進行干預(yù)，因為它們對公民的權(quán)利或安全所造成的風(fēng)險極小，或沒有任何風(fēng)險。

　　該條例的目的是為了促進可信賴人工智能技術(shù)的發(fā)展，提高歐洲人民對人工智能技術(shù)的信任度。如若通過，該法規(guī)將適用于歐盟所有成員國。違反新法規(guī)的公司，可能會面臨高達(dá)全球銷售額6%的罰款。

　　對人工智能的警惕并不只局限于歐洲。美國當(dāng)局也開始考慮對人工智能進行監(jiān)管。比如，當(dāng)?shù)貢r間4月19日，聯(lián)邦貿(mào)易委員會(Federal Trade Commission)便發(fā)文警告企業(yè)不要出售使用種族歧視算法，或可能“剝奪人們的就業(yè)，住房，信貸，保險或其他福利”的人工智能系統(tǒng)。美國的其他地區(qū)，如馬薩諸塞州，政府已采取措施，對警察使用面部識別進行限制。

　　如何看待加強監(jiān)管

　　這項法規(guī)是全球所有國家與地區(qū)的首次嘗試。根據(jù)斯坦福大學(xué)發(fā)布的《2021年人工智能指數(shù)報告》(Artificial Intelligence Index Report 2021)顯示，此前2015年至2020年間發(fā)布了117個AI倫理道德方面的文件，但只是“原則”層面，而不是“法規(guī)”層面。

　　根據(jù)《紐約時報》的報道，歐盟法規(guī)草案發(fā)布后，引起了不同的觀點與討論。許多業(yè)界團隊認(rèn)為該法規(guī)沒有進一步加強管控，如釋重負(fù)，而民間社會組織則認(rèn)為對AI的管控還可以更進一步。

　　許多人擔(dān)心該政策過于寬泛，為企業(yè)與技術(shù)開發(fā)者進行自我監(jiān)督留了很大的自由空間。

　　雖然歐盟將通過質(zhì)量管理和評估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進行自我合規(guī)測評。數(shù)字權(quán)利組織 EDRi 的高級政策顧問 Sarah Chander 對 Politico 表示：“歐盟委員會將合規(guī)交給了人工智能供應(yīng)商，這可能會損害(人們的)基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外?！?/p>

　　來自倫敦Ada Lovelace研究所(主要研究人工智能倫理)的主任Carly Kind表示：“如果法規(guī)沒有規(guī)定嚴(yán)格的紅線與準(zhǔn)則，也沒有標(biāo)明可接受的界限，那么它會有很大的解釋空間?！?/p>

　　一些科技行業(yè)的工作人員則感到寬慰，對高風(fēng)險應(yīng)用的合規(guī)要求表示贊許。比如，計算機與通信行業(yè)協(xié)會(Computer & Communications Industry Association)的 Christian Borggreen 對法新社指出，歐盟委員會采用了基于風(fēng)險的評估方法，這很好。該協(xié)會代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。

　　知名人工智能專家與風(fēng)險投資人Mark Minevich認(rèn)為，強調(diào)監(jiān)管AI是為了提高人類的生活水平，但監(jiān)管不應(yīng)過度限制AI系統(tǒng)的實驗與開發(fā)。

　　他提到，高風(fēng)險AI系統(tǒng)應(yīng)該始終配有人為監(jiān)管與控制。而用于與人交互或內(nèi)容生成的AI系統(tǒng)，無論是否屬于高風(fēng)險，都應(yīng)該遵守透明義務(wù)。

　　他也認(rèn)為，這項法規(guī)草案會削弱歐洲的人工智能技術(shù)發(fā)展，而與此同時，中國與美國的人工智能技術(shù)正在飛躍發(fā)展。換言之，這項草案也許會束縛歐洲在AI方面的落地與創(chuàng)新，使歐洲落后于新的技術(shù)發(fā)展潮流。

　　Mark Minevich還提出：歐盟對AI的投資極少，是其在AI競賽上輸給美國與中國的主要原因。歐盟居住人口4.46億，美國居住人口3.31億，但在2020年，歐盟對AI的投入只有20億美元，而美國達(dá)到了236億美元。歐洲的風(fēng)險投資模式落后于美國，導(dǎo)致歐洲許多快速發(fā)展的初創(chuàng)企業(yè)轉(zhuǎn)而依賴于美國與亞洲的投資者。