出于對(duì)潛在歧視和反烏托邦濫用的擔(dān)憂,日前,美國(guó)馬薩諸塞州的薩默維爾市宣布禁止當(dāng)?shù)鼐胶褪姓块T使用面部識(shí)別軟件。
這使得這座位于波士頓附近,并擁有8.1萬(wàn)人口城市成為美國(guó)第二個(gè)禁止該技術(shù)的城市。今年5月舊金山出臺(tái)法令,禁止警察和其他政府機(jī)構(gòu)使用人臉識(shí)別技術(shù)。
當(dāng)?shù)貢r(shí)間6月27日,薩默維爾市(Somerville)議會(huì)以11-0的投票通過(guò)了這項(xiàng)法令。法令生效后,該市各機(jī)構(gòu)、分局或下屬部門,均不得在公共場(chǎng)所使用面部識(shí)別技術(shù)。除了禁止市政部門積極使用人工智能外,該法令還禁止在刑事調(diào)查或法律訴訟中使用面部識(shí)別軟件系統(tǒng)產(chǎn)生的數(shù)據(jù)或證據(jù)。但當(dāng)?shù)胤蓻](méi)有限制州或聯(lián)邦執(zhí)法部門使用面部識(shí)別的范圍。
這項(xiàng)法令將面部識(shí)別稱為“等同于要求每個(gè)人隨時(shí)攜帶和展示帶有個(gè)人照片的身份證”,并引用了對(duì)女性、年輕人、移民和有色人種面部識(shí)別錯(cuò)誤匹配的擔(dān)心。
據(jù)外媒稱,薩默維爾市收到了當(dāng)?shù)鼐用穹窒淼?8條書(shū)面評(píng)論,加上美國(guó)公民自由聯(lián)盟(ACLU)的支持信和來(lái)自貿(mào)易組織安全行業(yè)協(xié)會(huì)的反對(duì)信。該市收到的所有信件都支持禁令。
“在使用納稅人資金來(lái)促進(jìn)其發(fā)展前,任何新的安全技術(shù)必須證明是有效的。”薩默維爾居民德米在一封信中稱。
除了薩默維爾市外,今年5月份,舊金山城市監(jiān)督委員會(huì)(Board of Supervisors)的官員以8-1的投票結(jié)果通過(guò)人臉識(shí)別禁用法令,禁止城市工作人員購(gòu)買和使用人臉識(shí)別技術(shù)。針對(duì)人臉識(shí)別技術(shù),該條例特別指出,“人臉識(shí)別技術(shù)危害公民權(quán)利和公民自由的傾向大大超過(guò)了其聲稱的好處,這項(xiàng)技術(shù)將加劇種族不平等,并威脅到我們不受政府長(zhǎng)期監(jiān)控的生活能力”。
人臉識(shí)別技術(shù)在美國(guó)的爭(zhēng)議一直不斷,反對(duì)者認(rèn)為,如果不對(duì)這項(xiàng)技術(shù)進(jìn)行規(guī)范,將會(huì)為政府提供前所未有的權(quán)力來(lái)跟蹤人們的日常生活,這與健康的民主不相容。
上個(gè)月,美國(guó)國(guó)會(huì)兩黨在一場(chǎng)國(guó)會(huì)聽(tīng)證會(huì)上正式討論了對(duì)執(zhí)法部門使用面部識(shí)別軟件所帶來(lái)的日益擔(dān)憂。議員們聽(tīng)了幾個(gè)小時(shí)的證詞,內(nèi)容涉及不受監(jiān)管的面部識(shí)別如何跟蹤抗議者,影響刑事司法系統(tǒng),并加劇種族偏見(jiàn)等。最終,國(guó)會(huì)兩黨共同提案,尋求立法對(duì)面部識(shí)別進(jìn)行監(jiān)管。
此外,抗議還來(lái)自美國(guó)的民間團(tuán)體。去年7月,ACLU測(cè)試了亞馬遜的人臉識(shí)別系統(tǒng)。ACLU使用亞馬遜的開(kāi)放式人臉識(shí)別系統(tǒng)Rekognition API掃描了所有535名國(guó)會(huì)議員的面孔,對(duì)照25000張公開(kāi)的警方嫌疑犯照片。這是一款在亞馬遜服務(wù)器上運(yùn)行的圖像識(shí)別AI軟件,它作為亞馬遜云業(yè)務(wù)的一部分,一直尋求與政府合作,向后者提供基于人臉識(shí)別的安防服務(wù)。
沒(méi)有一個(gè)國(guó)會(huì)議員過(guò)去曾經(jīng)是警方嫌疑犯,但結(jié)果顯示有28個(gè)國(guó)會(huì)議員被認(rèn)成了嫌疑犯。這一發(fā)現(xiàn),讓ACLU嚴(yán)重?fù)?dān)心警方使用的人臉識(shí)別系統(tǒng)的準(zhǔn)確性。