麻省理工學(xué)院研究發(fā)現(xiàn)，亞馬遜面部識別軟件Rekognition在性別識別中未能成功識別女性和膚色較深的女性，但卻成功識別了膚色較白的男性。亞馬遜員工和投資者已經(jīng)敦促亞馬遜停止向警方銷售此軟件。

亞馬遜面部識別軟件Rekognition向來飽受爭議，而如今這款軟件面臨著新的批判。麻省理工學(xué)院媒體實驗室進行的一項研究發(fā)現(xiàn)，Rekognition可能存在性別歧視和種族偏見。

該軟件在識別女性和膚色較深女性時，性別識別能力尤為下降。在要對一些女性面孔進行識別時，該軟件將其中19%的女性面孔錯誤標(biāo)記為男性。而在識別膚色較深的女性面孔時，Rekognition的識別能力則更差——錯將其中31%的女性面孔標(biāo)記為男性。相比之下，Rekognition對膚色較白的男性成功進行了識別。

麻省理工學(xué)院發(fā)現(xiàn)，IBM和微軟開發(fā)的類似軟件的識別能力要比Rekognition更出色。具體而言，微軟開發(fā)的軟件僅把1.5%膚色較深的女性面孔識別為男性。

去年2月，麻省理工學(xué)院研究員喬伊• 伯拉姆維尼進行了一項類似的研究。他發(fā)現(xiàn)，由IBM，微軟創(chuàng)建的面部分析軟件在種族和性別偏見方面都存在問題。該項研究引起了這些公司的強烈反對。隨后，微軟和IBM承諾重組其面部識別軟件，提高識別準(zhǔn)確度。與此同時，亞馬遜在研究結(jié)果發(fā)表后沒有做出任何改變。在美國科技網(wǎng)站Verge發(fā)表的一份聲明中，亞馬遜稱麻省理工的研究人員沒有使用其最新版本的Rekognition。

馬特•伍德是亞馬遜網(wǎng)絡(luò)服務(wù)深度學(xué)習(xí)和人工智能總經(jīng)理。他在一份聲明中表示，“根據(jù)通過使用面部分析而得到的結(jié)果，對任何用途(包括執(zhí)法)的面部識別準(zhǔn)確性得出結(jié)論，這都是不可能的。”

專家以及進行上述報告的研究員警告稱，面部識別軟件如果仍然存在性別歧視和種族偏見的問題，可能導(dǎo)致種族貌相和其他不公正的后果。喬伊• 伯拉姆維尼和德博拉•拉吉認為，除了修復(fù)軟件中的偏差以確保識別結(jié)果公正之外，還有更多的工作要完成。

據(jù)信，美國聯(lián)邦調(diào)查局即將對亞馬遜的Rekognition進行測試，而亞馬遜已將其軟件出售給奧蘭多市和俄勒岡州華盛頓縣的執(zhí)法機構(gòu)，警方似乎正在利用該軟件檢查身份不明的嫌犯的照片，并對縣監(jiān)獄的照片數(shù)據(jù)庫進行檢查。據(jù)信，亞馬遜還向美國移民海關(guān)執(zhí)法提供了這項技術(shù)。(實習(xí)編譯：王驛風(fēng) 審稿：李宗澤)

關(guān)鍵詞：