您好, 登錄| 注冊|
論壇導航
您好, 登錄| 注冊|
子站:
產品/技術
應用分類

AI:有點人性化,但還不夠人性化

2020-01-03 14:07 來源:電源網編譯 編輯:咩咩

由于AI被動地吸收了輸入的數據,因此它只能反映出存在于人類開發人員心中的偏見——有意識或無意識。

“我不明白為什么當我們免費獲得真實物品時,為什么要把所有這些錢都花在人工智能上”——約翰·凱特林漢姆

目前用于面部識別的人工智能(AI)算法似乎具有維多利亞時代優生學庸醫的科學嚴謹性和社會敏感性。然而,這一判決并不能公正地對待從19世紀90年代一直到30年代的優生學庸醫大軍,因為他們是被根深蒂固的種族偏見驅使的。

美國國家標準技術研究院最近完成了一項大規模研究,發現最先進的面部識別系統錯誤地識別了非裔美國人和亞洲人的面孔,比白種人的面孔要多十到一百倍。 《紐約時報》指出:“這項技術在識別女性方面也比男性困難得多?!笔聦嵶C明,這項技術對老年人特別有敵意,錯誤地指責老年人,是中年成年人的十倍。

奶奶,靠在墻上!

麻省理工學院(Massachusetts Institute of Technology)的一項較早研究發現,亞馬遜銷售的面部識別軟件在31%的時間內將膚色較黑的女性誤認為男性。它以為米歇爾·奧巴馬是個男人。

(從那時起,亞馬遜以及蘋果,Facebook和Google一直拒絕讓任何人測試他們的面部識別技術。)

與以前的優生學家和顱相學家不同,面部識別算法是種族主義的,沒有先入為主或偏執??梢员扔鳛閷⑺麄兣c德國集中營的警衛相提并論,后者在因戰爭罪受審時提出了他們不受種族仇恨驅使的論點。他們只是簡單地、忠實地、無意識地遵循命令。他們都沒有意見。

由于警衛說謊,這種類比也失敗了。算法不能說謊。算法不能思考;您無法與之交談。他們沒有意見。在這方面,算法不如狗。我與狗進行了交談-基本上是單方面的,但很有趣,與我進行了交談,我的意思是正確的。而且,狗有意見。他們喜歡某些人而不喜歡其他人,他們對這些偏好的推理通常很明顯。

算法、機器和機器人也許有一天會趕上Rin Tin Tin,形成觀點。但是,正如科幻預言家阿瑟·c·克拉克(Arthur C. Clarke)和菲利普·k·迪克(Philip K. Dick)所說,這可能不是一個受歡迎的突破。你還記得,在根據迪克小說改編的電影《銀翼殺手》中,機器人會夢見電子羊嗎?在美國,哈里森·福特(Harrison Ford)試圖說服一對名叫羅伊(Roy)和普里斯(Pris)的固執己見的復制人,讓他們心甘情愿地自取滅亡,但他幾乎沒有取得任何進展。相反,他們試圖殺死他。

AI:有點人性化,但還不夠人性化

幸運的是,我們的技術還沒有創造出像Roy, Pris, HAL 9000(2001)和Alien中狡猾的Ash那樣的人工智能。我認為,更準確的電影類比可能是《約書亞》,戰爭游戲中的WOPR電子大腦。約書亞有足夠的能力和速度在一分鐘左右模擬出一百萬次氫彈爆炸的場景,但他無法被理由和證據所動搖,因為全球熱核戰爭的概念本身是徒勞的,而且從根本上說是邪惡的。約書亞是在處理了幾兆兆字節的數據并引爆了北美防空司令部的每一根導火線之后,才得出這個純粹實用的結論。

數據,而不是說服

說服約書亞不去毀滅世界的是數據,而不是說服。相反地,有些聰明的人無論提供的數據有多少,也無法被同樣地說服。今天,一些狂熱分子頑固地堅持認為,核戰爭是可以打贏的,為了這場甜蜜的勝利,付出幾十億人的生命是可以容忍的代價。

在任何可預見的算法迭代中,這種頑固但徹底的人類觀點都是不可能實現的。當它成為可能時,它將是不受歡迎的。核毀滅比面部識別更容易實現。

人的面貌千變萬化,千變萬化,在人生的各個階段都在不斷地變化。它比戰爭的面貌更加多樣化。目前還沒有一種算法能夠掌握它所有的細微差別、表達方式和可變性,這個神奇的公式似乎也不是迫在眉睫。與此同時,面部識別技術只會像創造它的人一樣客觀和準確。這意味著面部人工智能如今既像三k黨(Ku Klux Klan)一樣帶有種族主義色彩,又像一個新生兒一樣沒有種族主義。我們不知道什么時候會成為哪個。

由于人工智能是如此不可思議的中立,如此被動地吸收輸入它的數據,它不得不反映出人類開發人員內心深處的偏見——有意識的或無意識的。它會有自己的觀點,卻不知道如何形成自己的觀點。其后果既不祥又似曾相識。

縱觀人類歷史,頑固不化者一直在影響——往往是支配——公眾生活,發號施令,毒害社會?,F在,天真的是,我們擁有善意的技術專家,他們發明的監控設備不能分辨男孩女孩,亞洲老奶奶和碰撞測試假人,罪犯和圣人。

這些散光機器人間諜——即亞馬遜(Amazon)、蘋果(Apple)、Facebook和谷歌——的不負責任的提供者,正把他們交給有權收集檔案、發出傳票、踢開大門、拒絕保釋、把人送進監獄、把兒童趕出美國的機構。

有人認為,評估面部識別人工智能的研究存在缺陷,只是因為樣本太小。但國家標準與技術研究所的研究規模很大。它測試了來自99位開發者的189種人臉識別算法。與之前的研究一樣,該研究發現,五點鐘方向的陰影、梳發、膚色和化妝等基本特征往往會讓算法感到困惑。

警察和檢察官逐漸認識到,目擊者身份識別是一種不可靠的破案工具,因為它充滿了匆忙、短視、恐懼、偏見和許多其他人性缺陷。

我們現在了解到,設計用于數字糾正這類致命錯誤的算法,與任何裝模作樣的目擊者一樣,容易產生情緒、偏執和惡意。這是真的,因為我們不得不使我們的機器在我們自己的可塑性和難以捉摸的形象。

本文編譯自eetimes。

聲明:本網站原創內容,如需轉載,請注明出處;本網站轉載的內容(文章、圖片、視頻)等資料版權歸原網站所有。如我們采用了您不宜公開的文章或圖片,未能及時和您確認,避免給雙方造成不必要的經濟損失,請電郵聯系我們,以便迅速采取適當處理措施;歡迎投稿,郵箱:editor@netbroad.com。

微信關注
技術專題 更多>>
智能產品:領略科技創造奇跡
CES 2020電源網跟蹤報道

頭條推薦

2019慕尼黑上海電子展
客服熱線
服務時間:周一至周五9:00-18:00
微信關注
免費技術研討會
獲取一手干貨分享

互聯網違法不良信息舉報

Reporting Internet Illegal and Bad Information
editor@netbroad.com
400-003-2006
日本人的色道