智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
杭榮
【中國智能制造網(wǎng) 本站原創(chuàng)】近年來，除了機(jī)器傷人事件，AI的歧視與偏見問題也開始顯現(xiàn)，人類的心靈垃圾已經(jīng)污染了機(jī)器之心。除了種族、性別、健康、經(jīng)濟(jì)等方面的歧視，人工智能還可能把不友好的目光投向一些特殊群體。
機(jī)器人也有歧視與偏見 人類當(dāng)警惕AI陰暗面
近日，因兩次“逃跑”而聞名的俄羅斯機(jī)器人Promobot再度成為媒體關(guān)注的焦點(diǎn)，因?yàn)樗c前來視察其所在園區(qū)的俄羅斯總統(tǒng)普京握了手。這臺機(jī)器人的出逃主要源于未被發(fā)現(xiàn)的程序錯(cuò)誤。由于在逃跑過程中未對人類造成任何傷害，Promobot的出格行為引來諸多網(wǎng)友的打趣與追捧，其儼然成為網(wǎng)紅般的存在。
然而，人工智能黑箱里所隱藏的錯(cuò)誤與不足可并不總會(huì)引出這種“可愛”的行為，人類必須嚴(yán)肅對待AI或隱或現(xiàn)的陰暗面。近年來，除了機(jī)器傷人事件，AI的歧視與偏見問題也開始顯現(xiàn)，人類的心靈垃圾已經(jīng)污染了機(jī)器之心。
就目前情況來看，AI的歧視主要存在于種族和性別兩個(gè)方面。
2015年，谷歌推出了一項(xiàng)圖像識別的新應(yīng)用，但很快便收到來自黑人用戶的不良反饋，因?yàn)樵搼?yīng)用將一些黑人的照片判別為“大猩猩”。更有甚者，在2016年舉行的一場由AI擔(dān)任裁判的選美大賽上，這位理性的評委選出的44位優(yōu)勝者中，僅有一位是深色皮膚人種，而絕大多數(shù)是白人。
AI同樣戴著歧視女性的有色眼鏡。一些由AI控制的搜索引擎在投放廣告時(shí)，有意更少地向女性用戶展示高薪職位，而且想當(dāng)然地把女性與教育類、藝術(shù)類、照護(hù)類職業(yè)聯(lián)系在一起。
照此趨勢發(fā)展下去，AI還將習(xí)得更多人類世界的歧視與偏見。在大數(shù)據(jù)、云計(jì)算等其他技術(shù)的幫助下，AI將獲得并分析越來越多人類的隱私信息，并悄無聲息地做出比人工更為的判斷。如此一來，當(dāng)健康狀況較差、體質(zhì)較弱的人去購買保險(xiǎn)，當(dāng)經(jīng)濟(jì)條件欠佳的人去分期付款購買商品，人工智能系統(tǒng)便有可能先于人類做出判斷，無情地將弱者拒之門外。
除了種族、性別、健康、經(jīng)濟(jì)等方面的歧視，人工智能還可能把不友好的目光投向一些特殊群體。近日，斯坦福大學(xué)的一個(gè)研究團(tuán)隊(duì)開發(fā)出一種新的AI算法，能夠根據(jù)頭像照片判斷一個(gè)人的性取向，準(zhǔn)確率相當(dāng)驚人。尤其是對于男性性取向的判斷，在提供五張照片的情況下，準(zhǔn)確率能達(dá)到91%。雖然該團(tuán)隊(duì)并未表明要將這種算法投入現(xiàn)實(shí)應(yīng)用，但其蘊(yùn)含的能力顯然是種潛在威脅，可能導(dǎo)致同性戀人群的隱私遭到曝光，加深社會(huì)對這一群體的歧視，而AI無疑就是其中推波助瀾的關(guān)鍵角色。
AI本身沒有自主意識，也沒有主觀情緒，那么它的歧視與偏見是怎么來的呢？源頭自然還是人類本身。造成AI歧視問題的原因大致有二。其一，AI的深度學(xué)習(xí)往往建立在大量既有數(shù)據(jù)的基礎(chǔ)上，而這些來源于人類社會(huì)的數(shù)據(jù)不可避免地帶有人類集體意識的各種成分，魚龍混雜，因此人類持有怎樣的偏見，則AI也自然而然有樣學(xué)樣；其二，從事人工智能與機(jī)器學(xué)習(xí)研究的科研人員以男性、白種人居多，女性、有色人種、少數(shù)族群占比較少，因此AI產(chǎn)品很容易沾染上其研究者的主流意識形態(tài)和思維特征，表現(xiàn)出研究者的主流好惡。
歧視與偏見給人類帶來了怎樣的痛苦與災(zāi)難、消除歧視與偏見對于人類何其之難，相信這個(gè)社會(huì)中的每一個(gè)成員都有所體會(huì)。人工智能是人類用智慧培養(yǎng)起來的新生兒，若是想讓它更好地反哺人類，那么我們必須從當(dāng)前這初始階段就提高警惕，謹(jǐn)防自身的黑暗蔓延開去，污染了這張白紙。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
