馬斯克等AI上書聯(lián)合國禁止開發(fā)戰(zhàn)爭機器人

2017-08-21 16:43:44來源：雷鋒網(wǎng) 編輯：半城明滅關(guān)鍵詞：機器人特種機器人軍用機器人閱讀量：32130

導(dǎo)讀：核武器的威脅還未解決，人類又將面臨另一個自己制造出來的生存威脅。近日，一批機器人和AI領(lǐng)域的專家、企業(yè)家以及技術(shù)，呼吁聯(lián)合國禁止“殺人機器人”的開發(fā)和使用。

　　【中國智能制造網(wǎng) 智造快訊】核武器的威脅還未解決，人類又將面臨另一個自己制造出來的生存威脅。近日，一批機器人和AI領(lǐng)域的專家、企業(yè)家以及技術(shù)，呼吁聯(lián)合國禁止“殺人機器人”的開發(fā)和使用。

　　“殺人機器人”，似乎已被公認(rèn)是下一輪軍用技術(shù)的制高點。中美俄英法韓等主要軍事大國，紛紛加大研發(fā)投入，爭相打造無需人類駕駛員、操縱者的“鋼鐵雄師”。但同時，這引發(fā)的倫理爭議與安全擔(dān)憂日漸升溫。近日，來自26個國家的116名專家，由馬斯克和DeepMind聯(lián)合創(chuàng)始人Mustafa Suleyman領(lǐng)頭，發(fā)布公開信號召全面禁止自主武器。

　　聯(lián)合國近已投票通過開啟對此類軍用武器的正式討論，這包括自主化的無人機、坦克、機關(guān)槍。馬斯克等這批人已向聯(lián)合國提交一份公開信——希望在此時，即正式討論開始前進行呼吁，推動聯(lián)合國制定決議制止這波已經(jīng)開啟的“殺人機器人”軍備競賽。

　　在公開信中，這批技術(shù)們對將主持該討論的聯(lián)合國常規(guī)武器會議警告稱，這輪軍備競賽極有可能導(dǎo)致“人類戰(zhàn)爭形式發(fā)生第三次革命”，前兩次分別由火藥和核武器引發(fā)。他們寫道：“一旦研發(fā)出來，致命自主武器將使未來戰(zhàn)爭擴大到的規(guī)模，戰(zhàn)爭進展的速度也將超過人類對時間的理解。這類武器很有可能成為恐怖的代名詞，獨裁者、恐怖分子能把它們用到無辜平民上，也有可能被黑客利用，讓自主武器做出我們不希望看到的行為。留給我們做出行動的時間并不多。一旦這個潘多拉魔盒開啟，關(guān)上就難了。”

　　此前，AI專家曾警告，以現(xiàn)在的人工智能技術(shù)和發(fā)展速度，部署全自主武器將在幾年內(nèi)變得可行。雖然，AI武器能讓戰(zhàn)場對軍隊服役人員來說變得更安全——更多人不需要上前線;但專家們擔(dān)心能自主行動的進攻性武器，將極大降低戰(zhàn)爭的門檻，導(dǎo)致更大量的人類傷亡。

　　該公開信在今天IJCAI的開幕致辭上公布，得到了機器人以及AI不少專家學(xué)者的支持。公開信全文以及署名者名單見此。他們強調(diào)做出緊急行動的重要性，尤其聯(lián)合國把討論該問題的會議時間推遲到了今年11月，原計劃是今天。

　　這批聯(lián)合署名公開信的專家，呼吁把“在道德倫理上站不住腳”的致命自主武器系統(tǒng)，加入聯(lián)合國自 1983 年生效的特殊常規(guī)武器大會 (CCW) 武器禁用名錄。后者包括化學(xué)武器以及蓄意以致盲為目的的激光武器。

　　新南威爾士大學(xué)人工智能教授Toby Walsh對此表示：“幾乎所有技術(shù)都有兩面性，AI 同樣如此。它能幫助我們解決許多當(dāng)前面臨的社會問題：不平等、貧困、氣候變化帶來的挑戰(zhàn)以及仍未消退的金融危機。但是，同樣的技術(shù)也能用到自主武器上，讓戰(zhàn)爭(進一步)工業(yè)化。我們需要在今天做出決定，到底什么樣的未來才是我們想要的。”

　　大家很熟悉的馬斯克是該領(lǐng)域的活躍人物。他很早就對前瞻性的 AI 政策立法進行了多次呼吁，把人工智能說成是人類的頭號生存威脅。馬斯克的說法造成很大爭議，不少學(xué)者以及意見表達(dá)了不同觀點，包括Ray Kurzweil與扎克伯格。不少公眾可能認(rèn)可AI對人類社會有很大破壞潛力這一說法，但同時認(rèn)為真正造成“破壞”還離得遠(yuǎn)。

　　Clearpath Robotics創(chuàng)始人Ryan Gariepy表示：“與其它科幻小說里的AI潛在應(yīng)用不一樣，自主武器系統(tǒng)研發(fā)正處在一個拐點，它對無辜平民造成殺傷的威脅非?，F(xiàn)實，也有可能造成不穩(wěn)定。”

　　AI頂會IJCAI被專家們用作討論致命自主武器系統(tǒng)的論壇，已經(jīng)不是次了。兩年前，包括馬斯克和霍金在內(nèi)的數(shù)千名AI、機器人專家以及行業(yè)在該大會上簽署了另一封公開信，呼吁與今天相似的武器禁令。這推動了聯(lián)合國對致命自主武器開啟正式討論。

　　核武器的威脅還未解決，人類又將面臨另一個自己制造出來的生存威脅。

　　原標(biāo)題：馬斯克等26國AI上書：聯(lián)合國禁止殺人機器人

上一篇：機器人會被黑客控制？網(wǎng)絡(luò)安全重要性持續(xù)提升

下一篇：專家：想要走近人工智能需遵循這三個步驟

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。

機器人交警“夸父”上崗：說著一口流利的四川話
“夸父” 機器人作為全尺寸高動態(tài)雙足仿人形機器人，基本實現(xiàn)國產(chǎn)化，支持360度全向移動，最高時速可達(dá)5公里，還能輕松完成20厘米高度的跳躍。
機器人人形機器人夸父
2025-05-06 09:53:20
宇樹機器人五一兼職靶場累癱蹲下休息蹺二郎腿充電走紅
據(jù)現(xiàn)場工作人員透露，機器人連續(xù)工作一小時左右就會出現(xiàn)電量不足、過熱等狀況，甚至在表演時直接“癱倒”在地，不得不緊急暫?；顒舆M行搶修和更換電池。
機器人宇樹H1機器人
2025-05-06 09:49:54
推動人工智能發(fā)展我國已形成完整產(chǎn)業(yè)體系
經(jīng)過多年持續(xù)投資布局，我國人工智能產(chǎn)業(yè)體系逐步完善，基礎(chǔ)層、模型層及應(yīng)用層不斷升級優(yōu)化，實現(xiàn)了人工智能、大數(shù)據(jù)等數(shù)據(jù)智能技術(shù)與實體經(jīng)濟的廣泛融合。
人工智能服務(wù)平臺
2025-05-04 09:58:02
全域人工智能之城建設(shè)駛?cè)肟燔嚨?/a>
市科委、中關(guān)村管委會，市經(jīng)濟和信息化局，市發(fā)展改革委，市政務(wù)和數(shù)據(jù)局，市衛(wèi)生健康委，北京經(jīng)開區(qū)管委會領(lǐng)導(dǎo)出席，來自各央國企、研究機構(gòu)，及京內(nèi)外近500家人工智能上下游生態(tài)企業(yè)與會。
人工智能中國智造
2025-04-30 09:49:19

AI已經(jīng)成為人形機器人最大的瓶頸？
在看似繁榮的表象下，行業(yè)共識正在逐漸浮現(xiàn)：人工智能(AI)技術(shù)的滯后，已成為人形機器人實現(xiàn)真正智能化的最大瓶頸。
人形機器人人工智能
2025-04-28 15:32:08
從“原子”到算法！人工智能領(lǐng)域的“元素周期表”誕生
研究團隊發(fā)現(xiàn)，處于同一“主族“的算法(如支持向量機與核方法)具有相似的數(shù)學(xué)內(nèi)核，而位于相同“周期“的算法(如決策樹與隨機森林)則共享相近的泛化能力圖譜。
人工智能計算機科學(xué)
2025-04-27 17:01:21

版權(quán)與免責(zé)聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責(zé)任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責(zé)任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。