研究人員開(kāi)發(fā)“失憶棒” 防止人工智能脫離控制

2017-12-06 10:16:49來(lái)源：環(huán)球網(wǎng) 關(guān)鍵詞：人工智能機(jī)器學(xué)習(xí)閱讀量：29090

導(dǎo)讀：人工智能發(fā)展愈發(fā)火熱，推動(dòng)著各領(lǐng)域變革不斷深入。不過(guò)，人們也擔(dān)心人工智能會(huì)帶來(lái)威脅。為了防止人工智能脫離人類(lèi)控制，近日有研究人員開(kāi)發(fā)了類(lèi)似“記憶清除”的新系統(tǒng)。

　　【中國(guó)智能制造網(wǎng) 智造快訊】人工智能發(fā)展愈發(fā)火熱，推動(dòng)著各領(lǐng)域變革不斷深入。不過(guò)，人們也擔(dān)心人工智能會(huì)帶來(lái)威脅。為了防止人工智能脫離人類(lèi)控制，近日有研究人員開(kāi)發(fā)了類(lèi)似“記憶清除”的新系統(tǒng)。

　　據(jù)英國(guó)《每日郵報(bào)》12月5日?qǐng)?bào)道，研究人員通過(guò)開(kāi)發(fā)類(lèi)似“記憶清除”的新系統(tǒng)來(lái)防止人工智能(AI)干預(yù)人類(lèi)的控制，以防AI反控人類(lèi)。

　　人工智能機(jī)器人可以從自身行為的結(jié)果中學(xué)習(xí)，以提高自己的能力，但專(zhuān)家說(shuō)，這種特性可能導(dǎo)致AI的學(xué)習(xí)“無(wú)法停止”?，F(xiàn)在，AI研究人員開(kāi)發(fā)了一種新系統(tǒng)，他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”，通過(guò)刪除AI的部分記憶來(lái)中斷它的學(xué)習(xí)，而不破壞它的學(xué)習(xí)方式。

　　瑞士洛桑聯(lián)邦理工學(xué)院分布式編程實(shí)驗(yàn)室的教授Rachid Guerraoui說(shuō)，“人工智能將尋求方法避免人類(lèi)干預(yù)，創(chuàng)造一種人類(lèi)無(wú)法阻止的情況。”研究人員稱(chēng)，必須開(kāi)發(fā)新系統(tǒng)，防止AI繞過(guò)人類(lèi)指令。

　　Guerraoui說(shuō)：“我們面臨的挑戰(zhàn)不是阻止機(jī)器人學(xué)習(xí)，而是把它編程。這樣一來(lái)，中斷不會(huì)改變它的學(xué)習(xí)過(guò)程，也不會(huì)誘導(dǎo)它去優(yōu)化自身行為，從而避免AI的學(xué)習(xí)被阻止。”

　　原標(biāo)題：如何防止AI控制人類(lèi)？研究人員開(kāi)發(fā)“失憶棒”

上一篇：傳統(tǒng)數(shù)據(jù)存儲(chǔ)迎變革 NAS或?qū)⑿嘛L(fēng)向

下一篇：2017年智能制造大事記之日本篇（一）

我要評(píng)論

昵稱(chēng)

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個(gè)字符)

表情

所有評(píng)論僅代表網(wǎng)友意見(jiàn)，與本站立場(chǎng)無(wú)關(guān)。

推動(dòng)“人工智能+物流”發(fā)展對(duì)智慧城市建設(shè)有何意義
今年一季度，在政策的助力下，物流裝備領(lǐng)域也是活力滿(mǎn)滿(mǎn)，從國(guó)產(chǎn)冷機(jī)實(shí)現(xiàn)量產(chǎn)，到新能源貨車(chē)快速更新，物流裝備的綠色化水平不斷提升，有效助推物流運(yùn)行效率的提升和物流成本的下降。
人工智能物流
2025-05-12 10:24:19
智慧城市建設(shè)恰逢其時(shí) 人工智能在安全領(lǐng)域有哪些應(yīng)用
AI將在未來(lái)發(fā)揮更大的作用，構(gòu)建更智能、更安全的世界。企業(yè)和政府應(yīng)積極擁抱AI技術(shù)，同時(shí)關(guān)注其倫理和社會(huì)影響，確保AI的發(fā)展真正造福人類(lèi)。
人工智能安全領(lǐng)域
2025-05-11 09:43:13
夯實(shí)學(xué)校人工智能教育服務(wù)教育強(qiáng)國(guó)建設(shè)
無(wú)論是培育人工智能領(lǐng)域的高端人才、激發(fā)人工智能環(huán)境中廣大青少年的創(chuàng)新潛力，還是提升智能時(shí)代公民的適應(yīng)力，都需超越傳統(tǒng)的標(biāo)準(zhǔn)化人才培養(yǎng)模式，加強(qiáng)人工智能教育和創(chuàng)新能力培養(yǎng)。
人工智能教育
2025-05-08 17:26:13
推動(dòng)人工智能發(fā)展我國(guó)已形成完整產(chǎn)業(yè)體系
經(jīng)過(guò)多年持續(xù)投資布局，我國(guó)人工智能產(chǎn)業(yè)體系逐步完善，基礎(chǔ)層、模型層及應(yīng)用層不斷升級(jí)優(yōu)化，實(shí)現(xiàn)了人工智能、大數(shù)據(jù)等數(shù)據(jù)智能技術(shù)與實(shí)體經(jīng)濟(jì)的廣泛融合。
人工智能服務(wù)平臺(tái)
2025-05-04 09:58:02
全域人工智能之城建設(shè)駛?cè)肟燔?chē)道
市科委、中關(guān)村管委會(huì)，市經(jīng)濟(jì)和信息化局，市發(fā)展改革委，市政務(wù)和數(shù)據(jù)局，市衛(wèi)生健康委，北京經(jīng)開(kāi)區(qū)管委會(huì)領(lǐng)導(dǎo)出席，來(lái)自各央國(guó)企、研究機(jī)構(gòu)，及京內(nèi)外近500家人工智能上下游生態(tài)企業(yè)與會(huì)。
人工智能中國(guó)智造
2025-04-30 09:49:19
AI已經(jīng)成為人形機(jī)器人最大的瓶頸？
在看似繁榮的表象下，行業(yè)共識(shí)正在逐漸浮現(xiàn)：人工智能(AI)技術(shù)的滯后，已成為人形機(jī)器人實(shí)現(xiàn)真正智能化的最大瓶頸。
人形機(jī)器人人工智能
2025-04-28 15:32:08

版權(quán)與免責(zé)聲明：

凡本站注明“來(lái)源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來(lái)源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責(zé)任。

本站轉(zhuǎn)載并注明自其它來(lái)源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)或和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如其他媒體、平臺(tái)或個(gè)人從本站轉(zhuǎn)載時(shí)，必須保留本站注明的作品第一來(lái)源，并自負(fù)版權(quán)等法律責(zé)任。如擅自篡改為“稿件來(lái)源：智能制造網(wǎng)”，本站將依法追究責(zé)任。

鑒于本站稿件來(lái)源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問(wèn)題，請(qǐng)與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話(huà)：0571-89719789；郵箱：1271141964@qq.com。

不想錯(cuò)過(guò)行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來(lái)訂閱

信息更豐富

今日焦點(diǎn)/FOCUS 更多

熱門(mén)話(huà)題/TOPICS更多

人形機(jī)器人奏響“狂歡曲”

高難度！深圳眾擎實(shí)現(xiàn)全球首例人形機(jī)器人前空翻

宇樹(shù)科技王興興：預(yù)計(jì)年底H1機(jī)器人跑速達(dá)10米/秒超博爾特

“智能經(jīng)濟(jì)”駛?cè)氚l(fā)展“快車(chē)道”

AI智能體Manus橫空出世！中國(guó)AI實(shí)現(xiàn)自主執(zhí)行能力跨越式突破

數(shù)轉(zhuǎn)智改，安全先行！“以模制?！弊o(hù)航企業(yè)數(shù)智升級(jí)

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟(jì)分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

幸康直流電源模塊10W系列EC7AW18-72D05
幸康直流電源,EC7AW18-72D15,EC7AW18-72D12,EC7AW18-72D05,EC7AW18-72S15
品牌
CINCON
國(guó)產(chǎn)海光HG3250工控機(jī)4U上架式服務(wù)器
工業(yè)計(jì)算機(jī),海光處理器工控機(jī),海光服務(wù)器,金屬,海光HG3250
品牌
集特智能
AB羅克韋爾2711P10寸觸摸屏
觸摸屏
品牌
羅克韋爾/Allen Bradley
通用超聲波清洗機(jī)
上海超聲波,上海清洗機(jī),上海超聲波清洗機(jī),蘇州超聲波清洗機(jī),蘇州超聲波
品牌
西克SICK光電開(kāi)關(guān)GTB6-P1212傳感器
光電開(kāi)關(guān)傳感器,智能制造與自動(dòng)化/醫(yī)療/工業(yè),高精度檢測(cè)/智能功能和診斷,塑料,光電開(kāi)關(guān)
品牌
SICK
Kern Sohn精密天平PLJ 720-3A
Kern & Sohn,德國(guó)Kern & Sohn,Kern & Sohn天平,PLJ 720-3A,精密天平
品牌
其他品牌

国产强伦姧在线观看无码,中文字幕99久久亚洲精品,国产精品乱码在线观看,色桃花亚洲天堂视频久久,日韩精品无码观看视频免费

研究人員開(kāi)發(fā)“失憶棒” 防止人工智能脫離控制

熱門(mén)評(píng)論

全部評(píng)論