用“算法”模擬光束可攻擊自動駕駛車輛專家呼吁重視AI安全

2021-03-11 13:25:27來源：TechWeb 關(guān)鍵詞：AI AI算法閱讀量：24835

導讀：當不同頻譜的光束打在同一個物體上，AI可能將該物體識別錯誤，比如將停車標識識別成順利通行。

　　3月11日消息，阿里安全專家發(fā)布了一項新研究，只要用簡單的激光筆，就可以讓AI模型不再有效。在這個研究中，他們設(shè)計了一種算法，可模擬光束對AI模型進行“攻擊”，這種測試方法在現(xiàn)實世界中得到了驗證，且“攻擊”極易操作，對現(xiàn)有基于AI的視覺系統(tǒng)更具威脅，例如基于AI視覺的自動駕駛。

　　當不同頻譜的光束打在同一個物體上，AI可能將該物體識別錯誤，比如將停車標識識別成順利通行。

　　“攻擊AI遠非需要人為去制造對抗樣本，一支簡單的激光筆就可以。我們想通過這個研究揭示AI模型一些之前沒有被探索過的‘錯誤’，從而‘強壯’AI，讓它未來能抵擋這種‘攻擊’，也讓相關(guān)從業(yè)者重視提高AI模型的安全性。”阿里安全圖靈實驗室負責人薛暉說道。

　　除了以“一束光”測試AI視覺的安全性，近圖靈實驗室發(fā)布了多項涉及AI安全的研究成果，比如多項文字識別與檢測、利用自監(jiān)督建立視頻表征學習方法與提升半監(jiān)督行為檢測的算法框架、AI樣本對抗、偽造人臉檢測、AI對人臉與人聲匹配的雙重模態(tài)識別、視頻描述AI生成技術(shù)等囊括AI“視覺”“聽覺”“大腦”“免疫性”等多方研究，這10項涉及AI安全的新一代安全架構(gòu)研究成果均被頂會CVPR2021收錄。

　　“在AI安全前沿技術(shù)上進行探索，一是為了讓AI更安全，二是為了讓AI助力安全，三是為解決具體社會問題尋找提效的新途徑。”薛暉說。

　　另外，薛暉還表示，安全部署要前置，無論是AI本身的安全，還是AI可以助力解決的安全問題與社會問題，這就是從源頭構(gòu)筑安全的核心理念。希望在廣闊的AI安全研究的新領(lǐng)域中，能有更多新生力量加入，迸發(fā)出有創(chuàng)造性和想象力的研究，終應(yīng)用到人們的生活中，真正服務(wù)大眾，解決難題。

　　(原標題：用“算法”模擬光束可攻擊自動駕駛車輛專家呼吁重視AI安全)

上一篇：兩會聲音匯總：各大代表熱議5G發(fā)展

下一篇：AI免接觸：研究人員借助智能揚聲器監(jiān)測心律

我要評論

昵稱

匿名

文明上網(wǎng)，理性發(fā)言。（您還可以輸入200個字符)

表情

所有評論僅代表網(wǎng)友意見，與本站立場無關(guān)。

聚焦AI，雷軍、李東生、周鴻祎……科技大佬們的兩會建議案都說了啥？
今年全國兩會，雷軍、周鴻祎、劉慶峰、李東生等多位互聯(lián)網(wǎng)科技大佬的建言中均提及了AI，但關(guān)注角度有所不同。下面我們就一起看看這些大佬都關(guān)注AI的哪一面。
AI兩會建議案科技大佬
2025-03-05 09:44:16
立足香港、服務(wù)全球華人！香港自主研發(fā)生成式AI大模型落地
香港科技大學助理教授、香港生成式人工智能研發(fā)中心預(yù)研部主任韓斯睿說道，隨著人工智能技術(shù)的快速發(fā)展，“AI+政務(wù)”成為推動政府治理現(xiàn)代化的重要路徑。
AI大模型生成式AI大模型AI
2025-02-26 17:25:34
安徽省農(nóng)業(yè)農(nóng)村廳召開AI賦能綠色食品產(chǎn)業(yè)發(fā)展座談會
當前，要搶抓人工智能發(fā)展機遇，以AI賦能綠色食品產(chǎn)業(yè)迭代升維。要加強研究，掌握全國乃至全球AI發(fā)展前沿動態(tài)和應(yīng)用情況，分析綠色食品產(chǎn)業(yè)發(fā)展AI應(yīng)用場景及切入點。
AI天邦食品綠色食品產(chǎn)業(yè)
2025-02-25 08:23:56
一周趣評：臺積電2納米制程芯片將量產(chǎn)；2024年全球電視ODM市場連續(xù)第三年上漲
大家好，歡迎來到《一周趣評》。2024年2月17日-2月23日，2納米制程芯片、AI、電視ODM、量子計算芯片等領(lǐng)域都呈現(xiàn)出了哪些有趣動態(tài)和精彩故事呢？我們一起來看一看吧！
2納米制程芯片AI
2025-02-24 18:01:37
早報|國務(wù)院國資委部署深化中央企業(yè)“AI＋”專項行動；廣州市中心可打自動駕駛出租車
2月19日，國務(wù)院國資委召開中央企業(yè)“AI＋”專項行動深化部署會，總結(jié)國資央企發(fā)展人工智能進展成效，研究部署下一步重點工作；從2月21日開始，廣州首次將自動駕駛出租車(Robotaxi)開進廣州市中心、機場和高鐵站......
AI自動駕駛出租車
2025-02-24 09:32:15
諾基亞CEO更換：戰(zhàn)略轉(zhuǎn)向AI與數(shù)據(jù)中心
諾基亞的 AI 及數(shù)據(jù)中心業(yè)務(wù)發(fā)展、新 CEO 上任后的首批戰(zhàn)略舉措，以及 2025 年電信市場資本支出復(fù)蘇對公司業(yè)績的影響。
AI數(shù)據(jù)中心
2025-02-13 10:09:39

版權(quán)與免責聲明：

凡本站注明“來源：智能制造網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智能制造網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本站授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智能制造網(wǎng)”。違反上述聲明者，本站將追究其相關(guān)法律責任。

本站轉(zhuǎn)載并注明自其它來源（非智能制造網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉(zhuǎn)載時，必須保留本站注明的作品第一來源，并自負版權(quán)等法律責任。如擅自篡改為“稿件來源：智能制造網(wǎng)”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數(shù)量較多，如涉及作品內(nèi)容、版權(quán)等問題，請與本站聯(lián)系并提供相關(guān)證明材料：聯(lián)系電話：0571-89719789；郵箱：1271141964@qq.com。

不想錯過行業(yè)資訊？

訂閱 智能制造網(wǎng)APP

一鍵篩選來訂閱

信息更豐富

今日焦點/FOCUS 更多

熱門話題/TOPICS更多

人形機器人奏響“狂歡曲”

高難度！深圳眾擎實現(xiàn)全球首例人形機器人前空翻

宇樹科技王興興：預(yù)計年底H1機器人跑速達10米/秒超博爾特

“智”啟新篇 AI活躍度持續(xù)攀升

“人工智能＋”助力產(chǎn)業(yè)向新行 2025年全球規(guī)模將突破5000億美元

理性看待人工智能在教育中的應(yīng)用，實現(xiàn)教育創(chuàng)新

精彩直播/VIDEO更多

回放

數(shù)字孿生賦能新型工業(yè)化分論壇

: 數(shù)字孿生賦能低空經(jīng)濟分論壇

: 數(shù)字孿生賦能城市全域數(shù)字化轉(zhuǎn)型分論壇

推薦產(chǎn)品/PRODUCT 更多

亮點閃爍儀器現(xiàn)貨庫號：M398453
亮點閃爍儀,DH18-EP403
品牌
其他品牌
工業(yè)琴式綜合繼電器測試臺
測試臺,繼電器試驗臺
品牌
國華
法國ap2e 氣體分析儀赫爾納供應(yīng)
法國ap2e,法國ap2e氣體分析儀,法國ap2e赫爾納供應(yīng),法國ap2e沼氣分析儀,法國ap2e煙氣排放監(jiān)測系統(tǒng)
品牌
其他品牌
64位平行濃縮儀儀表
平行濃縮儀,64位,HG08-PX64
品牌
其他品牌
防爆磁感應(yīng)限位開關(guān)HRCX20-551A33-20Y
限位行程開關(guān)應(yīng)用,防爆磁感應(yīng)限位開關(guān),限位開關(guān)原理,HRCX20-551AD33-20Y,磁感應(yīng)限位開關(guān)特點
品牌
杭榮
CCS壓力開關(guān)604V1
CCS,壓力開關(guān),604V1
品牌
其他品牌

国产强伦姧在线观看无码,中文字幕99久久亚洲精品,国产精品乱码在线观看,色桃花亚洲天堂视频久久,日韩精品无码观看视频免费

用“算法”模擬光束可攻擊自動駕駛車輛專家呼吁重視AI安全

熱門評論

全部評論

国产强伦姧在线观看无码,中文字幕99久久亚洲精品,国产精品乱码在线观看,色桃花亚洲天堂视频久久,日韩精品无码观看视频免费

用“算法”模擬光束可攻擊自動駕駛車輛 專家呼吁重視AI安全

熱門評論

全部評論

用“算法”模擬光束可攻擊自動駕駛車輛專家呼吁重視AI安全