智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
羅克韋爾/Allen Bradley
一項(xiàng)革命性的技術(shù)普及時(shí)，必有重重阻力。
GPT-4 誕生兩周之際，美國(guó)生命未來研究所(Future of Life)向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。
這封公開信已有1079人簽署。內(nèi)容寫到，最近AI的迅猛發(fā)展是一場(chǎng)“失控的競(jìng)賽”，他們沒有辦法理解、預(yù)測(cè)或可靠地控制自己創(chuàng)造的大模型。人類社會(huì)對(duì)其可能造成的影響也沒有做好準(zhǔn)備。
截至目前，特斯拉 CEO(OpenAI 聯(lián)合創(chuàng)始人)馬斯克、蘋果聯(lián)合創(chuàng)始人 Steve Wozniak、圖靈獎(jiǎng)得主 Yoshua Bengio、《人類簡(jiǎn)史》作者赫拉利、紐約大學(xué)名譽(yù)教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等千名科技大佬和 AI 專家已經(jīng)簽署公開信。
公開信稱，正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的，人工智能系統(tǒng)對(duì)社會(huì)和人類構(gòu)成較大的風(fēng)險(xiǎn)。我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。
盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，但目前沒有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒有相應(yīng)水平的規(guī)劃和管理。
當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類相當(dāng)，我們必須反思——
- 我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？
- 我們應(yīng)該自動(dòng)化所有的工作，包括令人滿意的工作嗎？
- 我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類思維？
- 我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？
OpenAI 最近關(guān)于人工智能的聲明指出：「在開始訓(xùn)練未來系統(tǒng)之前，進(jìn)行獨(dú)立審查可能很重要，人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率！宫F(xiàn)在已經(jīng)到了這個(gè)時(shí)間點(diǎn)。我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)，為期至少 6 個(gè)月。
人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些工作至少應(yīng)該包括：
- 專門針對(duì)人工智能的新的、有能力的監(jiān)管機(jī)構(gòu)；
- 對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤；
- 幫助區(qū)分真實(shí)和合成數(shù)據(jù)的溯源、水印系統(tǒng)，并跟蹤模型泄露；
- 強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；
- 對(duì)人工智能造成的傷害的責(zé)任認(rèn)定；
- 對(duì)人工智能安全技術(shù)研究的強(qiáng)大公共資金；
- 資源豐富的機(jī)構(gòu)，以應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂。
本次聯(lián)名信最后，Let's enjoy a long AI summer， not rush unprepared into a fall(讓我們享受一個(gè)漫長(zhǎng)的 AI 盛夏，而不是毫無準(zhǔn)備的進(jìn)入深秋)，這里是一個(gè)雙關(guān)，秋天英文 fall 另有墜落之意。這項(xiàng)提議試圖警醒眾人不要對(duì)人工智能過度樂觀，讓我們毫無準(zhǔn)備的步入墜落的深淵。
公開信鏈接：https：//futureoflife.org/open-letter/pause-giant-ai-experiments/
大佬們?cè)趽?dān)心什么
發(fā)布公開信的“未來生活研究所”創(chuàng)立于2014年，一直關(guān)注“開發(fā)與人類相當(dāng)?shù)娜斯ぶ悄芗夹g(shù)過程中出現(xiàn)的風(fēng)險(xiǎn)”，霍金、馬斯克都是這家機(jī)構(gòu)的科學(xué)顧問；艚鹪谘芯克闪(dāng)年，通過公開媒體發(fā)表對(duì)于AI技術(shù)最終將取代人類的一系列“預(yù)言”。
馬斯克在麻省理工學(xué)院AeroAstro百年學(xué)術(shù)研討會(huì)上發(fā)表講話將人工智能稱之為“我們面臨的最大威脅”。他說，“隨著人工智能的發(fā)展，我們將召喚出惡魔。”去年12月，馬斯克也在推特上公開表示，ChatGPT好得嚇人，我們離強(qiáng)大且危險(xiǎn)的AI不遠(yuǎn)了。上周，“人工智能教父”的 Geoffrey Hinton 受訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。
3月28日，AI領(lǐng)域?qū)＜疑w瑞·馬庫斯發(fā)文稱，人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)，超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。
ChatGPT之父”薩姆·阿爾特曼的話比較耐人尋味。他說，GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己搞不明白。他們只知道，在不斷測(cè)試中，人們忽然發(fā)現(xiàn)從ChatGPT開始，GPT系列開始出現(xiàn)了推理能力。自主意識(shí)和無序競(jìng)爭(zhēng)會(huì)把人類卷死。
歐洲刑警組織27日對(duì)采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論，“大型語言模型檢測(cè)和重現(xiàn)語言模式的能力不僅有助于網(wǎng)絡(luò)釣魚和在線欺詐，而且通常還可以用來冒充特定個(gè)人或群體的講話風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子。”
原標(biāo)題:馬斯克、Bengio等千位大佬聯(lián)名喊停更強(qiáng)AI研發(fā)，GPT-5得罪了誰？
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
