智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
氣動制動器盤式摩擦片OREMO E4-A1934 COREMO 144143 抱
品牌
今年兩會期間，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎聚焦關(guān)注大模型安全和幻覺、網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問題。
建議對大模型“幻覺”給予適度包容
周鴻祎認為，以DeepSeek為代表的大模型取得了“國運級科技成果”，不僅促進了大模型技術(shù)自主創(chuàng)新，也帶動了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進百行千業(yè)，成為推動中國科技進步、經(jīng)濟增長和國家強盛的關(guān)鍵力量。但包括DeepSeek在內(nèi)的大模型都存在“幻覺”，偶爾會生成看似不合理、與事實不符的情況。“幻覺”是一把雙刃劍，是大模型與生俱來的特點，不可消除，也決定其創(chuàng)造力和想象力，對于實現(xiàn)AGI(通用人工智能)極其重要。如果大模型沒有“幻覺”，就失去了想象力和創(chuàng)造力。并且越是能力強的模型，一般幻覺也越多。
周鴻祎認為，在科研領(lǐng)域，大模型的“幻覺”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對準確性要求高的領(lǐng)域，“幻覺”雖然可能出錯，但可以利用技術(shù)手段，如RAG(檢索增強生成)技術(shù)，通過比對專業(yè)知識庫、網(wǎng)絡(luò)實時信息等方式予以矯正。
周鴻祎表示，回顧過去30年，我國法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國運，不能因為過度追求準確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗，對大模型以及相關(guān)的產(chǎn)品和服務(wù)實施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機會，促進企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
周鴻祎表示，回顧過去30年，我國法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國運，不能因為過度追求準確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗，對大模型以及相關(guān)的產(chǎn)品和服務(wù)實施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機會，促進企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
用“以模制模”解決大模型應(yīng)用安全問題
周鴻祎再度聚焦大模型安全。他認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。對此周鴻祎呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。
周鴻祎認為開源帶來大模型的廣泛應(yīng)用，未來將會有各類專業(yè)大模型、垂直大模型、場景大模型，連接內(nèi)部知識庫，以智能體的形式在大批政府機構(gòu)和企業(yè)中廣泛部署，推進“數(shù)轉(zhuǎn)智改”，實現(xiàn)降本增效。然而大模型存在幻覺、內(nèi)容安全等諸多問題無法通過傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險。
周鴻祎認為，大模型應(yīng)用安全主要集中在基座模型、知識庫和智能體三個方面?；Ｐ桶踩矫妫捎诖竽Ｐ推毡榇嬖诘幕糜X現(xiàn)象，特別是在生成文本時可能輸出與現(xiàn)實不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導(dǎo)致誤導(dǎo)性后果。
知識庫安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲于內(nèi)部知識庫中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機會竊取這些寶貴的數(shù)據(jù)資源。
智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運作，造成嚴重的物理損害。
周鴻祎介紹，針對上述挑戰(zhàn)，360運用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系，護航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。
為進一步強化這一防御體系，周鴻祎建議采取兩項措施：一是推動安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對人工智能應(yīng)用所涉及的基座模型、知識庫、智能體等安全問題，基于安全大模型技術(shù)開展研發(fā)工作，加速推動技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。
另一方面，組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部實現(xiàn)技術(shù)成果共享，共同開展產(chǎn)品及服務(wù)測試，待產(chǎn)品與服務(wù)成熟穩(wěn)定后，向更廣闊的市場加以推廣，助力大模型安全保障普及至千行百業(yè)。
網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型，建議“以安全即服務(wù)破解網(wǎng)絡(luò)安全行業(yè)困境”
網(wǎng)絡(luò)安全是國家安全的重要組成部分，在國家數(shù)字化、智能化發(fā)展進程中，安全挑戰(zhàn)日益增大。周鴻祎認為，構(gòu)建國家網(wǎng)絡(luò)安全防御體系，不能僅關(guān)注大企業(yè)和國家機關(guān)，地方性企業(yè)及民營企業(yè)同樣關(guān)鍵，它們是供應(yīng)鏈、產(chǎn)業(yè)鏈和生態(tài)鏈的重要一環(huán)。
然而，當前網(wǎng)絡(luò)安全行業(yè)內(nèi)卷嚴重，傳統(tǒng)模式問題重重，不僅難以實現(xiàn)安全能力的廣泛覆蓋，也無法幫助企業(yè)等客戶迅速構(gòu)建安全能力，這無形中加劇了國家網(wǎng)絡(luò)安全風(fēng)險。
一方面，售賣硬件盒子模式是“雙輸”，企業(yè)投入高卻效果不佳，而廠家也因多樣化的定制需求而成本飆升，疲于應(yīng)對定制任務(wù)，市場拓展受阻；另一方面，傳統(tǒng)安全軟件重營銷、輕交付，常與客戶需求不符。而軟件即服務(wù)(SaaS)已成為全球趨勢，SaaS 服務(wù)產(chǎn)品可見、可體驗、價格便宜、交付簡單易推廣，能助力企業(yè)快速形成安全能力，如云計算行業(yè)的變革就是成功范例，可網(wǎng)絡(luò)安全行業(yè)仍停留在傳統(tǒng)系統(tǒng)集成層面，已跟不上安全形勢需求。
為此，周鴻祎提出兩條建議推動網(wǎng)絡(luò)安全服務(wù)化轉(zhuǎn)型。一是順應(yīng)全球趨勢，鼓勵從購買硬件產(chǎn)品轉(zhuǎn)變?yōu)橘徺I安全服務(wù)。有關(guān)部門可將安全服務(wù)部署納入專項補助項目，對積極采用安全服務(wù)的企業(yè)給予財政補貼或稅收優(yōu)惠，引導(dǎo)市場向服務(wù)型轉(zhuǎn)變；二是鼓勵購買 SaaS 化的安全產(chǎn)品，利用其優(yōu)勢幫助企業(yè)低成本適配需求、評估成效，提升網(wǎng)絡(luò)安全防護水平，為國家數(shù)字化建設(shè)筑牢安全基礎(chǔ)。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
