?5月29日，以“智匯中國(guó) 智惠上合”為主題的2025中國(guó)—上海合作組織人工智能合作論壇在天津舉行。360集團(tuán)創(chuàng)始人周鴻祎受邀參加“安全風(fēng)險(xiǎn)與監(jiān)管治理”議題交流時(shí)表示，人類在享受AI帶來的巨大機(jī)遇時(shí)，也必須正視與之伴生的安全風(fēng)險(xiǎn)與監(jiān)管挑戰(zhàn)。他提出，一方面，應(yīng)“以模制?！?，利用安全大模型解決大模型安全問題；另一方面則應(yīng)以辯證、客觀的態(tài)度看待監(jiān)管問題，力求在保障安全的前提下，為創(chuàng)新預(yù)留足夠空間。

周鴻祎在發(fā)言中表示，從現(xiàn)實(shí)應(yīng)用層面來看，大模型面臨著傳統(tǒng)安全威脅與AI自身安全隱患的雙重挑戰(zhàn)，這些問題已成為制約AI產(chǎn)業(yè)健康發(fā)展的關(guān)鍵瓶頸，亟待系統(tǒng)性解決方案。在傳統(tǒng)安全風(fēng)險(xiǎn)方面，系統(tǒng)漏洞與供應(yīng)鏈攻擊成為AI領(lǐng)域的“心腹大患”。一旦漏洞被攻擊者利用，企業(yè)的核心商業(yè)機(jī)密、用戶敏感數(shù)據(jù)等將面臨被竊取的風(fēng)險(xiǎn)，可能給企業(yè)帶來難以估量的損失。

而AI自身的安全問題同樣不容忽視。大模型存在的“幻覺”現(xiàn)象，以及易遭受提示注入攻擊等特性，可能導(dǎo)致嚴(yán)重后果。特別是眾多企業(yè)基于大模型構(gòu)建了能夠自主工作的智能體，這些“數(shù)字員工”具備調(diào)用各類工具的能力，一旦大模型被惡意操控或出現(xiàn)“幻覺”，智能體可能出現(xiàn)誤發(fā)重要郵件、錯(cuò)誤操作致使生產(chǎn)線停擺等誤操作，將風(fēng)險(xiǎn)從虛擬世界傳導(dǎo)至現(xiàn)實(shí)生產(chǎn)生活中，傳統(tǒng)的安全防護(hù)手段在這些新型風(fēng)險(xiǎn)面前顯得捉襟見肘。

周鴻祎提出，必須以創(chuàng)新思維重塑安全體系，“以模制?！背蔀槠凭株P(guān)鍵。所謂“以模制?！?，即利用人工智能技術(shù)自身的優(yōu)勢(shì)，通過安全大模型賦能數(shù)字安全，實(shí)現(xiàn)安全防御的智能化升級(jí)。據(jù)了解，360依托10年300億元的技術(shù)投入成果，結(jié)合20年來積累的海量安全大數(shù)據(jù)，以及世界頂級(jí)安全專家的豐富經(jīng)驗(yàn)，訓(xùn)練出專業(yè)的安全大模型，并形成完整的安全解決方案。目前，該安全大模型已成功應(yīng)用于政府、能源、金融、教育等關(guān)鍵行業(yè)，為其筑牢AI安全防線。同時(shí)360牽頭成立大模型安全聯(lián)盟，聯(lián)合科研機(jī)構(gòu)、高校和行業(yè)頭部企業(yè)，共享技術(shù)成果，共同研發(fā)安全產(chǎn)品與服務(wù)，攜手推動(dòng)AI安全有序地融入各行各業(yè)。

而在監(jiān)管治理層面，周鴻祎指出，合理有效的監(jiān)管是人工智能產(chǎn)業(yè)健康發(fā)展的重要保障。當(dāng)前，全球各國(guó)紛紛出臺(tái)AI監(jiān)管政策，旨在規(guī)范技術(shù)應(yīng)用、防范潛在風(fēng)險(xiǎn)。然而，人工智能技術(shù)發(fā)展日新月異，其優(yōu)勢(shì)與局限并存，這就要求監(jiān)管部門以辯證、客觀的態(tài)度看待，在保障安全的前提下，為創(chuàng)新預(yù)留足夠空間。

以大模型的“幻覺”問題為例，這一特性雖可能導(dǎo)致信息偏差，但同時(shí)也賦予大模型創(chuàng)造力和想象力，在科研領(lǐng)域，如新藥分子結(jié)構(gòu)設(shè)計(jì)、蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)等方面發(fā)揮著積極作用。周鴻祎認(rèn)為，可借鑒互聯(lián)網(wǎng)早期發(fā)展的“避風(fēng)港原則”，在AI監(jiān)管中采取柔性治理策略具有重要意義。即在堅(jiān)守安全底線的基礎(chǔ)上，對(duì)企業(yè)因技術(shù)特性導(dǎo)致的一般性失誤給予一定寬容度，以鼓勵(lì)創(chuàng)新。通過制定統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和監(jiān)管框架，明確規(guī)則邊界，引導(dǎo)企業(yè)在規(guī)范內(nèi)積極探索創(chuàng)新，避免因過度監(jiān)管抑制產(chǎn)業(yè)發(fā)展活力。

（責(zé)任編輯：康玲華）

???????????????????????????????????????????????????????運(yùn)營(yíng)商財(cái)經(jīng)（官方微信公眾號(hào)yyscjrd）—— 主流財(cái)經(jīng)網(wǎng)站，一家全面覆蓋科技、金融、證券、汽車、房產(chǎn)、食品、醫(yī)藥、日化、酒業(yè)及其他各種消費(fèi)品網(wǎng)站。