隨著AI大模型、智能體等關鍵技術的快速迭代與規(guī)模應用，人工智能這一人類發(fā)展新領域，也面臨安全治理的現(xiàn)實挑戰(zhàn)。在4月14日舉行的2026年世界互聯(lián)網(wǎng)大會亞太峰會人工智能安全治理論壇上，多國與會人士圍繞人工智能治理思路、技術風險防范、國際協(xié)作機制等議題開展交流，推動完善全球人工智能安全治理體系。

　　人工智能正從“感知智能”邁向“決策智能”，風險也隨之復雜化、智能化、隱蔽化。中國工程院院士、中關村實驗室主任、清華大學講席教授吳建平坦言，AI安全治理不僅是技術問題，更是戰(zhàn)略抉擇，需在創(chuàng)新與規(guī)范、發(fā)展與安全間找到動態(tài)平衡。他提出，要筑牢技術根基，讓AI決策可知、可感、可解釋；要匯聚創(chuàng)新資源，聯(lián)合攻關安全難題；要深化系統(tǒng)思維，形成多元共治格局；要強化開放合作，貢獻亞太治理智慧。

　　“安全需要被精準度量，沒有科學嚴謹?shù)脑u測機制，人工智能大模型安全治理便無從談起?！鼻迦A大學計算機系教授、科研院院長、技術轉移院院長、互聯(lián)網(wǎng)司法研究院院長劉奕群提出，要以場景化測試賦能人工智能安全，以“評測即治理”的思路破解大模型安全治理難題。

　　中科院計算所副所長、教授、博士生導師程學旗則提出以“可信、可監(jiān)管、可控”為核心的治理框架，推動AI安全從“超級對齊”轉向可測量的實踐治理，通過數(shù)據(jù)透明、模型魯棒、測試時推理三大技術方向，實現(xiàn)風險可觀測、可恢復。

　　智能體時代，安全治理需升級為系統(tǒng)思維。香港科技大學助理教授、香港生成式人工智能研發(fā)中心主任特別助理及大模型部主任韓斯睿表示，智能體已成為社會信息網(wǎng)絡的“行動者”，風險將從單點失誤演變?yōu)閰f(xié)同放大。

　　深信服科技集團股份有限公司副總裁杜智偉主張，為AI打造“安全剎車系統(tǒng)”，以零信任管控、最小權限、熔斷機制，平衡行業(yè)應用中的安全與生產力需求。

　　德國赫爾蒂行政學院數(shù)字治理中心研究員、中國科學院訪問教授托爾斯滕·耶利內克認為，AI治理重心要從“模型對齊”走向“系統(tǒng)對齊”，管控工具權限、執(zhí)行邏輯與運行環(huán)境，以端到端防護守住系統(tǒng)安全。

　　面向產業(yè)應用，中國電信集團有限公司網(wǎng)絡和信息安全管理部總經(jīng)理谷紅勛指出，“無安全不智能”，企業(yè)要構建全生命周期AI安全防護體系。賽爾網(wǎng)絡有限公司總經(jīng)理王巖表示，面對智能體風險溯源難、責任界定模糊等問題，可借鑒互聯(lián)網(wǎng)治理機制，為智能體分配唯一網(wǎng)絡標識，實現(xiàn)可識別、可追責、可管理。

　　硬件是AI安全的末端防線。海光信息技術股份有限公司副總裁應志偉提到，算力爆發(fā)式增長與安全防護滯后形成落差，需強化機密計算等硬件能力，實現(xiàn)數(shù)據(jù)全鏈路加密，從底層守護模型與數(shù)據(jù)安全，為AI筑牢硬件安全底座。

　　網(wǎng)絡安全全球挑戰(zhàn)還需協(xié)同破局。巴基斯坦信息安全協(xié)會主席阿瑪爾·賈弗里認為，傳統(tǒng)被動安全模型已失效，AI讓主動防御成為可能，面對勒索軟件、供應鏈攻擊等威脅，全球必須實時協(xié)同、跨國聯(lián)動，協(xié)同合作是應對網(wǎng)絡安全未知挑戰(zhàn)的關鍵。

　　作為國際都市，香港正以靈活的框架平衡AI創(chuàng)新與監(jiān)管。香港特區(qū)政府署理數(shù)字政策專員張宜偉提到，當?shù)匾寻l(fā)布倫理AI框架與生成式AI應用指南，并將通過普及AI素養(yǎng)、聯(lián)動相關國際組織等多元舉措，筑牢本地安全防線。

　　AI安全治理需要清晰的框架指引。CNCERT/CC處長賀敏在會上發(fā)布了《人工智能安全治理框架2.0》。該框架統(tǒng)籌發(fā)展與安全，將AI風險分為技術內生、應用、延伸三大類，覆蓋全生命周期技術應對與綜合治理措施，還明確人工智能分級分類原則與八項可信準則，為全球治理提供中國方案。（記者 張晨昊 孔繁鑫）