原標(biāo)題：專(zhuān)家解讀｜以規(guī)范應(yīng)用護(hù)航智能體發(fā)展行穩(wěn)致遠(yuǎn)

　　當(dāng)前，以自主感知、記憶、決策、交互與執(zhí)行為核心的智能體技術(shù)，正從前沿技術(shù)探索邁向規(guī)模化應(yīng)用，并加速進(jìn)入各種垂類(lèi)場(chǎng)景，新的應(yīng)用形態(tài)及商業(yè)模式持續(xù)涌現(xiàn)，成為塑造新質(zhì)生產(chǎn)力、推動(dòng)社會(huì)智能化轉(zhuǎn)型的重要驅(qū)動(dòng)力。然而，智能體在延續(xù)人工智能技術(shù)現(xiàn)有各類(lèi)風(fēng)險(xiǎn)的同時(shí)，也帶來(lái)權(quán)限過(guò)大、行為失控、工具投毒等新型風(fēng)險(xiǎn)，引發(fā)全社會(huì)廣泛關(guān)注。近日，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實(shí)施意見(jiàn)》（以下簡(jiǎn)稱(chēng)《實(shí)施意見(jiàn)》），旨在進(jìn)一步落實(shí)國(guó)務(wù)院《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》，促進(jìn)智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展。《實(shí)施意見(jiàn)》系統(tǒng)回應(yīng)如何在智能體技術(shù)快速迭代演進(jìn)，潛在風(fēng)險(xiǎn)日益復(fù)雜的背景下，確保其行進(jìn)在安全、可靠、可信的軌道上。

　　一、智能體新技術(shù)發(fā)展帶來(lái)新治理挑戰(zhàn)

　　智能體技術(shù)的發(fā)展使人工智能治理的邏輯發(fā)生深刻變化。相較于大模型，智能體進(jìn)一步展現(xiàn)出自主性、交互性等特征，能夠理解復(fù)雜目標(biāo)、自主規(guī)劃并執(zhí)行一系列任務(wù)。這也意味著人工智能的風(fēng)險(xiǎn)性質(zhì)已經(jīng)從內(nèi)容風(fēng)險(xiǎn)向行為風(fēng)險(xiǎn)擴(kuò)散，且影響范圍更廣，傳導(dǎo)速度更快，責(zé)任主體更加模糊。一方面，智能體在復(fù)雜環(huán)境中出現(xiàn)的錯(cuò)誤決策或越權(quán)操作可能直接導(dǎo)致事故，另一方面，攻擊者也可能通過(guò)工具投毒等各類(lèi)新型手段劫持智能體用于違法犯罪行為。這一根本變化，使得智能體治理不僅要對(duì)靜態(tài)“輸出內(nèi)容”進(jìn)行管理，也要對(duì)動(dòng)態(tài)“行為邊界”進(jìn)行規(guī)范。

　　二、多措并舉筑牢智能體安全防范底線(xiàn)

　　《實(shí)施意見(jiàn)》的出臺(tái)，正是對(duì)現(xiàn)有人工智能治理體系的必要深化與拓展，從明確產(chǎn)品準(zhǔn)則、防范安全風(fēng)險(xiǎn)、完善治理體系、強(qiáng)化行業(yè)自律四個(gè)方面著手，多措并舉構(gòu)建智能體治理體系。

　　一是明確產(chǎn)品準(zhǔn)則。《實(shí)施意見(jiàn)》及時(shí)回應(yīng)了智能體授權(quán)決策邊界這一關(guān)鍵問(wèn)題，要求厘清僅限用戶(hù)本人決策、需由用戶(hù)授權(quán)決策、智能體自主決策等不同決策方式的合理界限，確保用戶(hù)對(duì)智能體自主決策享有知情權(quán)和最終決策權(quán)。加強(qiáng)智能體行為管控，確保智能體行為合法合規(guī)、可追溯、可驗(yàn)證。同時(shí)確保智能體行為符合主流價(jià)值導(dǎo)向，重點(diǎn)防范未成年人、老年人等群體的沉迷成癮、情感依賴(lài)風(fēng)險(xiǎn)。

　　二是防范安全風(fēng)險(xiǎn)?！秾?shí)施意見(jiàn)》重點(diǎn)關(guān)注智能體內(nèi)生安全、供應(yīng)鏈安全及應(yīng)用衍生安全風(fēng)險(xiǎn)，通過(guò)推動(dòng)相關(guān)安全技術(shù)研究和風(fēng)險(xiǎn)識(shí)別預(yù)警提升風(fēng)險(xiǎn)防范能力，要求強(qiáng)化對(duì)智能體全鏈條安全風(fēng)險(xiǎn)的防范，尤其是避免智能體被惡意用于違法犯罪行為，防止智能體風(fēng)險(xiǎn)的衍生和擴(kuò)散。

　　三是完善治理體系。敏捷治理強(qiáng)調(diào)治理機(jī)制的適應(yīng)性與響應(yīng)速度，《實(shí)施意見(jiàn)》明確提出要構(gòu)建分類(lèi)分級(jí)的治理框架，根據(jù)應(yīng)用場(chǎng)景和潛在影響，審慎穩(wěn)妥地開(kāi)展智能體分級(jí)治理，并針對(duì)不同風(fēng)險(xiǎn)級(jí)別應(yīng)用場(chǎng)景，采取備案、檢測(cè)、產(chǎn)品召回、信息報(bào)告、平臺(tái)管理、行業(yè)自律等多元舉措實(shí)現(xiàn)高效治理，推動(dòng)健全第三方專(zhuān)業(yè)合規(guī)服務(wù)體系。

　　四是強(qiáng)化行業(yè)自律。行業(yè)自律可填補(bǔ)法律剛性規(guī)制與技術(shù)創(chuàng)新靈活性之間的“治理間隙”，快速匯聚共識(shí)?！秾?shí)施意見(jiàn)》鼓勵(lì)行業(yè)組織、主要企業(yè)聯(lián)合制定智能體功能合規(guī)、算法治理等規(guī)范細(xì)則。聚焦智能體開(kāi)發(fā)者、開(kāi)發(fā)平臺(tái)、分發(fā)平臺(tái)、服務(wù)提供者等多元主體，指導(dǎo)建立公平合理的平臺(tái)規(guī)則及用戶(hù)協(xié)議，加強(qiáng)智能體相關(guān)風(fēng)險(xiǎn)的宣傳教育和用戶(hù)培訓(xùn)。并鼓勵(lì)探索智能體信用評(píng)價(jià)機(jī)制，引導(dǎo)各方參與信用評(píng)價(jià)，共同營(yíng)造良好發(fā)展環(huán)境。

　　三、邁向可信的智能未來(lái)

　　《實(shí)施意見(jiàn)》的出臺(tái)有助于為智能體這一快速演進(jìn)的技術(shù)領(lǐng)域，構(gòu)建起一套基礎(chǔ)性的治理和發(fā)展框架。

　　一是為產(chǎn)業(yè)提供確定性的發(fā)展預(yù)期。清晰的政策規(guī)則能降低市場(chǎng)不確定性，幫助企業(yè)明確研發(fā)與商業(yè)化的邊界，將資源和投資更有效地集中于符合規(guī)范的技術(shù)創(chuàng)新與場(chǎng)景探索，有助于形成穩(wěn)定、可持續(xù)的產(chǎn)業(yè)發(fā)展環(huán)境，避免因規(guī)則缺失或模糊而引發(fā)的市場(chǎng)無(wú)序狀態(tài)。

　　二是在社會(huì)層面構(gòu)建風(fēng)險(xiǎn)防護(hù)網(wǎng)。《實(shí)施意見(jiàn)》通過(guò)設(shè)定全鏈條安全要求，特別是對(duì)關(guān)鍵領(lǐng)域和脆弱群體的重點(diǎn)保護(hù)，系統(tǒng)性預(yù)防智能體技術(shù)濫用、決策失控等風(fēng)險(xiǎn)，保護(hù)國(guó)家安全、公共利益和人民權(quán)益，為智能體技術(shù)在全社會(huì)規(guī)?；瘧?yīng)用建立必要的安全信任基礎(chǔ)。

　　四、結(jié)語(yǔ)

　　展望未來(lái)，隨著智能體技術(shù)突破與應(yīng)用深化，社會(huì)各界更需要“邊發(fā)展、邊學(xué)習(xí)、邊治理”的定力和智慧。唯有在創(chuàng)新與規(guī)范之間找到動(dòng)態(tài)平衡，在技術(shù)能力與社會(huì)理性之間建立持續(xù)對(duì)話(huà)，我們才能真正駕馭智能體這一強(qiáng)大工具，使其成為經(jīng)濟(jì)高質(zhì)量發(fā)展和社會(huì)進(jìn)步的建設(shè)性力量，共同邁向一個(gè)安全、可靠、可信的智能未來(lái)。（作者：薛瀾，清華大學(xué)文科資深教授、清華大學(xué)蘇世民書(shū)院院長(zhǎng)）