原標題：專家解讀｜促進人工智能擬人化互動服務有序開展 引領人工智能負責任創(chuàng)新

　　人工智能技術的突破正推動人機交互從功能性輔助邁向情感化與人格化，在重塑社會互動模式的同時，也催生一系列新風險挑戰(zhàn)。此類風險具有隱蔽傳導特征，可能侵害公民權益，甚至沖擊社會倫理秩序與信任根基。若缺乏有效治理，將嚴重阻礙人工智能健康發(fā)展，損害社會公共利益。在此背景下制定《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》（以下簡稱《辦法》），有利于促進人工智能擬人化互動服務有序開展，引領人工智能“負責任創(chuàng)新”，為構建“以人為本”的人工智能治理體系提供重要的制度支撐。

　　一、錨定國家戰(zhàn)略方向，彰顯“負責任創(chuàng)新”理念

　　以國家戰(zhàn)略與政策導向為根本遵循，凸顯了人工智能治理的前瞻性、精準性、系統(tǒng)性與協(xié)同性。一是堅持科學立法原則，合理前瞻技術演進趨勢，為人工智能創(chuàng)新發(fā)展預留制度空間。二是實施分類分級監(jiān)管，立足擬人化互動服務特性精準識別風險并差異化施策。三是構建全鏈條治理體系，統(tǒng)籌技術創(chuàng)新、倫理規(guī)范與社會效益，確保人工智能健康有序發(fā)展。四是形成多元共治格局，注重政府監(jiān)管與行業(yè)自律相結合，提升治理效能。

　　以“負責任創(chuàng)新”理念為指引，明確人工智能創(chuàng)新活動的責任邊界，讓技術始終在安全、公平、可持續(xù)的軌道上發(fā)展。擬人化互動服務通過模擬人類內在特質與用戶建立準社會化的“情感聯(lián)結”，可能導致新型社會關系異化，而立法所貫徹的“負責任創(chuàng)新”理念正是為了保障人的主體性地位，維護真實人際關系的價值?；谶@一理念設計的一系列制度，重在防范技術濫用對人格尊嚴、社會信任與倫理秩序造成沖擊，確保人工智能發(fā)展始終服務于人民福祉。

　　二、聚焦重點突出風險，構建精準治理體系

　　《辦法》精準識別并系統(tǒng)回應了由“擬人化”和“情感交互”兩大核心特征所衍生的重點突出風險，以“人機邊界模糊”為治理重點，構建多維度風險防控體系。

　　一是建立身份透明制度，劃定擬人化安全紅線，精準防范人機邊界模糊引發(fā)的認知混淆、信任侵蝕、人格權侵害及倫理越界等風險。一方面，以顯著標識義務為核心的身份透明制度重在保障用戶知情權與選擇權，為法律追責提供清晰起點，能夠有效遏制技術濫用的匿名性庇護，從源頭降低認知混淆與信任侵蝕風險。另一方面，《辦法》劃定人工智能擬人化政治安全紅線，防范深度偽造與新型網(wǎng)絡暴力，保護個人人格權益免受侵害。因此，立法堅持擬人化互動服務的輔助人類定位，禁止替代、扭曲真實人際關系，并確保技術發(fā)展符合主流價值觀。

　　二是加強特殊群體保護，建立防沉迷機制，關注不同群體的差異化訴求，彰顯人文關懷與實質公平理念。擬人化互動服務因其高度情感回應性與陪伴特性，具有天然的沉迷風險。未成年人正處于價值觀塑造與社交能力發(fā)展的關鍵期，老年人則可能面臨數(shù)字鴻溝與情感陪伴缺失的雙重困境，這些特殊群體在擬人化交互中易陷入情感依賴。立法針對性內化企業(yè)的社會責任，確保技術進步紅利能夠公平、安全地惠及所有群體，實現(xiàn)實質意義上的公平正義。

　　三是強調對用戶交互信息的嚴格保護，是對《個人信息保護法》的深化與場景化適用。情感類個人信息能夠映射用戶的內心世界、情感弱點與潛意識傾向，不當利用可能會引發(fā)心理操控、待遇歧視及情感勒索等風險。同時，“情感計算”相關技術可能被濫用于提供成癮性服務，使用戶在無意識中暴露更多的敏感信息。因此，對用戶交互數(shù)據(jù)施加更嚴格的目的限制、安全存儲與使用禁令，是人格權保護在數(shù)智時代的延伸。

　　三、踐行系統(tǒng)治理思維，落實包容審慎監(jiān)管

　　《辦法》通過全鏈條責任、彈性監(jiān)管工具與多元共治格局，為“負責任創(chuàng)新”理念落地提供堅實保障，推動產業(yè)生態(tài)良性發(fā)展。

　　一是將責任設計貫穿擬人化互動服務的關鍵節(jié)點，實現(xiàn)風險精準防控。在模型設計階段，從源頭避免替代社會交往、控制用戶心理、誘導沉迷依賴等后果。在模型訓練階段，使用體現(xiàn)主流價值觀的數(shù)據(jù)，評估合成數(shù)據(jù)的安全性，防止數(shù)據(jù)污染。在應用部署前，依法開展安全評估，避免服務出現(xiàn)重大安全風險。在服務運營中，建立風險動態(tài)處置機制，及時應對突發(fā)風險?？梢钥闯觯@種全流程治理模式能夠有效避免事后補救式監(jiān)管的滯后性，推動風險管理內化為企業(yè)的核心業(yè)務流程，實現(xiàn)治理效能最大化。

　　二是強調協(xié)同共治，鼓勵行業(yè)組織制定標準、加強自律，體現(xiàn)了立法者對人工智能治理復雜性的清晰認知。《辦法》積極回應新技術新應用多元治理需要，整合政府、企業(yè)、行業(yè)組織、社會公眾等主體的治理資源，形成治理合力。同時，《辦法》力求在防范風險與鼓勵創(chuàng)新之間取得動態(tài)平衡，推動形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局，促進擬人化互動服務在規(guī)范有序的環(huán)境中實現(xiàn)高質量發(fā)展。

　　三是積極落實包容審慎監(jiān)管思路，探索“監(jiān)管沙盒”等彈性監(jiān)管工具，為新技術新應用提供“安全試錯”的制度環(huán)境。《辦法》首次在部門規(guī)章層面明確“監(jiān)管沙盒”制度，允許企業(yè)在監(jiān)管機構的監(jiān)督指導下開展創(chuàng)新試點和安全測試，在保障企業(yè)創(chuàng)新活力的同時，及時發(fā)現(xiàn)并防范試點過程中出現(xiàn)的風險。這一彈性監(jiān)管模式準確適應了人工智能技術迭代快、應用場景多的特點，為新技術的成熟推廣、安全防控創(chuàng)造有利條件。

　　總的來看，《辦法》將“負責任創(chuàng)新”理念轉化為可執(zhí)行、可追責的立法規(guī)則，為我國擬人化互動服務的健康發(fā)展提供了穩(wěn)定預期，也為全球應對類似前沿挑戰(zhàn)貢獻了兼具前瞻性與實操性的“中國方案”。（作者：林維，西南政法大學校長、中國法學會副會長）