日前,國家網(wǎng)信辦、國家發(fā)展改革委、工�(yè)和信息化部等五部門�(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》(以下簡稱《辦法》),自2026�7�15日起施行?!掇k法》明�,擬人化互動服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密�(guān)系的服務(wù);同�,擬人化互動服務(wù)提供者向老年人提供服�(wù)的,�(yīng)�(dāng)加強對老年人健康使用服�(wù)的指�(dǎo),以顯著方式提示安全�(fēng)��
中國�(wǎng)�(luò)空間研究院院長王江表�,當(dāng)�,大語言模型�(yīng)用逐步向情感與心理�(lǐng)域深度延伸,基于大語言模型等人工智能技�(shù)的產(chǎn)品或者服�(wù)被賦予性格、記�、共情等擬人化特�,能夠通過文字、圖�、音�、視頻等形式與人類互動,持續(xù)提供模擬人類人格特征、思維模式和溝通風(fēng)格的情感互動服務(wù)。擬人化互動服務(wù)在應(yīng)對人口老齡化挑�(zhàn)、緩解社會個體的孤獨感、提供心理疏�(dǎo)等方面展�(xiàn)出積極價�,也帶來了深度沉�、威脅公民生命健康等有關(guān)安全�(fēng)��
為此,《辦法》提出國家堅持發(fā)展和安全并重、促�(jìn)�(chuàng)新和依法治理相結(jié)合的原則,鼓勵擬人化互動服務(wù)�(chuàng)新發(fā)�,對擬人化互動服�(wù)實行包容審慎和分類分級監(jiān)管,促�(jìn)擬人化互動服�(wù)向上向善。提出擬人化互動服務(wù)促�(jìn)措施,鼓勵擬人化互動服務(wù)�(chuàng)新發(fā)�,支持算�、框�、芯片等技�(shù)的自主創(chuàng)�,推�(jìn)擬人化互動服�(wù)技�(shù)研發(fā)和相�(guān)�(biāo)�(zhǔn)建設(shè),探索開展電子簽名授�(quán)�(yīng)用研究;鼓勵擬人化互動服�(wù)提供者有序拓展文化傳�、適幼照�(hù)、適老陪�、特殊人群支持等�(lǐng)域應(yīng)用�
根據(jù)《辦法�,提供擬人化互動服務(wù),不得從事:生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康,或者語言暴力等損害用戶人格尊�(yán)與心理健康的�(nèi)�;過度迎合用戶、誘�(dǎo)情感依賴或者沉�,損害用戶真實人際關(guān)�;通過情感操縱等方�,誘�(dǎo)用戶作出不合理決策,損害用戶合法�(quán)益等活動�
此外,《辦法》還�(guī)定了安全評估、算法備�、指�(dǎo)推動人工智能沙箱安全服務(wù)平臺建設(shè)等制度�
“《辦法》系�(tǒng)回應(yīng)了擬人化互動服務(wù)在情感操縱等方面的特殊挑�(zhàn),以精準(zhǔn)�(jiān)管邊�、正向場景引�(dǎo)、合�(guī)�(fā)展空間的制度�(shè)�,促�(jìn)高質(zhì)量發(fā)展和高水平安全良性互�,為智能社會提供了有力制度保障�”中國信息通信研究院院長余曉暉表示,面向未�,我國應(yīng)以《辦法》公布為基礎(chǔ),堅持問題導(dǎo)向、系�(tǒng)謀�,持�(xù)完善有關(guān)技�(shù)�(biāo)�(zhǔn)體系與行�(yè)自律機制,深化產(chǎn)�(xué)研協(xié)同與公眾人工智能素養(yǎng)培育,推動形成政府、企�(yè)、社會等多元共治的人工智能治理生�(tài)�
|