文章來源：“網(wǎng)信中國”微信公眾號 

當(dāng)前，生成式人工智能正在加速發(fā)展，不斷催生新場景、新業(yè)態(tài)、新模式和新市場，賦能千行百業(yè)。與此同時，其暴露出的安全風(fēng)險也引發(fā)了各國監(jiān)管部門的廣泛關(guān)注，意大利、德國、法國、西班牙等多個國家的數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)對ChatGPT表達(dá)擔(dān)憂或發(fā)起調(diào)查。近日，國家網(wǎng)信辦聯(lián)合國家有關(guān)部門公布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）�！掇k法》是我國促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的專門立法，界定了生成式人工智能技術(shù)的基本概念，規(guī)定了生成式人工智能服務(wù)提供者的制度要求，為生成式人工智能的健康發(fā)展指明了方向。

一、促進(jìn)發(fā)展，鼓勵生成式人工智能研發(fā)創(chuàng)新

新一代人工智能是推動科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的驅(qū)動力量。習(xí)近平總書記高度重視人工智能技術(shù)發(fā)展，指出要加快新能源、人工智能、生物制造、綠色低碳、量子計算等前沿技術(shù)研發(fā)和應(yīng)用推廣。中共中央政治局4月28日召開會議強(qiáng)調(diào)，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險”。

《辦法》立足于促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，在總則中明確了國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，并在技術(shù)發(fā)展與治理一章中提出了一系列鼓勵措施。一是鼓勵創(chuàng)新應(yīng)用。生成式人工智能應(yīng)用場景豐富，可以與各行業(yè)深度結(jié)合，助力實現(xiàn)各行業(yè)智能化變革。《辦法》明確提出鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，有助于生成式人工智能賦能千行百業(yè)。二是鼓勵多方協(xié)作。生成式人工智能在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險防范等方面涉及多方主體，為此，《辦法》鼓勵行業(yè)組織、企業(yè)以及各個相關(guān)機(jī)構(gòu)之間開展協(xié)作。三是鼓勵自主創(chuàng)新與國際合作。生成式人工智能尚處于發(fā)展階段，而我國在生成式人工智能相關(guān)算法、芯片等技術(shù)研發(fā)方面起步相對較晚�！掇k法》一方面鼓勵生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新，另一方面鼓勵平等互利開展國際交流與合作，從而促進(jìn)我國人工智能技術(shù)發(fā)展。四是鼓勵資源共享。算力是支撐數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的重要“底座”，數(shù)據(jù)是生成式人工智能的重要資源。為此，《辦法》提出推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)的措施，促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。

二、劃定底線，推動生成式人工智能向上向善

以ChatGPT為代表的生成式人工智能在社會變革中的具有重要作用，但其可能存在的數(shù)據(jù)違法收集、知識產(chǎn)權(quán)侵權(quán)、生成虛假信息等問題同樣不容忽視。

《辦法》積極回應(yīng)生成式人工智能帶來的社會問題，明確提供和使用生成式人工智能服務(wù)的法律底線。一是不得生成違法內(nèi)容�！掇k法》落實《網(wǎng)絡(luò)安全法》等法律的規(guī)定，強(qiáng)調(diào)提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅持社會主義核心價值觀，不得生成法律、行政法規(guī)禁止的內(nèi)容。二是防止歧視。訓(xùn)練數(shù)據(jù)本身存在歧視內(nèi)容、算法更傾向于某些特征值、標(biāo)注人員的主觀判斷等因素可能導(dǎo)致歧視問題，給社會帶來不良后果，如邊緣化弱勢人群或者煽動仇恨與暴力。為減少歧視現(xiàn)象發(fā)生，《辦法》要求在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止歧視。三是尊重知識產(chǎn)權(quán)和他人合法權(quán)益。生成式人工智能在個人信息的處理過程中，可能存在違法收集、使用個人信息等風(fēng)險；生成式人工智能的訓(xùn)練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權(quán)的作品，也可能給知識產(chǎn)權(quán)造成侵害。為減少侵權(quán)事件的發(fā)生，《辦法》強(qiáng)調(diào)尊重知識產(chǎn)權(quán)、商業(yè)道德；尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個人信息權(quán)益。四是提高生成內(nèi)容準(zhǔn)確性和可靠性。自生成式人工智能面世之初，其存在的“一本正經(jīng)地胡說八道”現(xiàn)象便引起了人們的警惕。這種虛假信息的產(chǎn)生很可能會誤導(dǎo)用戶，加劇社會對共享信息的不信任。如何保障生成內(nèi)容的真實性，既是產(chǎn)業(yè)界為進(jìn)一步擴(kuò)大生成式人工智能商用范圍需要克服的技術(shù)難題，也是監(jiān)管部門需要重點考量的問題。《辦法》要求生成式人工智能服務(wù)提供者（以下簡稱“提供者”）基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。這一要求充分體現(xiàn)了發(fā)展與安全并重的原則，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。

三、細(xì)化責(zé)任，構(gòu)建生成式人工智能治理體系

生成式人工智能從研發(fā)到落地需要經(jīng)歷多個環(huán)節(jié)，包括訓(xùn)練數(shù)據(jù)處理、數(shù)據(jù)標(biāo)注、提供服務(wù)等。清晰界定不同環(huán)節(jié)的要求更有利于降低生成式人工智能的安全風(fēng)險，增強(qiáng)制度的可落地性。

《辦法》明確提供者的義務(wù)與責(zé)任，提供者是利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)的組織、個人，包括通過提供可編程接口等方式提供生成式人工智能服務(wù)的組織、個人。在訓(xùn)練數(shù)據(jù)處理環(huán)節(jié)，提供者應(yīng)當(dāng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。在數(shù)據(jù)標(biāo)注環(huán)節(jié)，提供者應(yīng)當(dāng)制定標(biāo)注規(guī)則，開展數(shù)據(jù)標(biāo)注質(zhì)量評估，并對標(biāo)注人員進(jìn)行培訓(xùn)。在提供服務(wù)環(huán)節(jié)，提供者應(yīng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識；發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時采取處置措施、進(jìn)行整改并向有關(guān)主管部門報告；應(yīng)依法承擔(dān)個人信息處理者責(zé)任，對生成式人工智能服務(wù)使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)，及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個人信息等的請求；應(yīng)履行用戶管理義務(wù)，明確并公開服務(wù)適用情況，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用技術(shù)，采取未成年人防沉迷措施，依法處置從事違法活動的使用者，建立健全投訴、舉報機(jī)制；應(yīng)提供安全、穩(wěn)定、持續(xù)的服務(wù)。

四、強(qiáng)化披露，明確生成式人工智能監(jiān)管手段

人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機(jī)制難以解釋，給人工智能監(jiān)管帶來了一定困難。為此，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)范已經(jīng)明確了算法備案、安全評估等監(jiān)管手段，提高算法的透明度與可問責(zé)性。

《辦法》與現(xiàn)有規(guī)范一脈相承，延續(xù)了此前監(jiān)管手段，同時明確了分類分級監(jiān)管的原則，健全了我國人工智能治理體系。一是明確了安全評估與算法備案要求。為有效應(yīng)對算法“黑箱”問題，《辦法》對提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，提出了安全評估與算法備案要求。二是明確了信息披露要求�！掇k法》明確了提供者應(yīng)配合主管部門的監(jiān)督檢查，按要求對訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說明。

《辦法》是在區(qū)塊鏈、汽車數(shù)據(jù)、算法推薦、深度合成等立法之后，我國對新興領(lǐng)域立法的又一次探索�！掇k法》充分協(xié)調(diào)了發(fā)展與安全之間的關(guān)系，一方面提出了生成式人工智能發(fā)展的鼓勵措施，另一方面明確了生成式人工智能的法律底線，構(gòu)建了生成式人工智能精細(xì)化治理體系，有利于推動生成式人工智能健康有序發(fā)展，為世界貢獻(xiàn)人工智能治理的中國智慧和中國方案。

作者：辛勇飛　中國信息通信研究院政策與經(jīng)濟(jì)研究所所長

審核：李佳民編輯：王林晨校對：陳金丹