4月11日，為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《辦法》）公開征求意見的通知。這是國家首次針對現(xiàn)下爆火的生成式人工智能產(chǎn)業(yè)發(fā)布規(guī)范性政策。
按照《辦法》的定義，生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。
隨著生成式人工智能持續(xù)獲得市場關(guān)注，互聯(lián)網(wǎng)巨頭集中發(fā)布大語言模型，外有微軟、谷歌、Meta，內(nèi)有百度、華為、阿里、昆侖萬維，然而各路巨頭訓(xùn)練數(shù)據(jù)參差不齊，數(shù)據(jù)來源及涉及的著作權(quán)不甚明了。
網(wǎng)信辦在此時發(fā)布管理辦法，對生成式人工智能服務(wù)提出了多項規(guī)制，強調(diào)生成式人工智能產(chǎn)品提供者的責(zé)任、突出個人信息的保護、明確向監(jiān)管部門備案和申報安全評估的硬性要求，以及多次重申要從數(shù)據(jù)源開始確保“生成內(nèi)容”的真實準確等，開啟了中國對生成式人工智能產(chǎn)業(yè)的監(jiān)管之路。
冰鑒科技研究院將從《辦法》征求意見稿中擇要進行解讀。
《辦法》第二條規(guī)定了適用和管轄范圍，只要是“面向中華人民共和國境內(nèi)公眾提供服務(wù)的”，無論是國外還是國內(nèi)的公司，均適用本辦法。
《辦法》第四條第二款要求，“在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。”個人信息保護是貫穿AI研發(fā)和應(yīng)用的紅線，但往往更加受到關(guān)注的合規(guī)點在于是否為公開信息，個人信息是否得到充分授權(quán)，而該款所列內(nèi)容關(guān)注到的個人信息類別——歧視和偏見則更為隱蔽，而這將在生成式人工智能上被進一步放大。訓(xùn)練數(shù)據(jù)中可能存在的一系列社會歧視和偏見，會導(dǎo)致生成內(nèi)容“繼承”這種歧視和偏見。目前許多海外立法已經(jīng)對此給予了充分關(guān)注，此次《辦法》的明確，也表示國內(nèi)對于這一問題的逐漸重視。
《辦法》第四條第四款要求，“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準確，采取措施防止生成虛假信息。”在現(xiàn)實操作中，生成式人工智能生成的內(nèi)容是否“真實準確”較難界定。很多ChatGPT用戶發(fā)現(xiàn)，在和AI交互過程中，遇到某些創(chuàng)造性較強的內(nèi)容，如寫小說、發(fā)表評價性看法，乃至長時間問答交互之后，人工智能經(jīng)常會一本正經(jīng)“胡說八道”，甚至出現(xiàn)幻覺（hallucinations）——而這恰恰又是生成式人工智能不同于其他語言模型的獨特創(chuàng)新之處。冰鑒科技研究院認為，該條規(guī)定更強調(diào)生成式人工智能提供者，要有“防止生成虛假信息”的前置舉措，并在應(yīng)用實踐中部署執(zhí)行。至于最終生成的內(nèi)容是否為“虛假信息”，還要根據(jù)實踐中是否造成不良影響或侵犯他人權(quán)利來進一步認定。
《辦法》第五條指出，生成式人工智能提供者，通過API接口支持他人生成內(nèi)容的，也要“承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任”“涉及個人信息的，承擔(dān)個人信息處理者的法定責(zé)任，履行個人信息保護義務(wù)。”——從該條來看，各類B端客戶在使用生成式人工智能對外提供服務(wù)時，也都要追溯到源頭提供者的責(zé)任，涉及個人信息處理的則按照《個人信息保護法》執(zhí)行。
《辦法》第六條，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，需按規(guī)定向國家網(wǎng)信部門申報安全評估。實際上明確了向監(jiān)管部門備案和申報安全評估的硬性要求。至于目前互聯(lián)網(wǎng)巨頭已經(jīng)開始向公眾提供服務(wù)的，理論上應(yīng)當(dāng)補齊安全評估程序及算法備案手續(xù)。而在《辦法》正式出臺之后，計劃向公眾提供服務(wù)的生成式人工智能提供者，則需要提前向網(wǎng)信辦申請安全評估及備案。
如前所述，要確保“生成內(nèi)容”的真實準確，則需要從數(shù)據(jù)源頭確保真實準確。《辦法》第七條按照《網(wǎng)絡(luò)安全法》，對“生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性”提出了詳細要求。第十七條則要求，應(yīng)根據(jù)主管部門的要求，向用戶提供“包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述……”
《辦法》第八條要求“對標(biāo)注人員進行必要培訓(xùn)，抽樣核驗標(biāo)注內(nèi)容的正確性”。眾所周知，生成式人工智能在（有監(jiān)督、半監(jiān)督）深度學(xué)習(xí)時，涉及到大量人員對數(shù)據(jù)進行標(biāo)注，“抽樣核驗”原本就是必不可少的過程。但當(dāng)前有不少AI 公司（如自動駕駛）將標(biāo)注工作進行外包，或放在互聯(lián)網(wǎng)平臺上進行眾包，是否需要以及如何對這些標(biāo)注人員進行培訓(xùn)？此舉或?qū)⑻岣呱墒饺斯ぶ悄芴峁┥痰娜肆Τ杀尽?/strong>
《辦法》第十六條非常有意思，要求對AI“生成的圖片、視頻等內(nèi)容進行標(biāo)識”。比如打上“本圖片由某某GPT自動生成”這樣的水印？國外很多平臺已經(jīng)允許將ChatGPT列為論文合著者。而這類明顯的標(biāo)識，既是生成式人工智能提供商的廣告式宣言，也為普通用戶區(qū)別“人工智能”和真正“人工”生成的內(nèi)容提供了幫助。我國法律學(xué)界與實務(wù)界目前對人工智能生成物是否屬于著作權(quán)法下的作品觀點不一，如果生成內(nèi)容獨創(chuàng)性不足，可能還構(gòu)成對現(xiàn)有作品的侵權(quán)，如果人工智能生成物的確侵犯了著作權(quán)，這類標(biāo)識也為作者法律維權(quán)打開了方便之門。
《辦法》對投訴舉報的處理機制也做了詳細的規(guī)定，第十五條指出，對于運行中發(fā)現(xiàn)、用戶舉報的不符合辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。第十八條和十九條又分別明確了用戶和使用者發(fā)現(xiàn)生成內(nèi)容不合規(guī)或使用生成產(chǎn)品過程中產(chǎn)生不合法不道德行為的投訴處理機制，并且在第二十條列出了處罰的法律依據(jù)和相關(guān)規(guī)定。
生成式人工智能監(jiān)管號角已經(jīng)吹響，產(chǎn)業(yè)格局和行業(yè)規(guī)則或?qū)l(fā)生重大改變。本次發(fā)布的《辦法》僅為征求意見稿，公眾可在2023年5月10日前通過多個途徑提出反饋意見，后續(xù)監(jiān)管也將根據(jù)行業(yè)實踐和意見反饋調(diào)整相應(yīng)內(nèi)容。
