近日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布通知，就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱《辦法》）公開征求意見。這或?qū)⑹俏覈?guó)專門針對(duì)AIGC（人工智能生成內(nèi)容）發(fā)布的第一份政府文件，引發(fā)社會(huì)各界廣泛關(guān)注。本期“思與辨”就該問題進(jìn)行討論。

　　主持人：趙鑫

　　嘉 賓：盤和林（浙江大學(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員）

　　李巖（遼寧大學(xué)法學(xué)院副院長(zhǎng)、教授）

　　國(guó)瀚文（西北政法大學(xué)民商法學(xué)院講師、數(shù)字法學(xué)研究院特聘研究員）

　　《辦法》為企業(yè)發(fā)展提供一個(gè)合規(guī)框架

　　主持人：從年初至今，以ChatGPT為代表的生成式人工智能引爆科技圈，一些國(guó)內(nèi)公司也紛紛推出相應(yīng)的產(chǎn)品和服務(wù)。此時(shí)國(guó)家出臺(tái)《辦法》規(guī)范生成式人工智能，釋放了哪些信號(hào)？

　　李巖：第一，明確我國(guó)致力于人工智能服務(wù)合法化發(fā)展的立場(chǎng)。《辦法》為企業(yè)發(fā)展提供一個(gè)合規(guī)框架，并試圖在合規(guī)前提下打造出人工智能技術(shù)創(chuàng)新發(fā)展新局面。第二，對(duì)服務(wù)提供者提出了高標(biāo)準(zhǔn)的合規(guī)義務(wù)要求。一方面，服務(wù)提供者需要在應(yīng)用中滿足運(yùn)營(yíng)合規(guī)要求；另一方面，服務(wù)提供者將作為主要的人工智能生成物法律責(zé)任的承擔(dān)者。《辦法》在責(zé)任承擔(dān)上實(shí)現(xiàn)了與其他法律制度的銜接，服務(wù)提供者不僅需要承擔(dān)生成內(nèi)容生產(chǎn)者的責(zé)任，還需要承擔(dān)作為個(gè)人信息處理者的責(zé)任。

　　盤和林：一個(gè)信號(hào)是我們走的是先規(guī)范后發(fā)展的模式，在這個(gè)總基調(diào)下，互聯(lián)網(wǎng)企業(yè)要考慮應(yīng)用的合規(guī)性。另一個(gè)信號(hào)是監(jiān)管層對(duì)于AIGC這一新事物還沒有做好充分的準(zhǔn)備，政策的執(zhí)行具體流程是怎么樣的？主管單位是誰？怎么認(rèn)定是真實(shí)準(zhǔn)確的內(nèi)容？這些細(xì)節(jié)還沒有確切的說法，《辦法》還是一個(gè)粗線條的條款，是對(duì)于當(dāng)前國(guó)內(nèi)對(duì)AIGC一哄而上無序狀態(tài)的應(yīng)急性舉措，所以《辦法》還有很大的完善空間。

　　國(guó)瀚文：透過該《辦法》可以看出國(guó)家鼓勵(lì)生成式人工智能的發(fā)展，同時(shí)也將加大管理、監(jiān)督力度，引導(dǎo)和規(guī)范相關(guān)行業(yè)。該《辦法》一方面體現(xiàn)了國(guó)家對(duì)個(gè)人權(quán)益的保護(hù)，另一方面也體現(xiàn)出國(guó)家大力支持人工智能產(chǎn)業(yè)，推動(dòng)相關(guān)產(chǎn)業(yè)技術(shù)的發(fā)展。

　　我國(guó)關(guān)注的重點(diǎn)是內(nèi)容生成的價(jià)值取向問題

　　主持人：此前，有不少國(guó)家對(duì)生成式人工智能出臺(tái)了監(jiān)管新政，側(cè)重點(diǎn)各不相同。我國(guó)出臺(tái)的《辦法》有哪些顯著特點(diǎn)？哪些規(guī)定值得特別關(guān)注？

　　國(guó)瀚文：一是對(duì)生成式人工智能服務(wù)的監(jiān)管貫穿始終，規(guī)定了申報(bào)安全評(píng)估、履行算法備案等登記手續(xù)。二是強(qiáng)調(diào)生成式人工智能產(chǎn)品或服務(wù)需遵守法律規(guī)范及尊重社會(huì)公德、公序良俗，與我國(guó)對(duì)待數(shù)據(jù)產(chǎn)業(yè)的態(tài)度是一致的。

　　值得關(guān)注的是，《辦法》聚焦生成式人工智能服務(wù)的安全合法，強(qiáng)調(diào)生成式人工智能服務(wù)的治理及權(quán)益保護(hù)，對(duì)算法的可靠性和透明度提出了要求。

　　總體來看，《辦法》回應(yīng)了當(dāng)前生成式人工智能發(fā)展的需要，對(duì)一些可能出現(xiàn)的衍生問題提出防范舉措，有助于提前研判規(guī)避風(fēng)險(xiǎn)。

　　盤和林：《辦法》和其他國(guó)家的監(jiān)管目標(biāo)是不同的，我國(guó)關(guān)注的重點(diǎn)是內(nèi)容生成的價(jià)值取向問題。規(guī)范生成內(nèi)容是可以做到的，因?yàn)锳I是高質(zhì)量數(shù)據(jù)訓(xùn)練的產(chǎn)物，文本也好，圖像也好，都是可以達(dá)成目標(biāo)的，但現(xiàn)在以提供方為責(zé)任人的規(guī)定，我認(rèn)為還是要有所調(diào)整，諸如用戶也要負(fù)一定責(zé)任，因?yàn)锳I生成內(nèi)容是和用戶有關(guān)系的。所以要加強(qiáng)對(duì)用戶責(zé)任的認(rèn)定，不能讓所有的責(zé)任都由提供方來承擔(dān)。當(dāng)然，提供方有責(zé)任進(jìn)行一些必要的限制，來回避敏感內(nèi)容，但即便是提供方屏蔽了，模型訓(xùn)練了，還是無法回避所有的問題，因?yàn)槿祟愇淖郑绕涫侵形氖呛軓?fù)雜的，如果出現(xiàn)歧義，應(yīng)該給予適度包容，如果被用戶惡意傳播，則應(yīng)該讓用戶承擔(dān)相應(yīng)責(zé)任。

　　李巖：第一，《辦法》提出了全流程全周期的監(jiān)管要求。對(duì)算法入市、數(shù)據(jù)來源、數(shù)據(jù)訓(xùn)練輸出文本等各個(gè)環(huán)節(jié)的風(fēng)險(xiǎn)控制，提出了要求。第二，《辦法》的監(jiān)管舉措主要通過為服務(wù)提供者設(shè)置監(jiān)管義務(wù)實(shí)現(xiàn)。第三，《辦法》設(shè)置了多條引致條款，與《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等現(xiàn)行法律法規(guī)形成良好銜接，能夠發(fā)揮出體系效應(yīng)。

　　值得注意的是，《辦法》第十一條規(guī)定不得非法留存能推斷出用戶身份的輸入信息。這一規(guī)定能夠有效防范個(gè)人信息泄露風(fēng)險(xiǎn)。但如何實(shí)現(xiàn)這類信息與其他信息的區(qū)分，還需要進(jìn)一步研究。另外，《辦法》未涉及對(duì)于商業(yè)秘密或高敏感度的商業(yè)數(shù)據(jù)的留存問題，缺乏對(duì)商業(yè)數(shù)據(jù)的事前監(jiān)管。

　　包容審慎的審查觀能夠更好實(shí)現(xiàn)技術(shù)發(fā)展與安全之間的平衡

　　主持人：對(duì)于規(guī)范生成式人工智能，您還有哪些好的建議？

　　盤和林：立法應(yīng)該關(guān)注AIGC的一些特性，比如內(nèi)容生成的隨機(jī)性，比如責(zé)任劃分問題。如果先規(guī)范再發(fā)展成為主基調(diào)，那么在規(guī)范方面要考慮更加成熟的立法方案，因?yàn)榉ㄒ?guī)一旦出臺(tái)，就需要不折不扣地執(zhí)行。而如果法律出臺(tái)之后，對(duì)AIGC產(chǎn)業(yè)發(fā)展造成了阻礙，導(dǎo)致大量AIGC應(yīng)用無法落地，那就有可能導(dǎo)致新的科技差距。所以立法還是要進(jìn)一步細(xì)化，做好每一條的解釋工作，落實(shí)責(zé)任主體。也要和AIGC領(lǐng)域的龍頭企業(yè)做好溝通。對(duì)于新技術(shù)，我們都有一個(gè)接受的過程，對(duì)新技術(shù)的理解不可能一步到位。法律就是畫紅線，紅線是規(guī)范企業(yè)行為的，紅線劃得越細(xì)，企業(yè)獲得的空間就越大，企業(yè)在科技領(lǐng)域的表現(xiàn)就越活躍。

　　國(guó)瀚文：規(guī)范生成式人工智能，首先應(yīng)完善相關(guān)的法律法規(guī)，對(duì)生成式人工智能服務(wù)進(jìn)行分類管理；其次，建立完整的安全評(píng)估規(guī)范和管理流程規(guī)范，保障數(shù)據(jù)安全及隱私安全，提高生成式人工智能服務(wù)的質(zhì)量和水平。

　　李巖：第一，建立包容審慎的生成式人工智能審查模式。包容審慎的審查觀能夠更好實(shí)現(xiàn)技術(shù)發(fā)展與安全之間的平衡，為企業(yè)的技術(shù)發(fā)展預(yù)留空間。第二，建立專門監(jiān)管機(jī)構(gòu)，對(duì)生成式人工智能實(shí)施專項(xiàng)監(jiān)管。生成式人工智能行業(yè)的監(jiān)管需要一定的技術(shù)支持，不僅需要借助技術(shù)手段監(jiān)管，而且需要技術(shù)人才進(jìn)行風(fēng)險(xiǎn)解構(gòu)。傳統(tǒng)監(jiān)管模式容易出現(xiàn)權(quán)限劃分爭(zhēng)端，可能出現(xiàn)監(jiān)管權(quán)限交叉或監(jiān)管真空問題，專項(xiàng)監(jiān)管模式有助于實(shí)現(xiàn)算法的分級(jí)分類管理。