近日，國家互聯網信息辦公室發布通知，就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《辦法》）公開征求意見。這或將是我國專門針對AIGC（人工智能生成內容）發布的第一份政府文件，引發社會各界廣泛關注。本期“思與辨”就該問題進行討論。

　　主持人：趙鑫

　　嘉 賓：盤和林（浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員）

　　李巖（遼寧大學法學院副院長、教授）

　　國瀚文（西北政法大學民商法學院講師、數字法學研究院特聘研究員）

　　《辦法》為企業發展提供一個合規框架

　　主持人：從年初至今，以ChatGPT為代表的生成式人工智能引爆科技圈，一些國內公司也紛紛推出相應的產品和服務。此時國家出臺《辦法》規范生成式人工智能，釋放了哪些信號？

　　李巖：第一，明確我國致力于人工智能服務合法化發展的立場。《辦法》為企業發展提供一個合規框架，并試圖在合規前提下打造出人工智能技術創新發展新局面。第二，對服務提供者提出了高標準的合規義務要求。一方面，服務提供者需要在應用中滿足運營合規要求；另一方面，服務提供者將作為主要的人工智能生成物法律責任的承擔者。《辦法》在責任承擔上實現了與其他法律制度的銜接，服務提供者不僅需要承擔生成內容生產者的責任，還需要承擔作為個人信息處理者的責任。

　　盤和林：一個信號是我們走的是先規范后發展的模式，在這個總基調下，互聯網企業要考慮應用的合規性。另一個信號是監管層對于AIGC這一新事物還沒有做好充分的準備，政策的執行具體流程是怎么樣的？主管單位是誰？怎么認定是真實準確的內容？這些細節還沒有確切的說法，《辦法》還是一個粗線條的條款，是對于當前國內對AIGC一哄而上無序狀態的應急性舉措，所以《辦法》還有很大的完善空間。

　　國瀚文：透過該《辦法》可以看出國家鼓勵生成式人工智能的發展，同時也將加大管理、監督力度，引導和規范相關行業。該《辦法》一方面體現了國家對個人權益的保護，另一方面也體現出國家大力支持人工智能產業，推動相關產業技術的發展。

　　我國關注的重點是內容生成的價值取向問題

　　主持人：此前，有不少國家對生成式人工智能出臺了監管新政，側重點各不相同。我國出臺的《辦法》有哪些顯著特點？哪些規定值得特別關注？

　　國瀚文：一是對生成式人工智能服務的監管貫穿始終，規定了申報安全評估、履行算法備案等登記手續。二是強調生成式人工智能產品或服務需遵守法律規范及尊重社會公德、公序良俗，與我國對待數據產業的態度是一致的。

　　值得關注的是，《辦法》聚焦生成式人工智能服務的安全合法，強調生成式人工智能服務的治理及權益保護，對算法的可靠性和透明度提出了要求。

　　總體來看，《辦法》回應了當前生成式人工智能發展的需要，對一些可能出現的衍生問題提出防范舉措，有助于提前研判規避風險。

　　盤和林：《辦法》和其他國家的監管目標是不同的，我國關注的重點是內容生成的價值取向問題。規范生成內容是可以做到的，因為AI是高質量數據訓練的產物，文本也好，圖像也好，都是可以達成目標的，但現在以提供方為責任人的規定，我認為還是要有所調整，諸如用戶也要負一定責任，因為AI生成內容是和用戶有關系的。所以要加強對用戶責任的認定，不能讓所有的責任都由提供方來承擔。當然，提供方有責任進行一些必要的限制，來回避敏感內容，但即便是提供方屏蔽了，模型訓練了，還是無法回避所有的問題，因為人類文字，尤其是中文是很復雜的，如果出現歧義，應該給予適度包容，如果被用戶惡意傳播，則應該讓用戶承擔相應責任。

　　李巖：第一，《辦法》提出了全流程全周期的監管要求。對算法入市、數據來源、數據訓練輸出文本等各個環節的風險控制，提出了要求。第二，《辦法》的監管舉措主要通過為服務提供者設置監管義務實現。第三，《辦法》設置了多條引致條款，與《數據安全法》《個人信息保護法》等現行法律法規形成良好銜接，能夠發揮出體系效應。

　　值得注意的是，《辦法》第十一條規定不得非法留存能推斷出用戶身份的輸入信息。這一規定能夠有效防范個人信息泄露風險。但如何實現這類信息與其他信息的區分，還需要進一步研究。另外，《辦法》未涉及對于商業秘密或高敏感度的商業數據的留存問題，缺乏對商業數據的事前監管。

　　包容審慎的審查觀能夠更好實現技術發展與安全之間的平衡

　　主持人：對于規范生成式人工智能，您還有哪些好的建議？

　　盤和林：立法應該關注AIGC的一些特性，比如內容生成的隨機性，比如責任劃分問題。如果先規范再發展成為主基調，那么在規范方面要考慮更加成熟的立法方案，因為法規一旦出臺，就需要不折不扣地執行。而如果法律出臺之后，對AIGC產業發展造成了阻礙，導致大量AIGC應用無法落地，那就有可能導致新的科技差距。所以立法還是要進一步細化，做好每一條的解釋工作，落實責任主體。也要和AIGC領域的龍頭企業做好溝通。對于新技術，我們都有一個接受的過程，對新技術的理解不可能一步到位。法律就是畫紅線，紅線是規范企業行為的，紅線劃得越細，企業獲得的空間就越大，企業在科技領域的表現就越活躍。

　　國瀚文：規范生成式人工智能，首先應完善相關的法律法規，對生成式人工智能服務進行分類管理；其次，建立完整的安全評估規范和管理流程規范，保障數據安全及隱私安全，提高生成式人工智能服務的質量和水平。

　　李巖：第一，建立包容審慎的生成式人工智能審查模式。包容審慎的審查觀能夠更好實現技術發展與安全之間的平衡，為企業的技術發展預留空間。第二，建立專門監管機構，對生成式人工智能實施專項監管。生成式人工智能行業的監管需要一定的技術支持，不僅需要借助技術手段監管，而且需要技術人才進行風險解構。傳統監管模式容易出現權限劃分爭端，可能出現監管權限交叉或監管真空問題，專項監管模式有助于實現算法的分級分類管理。