近日
，國家互聯網信息辦公室就《生成式人工智能服務管理辦法（徵求意見稿）》（以下簡稱“辦法”）公開徵求意見
，引發廣泛關注
。《規定》通過系統性、創新性制度設計
，首次回應了對深度合成服務的管理要求
，爲互聯網信息服務深度合成的規範發展提供了基本遵循和合法依據
。

國內首個AIGC監管辦法將至

辦法提到
，國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作
，鼓勵優先採用安全可信的軟件、工具、計算和數據資源
。其中辦法涉及的生成式人工智能包括基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術
。

辦法對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人（簡稱“提供者”）的責任進行了規定
。提供者應當承擔該產品生成內容生產者的責任、個人信息保護義務
。利用生成式人工智能產品向公衆提供服務前
，需按規定向國家網信部門申報安全評估
。

此外
，提供者需對預訓練數據、優化訓練數據來源的合法性負責
，對標注人員進行必要培訓
，明確並公開其服務的適用人羣、場合、用途
，對用戶的輸入信息和使用記彔承擔保護義務
。

對於生成式人工智能產品
，提供者需要按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識等
。

《辦法》關鍵要點

治理原則——AI技術研發者應遵循《辦法》草案中的治理原則
。該原則部分沿襲了《數據安全法》相關內容
，即提供生成式AI產品或服務應當尊重社會公德、公序良俗、他人合法利益以及法律法規
。《辦法》草案還強調
，利用生成式AI生成的內容應當避免歧視、尊重知識產權並真實準確
。此外
，如防止算法訓練中的歧視、避免不公平競爭等算法治理原則8也在《辦法》草案中得到了呼應
，體現了我國爲實現數據安全和個人信息保護社會責任9承諾的不懈努力
。這些原則顯然值得提倡
，然而
，對剛剛問世的新興技術直接施加上述責任是否操之過急
，依然是值得討論的命題
。

價值觀——除了要求生成內容應當“體現社會主義核心價值觀”以外
，《辦法》草案還沿用了《網絡信息內容生態治理規定》10中的要求
，禁止生成其規定的違法內容
。與《辦法》草案相似
，其他國家亦有將國家安全、政治立場與商業聯系在一起的作法
。《辦法》草案一經實施
，可能爲跨國公司在應對各國差異化營商環境時增加挑戰
。

守門人責任——生成式AI企業應當承擔使用其產品和服務生成內容的內容生產者責任
。此外
，《辦法》草案進一步規定這些企業有義務指導用戶進行良性的內容生產
。生成式AI企業是否應承擔內容生產者責任這一問題實質上延續了美國和歐盟對社交媒體平臺是否需承擔用戶內容責任的漫長討論
，而反對方的主要論點是過於嚴格的監管可能會遏制技術發展
。

安全評估——與網絡社交平臺相似
，生成式AI產品和服務應當接受網信辦的安全評估11。由於安全評估的範圍可能隨着產品和服務的技術細節而變化
，人工智能企業在進行研發時需要格外注意安全評估的時間和金錢成本
。

透明度要求——《辦法》草案規定
，在產品研制中採用人工標注時
，生成式AI的提供者必須制定清晰、具體、可操作的標注規則
，對標注人員進行必要培訓
，抽樣核驗標注內容的正確性
。此外
，提供者還應當提供預訓練和優化訓練數據的來源、規模、類型、質量等描述
，以及基礎算法和技術體系等
。生成的圖片、視頻等內容還應當按照《互聯網信息服務深度合成管理規定》12進行標識
，以避免公衆的混淆和誤認
。透明度的要求在受到用戶的歡迎的同時
，也將給研發者帶來沉重的合規負擔和披露要求
，可能會增加研發者潛在的商業祕密泄露風險
。

實名制——與互聯網領域的其他規則13相一致
，生成式AI用戶必須實名注冊
。關於實名制
，國家在平衡互聯網監管與個人隱私保護的長期實踐中形成的做法是將用戶的真實身份信息與手機號碼綁定
，而互聯網服務提供者通過手機號碼核實用戶的真實身份
。

社會責任——提供者應當採取適當措施以防範用戶過分依賴或沉迷生成內容
。目前互聯網實行的防沉迷機制於2021年引入
，一經生效便對網絡遊戲行業14產生了極大的衝擊
。但目前尚不清楚生成式AI提供者是否同樣需要在其產品中嵌入類似的防沉迷機制以限制易受影響羣體的使用
。

用戶畫像和數據共享——用戶畫像和人工智能平臺與其關聯實體之間的數據共享被明確禁止
。雖然這一禁止有利於隱私保護
，但該做法可能會增加生成式AI企業的研發成本
，並減少企業利用用戶行爲數據集獲利的機會
。

投訴渠道——與《個人信息保護法》和中國《民法典》的要求相似
，《辦法》草案規定生成式AI的提供者應當建立用戶投訴接收處理機制
。完備的人工智能平臺一般已經設置了熱線電話和客服政策
，但初創企業則相應背上了較重的合規負擔
。

持續性要求——《辦法》草案要求提供者提供“持續”的服務
。這一要求與傳統電信行業的要求相似
，即要求服務始終能夠正常使用
。對此的一種解釋是
，網信辦希望將生成式AI服務建設爲一項公共基礎設施
，以此推動中國數字化進程
，並希望能夠取得突破性進展
。這一要求雖然對用戶有利
，但對初創企業來說則非常困難
。

模型優化——如果發現生成內容違反了《辦法》草案
，提供者必須在三個月內找到解決方案
，防止該內容再次生成
。這一規定對於人工智能產業的發展具有積極意義
。該寬限期可以解讀爲
，網信辦在違規企業採取內容過濾措施和其他補救行動的前提下
，有意願允許企業繼續進行生成式AI的研發
。

處罰——提供者違反《辦法》草案規定的
，按照《網絡安全法》《數據安全法》《個人信息保護法》《刑法》等法律、行政法規予以處罰
。法律、行政法規沒有規定的
，由網信部門和有關主管部門依據職責予以處罰
，罰款範圍在人民幣一萬元以上十萬元以下
。

巨龍智立方數據建模平臺

智立方
，是一款適應各類主流大數據技術的一站式可視化建模服務平臺
。基於核心大數據建模技術的積累
，採用知識圖譜建模、特徵工程、機器學習、深度學習等技術
，對數據進行分析與挖掘
，提煉業務信息和業務知識
，構建行業專業知識圖譜
，實現業務智能化場景的賦能和業務價值輸出
。