本次“生成式 AI 服務管理辦法公布征求意見稿”的意見反饋截止時間為 2023 年 5 月 10 日。

針對爆火的生成式 AI 產業(yè)，各國政府和科技巨頭正在加速規(guī)范政策的出臺以應對。

“國標”誕生始末

該國家標準是由鵬城實驗室網絡智能研究部副主任田永鴻教授帶領的云腦項目團隊牽頭制定，華為、百度、北京大學等 16 家單位共同編制。屬于該項目團隊在 AI 模型領域全球標準體系化布局中國內標準推進工作的重要成果。

2017 年 12 月，鵬城實驗室云腦項目團隊正式啟動了標準研制。在標準推進策略上，云腦項目團隊采用國際國內“兩條腿”模式，根據標準研制中不同標準化組織相關方的反饋對標準進行迭代優(yōu)化。

第一條腿邁向國際。

2022年，云腦項目團隊牽頭在 IEEE 成功發(fā)布《Standard for Artificial Intelligence （AI） Model Representation， Compression， Distribution and Management》標準（《人工智能（AI）模型表示 、壓縮 、分發(fā)和管理標準》），該標準在前期工作的基礎上進一步結合了全球領域內更廣泛的意見，形成了更具有國際市場適配性的全球首個 AI 模型國際標準，云腦項目團隊后來還在國際電信聯(lián)盟電信標準分局 ITU－T 成功立項新一代 AI 模型表示技術標準。

第二條腿深踞國內。

2021 年 10 月 21 日，云腦團隊在新一代人工智能產業(yè)技術創(chuàng)新戰(zhàn)略聯(lián)盟 AITISA 發(fā)布了《信息技術 神經網絡表示與模型壓縮第一部分：卷積神經網絡》團體標準，并在該團體標準的基礎上進行迭代優(yōu)化，最終形成了本次發(fā)布的國標。至此，首個全球 AI 模型表示與壓縮技術標準體系布局基本成型。

該系列標準根據當前 AI 產業(yè)界在資源受限設備和 AI 模型部署方面的需求，管理辦法涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術。

該系列部分標準已在 AI 開發(fā)框架（百度）、AI 芯片（華為海思）和 AI 開放平臺（海康威視）等領域得到應用。本次發(fā)布的系列標準輻射到 AMD Xilinx 賽靈思等國際 AI 領軍公司。

網信辦公開征求意見

國家網信辦就《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見，意見反饋截止時間為2023年5月10日。

網信辦稱，為促進生成式人工智能技術健康發(fā)展和規(guī)范應用，根據《中華人民共和國網絡安全法》等法律法規(guī)，國家互聯(lián)網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，現向社會公開征求意見。

重要看點有——

1、國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數據資源。

2、利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

3、利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。

4、禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

5、利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人（以下稱“提供者”）承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

6、提供者發(fā)現用戶利用生成式人工智能產品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網絡炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業(yè)營銷等，應當暫�；蛘呓K止服務。

7、提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內容。

8、用生成式人工智能產品向公眾提供服務前，應當向國家網信部門申報安全評估。

9、提供者應當按照《互聯(lián)網信息服務深度合成管理規(guī)定》對生成的圖片、視頻等內容進行標識。

10、提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

11、提供者應當對生成式人工智能產品的預訓練數據、優(yōu)化訓練數據來源的合法性負責。對標注人員進行必要培訓，明確并公開其服務的適用人群、場合、用途，對用戶的輸入信息和使用記錄承擔保護義務。

國外科技巨頭正在推進生成式AI標準出臺