ChatGPT爆紅！網信辦徵求管理意見：AI生成內容不得顛覆國家政權

4月11日，國家互聯網信息辦公室發布關於《生成式人工智能服務管理辦法（徵求意見稿）》（下稱《辦法》）公開徵求意見。《辦法》提到，研發、利用生成式人工智慧產品，面向中華人民共和國境內公眾提供服務的，適用本辦法。

意見稿共計21條，當中提到，利用人工智能生成的內容，「應當體現社會主義核心價值觀」，內容不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

《辦法》強調，國家支援人工智慧演算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟體、工具、計算和資料資源。

《辦法》中各條文明確要求，生成式人工智慧生成的內容應當體現社會主義核心價值觀、不得出現種族、信仰、性別等歧視，也須尊重智慧財產權、商業道德，不得利用演算法、資料、平台等優勢實施不公平競爭。內容應當真實準確，採取措施防止生成虛假信息。

提供者須承擔資訊保護、防止用戶沉迷等責任

條文中也明確向人工智能「提供者」問責。所謂「提供者」是指，利用生成式人工智慧產品提供聊天和文本、圖像、聲音生成等服務的組織和個人。「提供者」承擔該產品生成內容生產者的責任；涉及個人資訊的，承擔個人資訊處理者的法定責任，履行個人資訊保護義務。

條文提到，提供者應當明確並公開其服務的適用人群、場合、用途，採取適當措施防範用戶過分依賴或沉迷生成內容。

條文指出，提供者在提供服務過程中，對使用者的輸入資訊和使用記錄承擔保護義務。不得非法留存能夠推斷出使用者身份的輸入資訊，不得根據使用者輸入資訊和使用情況進行畫像，不得向他人提供使用者輸入資訊。法律法規另有規定的，從其規定。

提供者須建立用戶投訴接收處理機制

提文也要求，提供者應當建立用戶投訴接收處理機制，及時處置個人關於更正、刪除、遮罩其個人資訊的請求；發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密，或者不符合本辦法要求時，應當採取措施，停止生成，防止危害持續。

對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成。使用者發現生成內容不符合本辦法要求時，有權向網信部門或者有關主管部門舉報。

條文也提到，提供者發現使用者利用生成式人工智慧產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網路炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟體，實施不正當的商業行銷等，應當暫停或者終止服務。

此外，提供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國網路安全法》《中華人民共和國資料安全法》《中華人民共和國個人資訊保護法》等法律、行政法規的規定予以處罰。

法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智慧提供服務，並處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。