“生成式人工智能”新規征求意見

原標題：“生成式人工智能”新規征求意見（主題）

【資料圖】

服務提供者不得根據用戶輸入信息和使用情況進行畫像（副題）

4月11日，國家網信辦就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）公開征求意見，《征求意見稿》共21條，對生成式人工智能產業給出較為詳盡的規定，其中包括定義、準入資格、責任義務和處罰措施等。

產品向公眾提供服務前應申報安全評估

《征求意見稿》中首先明確，“生成式人工智能”是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。

其對生成式人工智能產業持支持和鼓勵態度：國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源。

在準入資格方面，《征求意見稿》提到，利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

生成式人工智能產品研制中采用人工標注時，提供者應當制定清晰、具體、可操作的標注規則，對標注人員進行必要培訓，抽樣核驗標注內容的正確性。

采取措施防止生成虛假信息 不利用生成內容損害他人形象

《征求意見稿》還提到，利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業炒作、不正當營銷。

提供者需要提供可以影響用戶信任、選擇的必要信息，包括預訓練和優化訓練數據的來源、規模、類型、質量等描述，人工標注規則，人工標注數據的規模和類型，基礎算法和技術體系等。

提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。

禁止非法獲取、披露、利用個人信息和隱私、商業秘密

在責任和義務方面，《征求意見稿》尤為強調對個人數據和信息的保護。

其提到，提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形。

同時，必須尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。

《征求意見稿》還對違反規定者給出處罰措施。

其中提到，提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。

違反本辦法規定的共有三種處罰措施：其一，法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正。其二，拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，并處一萬元以上十萬元以下罰款。其三，構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。（文/記者? 熊穎琪）

關鍵詞：

責任編輯：Rex_12