言必談ＡＩ、文必查ＤｅｅｐＳｅｅｋ，生成式?。粒伞叭怀蔀榻衲甑某绷魉??？稍谙硎埽粒蓭碇T多便利的同時，我們也應該注意它背后的風險。

以醫療行業為例，具備強大邏輯推理能力的ＡＩ很會編數據，它能生成不存在的規范條例，編造不存在的事實，同時讓人難以辨別真偽。比如說首次通過ＤｅｅｐＳｅｅｋ遠程手術系統完成顱腦血腫清除術。

一位醫生也曾告訴健康界，甚至根據病人的診斷記錄，利用算法和邏輯推理出一段病理數據，完全看不出來是假的，甚至高年資的醫生也無法分辨出真假。

據報道，來自上海市兒童醫院的科普達人「志玲姐姐」李志玲就曾表示，科普人最大的煩惱就是「造謠一張嘴，辟謠跑斷腿」。在ＡＩＧＣ（人工智能生成內容）技術的「加持」下，只需幾秒，就可批量生產偽科普作品。

ＡＩ生成的內容究竟能不能信？能不能用？這取決于使用者的判斷。因此，更多專家呼吁，必須要合理合法使用ＡＩ，正視ＡＩ的幻覺，出臺相關的法律規范做好監督引導。

３　月?。保础∪?，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自２０２５年９月１日起施行。

該《標識辦法》將以內容標識為抓手，細化前期相關部門規章的標識相關要求，進一步發揮內容標識提醒提示和監督溯源的技術作用。

《標識辦法》明確規定，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

同時，《標識辦法》還強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

有觀點指出，這項以「透明標識」為核心的管理制度，不僅是對技術狂飆的理性回應，更構建起數字文明時代的新型社會契約，其積極影響正在多個維度顯現。

《中國科學報》的一篇文章中這樣寫道，科學技術的發展史，也是一部科技倫理不斷對新技術進行必要約束的歷史。對ＡＩ生成內容進行顯著標識，一方面體現了對公眾知情權的基本尊重，能夠起到提醒作用；另一方面，也讓一些人不能掩耳盜鈴地把ＡＩ創作據為己有，盡到了起碼的倫理責任。

針對一些用戶過分仰仗簡單提示詞，隨意將?。粒伞∩蓛热萦糜谏虡I目的，造成侵權。清華大學沈陽教授在受訪時建議，一方面用戶要謹慎將?。粒伞∩蓛热萦糜谏虡I目的，另一方面，如用戶想要將?。粒伞∩蓛热葙x予知識產權，需融入自己的獨創性提示詞內容，在不侵犯他人?。桑小『秃戏嘁娴那疤嵯?，通過相應渠道進行知識產權聲明，以此維護自身合法權益。

以下為《標識辦法》原文：

第一條　為了促進人工智能健康發展，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，根據《中華人民共和國網絡安全法》、《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》等法律、行政法規和部門規章，制定本辦法。

第二條　符合《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》規定情形的網絡信息服務提供者（以下簡稱“服務提供者”）開展人工智能生成合成內容標識活動，適用本辦法。

第三條　人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。

人工智能生成合成內容標識包括顯式標識和隱式標識。

顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識。隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

第四條　服務提供者提供的生成合成服務屬于《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照下列要求對生成合成內容添加顯式標識：

（一）在文本的起始、末尾或者中間適當位置添加文字提示或者通用符號提示等標識，或者在交互場景界面、文字周邊添加顯著的提示標識；

（二）在音頻的起始、末尾或者中間適當位置添加語音提示或者音頻節奏提示等標識，或者在交互場景界面中添加顯著的提示標識；

（三）在圖片的適當位置添加顯著的提示標識；

（四）在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可以在視頻末尾和中間適當位置添加顯著的提示標識；

（五）呈現虛擬場景時，在起始畫面的適當位置添加顯著的提示標識，可以在虛擬場景持續服務過程中的適當位置添加顯著的提示標識；

（六）其他生成合成服務場景根據自身應用特點添加顯著的提示標識。

服務提供者提供生成合成內容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識。

第五條　服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。

鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。

文件元數據是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內容。

第六條　提供網絡信息內容傳播服務的服務提供者應當采取下列措施，規范生成合成內容傳播活動：

（一）核驗文件元數據中是否含有隱式標識，文件元數據明確標明為生成合成內容的，采取適當方式在發布內容周邊添加顯著的提示標識，明確提醒公眾該內容屬于生成合成內容；

（二）文件元數據中未核驗到隱式標識，但用戶聲明為生成合成內容的，采取適當方式在發布內容周邊添加顯著的提示標識，提醒公眾該內容可能為生成合成內容；

（三）文件元數據中未核驗到隱式標識，用戶也未聲明為生成合成內容，但提供網絡信息內容傳播服務的服務提供者檢測到顯式標識或者其他生成合成痕跡的，識別為疑似生成合成內容，采取適當方式在發布內容周邊添加顯著的提示標識，提醒公眾該內容疑似生成合成內容；

（四）提供必要的標識功能，并提醒用戶主動聲明發布內容中是否包含生成合成內容。

有前款第一項至第三項情形的，應當在文件元數據中添加生成合成內容屬性信息、傳播平臺名稱或者編碼、內容編號等傳播要素信息。

第七條

　互聯網應用程序分發平臺在應用程序上架或者上線審核時，應當要求互聯網應用程序服務提供者說明是否提供人工智能生成合成服務?；ヂ摼W應用程序服務提供者提供人工智能生成合成服務的，互聯網應用程序分發平臺應當核驗其生成合成內容標識相關材料。

第八條

　服務提供者應當在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。

第九條

　用戶申請服務提供者提供沒有添加顯式標識的生成合成內容的，服務提供者可以在通過用戶協議明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內容，并依法留存提供對象信息等相關日志不少于六個月。

第十條

　用戶使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。

任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

第十一條　服務提供者開展標識活動的，還應當符合相關法律、行政法規、部門規章和強制性國家標準的要求。

第十二條　服務提供者在履行算法備案、安全評估等手續時，應當按照本辦法提供生成合成內容標識相關材料，并加強標識信息共享，為防范打擊相關違法犯罪活動提供支持和幫助。

第十三條　違反本辦法規定的，由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。

第十四條　本辦法自２０２５年９月１日起施行。

參考資料：

1. 關于印發《人工智能生成合成內容標識辦法》的通知，網信中國，３．１４

注：文章來源于網絡，如有侵權，請聯系刪除