規范AI內容標識，引導科技向上向善

9月1日起，人工智能生成合成內容要依規添加標識了。近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），辦法聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規范內容操作、傳播各環節標識行為。

用一句話總結《標識辦法》，就是要求給所有AI生成合成內容打上“水印”、刻上“身份標識”。放在現實語境中，這一規定的推出無疑正當其時。

近些年，生成式AI、深度合成等新技術迅猛發展。用戶只用動動手指、輸入幾個關鍵詞，就能利用AI工具，在分秒間收獲生成合成的文本、圖片、音視頻等內容。這在為人們日常工作生活提供諸多便利的同時，也容易帶來虛假信息傳播、深度偽造等風險。

比如，AI工具讓造謠成本大大降低。造謠者簡單給出幾句指令，就能批量制造要素齊全、迷惑性極強的內容。就在上周末，一則“頂流男星在澳門輸掉10億”的信息在互聯網平臺廣泛傳播，頻頻登上社交媒體熱搜熱榜。公安網安部門查明，這其實是造謠者為博取流量、謀取非法利益，使用軟件中AI智慧生成功能編造的謠言。此外，AI換聲、換臉式詐騙橫行，也讓人防不勝防，

對于這些問題，事發后再去辟謠追責難度較大，已經造成的損失也往往難以追回。只有規范AI工具的使用，明確“哪些是生成的”“誰生成的”“從哪里生成的”等關鍵問題，才能更好地落實主體責任，引導科技向上向善發展。

此次《標識辦法》明確了顯式標識和隱式標識兩種形式。顯式標識是指在生成式合成內容或交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可被用戶明顯感知到的標識。對用戶而言，這種給AI產品“打水印”的方式，可以讓他們更清楚明了地看到產品來源，作出理性判斷，不至于模糊真實和虛擬的邊界，被虛假內容誤導。如果真的出現被誤導和詐騙的情況，也可以通過標識水印追溯到實際的侵權人、犯罪者。長遠來看，這對于提升公眾科技素養和媒介素養也有所裨益。

隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。這主要是涉及網絡平臺和AIGC服務提供者的一種標識方式。隱性標識是用一種通用技術手段，能夠以較低的技術難度和合規成本，明確AI服務提供商的標識義務，并方便網絡平臺履行監管責任。

正如有專家指出的，當前人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。“數字標識+顯性記號”雙軌并行，明確了每個環節中內容制作者、發布平臺、技術提供者的多方責任，其執行成本較低、可行性較高，使相關治理更加科學有效。

當然，未來新規落地效果，以及如何有效壓實各方責任，還需要后續持續觀察。隨著AI生成技術的不斷迭代，相關規范也可能進一步調整細化。但無論技術如何發展，有關AI標識的治理思路都是從一而終的，那就是厘清真實和虛擬的邊界，消除謠言和虛假信息混淆視聽的空間，切實保障每一位用戶的知情權。（任冠青）