網店3個月內遭遇9起AI造假退款！強制標識背后的兩難困局
三個月內，父親在嘉興經營的生鮮網店連續遭遇9起“僅退款”事件，這讓在上海工作的陳曉薇警覺起來。
今年10月假期，她專程回到老家，仔細查看父親的手機記錄，試圖弄清緣由。
“父親的店鋪主打‘現摘現發’，已經營五年。每次發貨前，他都會錄制封箱視頻，清晰記錄柑橘的色澤、果徑和包裝單號?！标悤赞备嬖V央視網《鋒面》記者。
然而，當她登錄網店后臺核查時，卻發現這幾起“僅退款”的買家均提供了開箱圖片——箱內的柑橘要么腐爛變質、要么干癟失水，甚至出現蟲蛀痕跡。
起初，陳父以為是快遞運輸環節出了問題，前幾單均同意了退款申請。但隨著類似情況越來越多，他與快遞公司多次溝通未果，只得求助女兒。“我一張一張仔細查看，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過?！标悤赞甭撓氲浇诿襟w報道的AI修圖“僅退款”現象，懷疑店鋪遭遇了有組織的惡意退款。
通過簡單搜索，陳曉薇發現，利用AI技術篡改圖片、偽造商品質量問題并申請退款的行為已非個例。她隨即向平臺提交封箱視頻和疑似AI修改的圖片申訴，卻因“憑證不足”被駁回，平臺建議她與買家協商解決?！暗@類買家通常已將我們拉黑，根本無法聯系。”陳曉薇無奈表示。
她進一步致電平臺客服，對方回復稱“無法判定圖片是否由AI生成”。由于涉及訂單總金額不足1000元，未達到詐騙罪立案標準，報警途徑也難以走通。陳曉薇感嘆，AI生成的水印可以被輕易去除，平臺缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經營的小商家。
值得注意的是，2025年3月14日，國家互聯網信息辦公室聯合多部門發布了《人工智能生成合成內容標識辦法》，明確規定AI生成內容需進行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法于今年9月1日正式實施。
圖源：中央網絡安全和信息化委員會辦公室網站
但《鋒面》記者調查發現，一方面，仍有大量新生成的AI內容未按規定添加標識；另一方面，即便已添加水印，也可通過技術手段輕松去除。這使“強制標識”政策在落地時面臨新挑戰。
“水印”的去與留
事實上，自生成式AI技術興起以來，“打假”與“辨真”便成為技術發展過程中繞不開的話題。
“目前相關規定主要將AI內容標識分為顯式和隱式兩種，顯式標識要求以用戶可明顯感知的方式標注AI生成內容。”獨立AI開發者路磊指出，當前爭議主要集中在顯式標識的實施層面。
“但主流采用的‘水印’方式存在一個致命缺陷——極易被篡改或去除?！甭防谂e例說明，“比如多數AI繪圖工具將水印置于畫面角落，用戶僅需使用手機自帶的裁剪功能，就能在不影響畫面整體效果的情況下輕松去除水印。”
記者調查發現，電商平臺上存在大量“圖片視頻去水印”服務，單次收費僅需幾元至十幾元。有商家透露，圖片去水印操作簡單，甚至有時使用基礎修圖軟件即可完成；視頻去水印則相對復雜，需要一幀一幀修復、校準，但對畫質要求不高的可以直接裁剪去除。
這樣一來，視頻或圖片很容易就擺脫“AI生成”的標簽，達到以假亂真的效果。“去除水印后，不僅普通用戶難以辨別，部分專業檢測工具也會失效?！甭防诒硎尽?/p>
與此同時，創作者群體卻面臨“過度標識”的困擾。插畫師李沐陽抱怨道：“我用了72個圖層、手繪三萬多筆完成的作品，僅因使用AI微調局部光影，就被系統打上‘AI生成’標簽?！逼渥髌吩谏缃黄脚_發布后不僅被自動標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到“用AI偷懶”的負面評論。
“從發絲筆觸到衣物褶皺都經過精心打磨，AI目前根本達不到這種創作精度?！崩钽尻枱o奈表示，他聯系平臺客服，卻被以“系統自動標識”為由拒絕人工干預修正。
一面是消費者苦于難以辨識經過篡改的AI內容，一面是創作者受困于平臺的機械化標識機制。AI水印的“強制標識”，遭遇兩種看似矛盾實則普遍存在的尷尬。
平臺的難題
根據中國通信院發布的《生成式人工智能產業發展報告(2025)》，2024年我國生成式AI用戶規模已達約3.8億人。與此同時，《中國網絡視聽發展研究報告(2025)》顯示，2024年平均每日新增視頻內容超過1億條。
面對如此龐大的數據量，平臺陷入了難以實現“逐一審核”的資源困境。
根據路磊的觀察，當前像李沐陽所遭遇的“誤判”，主要源于平臺普遍采用的AI識別模型?！斑@些模型通過學習海量AI生成內容建立判定標準，卻容易將人類創作中的優質特征誤判為AI產物?！崩?，畫師反復打磨的筆觸與色彩搭配，學術論文中邏輯嚴密的表達，都可能被系統標記為AI作品——越是精良的作品，越容易被誤判，形成一種技術悖論。
西南政法大學人工智能法學院教授馮子軒進一步指出：“人工智能生成的內容涵蓋文本、短視頻、直播、虛擬場景等多元形態，不同場景的技術架構、傳播邏輯差異巨大，單一的技術方案沒有辦法適配所有的場景?！?/p>
然而，即便采用嵌入代碼的隱式標識，也面臨技術標準不統一的挑戰。某頭部互聯網公司的AI架構師張曉(化名)透露，不同AI工具生成的隱式標識格式差異巨大：有的嵌入特定字符，有的采用數字水印加密?！捌脚_難以適配數十種甚至上百種標識規則。在跨平臺傳播過程中，標識丟失或無法識別的問題時有發生?！?/p>
張曉還表示，多模態AI識別需要強大的算力支持。目前企業為控制成本，無法對所有上傳內容進行全面檢測，只能通過抽樣檢查、關鍵詞過濾等方式簡化工作。
因此，平臺陷入雙重困境：一方面難以應對每日海量的生成內容，另一方面又必須在“維護創作者體驗與平臺流量”和“履行AI生成內容核驗義務”之間平衡。
李沐陽認為，當前平臺尚未建立完善的申訴機制?！拔铱梢越邮苷`判，但不能接受申訴無門?！彼啻螄L試與平臺溝通，卻始終未能解決問題?！霸贏I日益普及的今天，平臺難免出現誤判，但必須設立專門的申訴渠道?！?/p>
對此，路磊透露，建立專業復核團隊需要大量既懂AI技術又懂創作的復合型人才，而這類人才目前稀缺且培養成本高昂。因此，像李沐陽這樣“投訴12天才得以解決”的情況，在未來一段時間內仍將存在。
解決AI亂象，不能止于“打個水印”
在采訪中，受訪者普遍認同，對AI內容進行強制標識的初衷是合理的。然而，如何確保AI在“技術向善”的方向上不偏離軌道，多位專家和業內人士提出了各自的見解。
北京航空航天大學法學院副教授趙精武指出，強制標識并非解決AI亂象的“萬能鑰匙”，真正需要建立的是覆蓋全鏈條的治理體系。
那么，如何構建既具穿透力又具備廣泛適用性的規范?在馮子軒看來，應通過“底線”與“彈性”相結合的方式搭建基礎框架：“即由法律確立統一的標識標準，同時為不同應用場景預留適配空間。明確‘顯式標識’與‘隱式標識’的雙重要求，并通過責任分層機制匹配不同場景?！崩纾仗峁┱叱袚霸搭^標識義務”，平臺履行“核驗補充義務”，并對用戶故意刪除標識的行為明確法律責任。
面對“造假成本低、合規反而吃虧”的現象，馮子軒主張提高違法代價：“內容創作者應承擔首要責任，必須依法完成標注。一旦出現造假行為，應作為第一責任主體承擔法律后果。平臺方面，既要提供標識技術支持，也需建立實時核驗機制。若因平臺失職導致違規內容大規模傳播，則應承擔相應補充責任?！?/p>
針對AI標識可能引發的“誤傷”問題，馮子軒建議按商業與非商業場景進行區分，對原創度設置差異化的標注要求?！胺巧虡I內容可采用輕量化顯式標識，商業內容則需確保標識清晰可見，并建立誤判復核機制，允許創作者向平臺申請糾錯與賠償?！?/p>
事實上，除強制標識外，AI相關法規仍在不斷完善中。職業律師安宇華指出，目前《生成式人工智能服務暫行管理辦法》與《人工智能合成內容標識辦法》等均屬于部門規章，法律效力層級較低，內容也較為零散，缺乏一部高位階的統籌性法律。“以溫崢嶸遭遇的AI換臉事件為例，維權僅能依賴肖像權、隱私權等分散條款，對大規模聲譽損害難以量化界定，缺乏強有力的高階法律支撐。”
在規則統籌不足的同時，具體細則也有待進一步明確。馮子軒認為，當前的雙軌標識機制標準模糊，處罰規則不夠清晰，有必要出臺更詳盡的執行細則?！袄纾詮娭菩試覙藴蕿榛A，確保隱式標識可跨平臺追溯與核驗；將罰款額度與違法所得掛鉤，按違規情節分層處罰，對惡意篡改標識、批量造假等行為加大懲處，并明確創作者、平臺及技術提供者的責任邊界。”
可以預見，《人工智能生成合成內容標識辦法》的出臺僅是治理進程的起點。完善強制標識只是基礎，構建全方位的AI信息治理，或許才是真正的解題之道。
