午休時刻，小李的手機響個不停。家族群里，母親轉發的“醫保局張主任”AI視頻正在刷屏。

視頻中，身著藍色制服的“張主任”正站在辦事大廳前，動作僵硬地宣布“退休人員可憑身份證到社區領取‘買藥卡’免費領藥！”。視頻結尾還附有蓋著紅章的“政策文件”。

“媽，這主任連眼都不眨，肯定是假的！”小李把手機湊到母親眼前。母親卻指著屏幕反駁：“人家穿著制服，還有紅章，有圖有真相！”

當社區群流傳AI生成的“地震預警”時，居民連夜囤貨擠爆超市；同學群瘋傳“某明星吸毒實錘”，點開竟是換臉拼接的演唱會舊影像；

老人深信“AI專家”的偏方，竟停用降糖藥……如今，AI謠言正如同病毒般，在互聯網空間肆意蔓延。

某歌手“突發去世”？實為“拼接舊照+AI配音”編造謠言

近日，某歌手“突發去世”的消息在社交媒體引發廣泛關注，該事件最終被證實為自媒體賬號利用“拼接舊照片+粵語AI配音”編造的謠言，當事人隨后發帖自嘲“復活后先吃肉”。事實上，該賬號此前已炮制多名明星“去世”的虛假信息，被證實均為謠言。

不少粉絲看到偶像“去世”的消息后，涌入評論區留言“不敢相信”，更有網友自發在網上為其“設靈堂”“點燭哀悼”。直到當事人或其工作室辟謠，眾人才知被AI謠言欺騙。

對此，在接受法治網記者采訪時，《法治日報》律師專家庫成員、北京市盈科律師事務所高級合伙人周垂坤律師表示，此類行為已構成對當事人名譽權、肖像權的侵害。他分析稱，編造“歌手去世”等虛假信息直接貶損當事人社會評價，導致公眾對其人格尊嚴產生錯誤認知。例如，謠言傳播后引發粉絲恐慌性討論，甚至出現不實“哀悼”行為，明顯造成負面影響。

“使用當事人舊照片進行拼接合成，屬于未經許可擅自制作、公開他人肖像的行為。即使照片來源合法，但用于虛構死亡事件已超出合理使用范圍。”周垂坤說。

AI謠言正以“親情關懷”的偽裝潛入家庭

近年來，AI編造虛假消息的現象愈演愈烈，已經從單純“蹭明星流量”演變為“蹭災情熱度”甚至“無中生有”炮制假新聞。

比如，2024年1月，隴南張某某利用AI編造“甘肅紅十字會收取160萬管理費”等謠言干擾抗震救災；2025年1月西藏定日縣地震后，一張“孩童被埋廢墟”的圖片引發全網揪心，后經核查此圖為AI合成。

以上AI合成的“孩童被埋廢墟”圖，孩子有六根手指。

除此之外，法治網記者在社交平臺檢索發現，如今AI謠言正以“親情關懷”的偽裝潛入家庭。據媒體報道，近期云南一網友發視頻反映，父親輕信“AI養生專家”，竟停掉了三甲醫院開具的正規藥物。評論區不少子女無奈感慨：“父母對‘AI神醫’深信不疑，明明一眼識破也勸不住。”

圖源：小紅書搜索頁截圖

AI造謠已形成灰色產業鏈，各方責任如何界定？

值得注意的是，當前AI造謠已形成分工明確的灰色產業鏈。

以媒體曝光的江西南昌MCN機構案為例，上游技術團隊通過AI工具日均生成4000到7000條虛假內容，中游利用AI一鍵炮制契合平臺算法的“爆款”信息，通過5家MCN機構操控842個賬號進行矩陣式傳播。下游則通過流量補貼、廣告分成非法牟利。

法治網記者調查發現，此類產業鏈的技術隱蔽性極強，如廣西一男子利用AI技術，將抗洪視頻嫁接為虛假地震視頻，趁凌晨人工審核空窗期發布，借平臺對突發事件的流量傾斜，2小時內播放量破百萬，甚至引發多地應急部門誤判。

面對復雜的AI造謠鏈條，各方責任該如何界定？南開大學法學院副院長陳兵教授表示，造謠者作為直接發起者，必須承擔主要法律責任，可能面臨行政拘留或罰款；情節嚴重或構成編造、故意傳播虛假信息罪或尋釁滋事罪。而平臺擔責的關鍵在于“明知”或“應知”謠言存在卻未干預，如未審核AI生成內容，或借助算法助推謠言傳播，可能因未盡“合理注意義務”承擔連帶責任。

陳兵認為，AI時代需調整“通知-刪除”的避風港原則，科學設定平臺監管責任與信息過濾義務，在平衡創新與安全的前提下劃定底線規則。與此同時，AI工具提供者若未履行合規義務（如未添加“AI合成”等內容標識、未攔截敏感詞），可能因技術漏洞被追責。

平臺標注“AI生成”，就能免除法律責任嗎？

法治網記者調查中還發現，不少短視頻平臺雖標注“AI生成”，但標簽位置隱蔽、字號過小，用戶極易忽略。

對此周垂坤指出，標注“本作品由AI生成”僅是履行標識義務的體現，不能作為免除法律責任的“護身符”。

周垂坤分析稱，平臺是否免責，需結合其內容審核、算法監管等實際行為綜合判定，若落實全鏈條管理措施，方可主張“技術中立”免責。平臺若部署反謠言算法（如自動識別虛假標簽）并建立快速響應機制（如舉報后24小時內處理），或針對用戶未主動推薦的AI內容（如個人動態頁非熱帖），平臺未通過算法擴大傳播，可主張“技術中立”抗辯以減輕或免除責任。

圖源：某短視頻截圖

治理AI謠言，需技術手段與制度保障雙管齊下

為規范AI技術應用，治理AI造謠亂象，今年已來，我國在政策監管層面明顯提速。今年2月，中央網信辦啟動“清朗?整治 AI技術濫用”專項行動，分階段治理違規AI產品及利用AI制作發布謠言等行為。3月，國家網信辦等四部門聯合印發通知，明確要求自2025年9月1日起，AI生成合成內容必須添加標識。

與此同時，平臺方面也在積極探索治理AI造謠的有效路徑。比如2月24日，今日頭條在其“平臺治理開放日”活動中披露，2024年，其利用AI模型識別并清理93萬條AI謠言，封禁3萬個違規賬號，并建立信源庫以提升審核的精準度。

回到文章開頭講述的那個故事，小李發現母親轉發的“AI專家”后，沒有立刻反駁，而是默默截圖、上傳至舉報平臺。20分鐘后便收到反饋：“舉報通過，違規作品已下架。”她順手將處理結果轉發到家族群，留言：“下次看到這類‘說話像機器人’的專家，先點舉報！”

對小李的這一做法，陳兵也持同樣態度，“發現疑似AI謠言等虛假信息，可向平臺及監管部門舉報，共同凈化網絡環境。”他表示，治理AI謠言需技術手段與制度保障雙管齊下。

陳兵建議，平臺需提升多模態AI檢測能力，如結合聲紋、語義、畫面匹配度等識別技術篩選可疑內容，并建立“AI初篩+人工復審”的分層機制，對疑似賬號及時篩查。監管部門則需在完善AI內容法規的同時，運用“技術監管技術”的思路，建立對平臺和自媒體的常態化技術監測機制，提升AI謠言的識別處置效能。

周垂坤認為，治理AI謠言需從技術攔截、法律追責、公眾教育等多維度構建防御體系。他指出，用戶需提升辨識能力，對“無信源、情緒化標題”內容通過官方渠道交叉驗證。平臺應完善AI內容識別技術，建立謠言特征數據庫，通過技術手段攔截高風險內容，并對違規賬號實施封禁、限流等剛性措施。自媒體需要強化法律合規培訓，避免借助AI技術“蹭熱度”。同時，他呼吁監管部門加強AI生成內容備案管理，留存追溯日志，以專項行動打擊造謠產業鏈，以提高違法成本形成震懾。

圖源：“央視新聞”視頻截圖

如今，小李成了家族群的“首席鑒謠官”。她照著央視新聞“三招鑒定AI圖片”的視頻，手把手教會母親辨別真假，68歲的母親終于會指著屏幕說：“這專家是假的，趕緊舉報！”

（來源：法治網）