近年來，人工智能（AI）技術的迅猛發展在為各行各業帶來創新機遇的同時，也遇到了諸多問題。

近日，兩則與AI應用相關的新聞事件再次將這一話題推向了公眾視野。3月27日，淘寶宣布全平臺啟動AI假圖治理，迄今已成功攔截近10萬張過度PS或AI夸大的假圖。這一舉措表明，電商平臺正在積極應對AI技術濫用可能帶來的消費體驗下降和商家權益受損問題。淘寶方面強調，AI的正確使用應當是提升用戶體驗、促進原創內容的創作，并保護合法商家的利益，而非成為黑灰產牟利的工具。

與此同時，3月25日，微信小店運營團隊發布了針對教育培訓領域的新規，明確禁止與AI商業應用相關的課程，如“AI創業”“獲客”“變現”等內容。平臺擔憂AI技術在教育領域可能引發的虛假宣傳和不當使用，尤其是涉及AI換臉和換聲等技術的課程。微信小店此舉旨在規范AI技術在教育行業的應用，防止其成為誤導消費者的工具。

盡管技術本身并無過錯，但在實際應用中，部分用戶的行為偏離了正軌，導致了負面影響的產生。正如極目新聞所指出的，AI技術的應用需要在創新與監管之間找到平衡，以確保其為社會帶來積極的價值。

AI狂飆突進中的“跑偏”樣本

在AI時代，數據成為關鍵生產要素。然而，數據隱私與安全問題日益突出。安踏集團副總裁李玲在近期舉辦的2025全球數字經濟大會？數據要素發展論壇上指出，數據隱私保護是AI應用面臨的核心挑戰之一。企業在AI應用過程中，掌握著大量消費者數據，如何確保這些數據不被泄露與濫用，成為企業必須面對的問題。

廣電總局近期披露的數據顯示，僅2023年下半年，全網累計監測到42.7萬條AI魔改影視片段，其中《紅樓夢》《甄嬛傳》等經典IP被篡改為武俠、科幻題材的占比高達63%。這類內容通過算法批量生產，利用觀眾懷舊心理收割流量，導致“劣幣驅逐良幣”的文化荒漠化現象。

以《紅樓夢》為例，其細膩的情感描寫、復雜的人物關系和深刻的社會洞察是作品的精髓所在，而AI魔改后的“武俠版紅樓夢”，將其變成了簡單的打打殺殺，完全背離了原著的精神內核。這種現象不僅誤導了觀眾對經典文化的理解，也破壞了文化傳承的根基，長此以往，真正優秀的文化作品將被邊緣化，文化創新也將陷入困境。

AI跑偏的現象還出現在電商中。淘寶數據顯示，2023年“AI生成商品圖”投訴量同比激增340%，涉及服飾、家居、美妝等12個類目。某服裝店鋪通過AI生成“超模同款”效果圖，實際商品與圖片存在色差、版型等23項差異，消費者投訴率達78%。這種“視覺詐騙”正在侵蝕電商平臺的信任基石。

在電商領域，消費者主要通過圖片來了解商品信息，AI假圖的泛濫使得消費者難以判斷商品的真實情況。當消費者收到與圖片相差甚遠的商品時，不僅會對購買的商品感到失望，還會對整個電商平臺的信譽產生懷疑。以某家居用品為例，消費者在網上看到的AI生成圖片中，商品外觀精美、質感上乘，但實際收到的商品卻材質粗糙、做工簡陋，與圖片完全不符。這種“視覺詐騙”不僅損害了消費者的權益，也破壞了電商平臺的生態環境，影響了平臺的長期發展。

此前復旦大學抽檢發現，2023屆本科畢業論文中12%存在AI深度介入痕跡，部分案例出現“數據篡改”“邏輯斷裂”等結構性問題。更嚴峻的是，DeepSeek等工具已進化出“論文降重-框架重構-文獻綜述”的全流程代寫能力，迫使高校設立“AI檢測紅線”。雖然在一定程度上可以遏制AI在學術領域的濫用，但也需要進一步加強學術道德教育，提高學生的自律意識。

湖南省醫保局披露的典型案例顯示，某患者在DeepSeek指導下自行調整胰島素劑量，導致酮癥酸中毒入院。這類“AI輕診斷”現象在基層醫療中尤為突出，2023年全國互聯網醫療投訴中，38%涉及AI誤診或用藥建議偏差。醫療關乎人們的生命健康，任何決策都必須謹慎。AI在醫療領域的應用本應輔助醫生做出更準確的診斷，但由于技術的局限性和數據的不完整性，AI誤診的情況時有發生。患者對AI診斷的過度依賴，可能會導致嚴重的健康后果。如上述案例中，患者自行根據AI建議調整胰島素劑量，結果引發了嚴重的健康問題。這不僅損害了患者的健康權益，也降低了公眾對醫療行業的信任度。醫療行業需要更加謹慎地應用AI技術，加強對AI醫療產品的監管，確保其準確性和可靠性。

騰訊封禁的AI創富課程中，宣稱“月入20萬”的營銷話術屢見不鮮。某頭部MCN機構數據顯示，AI教育賽道在2023年融資額達47億元，但課程完課率不足15%，學員轉化率低于0.3%，暴露出“割韭菜”式的商業模式。AI教育市場的快速發展，吸引了大量資本的涌入，但其中不少課程存在虛假宣傳、質量低下等問題。一些課程打著“AI創富”的旗號，向學員承諾高額收入，但實際教學內容空洞無物，無法幫助學員實現目標。這種“割韭菜”式的商業模式，不僅損害了學員的利益，也破壞了AI教育行業的聲譽。

打響“AI跑偏”治理第一槍？

電商行業中，AI假圖泛濫已成為嚴重影響消費者體驗和市場秩序的頑疾。AI假圖是指利用AI等技術合成方式呈現顯著失真的與實際不符的商品效果圖，包括 AI虛構商品效果、抄襲拼接原創款式、篡改商品材質或功能、偽造拼接虛假場景等。這些AI假圖的大量存在，既誤導消費者，侵犯消費者知情權，又擾亂商家生態，導致劣幣驅逐良幣。

為解決這一問題，淘寶率先行動。3月27日，淘寶正式發布新規，明確認定“商品材質或款式不符”“效果失真或夸大效果”“不存在場景導致商品失真”“摳圖貼圖感明顯失真”等AI假圖典型場景，并上線識別模型，通過“源頭攔截”“存量清理” 和 “標識提醒”等舉措，對平臺AI假圖進行全面治理。

在商品發布端，淘寶實時檢測和攔截失真圖片；在商品詳情頁上線AI合成提示標識，保障消費者的知情權。截至目前，平臺已累計攔截過度PS、AI夸大的假圖近10萬張。同時，淘寶向全行業發出倡議，呼吁規范使用AI生成圖片，保障商品信息真實，共同加入對AI假圖的全面治理，推動行業回歸品質競爭。

在教育領域，AI的應用也引發了諸多問題，高校和教育平臺紛紛出臺限制措施。

高校學生利用AI工具輔助論文寫作、完成作業的現象日益普遍，甚至出現學術不端行為。近三成學生在寫論文或作業時使用AI工具，部分學生利用AI偽造研究數據、進行實驗圖片編輯等。為規范學生行為，復旦大學出臺“六個禁止”規定，明確允許和禁止使用 AI 工具的范圍，嚴重違規者論文成績不合格；天津科技大學要求學生論文中智能生成內容比例原則上不超過40%；北京郵電大學、中國傳媒大學等多所高校也在試行或出臺相關規定。

教育平臺方面，騰訊課堂宣布對平臺上的AI課程進行全面下架治理整頓。當前 AI課程市場魚龍混雜，部分課程存在虛假宣傳、誤導消費者等問題。一些課程夸大教學效果，承諾學員輕松月入二十萬等不切實際的收益，引發大量投訴和糾紛。騰訊課堂此舉旨在凈化平臺環境，保障消費者權益，促進 AI 教育行業的健康發展。

為遏制AI“魔改”亂象，廣電總局發布《管理提示 (AI 魔改)》，要求排查清理相關短視頻，落實生成式人工智能內容審核要求，對平臺相關技術產品進行自查和嚴格準入監看。通過加強監管，規范 AI 在影視創作中的應用，保護原創作品的知識產權，維護影視行業的正常秩序。

在醫療行業，AI的應用雖然具有一定潛力，但也存在巨大風險。以DeepSeek為例，其在醫療領域的使用引發了諸多爭議。廣東一位醫學博主稱病人因 DeepSeek 質疑其治療方案，還有醫生博主遇到病人拿 DeepSeek 診斷方案要求開藥的情況。

鑒于醫療安全的重要性，湖南省醫療保障局發布通知，嚴禁互聯網醫院使用人工智能等自動生成處方。國家衛健委等也出臺了對人工智能使用的限制規定。從法律層面來看，個人使用DeepSeek 看病出現誤診，DeepSeek 一方通常無需擔責；若醫生直接采用其處方給患者，一旦發生醫療事故則需擔責。專家也提醒，應審慎對待人工智能醫療建議，身體不適要去正規醫院就診，以確保醫療安全和質量。

AI健康發展需法規與自律協同

為應對AI發展帶來的數據安全與隱私保護挑戰，法規層面需進一步完善相關制度。比如應強制執行數據最小化原則，要求企業在AI應用過程中，僅收集與業務需求直接相關的數據，避免過度收集用戶數據。安踏集團在AI應用中，就通過建立嚴格的數據訪問權限管理機制，確保消費者數據的安全與隱私。

要完善《數據安全法》《個人信息保護法》等法律法規，明確數據所有權歸屬與數據使用規則。在數據交易過程中，應建立健全數據交易市場監管機制，規范數據交易行為，防止數據泄露與濫用。

算法透明化是保障AI公平性與可解釋性的關鍵。法規應推行算法備案制度，要求企業對用于高風險領域（如醫療、金融）的AI模型進行備案，并通過可解釋性測試，確保模型決策過程能夠被理解與監督。

同時，建立AI算法風險等級評估體系，根據模型的應用場景、數據來源、影響范圍等因素，對生成式AI內容實施分類分級監管。對于醫療、金融等關鍵領域的AI應用，應設定更高的安全標準與監管要求，確保技術的穩健性與可靠性。

針對算力與能源消耗問題，法規需制定算力基礎設施建設與運營標準，推動國產芯片研發與應用，降低對進口芯片的依賴。在數據中心建設方面，應強制要求使用可再生能源，提高能源利用效率，減少碳排放。

企業在AI應用過程中，應承擔起社會責任，建立健全AI倫理框架。推廣“AI對齊技術”，確保AI模型的輸出符合人類價值觀與道德標準。騰訊在AI產品研發過程中，引入了倫理審查機制，對模型的設計、訓練與應用進行全程監督，避免技術濫用。

同時，建立行業聯盟，如“北京前沿算法協同創新矩陣”，整合行業內的技術、算力與數據資源，共同開展關鍵技術研發與安全防護體系建設，提升行業整體的技術水平與安全保障能力。

AI技術的“跑偏”，本質上是人類在技術應用過程中的失范，而非技術本身的問題。通過法規迭代與行業自律的協同作用，可以引導AI回歸“賦能”本質，成為推動社會經濟發展的重要力量。

未來，在發展AI技術的同時，需更加注重平衡創新與治理的關系，避免“技術巨獸”失控帶來的風險。同時，積極推動全球協作，構建人類命運共同體，讓AI技術真正造福全人類。

作 者 |元方