半月談評論員 張漫子

“AI造假”之風卷土重來!連日來，西藏日喀則市定日縣6.8級地震牽動人心，不少網友在社交平臺為災民祈福。然而，一些別有用心之人卻趁“災”作亂，利用AI合成的照片在失控的擴散中釀成另一種“災禍”。

1月8日，詞條“地震被壓廢墟下戴帽小孩是AI生成”沖上熱搜，讓前一天還在為小孩傷心落淚、轉發照片的網民愕然：原來讓自己心疼不已的小孩照片，竟是一場徹頭徹尾的“照騙”!造假者抓住大眾對災難的同情心與關注度，編造吸睛標題和文案，使虛假影像得以病毒式傳播，只為流量變現。

圖片為自媒體AI合成視頻的截圖，與本次西藏地震無關

突發事件的信息傳播中，影像對網民視覺與情緒的調動作用極為直接，正所謂“一圖勝千言” 。如今，生成式人工智能的普及，使得內容制作的門檻與成本大幅降低。普通人只需動動手指，就能一鍵生成逼真的照片或視頻，視覺內容的創作效率大大提升。然而，這一技術的濫用也導致了AI造謠、AI詐騙、AI魔改等亂象層出不窮。

在流量的驅動下，一些不法分子利用AI編造“偽消息”、制造“假新聞”，騙取網民關注點贊。在利益的驅使下，詐騙分子更是利用AI合成受騙者親友的聲音畫面，實施精準詐騙。在地震救援工作仍在持續的當下，仍有與地震相關的AI合成照片在瘋傳，以所謂的“正能量”之名，行蹭流量、騙流量、變現流量之實。

AI合成內容愈發便捷的另一面，是AI造假正變得易如反掌：成本更低、速度更快、質量更高、識別更難，讓人感慨“有圖有真相”的時代已日漸遠去。

當AI偽造的信息越積越多，善意的傳遞成本也會水漲船高，最終沖破真實世界信任的圍欄。當技術被濫用，成為侵犯他人權益、誤導公眾視聽的工具，擾亂救援大局、加劇心理創傷、動搖社會信任，技術與法律的規制必須站出來，堅決遏制AI合成虛假內容的這場鬧劇。

應對“魔高一尺”，還需“道高一丈”。AI造假與AI打假的對抗，猶如一場你追我趕的“貓鼠游戲”。隨著AI偽造技術不斷發展，“對抗技術”也必須不斷升級，追上生成技術的迭代速度。

以人的“善治”，促技術“善智”。法律依舊是打擊AI造假的有力武器。對于編造、傳播虛假災情影像造成社會恐慌、阻礙救援等嚴重后果的行為，法律必須長出牙齒、形成威懾。平臺作為信息傳播的主陣地，也應當好“守門員”，嚴格準入和監看，對AI生成內容做好篩查、標記與提示。

對“AI偽造”說不，絕非小題大做。技術發展的初衷，是為人類造福，而不是任憑AI創造力的利刃，揮向人們的善意，侵蝕公共信任。在大模型時代，如果對AI偽造信息不加甄別地濫用，更將會污染作為模型“燃料”的信息海洋，最終反噬的只能是人類自己。只有把握好技術與倫理、發展與安全的關系，才能讓技術向善、服務于民。

編輯：褚孝鵬