上半年，某歌手因感染新冠病毒而推遲演唱會(huì)。然而幾天后，有關(guān)其去世的消息在社交媒體上傳播開(kāi)來(lái)，讓無(wú)數(shù)網(wǎng)友陷入擔(dān)憂與不安之中。隨后有相關(guān)人士緊急將其辟謠為“假新聞”，才將這一風(fēng)波平息。據(jù)了解，該謠言的源頭是一海外社交賬號(hào)上發(fā)布的一則長(zhǎng)達(dá)9分27秒的視頻。視頻通過(guò)AI合成粵語(yǔ)配音，將其往年演唱會(huì)片段與偽造的“官方聲明”拼接，一場(chǎng)普通的演唱會(huì)延期事件便被扭曲成了生死悲劇。“人在家中坐，謠從AI來(lái)”。
隨著人工智能技術(shù)在文本生成、圖片創(chuàng)作、視頻合成等領(lǐng)域的廣泛應(yīng)用，AI生成謠言早已不再是單一信息的復(fù)制或再現(xiàn)，而是實(shí)現(xiàn)了多重信息的選擇、重組與再創(chuàng)造。從“合成事實(shí)”到“偽造輿論”，AI謠言內(nèi)容呈現(xiàn)出更高的逼真度以及更為復(fù)雜的情感色彩，常常“以假亂真”。中國(guó)互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)對(duì)今年2月網(wǎng)絡(luò)謠言的梳理分析顯示，當(dāng)月網(wǎng)絡(luò)謠言主要集中在利用AI技術(shù)生成虛假信息、杜撰災(zāi)害事故信息以及炒作社會(huì)民生熱點(diǎn)等方面，混淆視聽(tīng)、誤導(dǎo)認(rèn)知，造成不良影響?？梢哉f(shuō)，AI技術(shù)驅(qū)動(dòng)下的信息流變動(dòng)，不僅挑戰(zhàn)了傳統(tǒng)的信息真?zhèn)螜z證機(jī)制，也對(duì)人工智能時(shí)代社會(huì)公共信任構(gòu)建提出了新的要求。在這樣的背景下，深入探究AI謠言問(wèn)題，不僅是維護(hù)清朗網(wǎng)絡(luò)空間、保障公眾合法權(quán)益的現(xiàn)實(shí)需求，更是理解智能技術(shù)與社會(huì)關(guān)系、構(gòu)建合理信息倫理秩序的重要課題。
一、AI謠言的全新表征
隨著人工智能技術(shù)日新月異，網(wǎng)絡(luò)謠言變得愈發(fā)難以辨別。一般來(lái)看，網(wǎng)絡(luò)謠言指的是通過(guò)網(wǎng)絡(luò)介質(zhì)，如社交平臺(tái)等傳播沒(méi)有事實(shí)依據(jù)且?guī)в刑摷傩?、攻擊性、目的性的話語(yǔ)。人工智能生成謠言逐漸形成一種新的網(wǎng)絡(luò)威脅。清華大學(xué)新聞與傳播學(xué)院2024年發(fā)布的研究報(bào)告顯示，得益于政府相關(guān)部門(mén)對(duì)網(wǎng)絡(luò)謠言的積極治理，2023年以來(lái)，網(wǎng)絡(luò)謠言整體態(tài)勢(shì)平穩(wěn)，傳統(tǒng)謠言數(shù)量明顯下降，但伴隨AIGC技術(shù)的高速發(fā)展，一些造謠者不當(dāng)利用AI工具，使得AI謠言信息量增長(zhǎng)達(dá)到65%。與傳統(tǒng)的網(wǎng)絡(luò)謠言相比，人工智能的介入顯著地改變了信息傳播景觀，賦予AI謠言諸多前所未有的新表現(xiàn)、新變化、新特點(diǎn)。
（一）謠言形態(tài)：從“單模態(tài)拼接”到“跨模態(tài)原生”
傳統(tǒng)謠言的炮制多依賴(lài)單模態(tài)拼接手段，造謠者往往在網(wǎng)絡(luò)各個(gè)角落搜羅碎片化信息，通過(guò)斷章取義、張冠李戴的方式，將不同來(lái)源的文字、圖片生硬拼湊在一起。在過(guò)往的食品安全謠言中，造謠者可能會(huì)截取某食品企業(yè)生產(chǎn)車(chē)間的局部畫(huà)面，配上其他企業(yè)食品質(zhì)量問(wèn)題的報(bào)道文字，再編造食用后產(chǎn)生不良后果的夸張情節(jié)。這種“單模態(tài)拼接式”的謠言由于素材來(lái)源繁雜，拼接痕跡明顯，公眾只要稍加留意其邏輯連貫性、出處可信度等細(xì)節(jié)，便不難發(fā)現(xiàn)破綻。
與之相比，生成式人工智能的介入使AI謠言實(shí)現(xiàn)了多模態(tài)融合的“原生式生成”。通過(guò)對(duì)海量數(shù)據(jù)進(jìn)行分析，AI算法能夠精準(zhǔn)把握事物的特征和規(guī)律，進(jìn)而根據(jù)用戶輸入的簡(jiǎn)單指令生成極具真實(shí)感的內(nèi)容。在圖像生成領(lǐng)域，像Midjourney這樣的主流模型，經(jīng)過(guò)數(shù)十億參數(shù)訓(xùn)練，能夠精準(zhǔn)模擬物理世界的各種元素，讓缺乏專(zhuān)業(yè)辨別能力的普通公眾信以為真；在語(yǔ)音生成領(lǐng)域，基于聲紋特征學(xué)習(xí)的TTS技術(shù)能夠精準(zhǔn)捕捉目標(biāo)人物的語(yǔ)調(diào)起伏、呼吸節(jié)奏甚至情緒波動(dòng)細(xì)節(jié)，完美模擬出名人、專(zhuān)家、朋友的聲音，制作出以假亂真的音頻；在此基礎(chǔ)上，視頻理解與生成算法實(shí)現(xiàn)了圖像與音頻完美結(jié)合，通過(guò)時(shí)空注意力機(jī)制實(shí)現(xiàn)唇形動(dòng)態(tài)、微表情變化與語(yǔ)義內(nèi)容的毫秒級(jí)匹配，從而生成高度逼真的視頻片段。這種依托AI技術(shù)的原生式謠言從內(nèi)容到形式都是全新構(gòu)建，相較于傳統(tǒng)謠言更加逼真、連貫，突破公眾的傳統(tǒng)感知界限，僅憑直觀感受很難辨別真?zhèn)?，?duì)社會(huì)輿論的誤導(dǎo)性更強(qiáng)。
（二）謠言生產(chǎn)：從“人工手搓”到“一鍵生成”
傳統(tǒng)謠言生產(chǎn)模式高度依賴(lài)人工操作，造謠者需耗費(fèi)大量時(shí)間精力完成素材搜集、內(nèi)容編撰與傳播擴(kuò)散等全流程工作。受限于個(gè)人知識(shí)儲(chǔ)備、信息獲取能力及時(shí)間成本，其生產(chǎn)效率低下，且內(nèi)容質(zhì)量參差不齊，傳播范圍往往較為有限。然而，人工智能的高效性、自動(dòng)化特點(diǎn)極大地降低了謠言生產(chǎn)的技術(shù)門(mén)檻和經(jīng)濟(jì)成本。過(guò)去需專(zhuān)業(yè)知識(shí)與技能支撐的復(fù)雜信息制作流程，如今借助AIGC工具即可簡(jiǎn)化為從指令輸入到內(nèi)容生成的簡(jiǎn)便操作。用戶僅需掌握簡(jiǎn)單的AI工具使用方法，輸入特定關(guān)鍵詞或指令，便能自動(dòng)抓取網(wǎng)絡(luò)信息，快速生成結(jié)構(gòu)完整、邏輯自洽的謠言。
與此同時(shí)，通過(guò)自動(dòng)化腳本與多線程技術(shù)的配合，AI可以同時(shí)處理多個(gè)任務(wù)，實(shí)現(xiàn)謠言的大規(guī)模、高效率生產(chǎn)。2024年6月，公安機(jī)關(guān)查處的江西南昌某MCN機(jī)構(gòu)便是一個(gè)具有代表性的例子。該機(jī)構(gòu)構(gòu)建了一條全自動(dòng)謠言“生產(chǎn)線”：負(fù)責(zé)人王某某首先從國(guó)內(nèi)某熱點(diǎn)預(yù)測(cè)網(wǎng)站獲取潛在關(guān)鍵詞，由此生成文章標(biāo)題；隨后通過(guò)語(yǔ)音交互型 AI工具，輸入關(guān)鍵詞抓取網(wǎng)絡(luò)信息，生成數(shù)百至千字文本，并匹配上看似相關(guān)的虛假圖片，形成信息豐富卻完全虛構(gòu)的內(nèi)容；最終借助自動(dòng)化發(fā)布軟件，將AI生成謠言批量上傳至多平臺(tái)賬號(hào)對(duì)外發(fā)布。據(jù)查證，該機(jī)構(gòu)將虛假信息生產(chǎn)產(chǎn)業(yè)化，最高峰時(shí)單日可生成4000至7000篇謠言，通過(guò)流量變現(xiàn)與輿論操控每日非法牟利超萬(wàn)元，對(duì)公共信息秩序造成嚴(yán)重破壞。
（三）謠言傳播：從人際、群體傳播到算法自動(dòng)推薦
傳統(tǒng)的謠言傳播主要依賴(lài)于人際關(guān)系和少數(shù)媒體渠道，傳播范圍相對(duì)有限，傳播速度也較為緩慢。而在人工智能時(shí)代，互聯(lián)網(wǎng)的普及和社交媒體的興起為信息傳播提供了廣闊的平臺(tái)和便捷的渠道。AI謠言借助網(wǎng)絡(luò)水軍的推波助瀾以及算法推薦機(jī)制的放大作用，能夠在極短的時(shí)間內(nèi)實(shí)現(xiàn)廣泛傳播，迅速擴(kuò)散到社會(huì)的各個(gè)角落。
一方面，網(wǎng)絡(luò)水軍在AI謠言的擴(kuò)散過(guò)程中扮演著關(guān)鍵角色。網(wǎng)絡(luò)水軍通常是指受雇于某些組織或個(gè)人而在網(wǎng)絡(luò)上有組織地發(fā)布特定信息，以達(dá)到影響輿論、引導(dǎo)公眾認(rèn)知等目的的群體。在AI謠言傳播場(chǎng)景中，他們利用掌握的大量網(wǎng)絡(luò)賬號(hào)，通過(guò)自動(dòng)化的發(fā)布工具，將AI生成的謠言迅速發(fā)布到各大社交媒體平臺(tái)、論壇、新聞網(wǎng)站等網(wǎng)絡(luò)空間。同時(shí)，通過(guò)相互點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)等方式，營(yíng)造出謠言受到廣泛關(guān)注和討論的假象，吸引更多普通網(wǎng)民的參與和關(guān)注，從而加速謠言的傳播速度。
另一方面，社交媒體平臺(tái)和搜索引擎的算法推薦機(jī)制也在很大程度上助推了AI謠言的傳播。算法推薦機(jī)制的核心在于根據(jù)興趣偏好、瀏覽歷史、社交關(guān)系等數(shù)據(jù)，為用戶精準(zhǔn)推送其可能感興趣的內(nèi)容。然而，推薦系統(tǒng)本質(zhì)上是爭(zhēng)議性內(nèi)容的放大器，它將用戶注意力聚焦于沖突點(diǎn)，卻忽視了信息的真實(shí)性驗(yàn)證。例如，一些關(guān)于名人隱私、社會(huì)熱點(diǎn)事件的 AI 謠言，由于其話題性強(qiáng)，能夠吸引大量用戶的點(diǎn)擊和互動(dòng)，算法會(huì)將其視為“優(yōu)質(zhì)內(nèi)容”不斷推送給更多用戶，使謠言的傳播范圍不斷擴(kuò)大。在這樣的情況下，辟謠信息往往因缺乏爭(zhēng)議性而難以獲得同等流量支持，加劇“造謠一張嘴，辟謠跑斷腿”的治理困境。
二、AI謠言的治理困境
AI 謠言所呈現(xiàn)的“跨模態(tài)原生”形態(tài)、“工業(yè)化生產(chǎn)”模式與“算法化傳播”路徑，不僅突破了傳統(tǒng)謠言的傳播邊界，更對(duì)既有公共信息治理體系構(gòu)成了嚴(yán)峻挑戰(zhàn)。其中，技術(shù)的復(fù)雜性、傳播的高效性與主體的多元性相互交織，使得治理工作面臨多重難題，需要從技術(shù)、制度、協(xié)作與認(rèn)知層面進(jìn)行系統(tǒng)剖析。
（一）技術(shù)困境：低質(zhì)量數(shù)據(jù)造成嚴(yán)重的AI幻覺(jué)
AI幻覺(jué)指的是人工智能系統(tǒng)，特別是大型語(yǔ)言模型（LLM）和生成式AI工具，在運(yùn)行過(guò)程中產(chǎn)生看似合理但實(shí)際上并不準(zhǔn)確、不真實(shí)或完全虛構(gòu)的信息現(xiàn)象。這種現(xiàn)象并非AI系統(tǒng)故意欺騙或開(kāi)玩笑，而是其內(nèi)部機(jī)制在特定條件下的產(chǎn)物，類(lèi)似于人類(lèi)在特定情境下產(chǎn)生的幻覺(jué)感知。例如，AI可能會(huì)編造不存在的書(shū)籍、研究報(bào)告、法律條文，或者提供錯(cuò)誤的歷史日期、地理信息、科學(xué)數(shù)據(jù)等。在圖像生成領(lǐng)域，AI繪畫(huà)工具可能會(huì)生成手指數(shù)目異常或肢體不全的人物圖像。這些錯(cuò)誤的輸出并非源于AI的主觀惡意，而是學(xué)習(xí)過(guò)程和生成機(jī)制的副產(chǎn)品。
歸根結(jié)底，AI模型并沒(méi)有真實(shí)世界的直接體驗(yàn)，其知識(shí)和能力主要來(lái)源于訓(xùn)練數(shù)據(jù)。如果訓(xùn)練數(shù)據(jù)本身存在局限性，例如數(shù)據(jù)不準(zhǔn)確、不完整、過(guò)時(shí)、帶有偏見(jiàn)，或者某些領(lǐng)域的知識(shí)覆蓋不足，那么AI模型在學(xué)習(xí)過(guò)程中就可能吸收這些缺陷，并在生成內(nèi)容時(shí)表現(xiàn)出來(lái)，導(dǎo)致幻覺(jué)的產(chǎn)生。因此可以說(shuō)，互聯(lián)網(wǎng)上良莠不齊的信息源在某種程度上加劇了AI的錯(cuò)誤率，自媒體為商業(yè)利益制造的虛假內(nèi)容、歷史記錄的多版本等，都成為AI模型的“事實(shí)”陷阱，形成“垃圾進(jìn)、垃圾出”的惡性循環(huán)。當(dāng)AI系統(tǒng)“一本正經(jīng)地胡說(shuō)八道”時(shí)，其所提供的錯(cuò)誤事實(shí)、虛構(gòu)的細(xì)節(jié)或不準(zhǔn)確的建議，很容易對(duì)缺乏相關(guān)領(lǐng)域知識(shí)的用戶產(chǎn)生誤導(dǎo)。這時(shí)，即使用戶本身并沒(méi)有造謠的意圖，也很有可能在不加求證的狀態(tài)下“迷信”AI，出于恐慌心理大范圍轉(zhuǎn)發(fā)、傳播虛假內(nèi)容，誤導(dǎo)公眾輿論，擾亂信息秩序。
（二）監(jiān)管困境：責(zé)任主體認(rèn)定缺乏明確標(biāo)準(zhǔn)
目前，現(xiàn)行法律體系在應(yīng)對(duì)AI謠言時(shí)表現(xiàn)出顯著的滯后性，難以有效匹配AI謠言問(wèn)題的復(fù)雜特性與演變態(tài)勢(shì)。其中，責(zé)任主體認(rèn)定的模糊性構(gòu)成了突出的監(jiān)管障礙。AI謠言的生成與傳播涉及多方主體，涵蓋模型開(kāi)發(fā)者、內(nèi)容使用者、數(shù)據(jù)提供者以及平臺(tái)運(yùn)營(yíng)者等，主體間關(guān)系錯(cuò)綜復(fù)雜，使得責(zé)任認(rèn)定在客觀上困難重重。
對(duì)于AI模型開(kāi)發(fā)者而言，其責(zé)任范圍存在爭(zhēng)議：若模型因算法缺陷或數(shù)據(jù)污染問(wèn)題，導(dǎo)致容易生成虛假信息引發(fā)謠言，開(kāi)發(fā)者是否需承擔(dān)連帶責(zé)任？由于目前算法安全審查義務(wù)仍然缺乏量化標(biāo)準(zhǔn)，開(kāi)發(fā)者常以“技術(shù)中立”抗辯，模糊自身所應(yīng)該承擔(dān)的責(zé)任；對(duì)于AI使用者，諸如江西南昌某MCN機(jī)構(gòu)負(fù)責(zé)人王某某這類(lèi)主體，其利用AI批量生成謠言的行為雖然具有明顯的主觀惡意，但現(xiàn)行法律對(duì)“利用AI技術(shù)造謠”的行為定性仍缺乏細(xì)化標(biāo)準(zhǔn)，難以與傳統(tǒng)人工造謠的責(zé)任進(jìn)行區(qū)分規(guī)制，更遑論難以界定主觀惡意的謠言問(wèn)題；對(duì)于平臺(tái)運(yùn)營(yíng)者，其審核義務(wù)的邊界也不夠明確。
當(dāng)AI生成的跨模態(tài)謠言以高度逼真的形態(tài)傳播時(shí)，平臺(tái)是否需投入額外技術(shù)資源進(jìn)行事前篩查？如果未能及時(shí)發(fā)現(xiàn)，其不作為的責(zé)任程度又該如何界定？這種主體間責(zé)任的交叉與空白導(dǎo)致AI謠言引發(fā)危害后往往會(huì)陷入“誰(shuí)都有責(zé)任，誰(shuí)都難追責(zé)”的困境，嚴(yán)重制約了治理效能。
（三）認(rèn)知困境：技術(shù)主義思潮下的“信任讓渡”
技術(shù)主義將科學(xué)技術(shù)視為社會(huì)發(fā)展的決定性力量，強(qiáng)調(diào)通過(guò)技術(shù)手段實(shí)現(xiàn)對(duì)世界的控制和改造，以專(zhuān)家系統(tǒng)與科學(xué)管理替代傳統(tǒng)社會(huì)運(yùn)行機(jī)制，常常與工具理性至上與非人本傾向相伴而生。隨著大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等信息技術(shù)的發(fā)展，技術(shù)主義思潮愈演愈烈。人們普遍相信，技術(shù)能夠解決一切問(wèn)題，帶來(lái)無(wú)限的進(jìn)步和發(fā)展。在這一思潮影響下，公眾往往會(huì)將AI生成的內(nèi)容賦予“客觀中立”“精準(zhǔn)無(wú)誤”的天然預(yù)設(shè)，做出不自覺(jué)的“信任讓渡”——即主動(dòng)放棄對(duì)信息真實(shí)性的自主核驗(yàn)權(quán)，將判斷權(quán)完全交予技術(shù)系統(tǒng)，認(rèn)為“AI說(shuō)的就是對(duì)的”。
正是在這種不自覺(jué)的信任讓渡，使得AI謠言的傳播尤為頑固。許多人在獲取AI相關(guān)內(nèi)容時(shí)，往往只看到其表面的邏輯性和形式上的完美，而忽略了技術(shù)本身可能存在的缺陷，如數(shù)據(jù)偏差、算法漏洞、AI幻覺(jué)等，也就更容易去接受、轉(zhuǎn)發(fā)甚至主動(dòng)擴(kuò)散謠言信息，成為AI謠言傳播的“無(wú)意識(shí)幫手”。與此同時(shí)，這種因技術(shù)主義而產(chǎn)生的集體信任，對(duì)現(xiàn)有的謠言治理機(jī)制構(gòu)成了嚴(yán)峻挑戰(zhàn)。傳統(tǒng)謠言治理往往依靠公眾的媒介素養(yǎng)和信息辨別能力進(jìn)行矯正，但在對(duì)AI無(wú)條件信任的背景下，就算相關(guān)治理機(jī)構(gòu)積極辟謠或出臺(tái)監(jiān)管措施，也容易陷入治理的“滯后”與“被動(dòng)”，難以根絕謠言源頭。
三、AI謠言的應(yīng)對(duì)策略
自2025年4月以來(lái)，中央網(wǎng)信辦開(kāi)展“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)，各項(xiàng)工作取得積極進(jìn)展。英國(guó)法學(xué)家科林·斯科特指出，一個(gè)有效的規(guī)制治理體系應(yīng)包含制定規(guī)則、建立規(guī)則運(yùn)行的反饋機(jī)制，以及對(duì)違反規(guī)則行為的監(jiān)督機(jī)制。可見(jiàn)，治理利用AI生成內(nèi)容造謠，事后查處的治理只是其中一環(huán)，更為關(guān)鍵的是要著力構(gòu)建起從生成到傳播再到接收的全鏈條治理機(jī)制。
（一）生成源頭管控：加固技術(shù)安全，明確法律責(zé)任
在AI謠言治理的全流程體系中，源頭治理無(wú)疑是至關(guān)重要的第一環(huán)節(jié)。面對(duì)AI模型強(qiáng)大的內(nèi)容生成與偽造能力，應(yīng)當(dāng)在技術(shù)層面全面加固模型安全防護(hù)體系。
首先，要建立貫穿模型開(kāi)發(fā)、訓(xùn)練、上線、運(yùn)維各環(huán)節(jié)的安全規(guī)范和準(zhǔn)入門(mén)檻，對(duì)具備大規(guī)模生成能力的AI工具實(shí)行嚴(yán)格的分級(jí)備案和評(píng)估，形成開(kāi)發(fā)者、部署者、運(yùn)營(yíng)者分層管理、責(zé)任明晰的技術(shù)生態(tài)。技術(shù)層面還應(yīng)鼓勵(lì)開(kāi)發(fā)更加智能和高效的內(nèi)容水印、數(shù)據(jù)追溯、生成內(nèi)容標(biāo)簽等溯源體系，在每一個(gè)被AI生成的文本、圖片、音視頻內(nèi)容中埋下可供核查的技術(shù)痕跡，以便于事后回溯內(nèi)容源頭，迅速識(shí)別和制止惡意造謠。在美國(guó)大選期間，部分州針對(duì)Deepfake深度偽造技術(shù)引發(fā)的謠言問(wèn)題做出了政策性變動(dòng)。如制定法律，要求在政治競(jìng)選活動(dòng)中對(duì)于AI生成的虛假競(jìng)選信息，必須明確標(biāo)識(shí)，以防止選民受到誤導(dǎo)；對(duì)于故意傳播深度偽造虛假信息以影響選舉結(jié)果的行為，制定了高額罰款和刑事處罰等嚴(yán)厲的懲罰措施。
其次，數(shù)據(jù)治理是源頭治理中的核心一環(huán)，訓(xùn)練數(shù)據(jù)的合法合規(guī)、去污去噪是防止AI模型“帶毒輸出”的基礎(chǔ)。數(shù)據(jù)供給方、標(biāo)注方、模型方應(yīng)落實(shí)相應(yīng)的數(shù)據(jù)清洗、敏感內(nèi)容過(guò)濾義務(wù)，有效削減虛假、不良樣本進(jìn)入訓(xùn)練集的可能。
再次，法律責(zé)任的明確劃分同樣不可或缺。現(xiàn)有法律體系針對(duì)AI生成內(nèi)容的制造、傳播與平臺(tái)監(jiān)管責(zé)任多有空白，對(duì)AI謠言事件的責(zé)任邊界往往界定不清。必須加速完善相關(guān)立法，對(duì)模型開(kāi)發(fā)者、服務(wù)運(yùn)營(yíng)商、內(nèi)容發(fā)布者等各方主體設(shè)定明確的審核與合規(guī)義務(wù)，落實(shí)“誰(shuí)開(kāi)發(fā)、誰(shuí)負(fù)責(zé)”“誰(shuí)發(fā)布、誰(shuí)擔(dān)責(zé)”的原則。對(duì)因管理不善、審核失職導(dǎo)致謠言傳播的技術(shù)企業(yè)、平臺(tái)方依法追責(zé)，并建立高效、便捷的權(quán)益救濟(jì)和司法響應(yīng)渠道，為受害者提供明確的法律支持，營(yíng)造有力的法律威懾。
只有通過(guò)強(qiáng)化技術(shù)本身的安全屬性、優(yōu)化數(shù)據(jù)治理生態(tài)、健全法律責(zé)任體系，才能在源頭上有效遏制AI謠言的制造與流通，為后續(xù)治理環(huán)節(jié)打下堅(jiān)實(shí)基礎(chǔ)。
（二）傳播過(guò)程阻斷：完善平臺(tái)審核，強(qiáng)化監(jiān)管協(xié)作
如果說(shuō)源頭治理是“堵水源”，那么傳播過(guò)程阻斷就是“截洪流”。在當(dāng)下的網(wǎng)絡(luò)生態(tài)中，AI謠言極易通過(guò)自媒體、短視頻平臺(tái)、即時(shí)通訊工具等渠道裂變式爆發(fā)，不斷放大謠言危害。要遏制此類(lèi)信息在傳播鏈路上的蔓延，首先需要平臺(tái)方承擔(dān)起主體責(zé)任。各大內(nèi)容平臺(tái)應(yīng)升級(jí)現(xiàn)有的信息審核體系，借助AI技術(shù)治理AI謠言，利用實(shí)時(shí)的智能內(nèi)容識(shí)別和過(guò)濾系統(tǒng)，對(duì)文本、圖像、音視頻進(jìn)行自動(dòng)標(biāo)注和風(fēng)險(xiǎn)預(yù)警，在謠言傳播初期實(shí)現(xiàn)技術(shù)級(jí)別的高效攔截。同時(shí)，應(yīng)建立動(dòng)態(tài)詞庫(kù)和多模態(tài)內(nèi)容分析機(jī)制，對(duì)高風(fēng)險(xiǎn)話題、熱門(mén)事件等重點(diǎn)領(lǐng)域進(jìn)行特殊防控，避免AI謠言借熱點(diǎn)事件發(fā)酵。此外，平臺(tái)還應(yīng)完善人工復(fù)核機(jī)制，引入專(zhuān)家團(tuán)隊(duì)對(duì)高敏感內(nèi)容進(jìn)行層級(jí)審核，彌補(bǔ)AI算法誤判、漏判的不足，形成“技術(shù)初篩+人工復(fù)核”的協(xié)同應(yīng)對(duì)。
可以說(shuō)，監(jiān)管與治理主體間的協(xié)作同樣決定了阻斷效果。面對(duì)AI謠言的泛化趨勢(shì)，單一平臺(tái)、部門(mén)的孤立治理已難以應(yīng)對(duì)復(fù)雜情勢(shì)，需要搭建起多元協(xié)同的社會(huì)治理網(wǎng)絡(luò)：政府相關(guān)部門(mén)應(yīng)出臺(tái)指導(dǎo)性政策，設(shè)立全鏈路監(jiān)測(cè)、信息溯源與聯(lián)動(dòng)處理機(jī)制；權(quán)威媒體與辟謠中心要主動(dòng)入場(chǎng)，形成權(quán)威發(fā)布、應(yīng)急響應(yīng)、線索通報(bào)的閉環(huán)；平臺(tái)之間數(shù)據(jù)互通與案例共享，實(shí)現(xiàn)謠言情報(bào)的實(shí)時(shí)聯(lián)動(dòng)、違規(guī)賬號(hào)的協(xié)同處置、典型事件的公開(kāi)曝光；有效暢通用戶舉報(bào)、投訴、線索投稿渠道，建立激勵(lì)機(jī)制，形成共治合力?？梢?jiàn)，傳播過(guò)程阻斷環(huán)節(jié)，既要依賴(lài)平臺(tái)自律和智能技術(shù)的不斷升級(jí)，也需政府引導(dǎo)、多方聯(lián)動(dòng)和公眾參與，織密謠言攔截的“防護(hù)網(wǎng)”，為守護(hù)清朗的信息環(huán)境筑起堅(jiān)實(shí)屏障。
（三）受眾認(rèn)知轉(zhuǎn)變：優(yōu)化辟謠機(jī)制，提升媒介素養(yǎng)
AI謠言的頑固性和可持續(xù)危害，很大程度上依賴(lài)于公眾對(duì)AI生成內(nèi)容的認(rèn)知局限和媒介素養(yǎng)短板。面對(duì)人工智能技術(shù)賦予的“以假亂真”手段，傳統(tǒng)的被動(dòng)辟謠模式在許多情況下鞭長(zhǎng)莫及，唯有推動(dòng)全社會(huì)認(rèn)知結(jié)構(gòu)的升級(jí)，才能從根本上切斷AI謠言的生存土壤。
首先，權(quán)威、系統(tǒng)和精細(xì)化的辟謠機(jī)制不可或缺。應(yīng)構(gòu)建集國(guó)家權(quán)威、主流媒體、第三方核查機(jī)構(gòu)、專(zhuān)業(yè)平臺(tái)于一體的多層次、聯(lián)動(dòng)式辟謠網(wǎng)絡(luò)，實(shí)現(xiàn)“權(quán)威鑒定—實(shí)時(shí)發(fā)布—多平臺(tái)推送—全網(wǎng)覆蓋”的高效格局。需要注意的是，辟謠不只是及時(shí)回應(yīng)，更要重視科學(xué)揭示AI造假的技術(shù)原理、造謠手法、識(shí)破要點(diǎn)，通過(guò)案例演示、互動(dòng)問(wèn)答、可視化呈現(xiàn)，將技術(shù)性闡釋轉(zhuǎn)化為公眾易于理解和吸收的“知識(shí)普及包”，進(jìn)而消解技術(shù)主義下公眾對(duì)于AI的盲目信任。
其次，提升媒介素養(yǎng)是受眾治理的治本之道。各級(jí)教育體系應(yīng)將AI與新媒體素養(yǎng)教育納入課程，從信息獲取、源頭甄別、批判思維、風(fēng)險(xiǎn)防范等維度進(jìn)行全鏈條能力培養(yǎng)。通過(guò)專(zhuān)題講座、模擬訓(xùn)練和社會(huì)案例分析，增強(qiáng)公眾對(duì)AI謠言的敏銳覺(jué)察和防御技能。平臺(tái)應(yīng)定期發(fā)布典型AI謠言、科普技術(shù)破解方法，并對(duì)各類(lèi)用戶定向推送信息鑒別指導(dǎo)，形成與用戶日常信息消費(fèi)相結(jié)合的防謠能力訓(xùn)練場(chǎng)景。
最后，需要關(guān)注群體心理層面的風(fēng)險(xiǎn)管理。AI謠言往往迎合社會(huì)情緒、激發(fā)群體共鳴，極易放大“后真相”與“信息繭房”效應(yīng)。通過(guò)提升公眾的理性自省意識(shí)、鼓勵(lì)前置求證和辯證討論氛圍，可以預(yù)防情緒型、跟風(fēng)型的謠言擴(kuò)散。輿論引導(dǎo)、政策倡導(dǎo)和獎(jiǎng)懲機(jī)制的引入，也有助于培育去神化、去技術(shù)迷信的社會(huì)環(huán)境，促成全民“識(shí)謠、辨謠、拒謠”的良好認(rèn)知生態(tài)。最終，實(shí)現(xiàn)觀念轉(zhuǎn)變和素養(yǎng)提升，既能有效避免AI謠言的廣泛侵蝕，更為信息社會(huì)的健康發(fā)展注入強(qiáng)大內(nèi)生動(dòng)力。
在人工智能時(shí)代，技術(shù)不僅以其高效與便利塑造著人類(lèi)社會(huì)的方方面面，更深刻影響著我們認(rèn)知世界、判斷真?zhèn)蔚姆绞健I驅(qū)動(dòng)的內(nèi)容生成突破了以往信息生產(chǎn)、驗(yàn)證與傳播的邊界，將人類(lèi)帶入真假難辨的全新境域。面對(duì)AI生成謠言的治理難題，僅僅停留在事后被動(dòng)查處是遠(yuǎn)遠(yuǎn)不夠的，關(guān)鍵在于構(gòu)建起涵蓋生成方、傳播方與接收方的全鏈條、全流程治理機(jī)制。唯有各個(gè)環(huán)節(jié)共同發(fā)力、多重措施同步落地，才能在人工智能不斷塑造社會(huì)結(jié)構(gòu)與認(rèn)知方式的時(shí)代，守護(hù)事實(shí)與真相的底線，讓技術(shù)回歸其本初的人文關(guān)懷與啟蒙功能，成為照亮世界、服務(wù)人類(lèi)的規(guī)范性力量。
關(guān)鍵詞：
全球 AI 創(chuàng)造力發(fā)展報(bào)告 2025：智能浪潮下的創(chuàng)新與變革
浙江拉斯維特物流承運(yùn)460車(chē)支援項(xiàng)目 5000萬(wàn)元級(jí)跨境運(yùn)輸任務(wù)，60天圓滿收官！
