界面新聞記者 | 肖芳

界面新聞編輯 | 文姝琪

在平臺內(nèi)容生態(tài)治理上，字節(jié)跳動變得越來越開放。

去年11月，農(nóng)夫山泉創(chuàng)始人鐘睒睒指責(zé)抖音和今日頭條隨意使用平臺手中的權(quán)力，進行謠言傳播，并要求兩個平臺立即撤除對其的個人名譽權(quán)的侵害的言論、圖片。

雖然字節(jié)跳動一直未對鐘睒睒的指責(zé)進行正面回應(yīng)，但一系列改變卻在此事件之后相繼發(fā)生。從去年12月開始，抖音集團副總裁李亮開始在微博活躍，每天回應(yīng)和解釋各種和平臺治理相關(guān)的信息。

近日，今日頭條首次舉辦“平臺治理開放日”，公開了目前對虛假謠言的治理舉措。今日頭條生態(tài)治理運營的負責(zé)人韓雨桐透露，謠言治理已經(jīng)是今日頭條平臺治理最重要的工作之一，平臺也投入了非常多的資源和精力。

據(jù)其介紹，目前今日頭條在謠言治理上著重建設(shè)了三個方面的能力，包括謠言庫、權(quán)威信源庫以及專業(yè)審核團隊。

其中，謠言庫把今日頭條站內(nèi)外的已知虛假信息及突發(fā)熱點事件的相關(guān)謠言錄入庫中，并在后續(xù)的新增發(fā)文環(huán)節(jié)進行攔截；權(quán)威信源庫是把權(quán)威媒體發(fā)布的內(nèi)容作為核心信源，輔助判斷一些沒有信源采集能力賬號的新發(fā)布的內(nèi)容是否真實可信；審核團隊招募了大量具有時政、社會、醫(yī)療、財經(jīng)背景的專業(yè)人員，對相關(guān)信息進行人工判斷。

今日頭條公布的數(shù)據(jù)顯示，2024年攔截不實信息超500萬條。但從用戶反饋來看，很多人和鐘睒睒有相似的感受，他們并沒有感知到平臺在打擊謠言上的努力，反而感受到了大量謠言、低質(zhì)量信息帶來的困擾。

這在一定程度上反映了當(dāng)下內(nèi)容平臺在生態(tài)治理上的困境。

生成式AI讓網(wǎng)絡(luò)謠言治理變得更難

2022年11月，OpenAI剛剛開始發(fā)布ChatGPT時，業(yè)界和學(xué)界對生成式AI給內(nèi)容行業(yè)帶來的生產(chǎn)效率提升充滿了期待。但現(xiàn)實并沒有朝著很多人預(yù)期的美好方向發(fā)展，反而出現(xiàn)了更大的麻煩。

生成式AI讓創(chuàng)作成本變得更低，卻也生產(chǎn)了大量不實信息。一方面，網(wǎng)絡(luò)上本身就存在很多謠言，但生成式AI在搜索引用信息的過程中，并不能準確分辨謠言，導(dǎo)致了虛假信息被反復(fù)使用；另一方面，大模型的幻覺問題導(dǎo)致其在創(chuàng)作過程中憑空生成了很多不實信息，夾雜在真實的信息中讓人更加無法分辨。界面新聞對多款大模型進行測試發(fā)現(xiàn)，即使是DeepSeek，也會生成很多無中生有的信息，如果不經(jīng)核實發(fā)布，很容易導(dǎo)致謠言的傳播。

清華大學(xué)新聞與傳播學(xué)院教授陸洪磊也注意到了相關(guān)問題。在今日頭條“平臺治理開放日”活動上，他展示了多條AI生成的新聞，在坐的觀眾很難分辨真假，但其實都是假新聞。

在陸洪磊看來，在AI技術(shù)的加持下，網(wǎng)絡(luò)謠言已經(jīng)出現(xiàn)了一些新特征。在空間上，AI謠言可以做到分平臺、分渠道、分時段，而且是分媒介的定制化的生成和發(fā)布，跨平臺影響力更大；在速度上，AI謠言由于其低廉的成本，可以做到短時間內(nèi)的成倍率的傳播，辟謠難度大大增加；在結(jié)構(gòu)上，AI謠言本身就自帶自我學(xué)習(xí)和自我強化的特性會加劇AI幻覺，令謠言本身更加顯得無懈可擊。

這些新的特征帶來的結(jié)果就是，謠言模糊程度越來越低，越來越清晰，顯得非常逼真。比如，今年1月西藏日喀則市定日縣發(fā)生地震之后，一張“被壓在廢墟下的小男孩”圖片在網(wǎng)絡(luò)上引發(fā)了病毒式傳播，讓很多網(wǎng)友揪心落淚。實際上，這張圖片是由AI生成，其不僅混淆公眾視線，更無情地消費了公眾的情感。

韓雨桐在接受媒體采訪時明確表示，虛假謠言、低質(zhì)AI內(nèi)容等，破壞了平臺生態(tài)，也不利于創(chuàng)作公平。

面對快速發(fā)展的生成式AI，她表示，平臺在鼓勵用戶使用AI提效的基礎(chǔ)上，保護原創(chuàng)空間，迅速升級、迭代AI模型的識別能力，收嚴AI內(nèi)容的審核力度。

在北京師范大學(xué)法學(xué)院院長梁迎修看來，AI虛假謠言加快了謠言的傳播速度，也增加了平臺的治理難度。平臺可以利用AI技術(shù)作為新工具，在謠言內(nèi)容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。

提高公眾的網(wǎng)絡(luò)信息素養(yǎng)變得越來越重要

在鐘睒睒公開喊話之后，信息流算法再次引發(fā)爭議。爭議背后，是當(dāng)下信息傳播高度依賴算法，算法推薦哪些內(nèi)容確實直接影響著公眾認知。因此，很多人認為是算法帶來的謠言、網(wǎng)暴等低質(zhì)內(nèi)容泛濫的問題。

實際上，一味指責(zé)算法帶來的問題而忽視其積極影響也有失偏頗。雖然算法帶來了種種問題，算法提升了信息分發(fā)效率，素人擁有了更多被別人看到的可能，信息流動性高也同時對生產(chǎn)產(chǎn)生了促進作用。

在這種情況下，學(xué)界和平臺都認為，在積極治理謠言等低質(zhì)信息的同時，提高公眾的網(wǎng)絡(luò)信息素養(yǎng)變得越來越重要。在很長一段時間中，網(wǎng)絡(luò)謠言并不能完全消除，但提高公眾的網(wǎng)絡(luò)信息素有助于普通個體分辨謠言，降低謠言的傳播力度和其帶來的損失。

在梁迎修看來，面對各種各樣的謠言變體，提高公眾的辨別力是一個非常有效的渠道，平臺可以通過自身影響力為公眾提供一些教育培訓(xùn)。

目前，微信公眾平臺、今日頭條等平臺均對此有了一些探索。其中，微信公眾平臺建立了“謠言過濾器” 官方辟謠賬號，與人民網(wǎng)、果殼網(wǎng)、丁香園等各方合作，在內(nèi)容運營、辟謠內(nèi)容鑒定等方面聯(lián)手過濾微信平臺上的謠言，重點關(guān)注社會熱點類、科普類以及醫(yī)療健康類內(nèi)容。

2023年以來，今日頭條推出了視頻內(nèi)容《頭條講真的》，聯(lián)合醫(yī)學(xué)、財經(jīng)、法律等領(lǐng)域?qū)I(yè)創(chuàng)作者，為用戶進行辟謠、反詐宣傳。在內(nèi)容傳播形式上，《頭條講真的》改變了過往辟謠、科普類內(nèi)容嚴肅理性的風(fēng)格，而是動畫演繹等更生動的形式觸達用戶，并與熊出沒、南京紅山動物園、我是小魔等知名IP、機構(gòu)和優(yōu)質(zhì)創(chuàng)作者多元合作，為平臺治理工作拓展了新的思路。

除了這些措施之外，北京大學(xué)教授、北京大學(xué)中國社會與發(fā)展研究中心主任邱澤奇此前在接受界面新聞采訪時還表示，平臺可以針對有真假爭議的信息進行標記，對用戶盡到提醒義務(wù)?！拔覀冊谥卫硖摷傩畔⑦^程中很重要的一點就是要讓平臺承擔(dān)提醒義務(wù)?！?/span>

據(jù)界面新聞了解，此前微博、微信公眾號等平臺試點過針對有事實爭議的內(nèi)容對用戶進行提醒。今日頭條和抖音也在推進標注提醒的功能上線。

在處理謠言等低質(zhì)信息的問題上，很多情況都是新出現(xiàn)的，平臺也沒有太多經(jīng)驗可參考，只能不斷試錯。梁迎修表示，網(wǎng)絡(luò)謠言治理需要多方綜合施策，平臺也要與政府機構(gòu)、媒體、公眾等加強協(xié)同。