摘  要:生成式人工智能具有高度擬真性、規(guī)模化生成、語境適應(yīng)性、交互代理等特質(zhì)，可對(duì)網(wǎng)絡(luò)信息生產(chǎn)、流通與聚合機(jī)制產(chǎn)生深刻影響。這一技術(shù)變革，既給網(wǎng)絡(luò)生態(tài)治理帶來新考驗(yàn)、新課題，也為提升治理效能、壯大主流輿論、優(yōu)化內(nèi)容生態(tài)提供新的技術(shù)支撐。應(yīng)對(duì)其給現(xiàn)有輿論生態(tài)治理框架帶來的機(jī)遇和挑戰(zhàn)，需從技術(shù)、制度、素養(yǎng)等維度協(xié)同發(fā)力，夯實(shí)網(wǎng)絡(luò)空間的信用基礎(chǔ)，推動(dòng)網(wǎng)絡(luò)生態(tài)治理范式轉(zhuǎn)型。

關(guān)鍵詞:生成式人工智能  網(wǎng)絡(luò)生態(tài)治理  治理范式  協(xié)同治理

【中圖分類號(hào)】G206                       【文獻(xiàn)標(biāo)識(shí)碼】A

隨著生成式人工智能技術(shù)的快速發(fā)展，網(wǎng)絡(luò)內(nèi)容的生產(chǎn)方式與傳播格局正經(jīng)歷深刻變革。當(dāng)海量虛實(shí)難辨的信息涌入輿論場(chǎng)，網(wǎng)絡(luò)輿論所反映的民意就需要審慎研判；當(dāng)文字、圖像、聲音、視頻均可由算法生成，“公眾意見”的內(nèi)涵也在經(jīng)歷深刻變化。而這些變化，關(guān)乎網(wǎng)絡(luò)空間能否真正成為思想引領(lǐng)、道德培育、文化傳承的重要陣地。習(xí)近平總書記指出：“網(wǎng)絡(luò)生態(tài)治理是網(wǎng)絡(luò)強(qiáng)國(guó)建設(shè)的重要任務(wù)，事關(guān)國(guó)家發(fā)展和安全，事關(guān)人民群眾切身利益。”[1]如何構(gòu)建與新技術(shù)發(fā)展相適應(yīng)的網(wǎng)絡(luò)治理體系，持續(xù)優(yōu)化網(wǎng)絡(luò)生態(tài)，已成為我們必須回答的時(shí)代課題。

生成式人工智能的技術(shù)特質(zhì)及其對(duì)網(wǎng)絡(luò)生態(tài)的重構(gòu)

生成式人工智能對(duì)網(wǎng)絡(luò)生態(tài)的影響源于其獨(dú)特的技術(shù)特質(zhì)，主要體現(xiàn)在四個(gè)方面。一是高度擬真性。大語言模型對(duì)人類語言風(fēng)格、情感表達(dá)和論證邏輯的深度模仿，使其輸出在表面上難以與人類創(chuàng)作相區(qū)分。二是規(guī)模化生成能力。內(nèi)容生產(chǎn)的邊際成本趨近于零，單一主體能夠在短時(shí)間內(nèi)生成海量差異化內(nèi)容，生成式人工智能使“意見”生產(chǎn)不再受制于人類表達(dá)的時(shí)間與精力限制。三是語境適應(yīng)性。模型可以根據(jù)指令調(diào)整輸出風(fēng)格、立場(chǎng)和受眾定位，精準(zhǔn)針對(duì)特定群體，實(shí)現(xiàn)“千人千面”的定制化內(nèi)容生成。四是交互代理能力。人工智能不僅能夠生成靜態(tài)內(nèi)容，還能作為“對(duì)話者”持續(xù)參與輿論互動(dòng)，模糊內(nèi)容生產(chǎn)與參與傳播之間的邊界。

將人工智能時(shí)代與此前的不同媒介時(shí)代相比較，可以更清晰地看到媒介生態(tài)的深刻變遷。在大眾媒體時(shí)代，信息環(huán)境主要由專業(yè)新聞機(jī)構(gòu)建構(gòu)，內(nèi)容生產(chǎn)具有明確的主體責(zé)任，信息來源可追溯、可問責(zé)。進(jìn)入社交媒體時(shí)代，專業(yè)機(jī)構(gòu)的信息壟斷被打破，用戶生成內(nèi)容成為主流，但內(nèi)容仍然源于真實(shí)的人類表達(dá)。人工智能時(shí)代，信息環(huán)境則發(fā)生質(zhì)變，內(nèi)容不再僅僅被選擇性呈現(xiàn)，而是可以被大規(guī)模合成創(chuàng)造；信息環(huán)境的“原材料”本身就可能是機(jī)器生產(chǎn)的；創(chuàng)作主體從人類擴(kuò)展到人機(jī)混合甚至純機(jī)器，“作者”這一概念的邊界變得模糊。生成式人工智能技術(shù)若被不當(dāng)使用，可能使輿論環(huán)境從“對(duì)現(xiàn)實(shí)的選擇性呈現(xiàn)”演變?yōu)?ldquo;對(duì)現(xiàn)實(shí)的合成性替代”。這將對(duì)網(wǎng)絡(luò)生態(tài)治理構(gòu)成嚴(yán)峻挑戰(zhàn)，我們需系統(tǒng)審視其中薄弱環(huán)節(jié)，通過制度完善、技術(shù)治理與多方協(xié)同，切實(shí)筑牢治理屏障，推動(dòng)形成清朗有序、向上向好的網(wǎng)絡(luò)生態(tài)。

人工智能時(shí)代網(wǎng)絡(luò)生態(tài)可能面臨的系統(tǒng)性風(fēng)險(xiǎn)

生成式人工智能的規(guī)模化生成能力，若缺乏有效規(guī)制，可能給網(wǎng)絡(luò)生態(tài)帶來系統(tǒng)性風(fēng)險(xiǎn)。

主流價(jià)值影響力被稀釋。海量合成內(nèi)容會(huì)導(dǎo)致單位信息的價(jià)值被稀釋。在此情形下，真實(shí)的民意表達(dá)被淹沒在合成信息的“噪聲”中，導(dǎo)致公眾難以辨識(shí)有效信息，有限的公共注意力被大量低質(zhì)內(nèi)容消耗，使嚴(yán)肅議題難以得到充分討論。同時(shí)，由于“量”已不能反映真實(shí)民意的“質(zhì)”，傳統(tǒng)基于數(shù)量統(tǒng)計(jì)的輿情分析方法面臨失效風(fēng)險(xiǎn)。長(zhǎng)期接觸由特定大語言模型構(gòu)建的信息環(huán)境，會(huì)使公眾的價(jià)值觀念受到持續(xù)影響，更容易接受其中隱含的立場(chǎng)或觀念，進(jìn)而可能對(duì)主流價(jià)值認(rèn)同和社會(huì)治理效能產(chǎn)生潛在影響。[2]

公共話語生態(tài)受到?jīng)_擊。低成本、規(guī)模化的人工智能生成內(nèi)容在注意力競(jìng)爭(zhēng)中占據(jù)優(yōu)勢(shì)，而需要投入時(shí)間與精力的深度思考則面臨被邊緣化的風(fēng)險(xiǎn)。隨著“發(fā)聲”門檻降低，理性參與者逐步離場(chǎng)，致使公共討論呈現(xiàn)出從實(shí)質(zhì)性觀點(diǎn)交鋒，滑向形式化符號(hào)堆砌的趨勢(shì)。此外，專業(yè)人士基于審慎判斷的見解，也往往會(huì)被海量看似專業(yè)、實(shí)則似是而非的人工智能“分析”所淹沒。

社會(huì)信任基礎(chǔ)面臨考驗(yàn)。從信任利用角度看，生成式人工智能能夠模仿熟人語氣、冒充權(quán)威機(jī)構(gòu)、制造看似專業(yè)的論述，系統(tǒng)性利用社會(huì)信任網(wǎng)絡(luò)。然而，一旦這種利用被識(shí)別，又容易導(dǎo)致信任的全面退潮。從證據(jù)環(huán)境角度看，深度合成技術(shù)使圖片、視頻、音頻等傳統(tǒng)“證據(jù)”都可能被偽造，“以證據(jù)論事”的認(rèn)知框架隨之受到挑戰(zhàn)，公共討論可能陷入“無限舉證”的困境。更值得關(guān)注的是，生成式人工智能在一定程度上突破了傳統(tǒng)輿論操縱的約束條件，既能實(shí)現(xiàn)百萬量級(jí)的規(guī)模傳播，又能進(jìn)行個(gè)性化精準(zhǔn)定制，這種技術(shù)能力是此前傳播手段所不具備的。

生成式人工智能給現(xiàn)有輿論生態(tài)治理框架帶來的機(jī)遇和挑戰(zhàn)

當(dāng)前，人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用不斷涌現(xiàn)，給網(wǎng)絡(luò)生態(tài)治理帶來挑戰(zhàn)，也提供新的支持條件。[3]就機(jī)遇而言，生成式人工智能為網(wǎng)絡(luò)生態(tài)重構(gòu)和治理范式重塑提供新的技術(shù)支撐。在賦能主流內(nèi)容生產(chǎn)、壯大網(wǎng)絡(luò)正能量方面，生成式人工智能可以大幅提升優(yōu)質(zhì)內(nèi)容的生產(chǎn)效率，輔助主流媒體創(chuàng)作有內(nèi)涵、有溫度、有影響且符合新媒體傳播規(guī)律的作品，將主流價(jià)值內(nèi)容轉(zhuǎn)化為適合不同受眾的多樣化表達(dá)形式，實(shí)現(xiàn)分眾化、精準(zhǔn)化傳播。與此同時(shí)，相關(guān)技術(shù)能夠顯著提升輿情感知的精準(zhǔn)性與時(shí)效性。生成式人工智能憑借其強(qiáng)大的自然語言理解能力，能夠?qū)崟r(shí)分析輿情的情感、路徑與趨勢(shì)，精準(zhǔn)把握輿論氣候，并輔助識(shí)別虛假及深度偽造信息，為事實(shí)核查提供技術(shù)支撐。在網(wǎng)絡(luò)空間治理方面，生成式人工智能可以為網(wǎng)絡(luò)平臺(tái)的內(nèi)容審核提供智能輔助，在海量信息中快速識(shí)別違規(guī)內(nèi)容；在網(wǎng)絡(luò)政務(wù)服務(wù)中，驅(qū)動(dòng)智能問答系統(tǒng)全天候響應(yīng)群眾咨詢；在網(wǎng)絡(luò)安全防護(hù)中，實(shí)時(shí)監(jiān)測(cè)異常行為。在支撐國(guó)際傳播能力建設(shè)方面，借助大模型多語言生成能力，可以將中國(guó)聲音高效轉(zhuǎn)化為多語種內(nèi)容，突破語言傳播壁壘，并幫助分析不同文化背景受眾的信息偏好，實(shí)現(xiàn)更精準(zhǔn)的跨文化傳播。

就挑戰(zhàn)方面而言，生成式人工智能的廣泛應(yīng)用，給現(xiàn)有治理框架帶來一些有待解決的新課題。在感知層面，傳統(tǒng)輿情監(jiān)測(cè)主要依賴關(guān)鍵詞識(shí)別、情感分析和傳播網(wǎng)絡(luò)追蹤，這些方法難以有效區(qū)分內(nèi)容真實(shí)來源，容易導(dǎo)致對(duì)輿論態(tài)勢(shì)的誤判。在歸責(zé)層面，當(dāng)人工智能生成能力擴(kuò)展到廣大用戶層面時(shí)，責(zé)任鏈條在“模型開發(fā)者—部署者—使用者—分發(fā)平臺(tái)”之間變得分散，難以明確界定追責(zé)主體。在時(shí)效層面，人工審核與事實(shí)核查的速度往往落后于人工智能生成與傳播的速度，形成結(jié)構(gòu)性“時(shí)滯”。更深層的問題在于網(wǎng)絡(luò)輿論出現(xiàn)的“異化”現(xiàn)象。人工智能生成的“意見”脫離人類主體的真實(shí)意圖，成為一種無主體的符號(hào)存在；輿論渠道可能被用于影響甚至操縱公眾；表面的“公眾意見”可能與真實(shí)民意存在脫節(jié)。這種“異化”不僅降低公眾參與公共討論的積極性，也使“什么都可能是假的”成為一種較為普遍的心態(tài)，進(jìn)而對(duì)社會(huì)公共生活的信任基礎(chǔ)產(chǎn)生一定影響。

網(wǎng)絡(luò)生態(tài)治理的范式轉(zhuǎn)型勢(shì)在必行

將人工智能時(shí)代網(wǎng)絡(luò)空間的輿論風(fēng)險(xiǎn)類比為“信用危機(jī)”，治理的目標(biāo)就不能局限于管理具體內(nèi)容，更重要的是夯實(shí)網(wǎng)絡(luò)空間的“信用基礎(chǔ)”。為此，需從以下幾個(gè)方面入手實(shí)現(xiàn)范式轉(zhuǎn)型。

在技術(shù)層面，建設(shè)網(wǎng)絡(luò)空間的“信用基礎(chǔ)設(shè)施”，從“事后監(jiān)管”轉(zhuǎn)向“事前與事中嵌入”，提升網(wǎng)絡(luò)生態(tài)治理的前瞻性和精準(zhǔn)性。建立內(nèi)容溯源機(jī)制，推動(dòng)人工智能生成內(nèi)容的數(shù)字水印、元數(shù)據(jù)標(biāo)注等技術(shù)標(biāo)準(zhǔn)化，使內(nèi)容來源可追溯、可驗(yàn)證。加強(qiáng)檢測(cè)能力建設(shè)，發(fā)展深度合成內(nèi)容的檢測(cè)技術(shù)，建立人工智能生成內(nèi)容的特征數(shù)據(jù)庫，支持跨平臺(tái)協(xié)同識(shí)別。推動(dòng)負(fù)責(zé)任人工智能的設(shè)計(jì)嵌入，在基礎(chǔ)模型訓(xùn)練與對(duì)齊階段植入防止濫用的技術(shù)約束，推動(dòng)“可信人工智能”原則落地。[4]

在制度層面，從“集中式管控”轉(zhuǎn)向“分布式協(xié)同治理”，提升網(wǎng)絡(luò)生態(tài)治理的系統(tǒng)性和協(xié)同性。必須堅(jiān)持黨管媒體原則不動(dòng)搖，加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)、自媒體及多頻道網(wǎng)絡(luò)機(jī)構(gòu)等的引導(dǎo)，推動(dòng)其切實(shí)履行社會(huì)責(zé)任，主動(dòng)傳播正能量。在責(zé)任框架設(shè)計(jì)上，應(yīng)依據(jù)主體角色明確分層責(zé)任：基礎(chǔ)模型提供者須承擔(dān)防范能力濫用的主體責(zé)任，服務(wù)部署者應(yīng)落實(shí)具體場(chǎng)景下的風(fēng)險(xiǎn)管理責(zé)任，內(nèi)容分發(fā)平臺(tái)則需履行傳播環(huán)節(jié)的內(nèi)容把關(guān)責(zé)任。通過政策引導(dǎo)、許可管理等多種方式，促進(jìn)行政監(jiān)管與行業(yè)自律有效銜接，統(tǒng)籌推進(jìn)網(wǎng)絡(luò)領(lǐng)域立法、執(zhí)法、司法與普法各項(xiàng)工作，形成治理合力。

在素養(yǎng)層面，強(qiáng)化公眾對(duì)網(wǎng)絡(luò)信息的認(rèn)知判斷能力，提升網(wǎng)絡(luò)生態(tài)治理的持久性。引導(dǎo)公眾理解生成式人工智能的能力邊界與風(fēng)險(xiǎn)特征，培養(yǎng)公眾對(duì)信息來源的批判性審視習(xí)慣。同時(shí)，培育公眾建立基于來源評(píng)估與交叉驗(yàn)證的判斷習(xí)慣，既不輕信一切信息，也不陷入虛無主義。更為關(guān)鍵的是，主流媒體需發(fā)揮網(wǎng)絡(luò)優(yōu)質(zhì)內(nèi)容供給的示范引領(lǐng)作用，在眾聲喧嘩中建立可信賴的“定海神針”，深化黨的創(chuàng)新理論網(wǎng)上宣傳，大力弘揚(yáng)社會(huì)主義核心價(jià)值觀，推出多有內(nèi)涵、有溫度、有影響的網(wǎng)絡(luò)作品，為公眾正確感知輿論氣候提供權(quán)威參照系。 

在國(guó)際合作層面，推動(dòng)建構(gòu)網(wǎng)絡(luò)空間命運(yùn)共同體，提升網(wǎng)絡(luò)空間治理的國(guó)際話語權(quán)。習(xí)近平總書記強(qiáng)調(diào)：“網(wǎng)絡(luò)生態(tài)治理是世界各國(guó)面臨的共同課題。”[5]當(dāng)前，面對(duì)生成式人工智能等新技術(shù)帶來的全球性挑戰(zhàn)，加強(qiáng)國(guó)際協(xié)作顯得尤為重要與緊迫。我們應(yīng)秉持共商共建共享的全球治理觀，主動(dòng)參與并引領(lǐng)人工智能治理、數(shù)據(jù)安全、數(shù)字倫理等新興領(lǐng)域的國(guó)際規(guī)則與標(biāo)準(zhǔn)制定，以網(wǎng)絡(luò)空間命運(yùn)共同體理念凝聚全球共識(shí)。同時(shí)，加強(qiáng)國(guó)際傳播網(wǎng)絡(luò)平臺(tái)和能力建設(shè)，積極運(yùn)用人工智能等新技術(shù)賦能國(guó)際傳播全鏈條，通過更精準(zhǔn)、更生動(dòng)、更具文化穿透力的內(nèi)容生產(chǎn)和傳播，向世界展現(xiàn)可信、可愛、可敬的中國(guó)形象。

【本文作者為山東大學(xué)輿論研究中心主任，山東大學(xué)新聞傳播學(xué)院教授、博導(dǎo)；本文系國(guó)家社科基金一般項(xiàng)目“社會(huì)時(shí)空視角下媒體深度融合的發(fā)展策略與理論路徑研究”（項(xiàng)目編號(hào)：21BXW003）的階段性成果；山東大學(xué)新聞傳播學(xué)院博士研究生吳元浩，對(duì)本文亦有貢獻(xiàn)】

注釋略

責(zé)編：馮一帆／美編：石 玉