文│啟元實驗室 徐禎；北京理工大學(xué)教授 徐源；啟元實驗室副研究員 劉媛媛

在生成式人工智能與平臺算法深度嵌入社會信息循環(huán)的背景下，認知域安全風(fēng)險正在從“單點內(nèi)容風(fēng)險”躍遷為“系統(tǒng)性鏈路風(fēng)險”。上游數(shù)據(jù)與語料的獲取、標注與投喂，中游模型與算法的訓(xùn)練、微調(diào)與復(fù)用，下游平臺分發(fā)、搜索與人機交互的解釋權(quán)配置，以及貫穿全鏈路的反饋與迭代機制，共同構(gòu)成智能時代的認知供應(yīng)鏈。這一鏈路一旦被外部力量滲透，就可能在不直接摧毀網(wǎng)絡(luò)或物理系統(tǒng)的情況下，通過議程設(shè)置、框架塑造、情緒喚起與行為偏移，改變社會信任結(jié)構(gòu)與戰(zhàn)略決策環(huán)境，從而威脅國家認知域安全。基于此，文章提出認知供應(yīng)鏈安全分析框架，將認知域安全治理從內(nèi)容處置升級為全鏈條治理，以期為推動認知域安全發(fā)展提供參考。

一、認知供應(yīng)鏈的內(nèi)涵與特征

一般供應(yīng)鏈可以理解為是圍繞核心主體對象，通過對信息流、過程流與資源流的控制，將供應(yīng)者、制造者、分發(fā)者及最終用戶連成的整體功能網(wǎng)鏈結(jié)構(gòu)模式，覆蓋從生產(chǎn)到產(chǎn)品應(yīng)用的全流程。認知供應(yīng)鏈可以被理解為信息從最初的數(shù)據(jù)材料狀態(tài)最終傳達到受眾端，并且影響受眾認知的全過程鏈條。智能時代，在以生成式人工智能與推薦算法為核心的媒介環(huán)境，信息的生產(chǎn)、加工、傳播與反饋不再是傳統(tǒng)的大眾傳播模式，轉(zhuǎn)而呈現(xiàn)出高度的技術(shù)整合性。認知供應(yīng)鏈演變成一種對公眾觀點、情感與共識進行全流程管控的生產(chǎn)體系。這一生產(chǎn)體系主要包含四個核心環(huán)節(jié)，上游聚焦海量多模態(tài)數(shù)據(jù)的抓取、清洗及精細化標注，完成認知的原材料初加工；中游通過基礎(chǔ)模型的預(yù)訓(xùn)練、特定議程指令的微調(diào)以及智能體的邏輯復(fù)用，實現(xiàn)認知產(chǎn)品的整合；下游則掌握分發(fā)算法的優(yōu)先級權(quán)重與人機對話的配置解釋權(quán)，決定了認知的終端觸達；最終，全鏈路的實時響應(yīng)數(shù)據(jù)回流至引擎，驅(qū)動敘事邏輯的自動化迭代。在智能技術(shù)的驅(qū)動下，認知供應(yīng)鏈從信息分發(fā)媒介，逐漸向認知塑造系統(tǒng)轉(zhuǎn)變，呈現(xiàn)四個方面特征。

一是認知產(chǎn)品生產(chǎn)門檻快速降低。隨著大模型快速發(fā)展，認知產(chǎn)品的生產(chǎn)成本呈現(xiàn)斷崖式下跌，信息的生產(chǎn)不再受限于人類編輯的產(chǎn)出速度，而是能夠針對特定議程，在短時間內(nèi)生成海量、多模態(tài)且能自我演化的敘事文本。根據(jù)美國斯坦福大學(xué)《2025年人工智能指數(shù)報告》（2025 AI Index），調(diào)用頂級大模型的推理成本在18個月內(nèi)從每百萬Token20美元驟降至約0.07美元，降幅接近280倍。

二是傳播結(jié)構(gòu)呈網(wǎng)狀式演化。在前算法時代，信息經(jīng)過源頭通過編輯過濾最終單向傳達到終端受眾。人獲取信息依賴于主動檢索與隨機接收。在互聯(lián)網(wǎng)時代，信息傳播模式具有明顯去中心化和節(jié)點化特征，傳播從“漏斗”結(jié)構(gòu)變成“網(wǎng)狀”結(jié)構(gòu)，信息通過社交關(guān)系鏈呈放射狀擴散，每一個節(jié)點（公眾）既是信息的接收者，也是傳播者和生產(chǎn)者。

三是分發(fā)端掌握注意力分配權(quán)。在去中心化信息生產(chǎn)表象下，信息流推薦、搜索排序與熱榜機制等成為新的注意力控制手段，平臺可以通過權(quán)重配置、限流、取消推薦等“可見性管理”手段，改變某類內(nèi)容被看到的概率、出現(xiàn)的位置與重復(fù)曝光次數(shù)，對議題的議程設(shè)置產(chǎn)生系統(tǒng)性影響，從而無聲無息地控制大眾情緒和輿論走向。

四是認知供應(yīng)鏈成為自適應(yīng)的演化系統(tǒng)。系統(tǒng)通過集成實時輿情監(jiān)測模塊，對分發(fā)終端的互動數(shù)據(jù)如點擊率、停留時長、情感極性、轉(zhuǎn)發(fā)漣漪效應(yīng)等進行全量回傳。供應(yīng)鏈的上游大模型根據(jù)回傳數(shù)據(jù)自動調(diào)整生成策略，實現(xiàn)對認知弱點的迭代式攻擊。個體的獨立性往往在潛移默化中被消解，最終實現(xiàn)認知結(jié)構(gòu)的預(yù)設(shè)重組。

二、智能時代認知供應(yīng)鏈安全風(fēng)險轉(zhuǎn)向

對認知供應(yīng)鏈安全的理解是基于認知域安全“主體—狀態(tài)—能力”安全結(jié)構(gòu)的系統(tǒng)性解釋，分別從主體是否免于誘導(dǎo)操縱、環(huán)境狀態(tài)是否穩(wěn)定有序，以及主體是否具備持續(xù)穩(wěn)健認知能力的系統(tǒng)性狀態(tài)。認知供應(yīng)鏈安全是圍繞數(shù)據(jù)與語料供給、模型與算法生產(chǎn)、平臺分發(fā)與交互解釋，以及反饋迭代機制構(gòu)成的認知供應(yīng)鏈路完整有效，其關(guān)鍵節(jié)點與關(guān)鍵機制安全可控，不受外部操縱性滲透及技術(shù)優(yōu)勢危害，并具備保障持續(xù)安全狀態(tài)的能力。隨著智能技術(shù)深度介入，認知安全風(fēng)險特征也隨之表現(xiàn)出多維度的演進與轉(zhuǎn)向。

（一）風(fēng)險對象從“內(nèi)容干擾”轉(zhuǎn)向“邏輯重塑”

認知供應(yīng)鏈安全威脅不再僅限于虛假信息，而在于數(shù)據(jù)、模型、分發(fā)與反饋機制的結(jié)構(gòu)性偏置，包括通過在預(yù)訓(xùn)練語料中植入特定意識形態(tài)的數(shù)據(jù)投毒，使算法邏輯在底層產(chǎn)生系統(tǒng)性傾斜。攻擊者通過在海量的開源代碼、學(xué)術(shù)論文、社交媒介評論或政策分析報告中，植入特定意識形態(tài)的價值基準或邏輯陷阱，使人工智能模型在學(xué)習(xí)語言模式的同時，將這些偏置內(nèi)化為自身的原生邏輯，甚至不需要大規(guī)模投入。美國人工智能公司Anthropic、英國人工智能安全研究所、英國艾倫·圖靈研究所聯(lián)合研究發(fā)現(xiàn)，只需250份投毒文件，就能成功在大模型中植入后門。由于數(shù)據(jù)投毒并非直接篡改結(jié)論，而是重塑算法的因果推理路徑，一旦算法邏輯在底層產(chǎn)生系統(tǒng)性傾斜，即便輸入的數(shù)據(jù)是客觀的，模型輸出的結(jié)論也會在邏輯上“自圓其說”地滑向預(yù)設(shè)的意識形態(tài)陷阱。同時，這種結(jié)構(gòu)性偏置會通過“分發(fā)與反饋”機制形成自我強化，進一步收窄用戶的認知帶寬，形成更為牢固的信息繭房。

（二）風(fēng)險機制從“線性傳播”轉(zhuǎn)向“閉環(huán)迭代”

人工智能對認知的攻擊與操縱不再是單一維度的信息投送，而是演變?yōu)橐环N由數(shù)據(jù)驅(qū)動、算法引導(dǎo)、情緒反饋觸發(fā)的自適應(yīng)系統(tǒng)。在此機制下，攻防博弈被深度嵌入實時互動的反饋回路，呈現(xiàn)出類似生成式對抗網(wǎng)絡(luò)的動態(tài)演化特征，即攻擊主體不再依賴預(yù)設(shè)固定話術(shù)，而是憑借對受眾情緒極性與交互行為的快速捕捉，實現(xiàn)敘事策略的自我修正與精準對標。這種閉環(huán)效應(yīng)不僅極大地壓縮了防御方的響應(yīng)窗口，更通過“干擾—反饋—進化”的無限循環(huán)迭代，推動認知威脅從表層的“信息污染”向深層的“算法圍獵”轉(zhuǎn)變，實現(xiàn)針對個體認知弱點實時生成高貼合度的定制化認知陷阱。例如，在巴以沖突期間出現(xiàn)在社交媒體平臺的算法協(xié)同操縱中，攻擊方不是投送通用文案，而是通過分析不同地域受眾在社交媒體平臺對“宗教敘事”或“人權(quán)敘事”的點擊傾向，驅(qū)動生成式模型實時產(chǎn)出高貼合度的虛構(gòu)視聽內(nèi)容，從而在個體認知防線最薄弱處精準植入定制化陷阱。

（三）風(fēng)險形態(tài)從“顯性操控”轉(zhuǎn)向“隱性議程重塑”

傳統(tǒng)的認知操控通常依賴于信息投送等顯性手段，而在智能時代的認知供應(yīng)鏈中，風(fēng)險形態(tài)已完成向“隱性議程重塑”的轉(zhuǎn)變。它不再試圖改變個體“怎么想”，而是通過對底層邏輯的操縱，決定個體能夠“看到什么”。這種操控隱匿于代碼之下，將意識形態(tài)的偏好轉(zhuǎn)化為算法的“自然排序”。當用戶在信息流中反復(fù)曝光于某些經(jīng)過算法篩選的“高頻觀點”時，個體的心理閾值會逐漸向該方向偏移。這種調(diào)度并非直接說教，而是通過操縱信息的曝光率，潛移默化地建立起一種認知假象。這種認知操縱是在用戶難以察覺的情況下完成的。用戶以為自己是在自由檢索，實際上卻是在攻擊者預(yù)設(shè)的信息圍欄內(nèi)投喂信息。當原本多元化的社會共識因信息的排序差異而被層層削減，算法潛移默化地重新定義了什么是“正確的”，從而實現(xiàn)對社會心理結(jié)構(gòu)的深層重組。

（四）風(fēng)險成本呈現(xiàn)“低成本攻擊”與“高成本防御”強非對稱性

在開源大模型與生成式技術(shù)快速擴散的背景下，發(fā)起認知攻擊的門檻和邊際成本明顯降低，同時，開源模型可被本地化部署并移除安全護欄，直接用于批量生成內(nèi)容，并與社交媒體分發(fā)機制結(jié)合實現(xiàn)話題劫持、定向敘事。以烏克蘭危機中的認知攻防為例，一場由3634個自動化賬戶組成、發(fā)布超過31萬條定向敘事的網(wǎng)絡(luò)活動，按照輸出每百萬Token1.5美元的價格估算，技術(shù)成本僅為幾百美元量級。然而，這些自動化輸出的內(nèi)容并非簡單重復(fù)，而是會結(jié)合當?shù)厣钭h題、水電中斷和治理秩序等場景，有針對性地在網(wǎng)絡(luò)平臺發(fā)言。與之相對，認知防御既要做好跨平臺態(tài)勢感知、異常傳播網(wǎng)絡(luò)識別、人工核驗與跟蹤，也要推進內(nèi)容溯源與可信標識、標準化取證與歸因協(xié)同等基礎(chǔ)設(shè)施，治理成本呈現(xiàn)持續(xù)投入、長周期運維和多部門聯(lián)動特征。僅就烏克蘭相關(guān)的事實核查能力建設(shè)，歐洲媒體與信息基金會（European Media and Information Fund）向烏克蘭公開資助8萬歐元用于訓(xùn)練、更新數(shù)字取證技能，支持更多實時核查產(chǎn)出。同時，烏克蘭、美國、北約等國家與組織成立的烏克蘭通信小組（Ukraine Communications Group）協(xié)調(diào)多方力量應(yīng)對輿論相關(guān)的虛假敘事。攻擊方只需幾百美元即可成功發(fā)動一場攻擊活動，防御方卻同時需要大量事實核查項目資金、跨國協(xié)調(diào)機制、平臺執(zhí)法和長期人員投入。因此，攻防博弈中效能與成本深度失衡。

三、認知供應(yīng)鏈安全風(fēng)險治理國內(nèi)外實踐

在生成式人工智能時代高頻率、多模態(tài)、低成本、強隱蔽性的系統(tǒng)性認知塑形新階段，認知供應(yīng)鏈安全風(fēng)險治理，逐步由以事件處置為中心的被動應(yīng)對，轉(zhuǎn)向以前瞻識別、監(jiān)測預(yù)警、精準反制為特征的主動干預(yù)。不同國家圍繞認知供應(yīng)鏈各關(guān)鍵環(huán)節(jié)開展多層次制度探索與治理實踐。

（一）中國：源頭準入、過程約束與專項整治相結(jié)合

中國在生成式人工智能普遍應(yīng)用背景下，已逐步形成覆蓋模型備案、訓(xùn)練語料管理、生成內(nèi)容標識、平臺監(jiān)測甄別、傳播分發(fā)控制和專項執(zhí)法整治的認知供應(yīng)鏈治理機制。中國出臺《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》，為網(wǎng)絡(luò)運行安全、數(shù)據(jù)處理和行為分析提供總體法律依據(jù)。在專項規(guī)制層面，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標識辦法》等政策文件，分別對算法分發(fā)、深度偽造、生成式人工智能服務(wù)和生成內(nèi)容標識作出規(guī)范，覆蓋了認知供應(yīng)鏈中的推薦、生成、標識、審核和追溯等關(guān)鍵節(jié)點，體現(xiàn)了中國已將認知供應(yīng)鏈風(fēng)險治理推進到源頭治理、過程控制與末端執(zhí)法聯(lián)動的階段。

2025年“清朗·整治AI技術(shù)濫用”專項行動，體現(xiàn)了中國將認知供應(yīng)鏈全鏈條治理分為技術(shù)內(nèi)生治理層和應(yīng)用衍生治理層的總體思路。一是強化源頭準入，將未履行大模型備案或登記程序的人工智能產(chǎn)品列為第一類重點整治對象，通過備案、登記將模型和應(yīng)用納入可監(jiān)管名單。二是加強標識管理，要求加強生成合成技術(shù)和內(nèi)容標識管理，并推動網(wǎng)站平臺提升檢測鑒偽能力，把治理重心從真假爭議轉(zhuǎn)移到可識別性和可追溯性。三是規(guī)范訓(xùn)練數(shù)據(jù)，將訓(xùn)練數(shù)據(jù)庫納入治理范圍，對使用非法來源數(shù)據(jù)、網(wǎng)上爬取的虛假或無效內(nèi)容、侵犯知識產(chǎn)權(quán)或隱私的信息進行追責。四是打擊違規(guī)內(nèi)容，打擊利用人工智能制作發(fā)布謠言、不實信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡(luò)水軍等行為。五是壓實平臺流量分發(fā)責任，要求社交平臺對應(yīng)用程序接口（API）接入的人工智能自動回復(fù)情況嚴格把關(guān)。可以說，中國在生成式人工智能時代的認知安全治理，正在由傳統(tǒng)的事后應(yīng)急處置，轉(zhuǎn)向兼顧源頭治理、過程控制與末端執(zhí)法的系統(tǒng)化治理模式。

（二）美國：以風(fēng)險管理框架為引導(dǎo)、以重點場景執(zhí)法為核心

美國治理認知供應(yīng)鏈安全風(fēng)險的特點，不是強制性全鏈條準入，而是政府提供方法、關(guān)鍵場景強化執(zhí)法、平臺和市場自我治理補位。美國國家標準與技術(shù)研究院（NIST）在2024年發(fā)布《人工智能風(fēng)險管理框架：生成式人工智能畫像》（Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile），作為人工智能風(fēng)險管理框架的配套文件，專門針對生成式人工智能風(fēng)險提出識別和管理方法，包括虛構(gòu)內(nèi)容、信息完整性、來源可信度、誤用和雙重用途風(fēng)險等。然而，該框架本質(zhì)上是一個跨行業(yè)、可操作的風(fēng)險管理工具，而不是強制性的行政許可制度。

以2024年新罕布什爾州初選前的“拜登深偽電話”事件治理為例，美國在應(yīng)對認知攻擊時采取“監(jiān)測通報、公眾澄清、基礎(chǔ)設(shè)施防護、個案執(zhí)法、完善規(guī)則”的治理路徑。一是對選舉謠言、被篡改敘事和外國影響行動進行預(yù)警與澄清，重點在于穩(wěn)定公眾對選舉程序安全性的認知預(yù)期，削弱虛假信息對民主合法性的侵蝕。二是通過查封認知攻擊行動相關(guān)的互聯(lián)網(wǎng)域名、打擊偽裝正規(guī)媒體的虛假傳播網(wǎng)絡(luò)，并對相關(guān)實體進行制裁。對利用人工智能語音克隆誤導(dǎo)選民的行為作出約600萬美元罰款，同時，對相關(guān)通信服務(wù)提供商實施合規(guī)整改。在完成事件處理后補充完善規(guī)制工具，通過“人工智能合規(guī)行動”打擊利用人工智能實施欺騙性宣傳、身份冒充和誤導(dǎo)性商業(yè)行為，并推動將人工智能驅(qū)動的個人冒充納入規(guī)則更新范圍。

美國對認知供應(yīng)鏈安全風(fēng)險的治理，并非依賴統(tǒng)一的前置制度，而是采取以風(fēng)險管理框架為引導(dǎo)，延伸適用現(xiàn)有部門法，并針對高風(fēng)險場景進行重點治理的模式。尤其在內(nèi)容生成環(huán)節(jié)，美國沒有類似中國的統(tǒng)一標識制度，也沒有人工智能內(nèi)容前置審核制度，而是對高危生成用途從嚴處置，是以結(jié)果為導(dǎo)向的治理。在傳播節(jié)點上，美國對一般性的內(nèi)容流動留有較大的空間，但對于選舉、政治廣告等高風(fēng)險敏感主體實施更細致、更強硬的干預(yù)，且相關(guān)的制度更新通常采取以事件推動的補丁式升級方式。

（三）歐盟：強調(diào)立法先行與規(guī)則的完整性

歐盟在認知供應(yīng)鏈治理的多個關(guān)鍵節(jié)點領(lǐng)先，體現(xiàn)了制度設(shè)計的系統(tǒng)性。歐盟的《人工智能法案》針對通用人工智能模型設(shè)定了明確義務(wù)，如果模型被認定具有系統(tǒng)性風(fēng)險，還要承擔風(fēng)險評估與緩解、事件報告和網(wǎng)絡(luò)安全保護等額外義務(wù)。歐盟認知供應(yīng)鏈上游源頭風(fēng)險處理與中國現(xiàn)階段主要通過《生成式人工智能服務(wù)管理暫行辦法》進行原則性約束相比，歐盟對通用模型義務(wù)的要求更明確、更制度化。

歐盟最重視內(nèi)容生成的透明度。《人工智能法案》明確了透明度義務(wù)，即深度偽造和人工智能生成文本必須披露其為人工生成內(nèi)容，人工生成或操縱內(nèi)容應(yīng)清楚標明并且可以被檢測為人工生成。規(guī)定義務(wù)的目標是降低欺騙、冒充和虛假信息風(fēng)險，維護信息生態(tài)完整性。歐盟的做法不是把所有生成式內(nèi)容都當成“天然有害”的，而是要求其在進入公共信息環(huán)境時具備最低限度的透明度和可識別性，是以人工智能生成內(nèi)容的知情權(quán)、信息生成與傳播過程的透明度，以及防止受眾因深度偽造、虛假標識或誤導(dǎo)性內(nèi)容而受到欺騙為核心。

除了《人工智能法案》，歐盟《數(shù)字服務(wù)法》不僅覆蓋社交媒體，也覆蓋應(yīng)用商店、搜索引擎等在線服務(wù)。它要求大型平臺披露算法推薦系統(tǒng)的主要參數(shù)，并對超大型在線平臺和超大型搜索引擎施加更嚴格的義務(wù)。在2024年羅馬尼亞總統(tǒng)選舉期間，歐盟委員會依據(jù)《數(shù)字服務(wù)法》向TikTok發(fā)出補充信息要求，要求其說明如何管理信息操縱風(fēng)險以及數(shù)據(jù)保全命令，要求凍結(jié)并保存與選舉程序和公共話語系統(tǒng)性風(fēng)險有關(guān)的數(shù)據(jù)，并正式啟動關(guān)于選舉風(fēng)險管理的調(diào)查。

（四）印度：以能力建設(shè)為前提、以高風(fēng)險場景規(guī)范為重點

印度認知供應(yīng)鏈治理的整體思路呈現(xiàn)出“能力建設(shè)優(yōu)先、信任嵌入全價值鏈、高風(fēng)險場景先行治理”的特征。印度人工智能使命（India AI Mission）將公共算力、基礎(chǔ)模型、可信安全人工智能工具和數(shù)字基礎(chǔ)設(shè)施納入國家人工智能戰(zhàn)略重點。印度《人工智能治理指南》（AI Governance Guidelines）進一步從數(shù)據(jù)管理、算法透明、風(fēng)險分類、生成式人工智能責任、安全測試和申訴救濟等方面，提出“信任嵌入全價值鏈”的治理框架。

以2024年印度人民院選舉期間的深度偽造與錯誤信息治理為例，印度選舉委員會（Election Commission of India）明確警告政黨不得濫用人工智能工具制作深度偽造內(nèi)容、扭曲信息或傳播錯誤信息，并發(fā)布社交媒體負責任和合乎倫理使用指引；印度電子和信息技術(shù)部（Ministry of Electronics and Information Technology）則通過中介平臺盡職義務(wù)咨詢，要求平臺依據(jù)印度《信息技術(shù)法》（Information Technology Act）和《中介指南和數(shù)字媒體倫理規(guī)范》（Intermediary Guidelines and Digital Media Ethics Code）加強內(nèi)容管理和風(fēng)險控制。此外，印度政府把深度偽造風(fēng)險接入既有《信息技術(shù)法》、中介平臺責任規(guī)則和網(wǎng)絡(luò)安全應(yīng)對體系。

相比于其他技術(shù)水平相對領(lǐng)先的國家強調(diào)認知供應(yīng)鏈安全，以及平臺內(nèi)容治理與內(nèi)容安全的取向，印度首先擔心的不是平臺內(nèi)容秩序失控，而是如果沒有算力、模型和可信工具，印度在人工智能價值鏈中就會長期處于被動地位，即優(yōu)先提升人工智能基礎(chǔ)能力，而在認知供應(yīng)鏈高風(fēng)險傳播場景再強調(diào)規(guī)范治理。

四、應(yīng)對思考

當前，我國在認知供應(yīng)鏈治理方面已經(jīng)具備較強的制度基礎(chǔ)與實踐土壤。面對日益復(fù)雜的國際競爭環(huán)境以及認知攻擊技術(shù)快速迭代帶來的挑戰(zhàn)，應(yīng)圍繞“算力、算法、數(shù)據(jù)、機制、公眾”五個核心支柱，構(gòu)建全鏈條系統(tǒng)性治理格局，強化認知供應(yīng)鏈安全韌性。

（一）構(gòu)建算力資源溯源與異常使用干預(yù)機制

智能化時代認知供應(yīng)鏈安全風(fēng)險首先體現(xiàn)在內(nèi)容能夠以低成本、自動化的方式進行大規(guī)模生產(chǎn)。因此，認知供應(yīng)鏈治理的重點不是泛化傳統(tǒng)的算力資源管理，而應(yīng)聚焦支撐內(nèi)容生成、文本改寫和批量傳播的計算資源使用活動，建立更具針對性的治理機制。具體而言，一是確立全鏈路核驗框架。對相關(guān)計算資源的調(diào)用、使用和輸出形成可識別、可追蹤的記錄，提高異常生成行為的發(fā)現(xiàn)和溯源能力。二是建立自適應(yīng)的動態(tài)調(diào)節(jié)機制，可根據(jù)異常內(nèi)容生產(chǎn)和傳播的規(guī)模、頻率及風(fēng)險程度，及時采取限流、降低任務(wù)處理強度、收緊外部連接權(quán)限等分級干預(yù)措施，防止風(fēng)險快速放大。通過源頭管控模式打破認知攻擊的非對稱性，可以在技術(shù)資源層面壓縮認知攻擊的擴散能力，將認知防御從“被動響應(yīng)”轉(zhuǎn)化為對“攻擊產(chǎn)能”的主動抑制。

（二）強化算法過程審查與敘事糾偏

認知供應(yīng)鏈治理的核心挑戰(zhàn)不再僅限于對有害內(nèi)容的事后清理，而是進一步延伸到算法對敘事的可見度、傳播強度及理解方向的影響。為把握認知供應(yīng)鏈各環(huán)節(jié)的解釋權(quán)，一是完善算法全生命周期管控體系，針對關(guān)鍵平臺的推薦權(quán)重、搜索優(yōu)先級及生成式摘要等，實施認知供應(yīng)鏈安全相關(guān)的算法登記、備案與持續(xù)評估制度。二是組織測評算法傳播效應(yīng)評估。重點考查算法是否存在過度放大特定敘事、強化情緒化表達、降低信息平衡性以及易受操縱等問題，并提高對惡意誘導(dǎo)、錯誤引導(dǎo)和生成內(nèi)容失真風(fēng)險的識別能力。三是確立算法熔斷與糾偏機制。要求涉及重大議題的生成式內(nèi)容能夠說明其生成依據(jù)、信息來源和結(jié)果可信程度。同時，將異常傳播預(yù)警與應(yīng)急干預(yù)規(guī)則制度化，推動治理方式由單純依賴末端刪除和修改，轉(zhuǎn)向?qū)λ惴ㄆ詈蛿⑹率Ш獾那岸思m正。

（三）建設(shè)主權(quán)語料庫與數(shù)據(jù)溯源核驗體系

認知操縱的本質(zhì)是利用算法環(huán)境對可引用資源進行系統(tǒng)性重塑。要應(yīng)對這一挑戰(zhàn)，亟須構(gòu)建主權(quán)語料庫。一是在供給側(cè)構(gòu)建規(guī)范體系，通過建設(shè)關(guān)鍵概念本體庫與權(quán)威事實源，統(tǒng)一引用規(guī)范，為語義生成提供內(nèi)生的邏輯校準。二是在過程側(cè)強化風(fēng)險穿透，對訓(xùn)練語料、檢索知識庫、外部數(shù)據(jù)源與插件接口實施分級分類管理，建立數(shù)據(jù)來源證明、授權(quán)合規(guī)與投毒檢測制度。三是在應(yīng)用側(cè)推動建立溯源共識，依托監(jiān)管核驗與多源交叉驗證機制，以置信度標注與“分歧呈現(xiàn)”替代單一真?zhèn)闻卸ǎ_保即便在遭受攻擊時，解釋權(quán)的偏移仍處于可控、可對沖的韌性區(qū)間。

（四）搭建聯(lián)動處置與復(fù)盤問責體系

以“機制治理”為牽引，建立認知事件風(fēng)險指揮機制，統(tǒng)一態(tài)勢指標、證據(jù)標準與處置節(jié)奏，完善強制報告與協(xié)查制度，對協(xié)同賬號網(wǎng)絡(luò)、異常話題遷移、模型越界輸出與數(shù)據(jù)投毒等設(shè)定報告門檻與時限，并固化證據(jù)保全與歸因協(xié)同流程。形成分級響應(yīng)的認知反制工具箱，包括權(quán)威錨定、延遲擴散、降權(quán)限流、人工復(fù)核、跨平臺同步標注、功能熔斷等，在認知風(fēng)險關(guān)鍵窗口期實現(xiàn)“快壓制、穩(wěn)糾偏、可追責”。引入評估審計與整改閉環(huán)考核，把復(fù)發(fā)率、閉環(huán)時長、取證完整率、協(xié)查響應(yīng)效率與公眾糾偏觸達率納入監(jiān)管評價，同時，前置開展預(yù)警演練與“預(yù)防性澄清”，以制度化方式提升社會認知免疫力，最終實現(xiàn)從“事件處置”到“能力競爭”的治理升級。

（五）增強公眾認知韌性與自主研判能力

認知供應(yīng)鏈治理不能僅依賴技術(shù)防控和平臺處置，還應(yīng)重視公眾在復(fù)雜信息環(huán)境的自主判斷能力建設(shè)。為此，應(yīng)將媒介素養(yǎng)、信息素養(yǎng)和人工智能素養(yǎng)教育納入學(xué)校教育、社會教育和公共傳播體系，重點提升公眾對信息來源、內(nèi)容真實性、生成式人工智能特征及常見誤導(dǎo)方式的識別能力。同時，應(yīng)針對不同群體開展分層分類的教育引導(dǎo)，加強對深度偽造、虛假敘事、情緒煽動和算法誤導(dǎo)等風(fēng)險的識別訓(xùn)練，幫助公眾在高頻、碎片化的信息環(huán)境保持基本的理性判斷。通過推動學(xué)校、媒體、平臺和社會組織共同參與，可逐步形成以教育賦能為基礎(chǔ)的認知韌性培育機制，從社會基礎(chǔ)層面提升抵御認知操控和信息誤導(dǎo)的能力。

五、結(jié) 語

認知對抗的底層化與系統(tǒng)化，標志著人類信息文明進入了“算法操縱意義”的新階段。從“內(nèi)容治理”向“全鏈路能力形成”的范式躍遷，不僅是應(yīng)對生成式人工智能挑戰(zhàn)的選擇，更是捍衛(wèi)國家認知域安全的戰(zhàn)略核心。在這一進程中，治理的本質(zhì)已不再是局部的、被動的信息清洗，而是對認知供應(yīng)鏈關(guān)鍵節(jié)點的深度嵌入與底層規(guī)則的系統(tǒng)重塑。面向未來，國家認知域安全將越來越依賴算力基礎(chǔ)能力、算法可審計性、語料與知識底座質(zhì)量控制以及跨部門情報與響應(yīng)機制的協(xié)同耦合。通過構(gòu)建覆蓋預(yù)警、防御與反制的閉環(huán)體系，方能在持續(xù)演化的算法驅(qū)動對抗環(huán)境中降低鏈路性偏置的累積效應(yīng)，保持公共議題解釋框架的穩(wěn)定性，并增強重大風(fēng)險情境的決策韌性。

（本文刊登于《中國信息安全》雜志2026年第3期）