近日，上海警方偵破一起利用人工智能技術(shù)編造、傳播網(wǎng)絡(luò)謠言損害企業(yè)權(quán)益案，抓獲8名犯罪嫌疑人。據(jù)悉，該團(tuán)伙利用AI“洗稿”，杜撰涉霸王茶姬的不實(shí)文章，以此博流量、漲粉絲進(jìn)而獲取廣告收益。

近年來(lái)，AI大模型技術(shù)不斷突破，便利了人們的生活和工作。但AI大模型生動(dòng)真實(shí)的模仿能力，也讓其成為資本市場(chǎng)虛假“小作文”的推手。造謠者利用AI生成謠言主要有兩種方式，一是利用AI軟件生成不實(shí)圖文、研報(bào)等，在網(wǎng)上進(jìn)行傳播；二是通過(guò)“語(yǔ)料污染”，讓AI“說(shuō)謊”，如DeepSeek爆火后，造謠者通過(guò)批量發(fā)布虛假信息，污染AI大模型的訓(xùn)練數(shù)據(jù)，再利用AI問(wèn)答截圖上網(wǎng)傳播，形成“謠言—AI回答—更多謠言”的虛假信息閉環(huán)傳播。

從造謠目的來(lái)看，有的是利用謠言博取流量，有的則可能涉嫌操縱市場(chǎng)。無(wú)論出于何種目的，這些謠言不僅會(huì)誤導(dǎo)投資者決策判斷，擾亂資本市場(chǎng)秩序，引發(fā)信任危機(jī)，還可能影響企業(yè)經(jīng)營(yíng)，損害企業(yè)利益和聲譽(yù)。比如，在上述案例中，受不實(shí)信息影響，霸王茶姬部分區(qū)域門店單日營(yíng)業(yè)額同比下降超20%。

因此，多措并舉加強(qiáng)對(duì)AI謠言的治理，對(duì)于減少市場(chǎng)異常波動(dòng)、保護(hù)中小投資者利益、維護(hù)市場(chǎng)公開(kāi)和公平的環(huán)境具有重要意義。

首先，完善法治體系。從政策層面來(lái)看，近年來(lái)，針對(duì)AI謠言的治理體系逐步完善?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》先后發(fā)布，強(qiáng)化對(duì)AI生成內(nèi)容的標(biāo)識(shí)；今年3月份，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，這標(biāo)志著我國(guó)在規(guī)制AI生成內(nèi)容方面邁出了重要一步。

與此同時(shí)，加快推動(dòng)人工智能立法，明確AI謠言相關(guān)主體的責(zé)任刻不容緩。通過(guò)立法明確各方責(zé)任邊界，將提高威懾力，也是后續(xù)打擊相關(guān)責(zé)任方、追究其民事責(zé)任和刑事責(zé)任的重要保障。

其次，持續(xù)加大打擊力度。在打擊AI謠言方面，各地公安機(jī)關(guān)已發(fā)布多起對(duì)編造謠言、影響金融秩序相關(guān)主體處罰的典型案例。4月份，中央網(wǎng)信辦印發(fā)通知，在全國(guó)范圍內(nèi)部署開(kāi)展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，除了強(qiáng)化AI技術(shù)源頭治理外，還將聚焦利用AI技術(shù)制作發(fā)布謠言等突出問(wèn)題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。

資本市場(chǎng)方面，在公安、網(wǎng)信等部門的大力支持下，中國(guó)證監(jiān)會(huì)通過(guò)監(jiān)測(cè)、甄別、處置、警示、投教等全鏈條聯(lián)動(dòng)，嚴(yán)厲打擊編造、傳播股市謠言的行為。特別是針對(duì)股市虛假“小作文”，已制定專項(xiàng)整治工作方案。

未來(lái)，監(jiān)管部門需進(jìn)一步挖掘AI謠言背后的利益鏈，查清謠言背后是否涉及操縱市場(chǎng)等違法違規(guī)行為，徹底斬?cái)唷霸熘{—傳播—牟利”的利益鏈。

再次，強(qiáng)化技術(shù)反制。一方面，要嚴(yán)格語(yǔ)料篩選，通過(guò)建立權(quán)威信源“白名單”、剔除虛假信源、交叉驗(yàn)證等方式，從源頭抓取可靠信源，降低“語(yǔ)料污染”引起的AI謠言概率。另一方面，利用AI技術(shù)對(duì)虛假內(nèi)容進(jìn)行識(shí)別并及時(shí)處理。比如，今年年初，騰訊發(fā)布“朱雀”AI大模型檢測(cè)系統(tǒng)，助力識(shí)別和打擊網(wǎng)絡(luò)中的虛假信息。

最后，投資者應(yīng)提高對(duì)信息的辨別能力，避免成為謠言的受害者和傳播者，發(fā)現(xiàn)謠言后應(yīng)及時(shí)舉報(bào)。

資本市場(chǎng)對(duì)信息極為敏感，加強(qiáng)對(duì)AI謠言的治理成為監(jiān)管部門的一道“必答題”?？梢钥吹?，我國(guó)正在逐步建立AI治理體系，強(qiáng)化對(duì)利用AI技術(shù)造謠的懲治。未來(lái)，期待法律規(guī)制、監(jiān)管效能、技術(shù)防控、社會(huì)共治多維聯(lián)動(dòng)，有效遏制AI謠言對(duì)資本市場(chǎng)的影響，護(hù)航市場(chǎng)平穩(wěn)健康發(fā)展。