加強(qiáng)監(jiān)管讓AI造謠無(wú)處藏身

據(jù)媒體報(bào)道，近期多地公安機(jī)關(guān)發(fā)布了多起利用AI工具實(shí)施造謠的相關(guān)案件。在這個(gè)信息爆炸的時(shí)代，網(wǎng)絡(luò)謠言時(shí)刻影響著我們的生活。特別是一些涉及教育的謠言信息，傳播力強(qiáng)，容易造成不良的社會(huì)影響。例如，此前有人曾利用一款A(yù)I小程序，編造出“校園霸凌”的虛假信息，對(duì)被造謠的學(xué)校造成了嚴(yán)重的名譽(yù)損害。面對(duì)AI造謠這一新型挑戰(zhàn)，我們有必要健全法律法規(guī)和相關(guān)治理機(jī)制，不斷加強(qiáng)監(jiān)管，斬?cái)嗥浔澈蟮睦骀湕l。

造謠不僅容易誤導(dǎo)公眾，還可能侵害他人合法權(quán)益，擾亂社會(huì)秩序。對(duì)此，我國(guó)刑法、民法典、治安管理處罰法以及相關(guān)司法解釋?zhuān)紴榇驌粼熘{提供了法律依據(jù)。然而，關(guān)于AI生成內(nèi)容的法律屬性及其責(zé)任歸屬仍然存在一定的爭(zhēng)議，或者說(shuō)現(xiàn)有的法律還存在縫隙地帶和空白地帶。因此，立法機(jī)關(guān)應(yīng)當(dāng)積極回應(yīng)技術(shù)發(fā)展帶來(lái)的新問(wèn)題，通過(guò)完善法律法規(guī)，進(jìn)一步明確AI謠言制造者、傳播者的法律責(zé)任，為打擊AI造謠提供堅(jiān)實(shí)的法律依據(jù)。

AI造謠往往依賴(lài)于特定的算法模型和大數(shù)據(jù)資源。監(jiān)管部門(mén)需要加強(qiáng)技術(shù)研發(fā)，或加強(qiáng)與AI技術(shù)企業(yè)合作，提高監(jiān)管“智能”。一方面，要運(yùn)用AI技術(shù)對(duì)網(wǎng)絡(luò)信息進(jìn)行智能監(jiān)測(cè)，迅速發(fā)現(xiàn)謠言的蛛絲馬跡。通過(guò)算法識(shí)別謠言的傳播特征，如關(guān)鍵詞、語(yǔ)言風(fēng)格、圖像識(shí)別等，實(shí)現(xiàn)謠言的自動(dòng)識(shí)別和攔截。另一方面，要利用AI技術(shù)提高謠言的甄別能力，結(jié)合官方信息、權(quán)威數(shù)據(jù)等，對(duì)網(wǎng)絡(luò)信息進(jìn)行實(shí)時(shí)比對(duì)，確保信息的真實(shí)性。對(duì)發(fā)現(xiàn)的網(wǎng)絡(luò)謠言，要用技術(shù)的力量第一時(shí)間“識(shí)破”謠言，然后“撕破”謠言。此外，要加大對(duì)網(wǎng)絡(luò)數(shù)據(jù)的治理力度，打擊數(shù)據(jù)造假、濫用等行為，從源頭上削減AI造謠的素材基礎(chǔ)。對(duì)于已經(jīng)投入市場(chǎng)的AI工具，應(yīng)定期開(kāi)展檢測(cè)評(píng)估，一旦發(fā)現(xiàn)其被用于造謠等違法行為，應(yīng)立即予以警示并做出相應(yīng)的處理。

造謠的是AI，作惡的是人。以“西安突發(fā)爆炸”虛假新聞案為例，涉事賬號(hào)所屬機(jī)構(gòu)最高峰一天能生成4000至7000篇假新聞，每天收入在1萬(wàn)元以上，而公司實(shí)際控制人經(jīng)營(yíng)著5家這樣的機(jī)構(gòu)，運(yùn)營(yíng)賬號(hào)達(dá)842個(gè)?？梢?jiàn)，這些幕后黑手才是AI造謠泛濫的根源。因此，相關(guān)部門(mén)應(yīng)建立健全AI技術(shù)應(yīng)用的審核制度，對(duì)AI算法開(kāi)發(fā)者、服務(wù)提供商進(jìn)行資質(zhì)審查，對(duì)成為謠言幫兇的AI運(yùn)營(yíng)企業(yè)和個(gè)人要依法追責(zé)。

治理AI造謠亂象，是深化網(wǎng)絡(luò)生態(tài)治理的應(yīng)有之義。只有不斷扎緊監(jiān)管的“籬笆”，深入挖掘、嚴(yán)厲打擊AI造謠產(chǎn)業(yè)鏈上下游的違法犯罪行為，讓AI造謠者付出應(yīng)有的代價(jià)，才能避免AI造謠傳播帶來(lái)的社會(huì)危害，從而為良好教育環(huán)境的營(yíng)造奠定基礎(chǔ)。

（作者系江蘇沛縣融媒體中心編輯部主任）

《中國(guó)教育報(bào)》2024年07月30日第2版