生財無道，AI來造？警方揭開AI造謠背后的真相

人工智能(AI)技術

在文本生成、圖片創(chuàng)作

等方面有著廣泛應用

輸入幾個關鍵詞

即可快速生成一張畫或一篇文章

但一些網民為博眼球、蹭熱度

將AI技術用以

編“偽消息”、造“假新聞”

進而實現(xiàn)流量變現(xiàn)

今天，我們一起來

揭開AI造謠背后的真相

01

AI網絡謠言案例

2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動編輯抗洪、救災視頻，捏造了新疆烏什縣發(fā)生地震的虛假視頻信息，造成該謠言信息在互聯(lián)網平臺大量傳播。目前，公安機關已依法對駱某某追究法律責任。

2024年5月，河南一網民在某平臺發(fā)布《一場驚心動魄的“鈔票大戰(zhàn)”巴中市警民對峙引發(fā)轟動誰將成為勝利者》的謠言文章，引發(fā)大量網民關注、討論。經查，該涉謠文章由AI系統(tǒng)生成并發(fā)布，相關言論及照片均為不實信息。目前，公安機關已依法對造謠人員追究法律責任。

02

AI網絡謠言特征

定制化、門檻低

AI技術的出現(xiàn)為造謠者提供了豐富的素材庫，令其在時間、地點方面選擇維度拓寬。只需要輸入關鍵詞，AI工具可在網絡上抓取素材生成文本，快速生成定制化的文章、新聞、報告等信息，降低了造謠的成本和難度。

識別難

AI生成的虛假信息在形式上非常逼真，往往新聞要素齊全、內容完整，甚至可能包含圖像和視頻，這使得公眾難以辨別真?zhèn)巍?/p>

破壞大

利用AI工具制造謠言，顛覆了“有圖有真相”的常規(guī)認知，迷惑性極強，投放至互聯(lián)網后，短時間內就能快速傳播，易擾亂社會公共秩序。

03

如何識別、抵制AI謠言

保持警惕

仔細分析信息的邏輯性，若存在明顯漏洞、矛盾或與常理不符的地方，很可能是虛假信息。比如，一些謠言中事件的發(fā)展過程不符合常理，或者數據存在不合理的夸張等。

多方驗證

不要僅僅依賴單一的信息來源，應從多個權威渠道獲取信息進行對比。對于一些熱點事件，可以檢索官方媒體的報道，以驗證信息的真實性。

謹慎分享

不要盲目相信和傳播未經證實的信息，以免成為謠言傳播的推手。

保護隱私

注意保護個人隱私，不在陌生網站或應用程序隨意泄露個人信息，防止個人信息被用于生成虛假內容。

來源丨公安部網安局、廣西網警