·NewsGuard的團隊已識別出614個不可靠的人工智能生成的新聞和信息網(wǎng)站，涵蓋15種語言。其中一些網(wǎng)站每天會生成數(shù)百甚至數(shù)千篇文章。NewsGuard稱其為下一個大型的“錯誤信息超級傳播者”。

·創(chuàng)建這些網(wǎng)站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞，還有一些網(wǎng)站大量生產(chǎn)兩極分化的內(nèi)容來吸引點擊并獲取廣告收入。

跟蹤錯誤信息的組織NewsGuard 12月18日發(fā)布報告稱，自5月以來，托管人工智能創(chuàng)建的虛假文章的網(wǎng)站增加了1000%以上，從49個網(wǎng)站激增至600多個。

此前，宣傳活動一直依賴低薪工人大軍或高度協(xié)調(diào)的情報組織來建立看似合法的網(wǎng)站。但人工智能讓幾乎任何人，無論是間諜機構(gòu)的一員還是地下室里的青少年都可以輕松創(chuàng)建這些媒體，制作有時很難與真實新聞區(qū)分開來的內(nèi)容。

迄今為止，NewsGuard的團隊已識別出614個不可靠的人工智能生成的新聞和信息網(wǎng)站，標記為“UAINS”，涵蓋15種語言：阿拉伯語、中文、捷克語、荷蘭語、英語、法語、德語、印度尼西亞語、意大利語、韓語、葡萄牙語、西班牙語、他加祿語、泰語和土耳其語。

NewsGuard的一項調(diào)查發(fā)現(xiàn)，一篇由人工智能生成的文章講述了有關(guān)以色列總理本杰明·內(nèi)塔尼亞胡精神科醫(yī)生的假故事，聲稱他已經(jīng)去世，并留下一張紙條，暗示內(nèi)塔尼亞胡參與其中。這位精神科醫(yī)生似乎是虛構(gòu)的，但該說法出現(xiàn)在伊朗電視節(jié)目中，并在阿拉伯語、英語和印度尼西亞語媒體的網(wǎng)站上轉(zhuǎn)載，在社交平臺TikTok、Reddit和Instagram上被用戶傳播。

伊朗國營電視臺援引不可靠的人工智能生成的英文新聞網(wǎng)站GlobalVillageSpace.com來宣揚內(nèi)塔尼亞胡的“精神科醫(yī)生”自殺的錯誤說法。圖片來源：NewsGuard

錯誤信息專家表示，這些網(wǎng)站的快速增長在2024年的各個選舉前夕尤其令人擔憂。“其中一些網(wǎng)站每天會生成數(shù)百甚至數(shù)千篇文章?！边M行調(diào)查的NewsGuard研究員杰克·布魯斯特（Jack Brewster）對媒體表示，“這就是為什么我們稱其為下一個大型的錯誤信息超級傳播者?！?/p>

今年9月，斯洛伐克進步黨領(lǐng)袖米哈爾·西梅奇卡（Michal ?ime?ka）在選民投票前幾天發(fā)現(xiàn)，他的聲音被克隆，說出了他從未說過的有爭議的話。兩周后，英國工黨領(lǐng)袖似乎被錄下了在X（前身為Twitter）上斥責一名工作人員的充滿臟話的長篇大論的錄音。越來越多的網(wǎng)站，例如使用“iBusiness Day”或“愛爾蘭熱門新聞”等通用名稱發(fā)布假新聞，使其看起來很真實。

發(fā)布“內(nèi)塔尼亞胡精神科醫(yī)生”文章的網(wǎng)站“地球村空間”也充滿著各種嚴肅話題的文章。有一些文章詳細介紹了美國對俄羅斯武器供應(yīng)商的制裁，石油巨頭沙特阿美公司在巴基斯坦的投資。該網(wǎng)站還包含中東智庫專家、哈佛大學(xué)畢業(yè)的律師和該網(wǎng)站首席執(zhí)行官、巴基斯坦電視新聞主播莫伊德·皮爾扎達（Moeed Pirzada）撰寫的文章。布魯斯特說，夾在這些普通故事中間的是人工智能生成的文章。

NewsGuard在調(diào)查期間聯(lián)系該組織后，“內(nèi)塔尼亞胡精神科醫(yī)生”文章被重新標記為“諷刺”。NewsGuard表示，這個故事似乎是根據(jù)2010年6月發(fā)表的一篇諷刺文章改編的，該文章對一名以色列精神科醫(yī)生的死亡做出了類似的說法。

將真實新聞和人工智能生成的新聞放在一起，會讓欺騙性的故事更加可信。媒體和人工智能專家表示，類似“地球村空間”的網(wǎng)站可能會在2024年各種選舉期間激增，成為傳播錯誤信息的有效方式。

創(chuàng)建這些網(wǎng)站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞。布魯斯特說，還有一些網(wǎng)站大量生產(chǎn)兩極分化的內(nèi)容來吸引點擊并獲取廣告收入。但他補充說，增強虛假內(nèi)容的能力是一個重大的安全風(fēng)險。

“危險在于人工智能的范圍和規(guī)?！绕涫桥c更復(fù)雜的算法結(jié)合使用時?！泵绹列聊翘岽髮W(xué)錯誤信息專家兼新聞學(xué)教授杰弗里·布萊文斯（Jeffrey Blevins）對媒體表示，“這是一場我們從未見過的規(guī)模的信息戰(zhàn)?！?/p>

布萊文斯表示，人們應(yīng)該留意文章中的線索、“危險信號”，例如“非常奇怪的語法”或句子結(jié)構(gòu)中的錯誤。但最有效的工具是提高普通讀者的媒體素養(yǎng)。他補充說，監(jiān)管基本上不存在，政府可能很難打擊假新聞內(nèi)容，就把這個問題留給了社交媒體公司，但它們迄今為止做得并不好。而快速處理此類網(wǎng)站是不可行的，因為它們重新創(chuàng)建的速度也很快?！斑@很像玩打地鼠游戲?！彼f。