英國倫敦——以色列最新激光防空系統“鐵梁”(Iron Beam)的視頻出了問題，但數百萬觀看并在社交媒體上分享這段視頻的人并沒有意識到這一點。

　　影片似乎顯示，哈馬斯的數十枚火箭彈沖向夜空，隨后以色列尚未部署的新型激光武器將其擊落，并在空中發出陣陣爆炸聲。

　　在事實核查員揭露真相之前，已經有了一周的時間和數百萬的瀏覽量。Facebook和X隨后為這些帖子添加了標簽。

　　“這是一款電子游戲，”X上的說明寫道。

　　自10月7日哈馬斯襲擊以色列以來，軍事模擬游戲《武裝突襲3》(Arma 3)在社交媒體(sns)賬戶上擁有數十萬粉絲，成為傳播虛假信息的大量視頻的來源。

　　必須閱讀

　　科技和游戲專家警告說，雖然游戲開發者正在使用人工智能使他們的產品更加逼真，但一些修改游戲的人正在使用同樣的技術制作難以察覺的贗品。這有助于傳播關于正在發生的全球事件和沖突的虛假敘述。

　　“人工智能技術發展迅速。倫敦大學國王學院(King's College London)游戲設計和開發領域的人工智能專家邁克爾·庫克(Michael Cook)表示:“游戲開發工作室正在將其應用于創意過程中，建模者也是如此。”

　　這對社交媒體公司來說是一個挑戰，它們的網站被用來發布虛假視頻和傳播虛假敘述。

　　“即使在今天，當我們快速瀏覽Facebook動態時，我們也不會經常注意到人工智能生成的圖像中的錯誤。在情況好轉之前，情況會變得更糟，”庫克對湯森路透基金會表示。

　　“可悲的是，我認為結果可能是人們完全不再相信他們在互聯網上看到的東西，”他警告說。

　　《武裝突襲3》允許用戶廣泛編輯或“修改”游戲，包括特定的地圖、武器和車輛，而無需高級技術技能。這使得制作電影和傳播假新聞變得很容易。

　　“尋找和揭穿這些假新聞視頻主要是一項眾包工作;其中包括我們的開發者、Arma玩家及其相關社區，以及專門的事實核查組織，”開發Arma 3的波西米亞互動公司發言人帕維爾K?i?ka說。

　　但是，他說，“即使有這些專業人士的幫助，也沒有辦法消除這個問題。”

　　2022年，Arma被用來制作一段36分鐘的視頻，其特點是俄羅斯入侵烏克蘭的突發新聞;在那之前一年，它被用來制作一部據說是巴基斯坦空襲阿富汗的電影。

　　K?i?ka表示，該公司自2009年以來一直在處理這類視頻。此外，游戲引擎(開發者用來制作游戲的軟件)和人工智能的發展意味著問題可能會變得更糟，他說。

　　如何識別人類

　　全球視頻游戲產業的價值約為1877億美元，其中包括索尼(Sony)的PlayStation和微軟(Microsoft)的Xbox等游戲機以及游戲本身的支出。

　　K?i?ka解釋說，目前，電子游戲有明顯的缺陷，可以揭示它們的起源。

　　即使是在最現代的游戲中，捕捉運動中看起來自然的人類仍然非常困難，就像追蹤爆炸后火、煙和灰塵的粒子如何移動一樣。

　　為了解決這個問題，惡意的演員會對視頻游戲中的鏡頭進行像素化處理，或者用智能手機拍攝屏幕——夸大相機抖動的程度——以表明這些鏡頭是從真實的戰斗前線拍攝的。

　　總部位于倫敦的事實核查機構Full Fact的新聞和在線編輯皮帕·艾倫-金羅斯(Pippa Allen-Kinross)表示，事實核查人員仍然可以發現原始視頻的來源，但這可能會讓最初在網上傳播虛假信息變得更容易。

　　然而，隨著電子游戲制作技術的進步，贈品可能會成為歷史，因為公司希望在下一代游戲中創造更多現實主義。

　　阻止傳播

　　與此同時，社交媒體公司因被視為未能充分解決虛假信息而受到抨擊，全球沖突加劇了這個問題。

　　社交媒體公司使用人工智能來調節其平臺上的內容，但電子游戲的現實性對他們的系統構成了挑戰。

　　2019年，當新西蘭克賴斯特徹奇的大規模槍擊事件通過Facebook的直播進行直播時，meta表示，由于缺乏用戶報告以及與視頻游戲內容的相似性，其自動檢測系統沒有被觸發。

　　meta當時的產品管理副總裁蓋伊·羅森(Guy Rosen)當時在一篇博客文章中寫道:“另一個挑戰是，如何從視覺上相似的、無害的內容中自動識別這些內容——例如，如果我們的系統標記了數千個視頻直播游戲的視頻，我們的審核人員可能會錯過重要的現實世界視頻，而我們可以在這些視頻中提醒急救人員到現場尋求幫助。”

　　艾倫-金羅斯說:“隨著電子游戲的發展和越來越逼真，將它們與真實事件區分開來將變得越來越困難。”

　　專家表示，隨著電子游戲領域和人工智能的發展，制造虛假信息的門檻將繼續降低，但更大的潛在問題是社會問題，而不是技術問題。

　　蘇黎世大學數字民主實驗室(Digital Democracy Lab)研究員薩夏·阿勒泰(Sacha Altay)說，“當錯誤和虛假信息觸及人們的擔憂、價值觀和身份時，它們才會有效。”

　　“要做到這一點，你并不需要復雜的技術，你只需要了解當前對特定敘事的需求。這就是民粹主義領導人所做的，他們可以拿起麥克風大喊大叫。”