（JY編譯）在暴徒衝擊美國國會大廈事件發生近三年後，虛假的選舉陰謀理論仍在社群媒體和網路新聞中廣泛傳播。這些理論包括裝滿選票的行李箱、在深夜計票以及死者投票被計入等。
專家警告說，在即將到來的總統選舉中，情況可能會更糟。先前用於對抗虛假聲明的保障措施正在逐漸減弱，而製造和傳播這些虛假聲明的工具和系統卻在不斷增強。
在前總統特朗普的引導下，許多美國人繼續散播一種未經證實的觀點，即美國各地的選舉都不能被信任。其中，57%的共和黨人認為，民主黨拜登沒有合法當選總統。
同時，生成式人工智能工具的出現，使得傳播誤導性訊息的成本大幅降低，同時也更加便利。社群媒體公司曾經致力於糾正事實記錄，但現在它們的重心已經發生了轉變。
人工智能專家、華盛頓大學終身教授奧倫·埃茨尼（Oren Etzioni）說︰「我預計將會有一場誤導性資訊的海嘯。我無法證明這一點。我希望我的預測是錯的。但是所有的因素都已存在，我感到非常恐懼。」
AI深度偽造走向主流
影像和影片的操縱在選舉中並不罕見，但2024年的總統選舉將面臨前所未有的挑戰，即高度先進的人工智能工具的廣泛應用。這些工具能夠在短時間內產生非常逼真的虛假內容，而且使用它們只需要進行幾次簡單的點擊操作。
埃茨尼強調深度偽造技術的危險和潛在濫用，特別是在政治競選中。他指出，虛構的圖像、視訊和音訊可以被製作得非常逼真，以至於人們難以辨別真假。
埃茨尼說︰「你可能會看到像拜登總統這樣的政治候選人被緊急送往醫院。候選人發表未曾說過的言論、銀行遭到擠兌、以及虛假的爆炸和暴力事件。」
布倫南司法中心（Brennan Center for Justice）選舉與政府計畫的高級主任拉里·諾登（Larry Norden）稱，高科技偽造已經對全球的選舉產生了影響。他提到，最近斯洛伐克選舉前幾天，人工智能產生的音訊錄音冒充自由候選人，討論提高啤酒價格和操縱選舉的計劃。事實查核人員竭力辨認它們為虛假，但它們在社交媒體上仍然被分享為事實。
專家表示，這種定向的虛假訊息傳播可能導致特定社區的選民產生誤導，影響其投票決策。這可能包括具有說服力的簡訊、在WhatsApp上以不同語言分享的虛假投票流程公告，或仿製得像選民所在地區的官方政府網站的虛假網站。
錯誤訊息學者、賓州大學安納伯格公共政策中心主任凱瑟琳·霍爾·賈米森（Kathleen Hall Jamieson）指出，當人們面對看似真實的虛構內容時，由於長期進化形成的認知傾向，很容易相信這些虛構的訊息，而不是真實的情況。
美國國會的共和黨和民主黨成員以及聯邦選舉委員會正在努力研究和製定監管這項技術的政策。然而，他們尚未就具體的規定或法案達成最終一致。因此，目前唯一實施關於政治AI深度偽造的限制措施來自各州，它們可能會採取了一些法律或政策來規範和限制這種技術的使用。
一些州已通過法律，規定對深度偽造進行標註，或禁止使用這些技術來誤導選民對候選人的認知。此外，一些社群媒體公司，如YouTube和Meta（擁有Facebook和Instagram），已經實施了使用AI進行標註的政策。不過，這些公司是否能夠始終有效地識別和阻止違規行為，目前尚不清楚。
社群媒體的安全措施消失
就在一年多前，馬斯克收購了Twitter，並開始解僱高階主管、拆除核心功能等，以對社群媒體平台進行改造。這導致了平台的重大變革，現在它以「X」為名。
在接管Twitter後，他還採取了一系列行動，包括顛覆驗證系統、削弱反對錯誤訊息的團隊，以及恢復先前被禁止的陰謀論者和極端分子的說法。
許多保守派對這些變化表示讚賞，因為他們認為Twitter先前的管理嘗試涉及對他們觀點的審查。然而，民主倡導者認為這次接管導致了曾經有用的新聞和選舉資訊資源的轉變，使其成為一個主要沒有受到監管的回音室，加大了仇恨言論和錯誤訊息的傳播。
非營利監察組織Accountable Tech聯合創始人傑西·萊里奇（Jesse Lehrich）表示，Twitter曾經是「最負責任」的平台之一，因為它曾經願意嘗試一些可能減少錯誤訊息傳播的功能，甚至願意犧牲用戶互動度。
他說︰「但目前情況已經發生了變化，變得極端。」並補充說他認為Twitter的變化為其他平台提供了寬鬆政策的理由。X沒有回答《美聯社》的電子郵件提問，只發送了自動回覆。
根據致力於在科技和媒體領域倡導公民權利的非營利組織Free Press的報告，在迎接2024年的過程中，X、Meta和YouTube共同廢除了17項防範仇恨和虛假信息的政策。
YouTube在去年六月宣布了一個關於對待有關選舉的內容的政策調整。該政策表示，儘管平台仍將監管當前或即將到來的選舉的誤導性內容，但將不再刪除聲稱2020年選舉或其他過去美國選舉存在廣泛舞弊、錯誤或故障的內容。該政策的目的是保護言論自由，即使觀點具有爭議性或基於已被證明是錯誤的假設，也允許其進行公開辯論。
萊里奇提到，即使科技公司不希望刪除誤導性內容，平台仍有許多內容中立的方式來減少假訊息的傳播。這些方式可能包括對數月前的文章進行標註，或增加分享內容前的審核難度，以確保發佈的資訊更加可信。
X、Meta和YouTube自2020年以來裁減了數千名員工和合約工，其中一些是內容審核員。裁員可能會對平台上的內容審核和管理產生影響，因為這些工作人員通常負責監督和審核發佈在平台上的內容，以確保其符合規定和政策。
華盛頓大學的虛假資訊專家凱特·斯塔比爾德（Kate Starbird）指出，許多人認為內容審核團隊縮減是受到政治壓力的結果，這「為2024年比2020年糟糕的情況鋪平了道路。」
Meta聲稱擁有約4萬人的龐大安全保障團隊，以及獨立事實查核網路。該公司還經常關閉旨在制造紛爭和不可信的虛假社交媒體帳戶網路。
貼文中說︰「沒有比Meta線上保護選舉做得更多或投資更多的科技公司——不僅僅在選舉期間，在任何時候。」
YouTube發言人Ivy Choi表示，該平台投資於推薦和資訊面板等功能，以提供可靠的選舉消息。她也強調了YouTube對打擊誤導性內容的努力，特別是那些誤導選民投票或乾擾民主進程的內容。
TikTok和其他一些監管較少的平台，如Telegram、Truth Social和Gab的崛起，可能更容易傳播缺乏根據的主張和錯誤訊息。特別是WhatsApp和微信等應用程式依賴私人聊天，這增加了外部群體發現和阻止可能的錯誤訊息傳播的難度。
Photo by Tiffany Tertiles on unsplash