人工智能並非選舉安全問題，假消息才是

(SeaPRwire) –   本輪選舉將成為首個受生成式人工智能影響的選戰，這項技術是像聊天機械人此類熱門應用背後技術，讓非專家也可輕易製作假造但看來真實的文字、影片和音訊，非常適合用於政治操控。同時，多家主要的社群媒體公司也不再遵守他們先前做出的一些宣示，來促銷「選舉誠信」。11 月的選舉也將首次感受到 TikTok 的廣大影響，其使用推薦演算法，而有專家認為這種演算法特別容易傳播錯誤資訊。

讓我們從生成式 AI 開始，它允許幾乎任何人都能針對相對簡單的自然語言提示產生具說服力的文字、影像或音訊。1 月時，Facebook 流傳一則假造的影像，畫面是 Donald Trump 坐著 Jeffrey Epstein 的私人飛機，坐在這個身敗名裂的金融家兼性犯罪者旁邊。2 月時，一位為名不見經傳對手工作的民主黨顧問表示，他委託生產一通假冒美國總統 Joe Biden 的 AI 自動電話，目的是勸阻數千名選民參加新罕布夏州初選。該州的檢察總長已展開刑事調查。

美國並非唯一遇到這種情況。去年 9 月時，在斯洛伐克舉行總理大選前兩天，一支發布於 Facebook 的音訊片段中，似乎記錄到主張親北約、親烏克蘭的斯洛伐克進步黨候選人討論如何操縱結果。這則貼文在選舉前媒體禁言期間瘋傳，這限制了對它進行查證的可能性，而該名候選人輸給了一位親俄對手。

分析師們正試圖了解所有可能性。在學術期刊 PNAS Nexus 2 月份發表的 一項研究 中指出，任何配備生成式 AI 工具的政治廣告製作人都具備建立「高度可擴充的『操縱機器』」的能力，這種機器可以根據個人的獨特漏洞來鎖定目標，而不需要人類介入。這暗示俄國電子特務應該會引起關注，他們曾在 2016 年的選舉中支持 Donald Trump，他們可以將 AI 當作一種影響力加乘器，試圖再次煽動已經兩極化的美國選民。

但 AI 遠遠不是全部。社會媒體讓人工產生的錯誤資訊威脅變得更為可怕。

儘管 Trump 企圖破壞 2020 年選舉結果所造成的混亂和暴力，以及今年類似動盪的威脅，但根據我們與紐約大學史登商學院 Stern School of Business 合著發表的 一項新 報告，Facebook、YouTube 等大型平台以及最戲劇化的 Twitter，都已放棄了一些過去的選舉誠信政策。

任何有關倒退的討論，都必須從 Twitter 開始，Elon Musk 於 2022 年 10 月收購了 Twitter。來自 Meta 旗下車線應用的 Threads 的競爭，以及與 Musk 有關的爭議，都對 Twitter 造成 傷害。但是，每月平均仍有 2 億 人使用這個網站，並且它保留許多有影響力的政治人物、記者和藝人的忠誠。到了 2023 年春季時，Musk 已經 解雇 了 Twitter 6,000 名員工，佔 80%。2023 年 9 月時，一名 平台選舉誠信單位的員工表示，「對，他們已經離開了。」這位新業主以提升言論自由為由減少內容審查，導致 種族主義和反猶太主義表達數量 大幅增加，促使廣告客戶紛紛離開 Twitter。

在 COVID-19 大流行期間雇用員工後，其他社群媒體公司也裁員了，其中許多公司縮減了「信託與安全」團隊，而這個團隊負責制定和執行內容政策。

在 2020 年的選舉中，Meta 建立了一個 300 人的單位，專門處理選舉誠信。但儘管在 2021 年 1 月 6 日 Trump 的支持者衝進國會大廈時爆發了混亂，該公司後來卻將該團隊的規模 縮小 到約 60 人，並結束了該組織的領導與執行長 Mark Zuckerberg 之間的例行會議。Meta 的幹部告訴我們，一些已轉換新職務的前團隊成員仍會參與選舉誠信工作，而且最高管理階層也會隨時了解這項工作。但是信號絕對是好壞參半。

Meta 值得嘉許，它仍為一個業界領先的 網路 資助，這個網路包含 90 多個外部事實查核組織，它可幫助平台減少虛假內容的重要性並標示這些內容。但公司繼續 阻擋 他們驗證自己說法的行為。與此同時，YouTube 已 放寬 政策，根據這個政策，它先前已移除數萬支宣稱 2020 年選舉不合法。這兩家公司都認為，他們的作法鼓勵言論自由。

Meta 也說過，為促進自由流動的辯論所帶來的相同目標，它將 允許 在 Facebook 和 Instagram 上刊登政治廣告，質疑 2020 年總統選舉的合法性。果然，2023 年 8 月時，Facebook 允許 Trump 的競選團隊投放廣告，並宣稱：「2020 年我們進行了一場操縱的選舉。」

TikTok 目前的全球每月平均用戶數已超過 10 億，在美國就有超過 1.7 億用戶，公司帶來了全新且完全不同的挑戰。它與中國母公司 ByteDance 的連結已導致認為中國專制政府對美國平台施壓的，不過到目前為止尚未獲得證實。眾議院最近才 通過 法案，將迫使 ByteDance 出售 TikTok，不然就會面臨美國禁止此短片應用程式的命運。

但對於 TikTok 的推薦演算法，也存在疑問。它會選擇呈現在使用者面前的內容。其他大型平台依賴「社群圖形」，它根據使用者關注、關注他們的使用者分享的內容來選擇內容。相比之下，TikTok 會根據演算法推薦，從使用者社群 外部 的內容，為其「為您推薦」頁面選出短片影片。這種差異可能可以解釋，為什麼 TikTok 在提供使用者找到新穎且引人入勝的影片時如此成功。

但根據 紐約大學社群媒體與政治中心 進行的 研究，這種差異可能會在選舉期間構成危險：「生成式 AI 可讓虛構影片更易於製作」，研究人員在 1 月時寫道，「我們可以預見在 TikTok 上，使用者會接觸到其他社群圖形平台不會傳播的政治錯誤資訊。」此外，TikTok 使用者年齡較輕，而且 研究 顯示，年輕人更有可能相信錯誤資訊。TikTok 告訴我們，這種分析「完全是推測」，而且反映了「對我們平台運作方式的錯誤理解」。

平台仍有時間在選舉前採取預防措施。他們可以針對瘋狂轉發內容設定限制，這是錯誤資訊傳播的一種方式。他們可以在某些爆紅貼文上設定「斷路器」，讓內容審查員有機會判斷該內容是否惡意。他們可以補充耗盡的內容審查團隊。他們可以從使用者的動態消息移除明顯虛假內容，同時保留一個標記的備份，此備份不可供分享，但可供追蹤錯誤資訊的人員作為參考之用。

社群媒體產業應了解，在這個形勢發展為另一場不穩定的選舉季期間，這些和其他保護措施是負責任地經營事業的成本。不採取行動可能會加劇美國民主真正的危機。