Meta 宣布 11月8日(星期三),它將要求對使用AI或其他技術以可能誤導的方式數位修改的政治廣告進行標籤。
該公告發布在11月7日(星期二)微軟宣布也採取一些措施來保護選舉,包括提供水印AI生成內容的工具,並部署「競選成功團隊」向政治競選團隊提供有關AI、網絡安全和其他相關問題的意見。
明年將是本世紀最重要的選舉年,美國、印度、英國、墨西哥、印尼和台灣都將舉行選舉。儘管許多人擔心深假新聞和誤導信息可能對選舉產生影響,但許多專家強調,迄今為止,它們對選舉的影響證據至多很有限。專家歡迎科技公司為保護選舉公正採取措施,但說更根本的政治制度變革將需要解決誤導信息的問題。
AI可能對選舉的影響
科技公司在過去的選舉中受到了審查。2021年由在線倡導組織Avaaz發布的一份報告發現 ,通過等待到2020年美國總統選舉前一個月才改變其算法,Meta允許誤導信息在其平台上傳播。Meta還被批評為推動質疑2022年巴西選舉有效性的內容和可能有助於人權侵犯的內容被推廣。
在過去幾年中,AI開發已經迅速進步。生成AI——允許用戶生成文本、音頻和視頻——隨著2022年11月開放AI的ChatGPT的發布而從默默無聞走到聚光燈下。
生成AI已多次用於美國政治廣告,雖然在每次情況下都明白使用了AI。4月,共和黨發布了一個AI生成的廣告,旨在展示如果喬·拜登連任可能發生的情況。6月,佛羅里達州共和黨州長兼總統候選人羅恩·德桑蒂斯的X競選帳號發布了一個視頻包含AI生成的川普擁抱安東尼·福奇的圖像。
然而,一項研究持續發現,誤導信息尚未明顯影響過去美國選舉的結果,德國巴姆貝格大學政治科學教授安德烈亞斯·容赫爾說,他注意到其他學科如媒體研究和心理學的學者往往更願意相信誤導信息對選舉的影響。
例如,2023年在《自然》上發表的一篇文章發現「沒有證據表明2016年俄羅斯外交影響活動的曝光與態度、極化或投票行為的變化之間有意義的關係。」
人們常常高估誤導信息的影響,因為他們同時高估了改變人們對如投票行為等敏感問題觀點的難易程度,也高估了AI等信息傳播技術如生成AI的能力,容赫爾說。
雖然一個AI生成的誤導信息影響公眾意見足以改變選舉結果的可能性很低,但AI未來仍可能對選舉和政治產生更深遠的影響,英國智慧型人工智能治理中心研究人員伊莉莎白·塞格說。未來,高度個性化的AI輔助定向聯合極其有說服力的AI代理人可能被用於進行大規模說服活動。而在2024年,深假新聞的存在本身可能侵蝕人們對關鍵信息來源的信任,塞格說。
這已經發生過。2019年,一項聲稱加蓬前總統阿里·邦戈的視頻是假的的指控被用來證實一次政變。同年,一段疑似馬來西亞內閣部長與一名政治助手性行為視頻的影響被聲稱視頻被AI修改後減弱。
「通常被忽視的一個風險,更可能在本次選舉周期內發生,不是生成AI將用於製作讓人以為候選人某人做了某件壞事的深假新聞,」塞格說。「而是這些技術的存在本身被用來破壞證據的價值和破壞對關鍵信息來源的信任。」
保護選舉
到目前為止,政府在減輕AI對選舉影響方面採取的措施有限。美國國會在5月提出了一項法案,要求使用AI生成圖像或視頻的政治廣告附有聲明。8月,聯邦選舉委員會要求提供意見,是否應修改禁止政治廣告誤導其他候選人或政黨的規定,以包括故意欺騙性的AI,但尚未採取行動。
意識到在2020年選舉中為Meta聲譽造成的傷害,科技公司開始採取行動。7月,白宮獲得了7家領先AI公司包括Meta和微軟的自願承諾,旨在確保AI系統安全可靠。承諾之一是開發和部署生成視頻和音頻內容的來源或水印技術。9月,另外8家公司也簽署了承諾。
本週Meta和微軟的行動緊隨Alphabet(Google和YouTube的母公司)在9月宣布將要求政治廣告中包含合成生成的內容明確披露,如果它們不真實地描述真實人物或事件。
普林斯頓大學教授阿文德·納拉揚和研究人員賽亞什·卡普爾已經提出更強大的AI不會惡化誤導信息問題,因為誤導內容目前相對容易產生,任何人如果想產生都可以。