拜登音頻深假技術擾亂專家預測選舉

(SeaPRwire) –   近期在新罕布夏州流傳的一段美國總統拜登的假音訊,讓全球反假新聞專家感到最為緊張。

在那段電話訊息中,一個以拜登的聲音編輯而成的聲音,呼籲新罕布夏州選民不要在週二的民主黨初選中投票。「把你的票留到11月的大選」,訊息中說。它甚至使用了拜登經常使用的一句話:「這真是胡說八道。」事實上,拜登本人不在新罕布夏州初選的選票上,而且在初選投票並不會影響11月大選的參與。

有人警告,今年大選中,人工智慧技術生成的視頻和圖像將被用於政治目的,而幾乎全球一半人口的代表權都將在投票中決出。但目前,專家最擔心的是音頻深假。它編輯起來容易,成本低,而且很難追蹤。將一段說服力強的電話訊息與選民登記資料庫結合,惡意人士就可以掌握一種即便最先進的選舉系統也難以應對的強大武器,研究人員表示。

公民監督組織公民公共利益研究中心主席魯伯特·魏斯曼稱,立法機構應制定保護措施,防止假音頻和視頻的使用,以避免「選舉混亂」。

這段假拜登訊息發生之際,越來越多美國政治活動使用人工智慧軟件大規模接觸選民——同時,投資者也正大量投資於聲音複製初創公司。周一,當這段深假電話訊息在傳播時,人聲複製初創公司ElevenLabs宣布獲得新一輪資金,將公司估值提升至11.1億美元。

去年,在斯洛伐克議會選舉前夕,社交媒體上也傳播過音頻深假,其中一段片段中,黨領導人米哈爾·西梅察似乎在討論購買選票的計劃。政治領域使用視頻和音頻深假的案例雖有限,但已有先例。

這段拜登訊息是如何製作的,目前還不清楚。新罕布夏州檢察長周一已在調查這通電話。但由於這段假音頻是通過電話而非網路傳播的,根據波士頓大學新聞與新興媒體研究助理教授喬安·多諾萬的說法,通過電話傳播的音頻訊息不帶有同等的數位痕跡,追蹤到其源頭將特別困難。

「這表明下一代骯髒遊戲已經來臨,」多諾萬說。

這段假拜登片段讓反假新聞研究人員和選舉官員感到特別擔憂的另一個原因,是它證實了他們最大的恐懼:惡意人士不但使用深假影響公眾觀點,也在利用它阻止選民投票。

「即使這類誤導信息只影響幾百或幾千張選票,在選舉結果和最終結果來看,它也可能意義重大,」北western大學教授尼克·迪亞科波洛斯表示。他曾研究過人工合成音頻和選舉。

美國聯邦選舉委員會已採取一些小步驟來監管政治深假,但尚未對幫助生成它們的技術進行限制。一些州已提出自己的法律來遏制深假。

選舉官員正在進行培訓演習,為大量深假做準備。去年8月,約100名聯邦和州官員在科羅拉多州聚集,討論如何應對一個假設性的含有錯誤選舉信息的假視頻。深假也是12月亞利桑那州一場演習的重點,官員在一個假設性的州務卿阿德里安·豐特斯的視頻被偽造的情況下進行模擬。

與此同時,深假檢測工具仍處於起步階段,效果不明。

例如,周一ElevenLabs自己的檢測工具顯示,這通拜登電話可能不是使用複製軟件製作的——然而,深假檢測初創公司Clarity表示,這通電話深假的可能性超過80%。