泰勒絲在X上搜尋被封鎖 隨著深偽影像流傳

(SeaPRwire) –   社交媒體平台 X,前稱Twitter,已封鎖對泰勒絲名字的搜索,以打擊流傳泰勒絲虛假深度假象的蔓延。

“這是一項臨時行動,出於對此問題安全的高度重視,”X業務運營主管Joe Benarroch告訴時代周刊,星期日電郵表示。截至發稿時,在X上搜索泰勒絲名字仍無法訪問。

上週五,X安全帳號在平台上發布,非自願裸體嚴格禁止,公司的「團隊正在積極移除所有已識別圖像,並對發布它們的帳號採取適當行動。」聲明說。「我們致力於維持所有用戶的安全和尊重環境。」

時代周刊已聯繫泰勒絲的公共關係人尋求評論。

泰勒絲的深度假象已經凸顯了人工智能生成色情內容的問題,其中一個人的面部被無同意地置於色情圖片或視頻中,而法規難以跟上技術的發展速度。如X所承認,禁止搜索僅是一個緩解措施。雖然在這個特定案例中已經起到了作用,但它不是解決這一廣泛問題的長期解決方案。

2019年網上96%的所有深度假象都是非自願色情內容,幾乎都是女性,媒體分析公司Sensity指出,這類內容可能被用於犯罪目的和獲取非法經濟利益。

“這是令人擔憂的,”白宮新聞秘書Karine Jean-Pierre被問到有關泰勒絲深度假象的提問時表示。“雖然社交媒體公司對內容管理作出自己的獨立決定,但我們認為它們在防止真實人物的誤導信息和非自願親密圖像傳播方面擔當重要角色。”

雖然10個州已將深度假象定為犯罪,但聯邦法律尚未出台,國會議員正加緊立法。

紐約州民主黨議員Joe Morelle去年提出了《防止非自願裸體圖像法案》,但該法案至今未能推進。紐約州另一位民主黨人Yvette Clarke議員去年提出了《防止人工智能濫用法案》,以保護國家安全並為受害者提供法律追訴渠道。

今年1月,立法者提出了《防止人工智能濫用美國人聲音和影像法案》,以保護美國人免受其聲音和影像的AI操縱。

對於提出的立法,Jean-Pierre表示:“當然應該出台立法來處理這個問題”,但指出拜登總統已採取行動撰寫一份關於他的政府如何管治生成性AI的指南,並成立了一個專責小組。