科技CEO在國會聽證會上被質疑兒童安全問題時,人工智慧也在使問題更為複雜

(SeaPRwire) –   五家社交媒體公司包括Meta、TikTok和X(前稱Twitter)的CEO,於周三在參議院接受質詢,內容是他們如何防止兒童在網路上受到性剝削。

參議院司法委員會召開聽證會,目的是要CEO們解釋未能防止對兒童的虐待,以及是否支持委員會提出的法案來解決這個問題。

根據國家失蹤及受剝削兒童中心(National Center for Missing and Exploited Children)表示,兒童性剝削資訊(CSAM)的報告去年達到創紀錄的3,600萬件,情況正日益嚴重。國家失蹤及受剝削兒童中心的網路熱線在2022年收到近九成報告來自國外。

Meta的馬克·祖克柏、TikTok的周哲、以及X的琳達·雅卡里諾等人出席,與Snap的傑森·史皮格爾和Discord的傑森·西特隆一起回答參議員的問題。雖然祖克柏和周哲自願出席,但委員會必須傳喚史皮格爾、西特隆和雅卡里諾。

伊利諾州民主黨參議員理查·杜賓,也就是委員會主席,以一段影片開場,內容是網路性剝削兒童的受害者,包括因為遭受網路騷擾而自殺的兒童家屬。

南卡羅來納州共和黨參議員林賽·格雷厄姆告訴在場人士,南卡羅來納州眾議員布蘭登·格菲的17歲兒子布蘭登·格菲在去年因為在Instagram遭到性勒索後自殺。格雷厄姆對CEO說:「你們有兒童的鮮血在手上。」他特別指責祖克柏。

許多議員表達對社交媒體公司解決問題措施不足的失望,並表示自己願意立法。過去一年,除了舉行多次聽證會外,司法委員會也將多項保護兒童線上法案提交參議院表決,包括《消除兒童性剝削法案》,旨在取消科技公司在兒童性剝削法下的民事及刑事豁免權。

在證詞中,CEO們都說明公司採取何種措施防止對兒童的線上傷害。但當被追問是否支持司法委員會報告的法案時,許多人都閃躲其話。

密蘇里州共和黨參議員喬什·霍利曾問祖克柏是否願意向在場受害兒童家長道歉。祖克柏說:「對不起,你們都經歷了很難受的事。這很糟糕,沒人該經歷你們家庭所受的痛苦。」

CEO多次強調公司利用人工智慧來解決兒童性剝削問題。西特隆在證詞中提到Discord收購了開發AI內容監督解決方案的Sentropy公司。祖克柏表示Meta移除內容的99%是由AI工具自動偵測出來。不過,法官和科技老闆沒有討論AI在兒童性剝削資訊擴散上的角色。

AI生成兒童性剝削圖像

生成式人工智慧的出現,加劇了對兒童網路安全的擔憂。全球執法機構正努力應對AI生成兒童性剝削圖像案例激增,這在許多法院都屬前所未見的情況。

在去年11月,17歲演員蕭奇特·戈麥茲在《奇異博士2:失控多重宇宙》中飾演青少年超級英雄美洲女孩後,她表示自己很難清除X上的AI生成色情圖像。

戈麥茲在泰勒·勞特納的播客中說,她母親和團隊一直在嘗試但無法成功刪除這些圖像。她說:「她收到了無數封電子郵件,但實際上有很多,她已經處理完畢。」對她來說,問題不在於圖像本身,而是「為什麼這麼難刪除?」

執法機構面臨停止傳播AI生成兒童性剝削圖像的難題,因為相關技術發展迅速,兒童本身也容易接觸如深假技術等工具。

英國網路安全中心主任戴夫·萊特告訴時代周報,該組織也收到校園內學生傳播同學AI生成裸照的報告。

今日AI技術可以利用任何兒童的外表或非真實兒童形象,在幾個點擊內生成性剝削圖像,儘管許多開發商禁止此類用途。史丹福大學網際網路觀察站發現,部分AI模型在訓練過程中使用了至少3,000張知名兒童性剝削圖像,儘管平台如X和Reddit禁止上傳此類內容。Reddit和X沒有回應報告要求。

史丹福大學網際網路觀察站首席技術長大衛·提爾表示,AI生成兒童性剝削圖像的速度已超過追蹤和刪除的解決方案。