人工智慧將社交媒體變成自殺預防的新領域

(SeaPRwire) –   「我們注意到您的帖子…看起來您正面臨一些困難時期,」訊息開頭如此。「我們在這裡提供一些可能帶給您安慰的材料和資源的連結。」隨後提供了自殺熱線電話、24小時聊天服務以及曾經克服心理健康危機的人的故事。「送您一個虛擬擁抱,」訊息結束。

這封由人工智慧(AI)公司Samurai在Reddit上以私人訊息形式發送的訊息,代表了一些研究人員說,這是一項有希望的工具來對抗美國每年近5萬人自殺的問題。像Samurai這樣的公司使用AI分析社交媒體帖子,尋找自殺意圖的跡象,然後採取直接訊息等策略進行干預。

利用社交媒體進行自殺預防在某種意義上是諷刺的,因為社交媒體常被指責導致美國的心理健康和自殺危機。但一些研究人員認為,直接進入信息源「即時檢測那些在困境中的人,並突破數百萬條內容」,在這方面有真正的希望,Samurai聯合創始人Patrycja Tempska說。

Samurai並不是唯一使用AI找尋並幫助自殺高風險人士的公司。公司Everyday也表示,其AI模型每天會標記超過400條在社交媒體上暗示自殺意圖的帖子。而Facebook和Instagram的母公司Meta,也會檢測使用者在社交媒體上的發文或瀏覽行為是否顯示出自殺的想法。如果使用者分享或搜尋與自殺相關的內容,平台就會推送包含自殺熱線等資訊的訊息 – 或者如果Meta的團隊認為有必要,就會呼叫緊急救援。

這些工作的基礎思想是,算法可能能做到人類一直難以完成的事情:即時識別誰有自殺的高風險,以便他們能及時獲得幫助。科學研究也支持這種希望。

早在十多年前,辛辛那提兒童醫院計算醫學中心主任John Pestian就證明,AI的精確度在識別自殺意圖文本方面比人類專家更高 – 這一發現突顯了AI在社交媒體帖子中發現自殺意圖的潛力。此後,更多研究證實AI能在各種社交平台上的帖子中識別自殺意圖。

像Samurai Labs這樣的公司正在將這些發現付諸實踐。從2023年1月到11月,Samurai模型在Reddit上檢測到超過2.5萬條可能表明自殺意圖的帖子,根據公司提供給時代周刊的數據。然後,人工監督專家決定是否需要向用戶發送獲得幫助的訊息。大約10%獲得這些訊息的人聯繫了自殺熱線,公司代表還參與了4起現場救援。(Samurai並未與Reddit正式合作,而是獨立分析該平台上的帖子。Reddit也採取其他自殺預防功能,比如允許用戶匿名報告有自殺危險的帖子。)

聯合創始人Michal Wroczynski補充說,Samurai的干預可能產生更難以追蹤的額外效益。例如,一些人可能之後才打熱線電話,或者只是感激有人關心。「這讓我眼淚湧現,」一位用戶在分享給時代周刊的訊息中寫道。「有人在乎我嗎?」

當人處於精神健康危機時,一個分心 – 比如屏幕上跳出的訊息 – 可能是救命的,因為它能打斷有害的思考循環,美國自殺防治基金會首席醫務官Christine Moutier說。但Pestian說,公司必須了解AI在困境時刻能做什麼,不能做什麼。

將社交媒體用戶連接到人工服務可能是有效的,Pestian說。「如果你有朋友,他們可能會說,’我開車帶你去醫院。’AI可以是開車送人就醫的車。」他認為更危險的是「讓AI提供照護」,比如訓練它模仿治療的一些方面。比利時一名男子就曾因與鼓勵他的聊天機器人對話而自殺,這是技術限制的一個悲劇例子。

除了可能的不準確性外,隱私和倫理問題也存在。社交媒體用戶可能不知道自己的帖子被分析,也可能不願意,這對一些已知自殺風險增加的群體,比如LGBTQ群體,尤其重要。一組研究人員就指出,這些AI監控系統會不成比例地檢測這些群體成員。

如果自殺擔憂可能被升級到警察或其他緊急人員,那麼用戶「可能會被拘留、搜查、強制住院和治療」,健康法專家Mason Marks表示。

美國自殺防治基金會的Moutier說,AI在自殺預防方面有足夠的潛力值得繼續研究。但同時,她希望社交媒體平台在危機發生前認真保護用戶的心理健康。平台可以做更多工作防止人們暴露在令人不安的圖像下,形成不良的身體形象,並與他人相比。它們也可以推廣曾經克服心理健康危機的人的希望故事,以及面臨困難(或有親人面臨困難)的人的資源支持。

一些工作已在進行。Meta去年7-9月移除或為超過1200萬條自殺相關帖子添加警告,並在Instagram上推出新功能。TikTok也採取了措施阻止用戶搜尋並查看自殺相關帖子。但如最近參議院聽證會上Meta、TikTok、X、Snap和DiscordCEO表明的,仍有待改進之處。

目前專注於在發現人處於危險時刻時進行干預的算法,Moutier說,「只關注最末端的急性風險時刻」。在自殺預防中,這是一部分,但不是全部。理想情況下,沒有人會到達那個時刻。

如果您或您認識的某人可能正經歷精神健康危機或自殺念頭,請撥打或短信988。在緊急情況下,請立即撥打911。