如何在晚了之前暫停AI

(SeaPRwire) –   雖然只過了16個月,但ChatGPT在2022年11月發佈已感覺像是古老的AI歷史。數以億計美元的公共和私人資金正在注入AI。數以千計的AI產品已被創建,包括本週新推出的。從學生到科學家,現在都在使用這些大型語言模型。我們的世界,尤其是AI的世界,顯然已經改變。

但人類水平的AI,或者超級智慧型AI的真正獎品還未實現。這種突破意味著一種AI可以完成大部分經濟生產工作,與他人交流,從事科學研究,建立和維護社交網絡,進行政治活動以及現代戰爭。目前這些任務的主要限制是認知能力。消除這個限制將改變世界。然而,全球領先的AI實驗室的許多人預計,這種技術可能在本十年末前實現。

這對人類來說可能是一大福音。但AI也可能極其危險,尤其是如果我們無法控制它。無控制的AI可能會入侵支撐世界許多部分的在線系統,並利用它們實現目標。它可能獲取我們社交媒體帳戶並為大量人員製作定製的操縱。更糟糕的是,負責核武器的軍事人員可能被AI操縱分享他們的認證,這對人類來說是巨大威脅。

在線惡意行為者對世界的防禦措施加強將是一個建設性的舉措。但當AI比我們更能說服人類時,沒有已知的防禦方法。

出於這些原因,許多AI安全研究人員,如OpenAI、Google DeepMind、Anthropic以及安全導向的非營利組織,放棄了試圖限制未來AI可以執行的行動。他們現在專注於研究「一致」或天然安全的AI。一致的AI可能有足夠的能力消滅人類,但它不應該「想」這樣做。

對一致AI存在很大問題。首先,對一致性的技術部分仍是未解決的科學問題。最近,一些在超級智慧型AI對齊方面工作的最佳研究人員表示不滿,這並不激勵人心。第二,一個超級智慧型AI將會對齊到什麼。如果是學術價值觀,如功利主義,我們可能很快就會發現,大多數人的價值觀實際上不符合這些觀點,之後無法阻止的超級智慧就可能永遠行事違背大多數人的意志。如果對齊的是人們的真實意圖,我們需要一種方法來整合這些非常不同的意圖。雖然理想解決方案如聯合國理事會或AI驅動的調解在可能性範圍內,但擔心超級智慧的絕對權力將集中在很少幾位政治家或CEO手中。這當然對其他所有人類來說都是不可接受的,也是直接危害。

解除時限炸彈

如果我們無法找到一種方法至少保證人類免於滅絕,最好也免於一致性惡夢,那麼在我們解決安全問題之前,無法控制的AI不應被創建。這種解決方案——推遲人類水平或超級智慧型AI的發展,作為代價,人類級或超級智慧型AI的巨大承諾——如治療疾病或創造巨大經濟增長——將需要等待。

這種做法對一些人來說可能看起來很激進,但如果AI繼續在沒有達成滿意的一致計劃的情況下改進,這將是必要的。當AI的能力接近接管水平時,唯一現實的選擇是要求實驗室在政府的強制下暫停開發。其他做法將是自殺性的。

暫停AI可能不如一些人所說的那樣困難。目前,只有相對少數的大公司擁有進行領先訓練的能力,意味著暫停的執行主要取決於政治意願,至少在短期內。但在長期來看,硬件和算法改進意味著暫停可能被視為難以執行。不同國家之間需要執行,例如通過條約,同樣需要在國內執行,採取如嚴格硬件控制等步驟。

與此同時,科學家需要更好地了解風險。雖然存在分歧,但尚未形成共識。科學家應該正式列出他們的一致觀點,並說明觀點偏差的原因,在新的「氣候變化政府間專家委員會式」AI風險小組中,這將發展成為。領先的科學期刊應進一步開放接受存在風險研究,即使它看起來很假設性。未來不提供數據點,但就像對氣候變化一樣,前瞻性思考也同樣重要。

就政府而言,他們在AI如何展開方面發揮著巨大作用。首先,正式承認AI的存在風險,如已經被。、。和。所做的,並設立。政府還應制定最重要的可想像情景下應採取何種行動以及如何處理AGI的許多非存在性問題,如大規模失業、無法控制的不平等和能源消耗。政府應公開其AGI策略,允許科學界、行業和公眾進行評估。

在5月21日至22日舉行的AI安全峰會上,主要AI國家在共同政策問題上進行建設性討論,這確實是重大進步。但是,這一過程需要警惕和擴大。與所有28個邀請國家共同闡明AI的存在風險觀點和表達共同關注,已經是重大進步。此外,需要商定一些相對容易的措施,如建立許可證制度、模型評估、跟蹤AI硬件、擴大AI實驗室的法律責任以及從訓練中排除受版權保護的內容。需要設立一個機構監督執行。

基本上,很難預測科學進步。然而,超級智慧型AI很可能比任何其他事物都對本世紀的文明產生更大影響。簡單等待時限炸彈爆炸並不是可行的策略。讓我們盡可能明智地利用我們手頭的時間。