在2022年10月25日,24位人工智慧專家,包括圖靈獎得主Geoffrey Hinton和Yoshua Bengio,發表了一封公開信,呼籲政府採取行動管理人工智慧的風險。這封信特別關注最先進系統可能引起的極端風險,例如大規模犯罪或恐怖活動。
這封公開信提出了一些具體的政策建議,例如確保主要科技公司和公共資助者將其人工智慧研發預算的至少三分之一投入於促進人工智慧安全和倫理使用的項目。作者還呼籲建立國家和國際標準。
Bengio,蒙特婁算法學習研究所的科學主任說,這封公開信旨在幫助政策制定者、媒體和公眾「了解風險,以及我們必須採取哪些行動來讓系統按我們的意願行事。」
這些建議本身並不具有開創性。相反,這封公開信的簽署者是支持人工智慧政策研究人員在極端風險問題上的共識觀點(它們與5月一項專家調查中最受歡迎的政策非常相似)。
「我們想呈現對人工智慧安全的清晰思考,在可能的範圍內減少利益相關方的影響,」Stuart Russell,加州大學伯克利分校計算機科學教授和這封信的共同作者在電子郵件中告訴TIME。
與過去專家發起的公開信不同,Russell說,「政府已經意識到存在真實的風險。他們問人工智慧社區:’我們應該怎麼做?’這封聲明就是回答這個問題。」
其他共同作者包括歷史學家和哲學家Yuval Noah Harari,以及麥克阿瑟「天才」獎獲得者、加州大學伯克利分校計算機科學教授Dawn Song,以及其他來自不同國家和領域的學者。
這封公開信是今年第三次由人工智慧專家簽署的重要聲明,是為了更大力度地提醒人工智慧發展潛在風險的持續努力。3月,一封呼籲人工智慧實驗室「暫停至少6個月訓練比GPT-4更強大的人工智慧系統」的公開信獲得了萬人簽名,包括Elon Musk、Bengio和Russell。
5月,由人工智慧安全中心組織的一份聲明宣稱「減輕人工智慧導致的絕種風險應該成為與流行病和核戰爭等社會規模風險同等重要的全球優先事項。」這份聲明獲得了500多位知名學者和行業領導人的簽名,再次包括Hinton、Bengio和Russell,以及三家最著名人工智慧公司的CEO:Sam Altman的OpenAI、Demis Hassabis的DeepMind和Dario Amodei的Anthropic。
Covariant.ai公司的聯合創始人、總裁兼首席科學家Pieter Abbeel,以及加州大學伯克利分校電機工程與計算機科學教授,雖然沒有簽署前兩封公開信,但簽署了本週的公開信。Abbeel告訴TIME,這封最新聲明的謹慎樂觀調子,比前兩封信更強調風險的調子更符合他的觀點。「如果我們做得對——我們還有很多需要做對的地方——我們可以對未來感到很樂觀,」他說。
人工智慧研究人員一直在努力引起人們對他們開發技術可能產生的風險的關注。2016年,Hinton、Bengio和Russell簽署了未來生命研究所組織的一封信,呼籲禁止「超出有意義人類控制的自主武器」。
在歷史上,科學家一直提前警告和倡導與他們研究相關的問題。氣候科學家自1980年代起就一直引起人們對全球變暖問題的關注。在領導開發原子彈後,羅伯特·奧本海默成為核武器國際控制和完全廢除的強烈倡導者。
Bengio表示,隨著他對問題和政治環境的理解不斷提高,他的人工智慧政策倡導也在不斷發展。
這封新公開信建議的政策之一是要求公司在開發「異常強大的未來模型」前申請許可證。但一些人工智慧開發者和評論人警告說,許可證制度將有利於那些能承擔更多監管負擔的大公司。
Bengio認為這種論調「完全是錯誤的」,指出許可證負擔只會影響開發最大型和最強大人工智慧模型的公司。相反,Bengio認為真正需要警惕的監管擄獲風險是如果允許公司影響立法,使其不夠嚴格。
Russell表示,大人工智慧公司假裝推動監管是為了擋住小公司,這種說法「毫無根據」,他指出雖然三明治店比人工智慧公司受更多規定,但每年仍有成千上萬家新餐廳開業。
這封公開信發表在主要人工智慧開發管轄區法規成熟程度不一的關鍵時刻。中國在這方面進度最快——8月其規範人工智慧聊天機器人的規則生效,此前中國已出台多輪人工智慧法規。
西方國家則進度相對滯後。歐盟人工智慧法案仍在歐盟監管過程中。美國白宮已從15家領先人工智慧開發商取得自願承諾,但國會制定人工智慧法律的進程仍遙遙無期。
與此同時,英國首相蘇納克正嘗試在推動國際合作人工智慧問題上發揮重要作用,聯合國秘書長安東尼奧·古特雷斯及其科技特使Amandeep Gill也在努力推進全球人工智慧管治規劃。