在11月的平凡星期三,布萊切利公園接待了一群老年退休人士和一些吵鬧的學生團體,他們前來了解二戰期間駐紮在這裡的破譯員——包括計算機先驅阿倫·圖靈——以及他們如何幫助同盟國擊敗納粹德國。
但這不是平凡的一周,這些訪客也不是平凡的。
這個星期三和星期四,來自全球27個國家的政府代表以及頂級人工智能公司的負責人,齊聚於倫敦附近這座前國有別墅——現為博物館的布萊切利公園,參加世界上首次人工智能安全峰會。與會者包括:美國和中國政府代表、Elon Musk以及OpenAI執行長Sam Altman。
這場高調活動由英國政府主辦,英國首相李斯·蘇納克主持,為全球人工智能安全討論在過去一年內不斷升級提供了總結。ChatGPT大約一年前的發佈,首次展示了當前人工智能系統強大的通用能力。它在許多用戶中引起熱議,重啟了一個以前專業的學派,認為人工智能可能在未來某個時候對人類構成存在性風險,促使政策制定者全球性地考慮是否和如何監管這項技術。這些討論在警告聲中進行,不僅今天的人工智能工具本身已經帶來許多危險——尤其是對弱勢群體,而且下一代系統的能力可能比現有系統強大10倍或100倍,更不用說更危險了。
布萊切利公園之所以被英國政府選為峰會場地,是因為它具有象徵意義:它是現代計算機的發源地之一;在這裡設計的破譯納粹德國恩尼格瑪密碼機的機器,為早期可編程計算機奠定了基礎。英國科技部長米歇爾·多納倫在星期三開幕峰會時說,她希望聚集在這裡的代表能夠做到與破譯恩尼格瑪密碼機同等重要的成就,「推動實際可能性的邊界」。
各國官員在這裡並未嘗試就這項技術的共同可執行約束框架達成協議。但蘇納克在星期四宣布,人工智能公司在峰會上同意提前給政府訪問其模型以進行安全評估。他還宣布了Yoshua Bengio——一位圖靈獎獲獎計算機科學家——同意主持一個尋求在報告中建立前沿人工智能系統風險和能力的科學共識體。
蘇納克從峰會中獲得的頭條新聞——人工智能實驗室將提前給政府訪問其系統——缺乏細節。蘇納克已於6月份宣布,三家領先的前沿人工智能公司(OpenAI、Google DeepMind和Anthropic)已同意給英國政府「提前或優先」訪問其系統以進行安全評估。蘇納克沒有解釋這次在星期四達成的協議與現有承諾之間有何不同,如果有不同的話。他也沒有談論政府是否將獲得前沿模型的源代碼或所謂的「權重」,或者只能通過名為API的介面與它們互動。(蘇納克辦公室未立即回應評論請求。)
蘇納克還宣布,英國的前沿人工智能工作組將發展成為一個永久機構,負責進行安全評估:英國人工智能安全研究所。
儘管取得有限進展,與會代表歡迎這次高層討論,認為它是國際合作監管這項技術的重要第一步——承認雖然有許多共識,但仍有一些關鍵差異。
「我很高興支持國際協調管理人工智能安全的工作,與世界各地的同事一起呈現這個極為重要問題的最新證據,」Bengio在聲明中表示。
星期三開幕時,英國政府宣布簽署了「布萊切利宣言」,由28個國家包括美國、英國、中國和印度以及歐盟簽署。宣言表示人工智能既帶來短期也帶來長期風險,肯定前沿人工智能系統創造者確保其安全的責任,並承諾在識別和減輕風險方面進行國際合作。
作為峰會主辦方,英國政府在傳達其對人工智能風險問題的重視與表達對科技公司開放的立場之間走了一條細緻的線。「對我來說,我們真正面臨的最大風險,實際上是錯過人工智能真正為我們帶來的所有難以想像的機遇,」多納倫在峰會前夕在Google DeepMind總部為科技業精英舉行的招待會上告訴與會者。「如果我們過於恐嚇人們,或者因為我們不掌握這些風險而退縮,那麼我們就不會在國民保健服務中看到應用,我們不會在交通網絡中看到應用,我們也無法利用人工智能來應對氣候變化或支持開發中國家解決食品不平等問題。那將是我們能想像的最大悲劇。」
另一方面,美國本週在倫敦發表講話時,副總統卡拉·哈里斯宣布了一系列全面行動,包括建立美國人工智能安全研究所。哈里斯表示該機構將制定人工智能系統風險評估指南,並為監管機構提供有關水印人工智能生成內容和應對算法歧視的指導意見。哈里斯的聲明緊隨白宮周一簽署的行政命令,要求人工智能公司在訓練可能危險的模型時通知聯邦政府,並在公開前與政府分享安全測試結果。
英國外交大臣詹姆斯·克利弗利在星期四下午減輕了美國此舉可能掩蓋英國在人工智能安全領導地位的說法。他告訴《時代》雜誌:「這不是關於囤積,而是分享。我們希望每個人都參與進來。這不是獨家的,而是包容性的。」
在布萊切利公園,警方在臨時設立的安全外圍周圍巡邏。外面門口,壓力團體「暫停人工智能」的小群體於星期三持標語牌抗議。該組織呼籲暫停訓練比OpenAI的GPT-4更強大的人工智能系統。「民意調查顯示,減緩人工智能發展越來越受公眾歡迎,今天我們抗議時也收到很多公眾的支持信息,年齡層面很廣。暫停是必要的,而且也是可行的。」抗議者之一Gideon Futerman告訴《時代》雜誌。
在內部,主要討論在閉門進行,但一些行業人士出來接受媒體採訪。Google DeepMind共同創始人、現任Inflection AI執行長Mustafa Suleyman在星期三的新聞發佈會上表示,會議表明各國政府意識到人工智能安全的重要性,但仍需進一步合作解決問題。