2012年,Elon Musk在一場會議上遇見了Demis Hassabis,這位電玩設計師兼人工智慧研究員與人共同創立了一家名為DeepMind的公司,試圖設計能像人類一樣思考的電腦。
「Elon和我馬上就聊得很開心,我去拜訪了他的火箭工廠,」Hassabis說。當坐在可以看到裝配線的餐廳時,Musk解釋說,他建造能飛往火星的火箭的原因是,這可能是在發生世界大戰、小行星撞擊或文明崩潰的情況下保留人類意識的一種方式。Hassabis告訴他,要在清單中再增加一個潛在威脅:人工智慧。機器可能會變得超級智能,並超越我們這些凡人,甚至可能決定處置我們。
Musk靜默了近一分鐘,以處理這個可能性。他認為Hassabis關於AI的危險性可能是正確的,並立即投資了500萬美元到DeepMind,以監控它在做什麼。
與Hassabis這次對話幾周後,Musk向谷歌的Larry Page描述了DeepMind。他們認識超過十年,Musk經常住在Page位於加州帕羅奧圖的房子裡。人工智慧的潛在危險成為Musk在他們深夜對話中幾乎執著地提出的話題。Page不以為然。
2013年,在加州納帕谷Musk的生日派對上,他們進行了激烈的辯論。 Musk認為,除非我們建立安全保障措施,否則人工智慧系統可能會取代人類,使我們的物種變得無關緊要甚至滅絕。
Page反駁。他問,如果機器有一天在智力甚至意識上超過人類,那又為何要緊?這將只是進化的下一個階段。
Musk反駁說,人類意識在宇宙中是一個寶貴的光芒,我們不應該讓它被撲滅。Page認為這是多愁善感的胡說八道。如果意識可以在機器中複製,為什麼它就不那麼有價值呢?他指責Musk是「種族主義者」,偏愛自己的物種。「嗯,沒錯,我是親人類的,」Musk回應道。「我他媽的喜歡人類,兄弟。」
因此,當Musk在2013年底聽說Page和谷歌計劃收購DeepMind時,他感到非常失望。Musk和他的朋友Luke Nosek試圖籌措資金來阻止這筆交易。在洛杉磯的一個派對上,他們進入樓上的衣櫃,進行了一個小時的Skype通話與Hassabis。「AI的未來不應該被Larry控制,」Musk告訴他。
努力失敗了,谷歌收購DeepMind於2014年1月宣布。Page最初同意成立一個「安全理事會」,Musk為成員。第一次也是唯一一次會議在SpaceX舉行。 Page、Hassabis和谷歌主席Eric Schmidt出席,還有Reid Hoffman和其他幾個人。Musk認為該理事會基本上是胡說八道。
於是Musk開始主持自己的一系列晚餐討論,以尋找反制谷歌、促進AI安全的方法。他甚至聯繫了歐巴馬總統,後者同意2015年5月進行一對一會談。Musk解釋了風險,並建議對其進行管制。「歐巴馬明白,」Musk說。「但我意識到這不會上升到他會採取任何行動的程度。」
然後Musk轉向Sam Altman,一位緊繃的軟件企業家、跑車愛好者和生存主義者,在他精心打造的表面下,有著與Musk相似的強烈情緒。在帕羅奧圖的一次小型晚宴上,他們決定共同創立一家非營利人工智慧研究實驗室,將其命名為OpenAI。它將使其軟件開源,並試圖抵制谷歌在該領域日益增長的主導地位。「我們希望有一些類似Linux版本的AI,不受任何個人或公司控制,」Musk說。
他們在晚餐上討論的一個問題是,更安全的選擇是少數由大公司控制的AI系統,還是大量獨立的系統?他們認為,大量相互競爭的系統能夠相互制衡,這更好。 對Musk來說,這就是使OpenAI真正開放的原因,以便許多人都可以建立基於其原始碼的系統。
Musk認為確保AI安全的另一種方式是將機器人緊密地與人類聯繫在一起。它們應該是個人意志的延伸,而不是可能走偏門、開發自己目標和意圖的系統。這也將成為他後來創立Neuralink的理由之一,該公司旨在創建可以將人腦直接連接到計算機的芯片。它也促使他變得執著於推動特斯拉汽車變為自動駕駛。
Musk在自己的公司開發人工智能能力的決心導致了他與OpenAI在2018年的決裂。他試圖說服Altman將OpenAI併入特斯拉。OpenAI團隊拒絕了這個想法,Altman作為該實驗室的總裁,啟動了一個營利部門,能夠籌集股權融資,包括微軟的一大筆投資。
於是Musk決定在一系列相關項目上自行組建競爭的AI團隊。這些包括Neuralink,其目的是在人腦中植入微芯片;Optimus,一個類人機器人;以及Dojo,一台超級計算機,可以使用數百萬個視頻來訓練人工神經網路以模擬人腦。這也促使他變得執著於推動特斯拉汽車變為自動駕駛。
起初,這些努力相當獨立,但最終Musk將它們全部聯繫在一起,並與他新成立的一家名為xAI的公司一起,以追求人工通用智能的目標。
2023年3月,OpenAI向公眾發布了GPT-4。谷歌隨後發布了一個名為Bard的競爭聊天機器人。這樣,OpenAI-微軟和DeepMind-谷歌之間的競爭已經拉開了帷幕,看誰能創建能與人自然交談並執行無限文字類智力任務的產品。
Musk擔心這些聊天機器人和AI系統,特別是在微軟和谷歌的手中,可能會受到政治灌輸,甚至被他所說的覺醒思維病毒感染。他還擔心自學習AI系統可能會對人類物種變得敵視。在更直接的層面上,他擔心聊天機器人可能會被訓練來在Twitter上傳播虛假信息、偏頗報導和金融詐騙。當然,這些事情已經由人類在做了。但是能夠部署成千上萬武裝聊天機器人將使問題惡化兩三個量級。
他的拯救衝動開始發作。他對創建並資助OpenAI卻現在被拋在一邊感到不滿。AI是正在酝酿的最大風暴。而沒有人比Musk更喜歡風暴。
2023年2月,他邀請(或者說是傳喚)Sam Altman前往Twitter會面,並要求他帶上OpenAI的成立文件。Musk質疑他如何能夠在法律上將一個由捐款資助的非營利組織轉變為一個能賺取數百萬的營利組織。Alt
