艾瑞克·施密特和約修亞·本吉討論人工智能應該讓我們多擔心

(SeaPRwire) –   兩位頂尖人工智慧專家—一位樂觀主義者和另一位更警惕技術未來的人—在週三時代100峰會上進行了精彩的辯論。

Mila Quebec人工智慧研究所的創始人和科學主任Yoshua Bengio以及前GoogleCEO、特別競爭研究項目主席Eric Schmidt都同意,人工智慧正準備改變現代社會。

正如主持人斯蒂芬妮·魯爾在MSNBC的描述:「Yoshua認為,人工智慧可能將我們推向滅絕的風險應被視為全球性風險,就像我們看待流感和核戰爭一樣。Eric對人工智慧非常非常興奮。」

Bengio主要擔心的是人工智慧系統難以確保只用於原定目的,而不會造成危害。「我們絕對需要清除迷霧;目前,科學家真的不知道」如何讓人工智慧根據社會的規範、法律和價值觀行事。

Schmidt和Bengio也談到了利潤導向公司在被要求監管其人工智慧使用時可能面臨的利益衝突。Schmidt堅持認為行業領導者正在要求監管。但是Bengio提出異議:「這很棘手,因為公司正在為獲勝而競爭;同時,這些公司的個人都是人,不希望發生災難。」

Schmidt說,公司在真正需要「把事情弄好」前還有大約三到五年的時間。那時,更大的倫理問題將出現,他說。

「這太快了,」Bengio說,他認為目前法律還不足以強制公司保護其人工智慧系統,防止數據被壞人盜取。

Schmidt對西方國家將制定這些法律持樂觀態度,但「更擔心我們無法控制的機構。」大家都在關注大型美國公司,所以危險性更低,他說。

Bengio強調需要國際協調,因為其他國家的人工智慧違規也可能危害美國。他說:「已經開始,但我們需要加快(工作)。」

兩人在一點上還是達成了共識——人工智慧系統開始無人控制運行時,將出現轉折點。

Schmidt說,那一刻「極其危險」。「你知道我們應該做什麼嗎?我們應該關閉電腦。這根本不行。有限度。」

時代100峰會匯聚來自全球時代100社區領導人,以闡述解決方案並鼓勵行動,建設更美好的世界。本屆峰會邀請了來自政治、商業、健康科學、文化等各個領域的多元發言人。

2024年時代100峰會演講者包括演員艾略特·佩奇、設計師Tory Burch、奧運會金牌得主伊布提哈季·穆罕默德、WNBA冠軍阿賈·威爾森、作家瑪格麗特·阿特伍德、紐約證券交易所主席琳恩·馬丁、喜劇演員亞歷克斯·埃德爾曼、Bengio、第68任國務卿約翰·克里以及許多更多人。

時代100峰會由Booking.com、花旗銀行、默克公司、Northern Data Group、Glenfiddich單一麥芽威士忌以及Verizon贊助。