聯合國秘書長安東尼奧·古特雷斯在10月26日宣布成立一個新的諮詢機構,專門研究人工智慧所帶來的風險,以及國際合作如何應對這些挑戰。
雖然這個機構本身沒有太多權力,但其建議可能會決定聯合國人工智慧管理機構的形式和功能,很多人認為,隨著人工智慧帶來的複雜問題,世界需要這樣一個機構。
「即使不去想像各種災難性情況,人工智慧被惡意利用也可能破壞機構的信任,削弱社會凝聚力,甚至威脅民主本身,」古特雷斯在新聞發布會上表示。「出於各種原因,我呼籲開展全球性的跨學科、多方參與的人工智慧管理對話,以最大限度地發揮它對人類的好處,同時減少可能的風險。」
這個新的小組是目前已經開始的幾項國際人工智慧倡議之一,包括即將舉行的英國人工智慧安全峰會和G7人工智慧行為守則。聯合國諮詢小組的39名成員來自各個國家和領域,包括政府、民間社會、學術界和產業界。其中5名成員最近入選《時代》雜誌首次發布的《時代100強人工智慧影響力人物》榜單,包括阿拉伯聯合大公國人工智慧部長Omar Al Olama、認知科學家Abeba Birhane、Google高管James Manyika、研究人員和政策顧問Alondra Nelson以及計算機科學教授Yi Zeng。
聯合國秘書長科技特使Amandeep Gill在10月25日的背景簡報中表示,這個小組是由秘書長科技特使辦公室挑選成員,同時徵求聯合國教科文組織等其他組織意見。
當被問及成員是否存在利益衝突時,官員表示「通過將各種不同利益放在一起討論,公正性將自然形成。」
如《時代》雜誌之前報導,該諮詢小組將在2023年底前發布一次中期報告,對國際人工智慧管理提供高層次分析。2024年8月31日前,它將發布最終報告,可能提供建立新國際人工智慧管理機構的功能、形式和時間表的詳細建議。
聯合國秘書長科技特使Amandeep Gill告訴《時代》雜誌,如果明年秋天舉行的峰會上存在建立聯合國人工智慧機構的政治意願,該小組的建議可能指導新機構的形式。
「聯合國在管理新興科技帶來的挑戰方面有數十年的經驗,」峰會上,Gill表示。「我們將在此基礎上,利用聯合國的公信力和召集力,為全人類提供人工智慧管理的獨特全球公共產品。」
該諮詢機構的首次會議將於10月27日舉行,屆時將選出共同主席。