凱·費爾斯-巴特菲爾德 論如何負責任地運用人工智慧的力量

(SeaPRwire) –   Kay Firth-Butterfield 在過去十年積極探索問責與人工智慧的交集，並對未來感到興奮。她說：「我不是人工智慧悲觀主義者。我相信如果我們做對了，將會開啟許多有益的大門。」但她仍保持謹慎。去年醫生診斷出她罹患乳癌時，她很感激他們沒有過度依賴人工智慧，儘管人工智慧愈來愈常被拿來評估乳房攝影和核磁共振造影，甚至在治療計畫中也發揮作用。Firth-Butterfield 如今已經康復了，她比較不擔心機器會讀取她的乳房攝影結果，但她注意到過度依賴當前的 AI 模型可能會造成問題，因為有時候它們會提供錯誤的資訊。她的外科醫生也同意她的看法。

Firth-Butterfield 過去曾擔任法官和教授，如今已成為全球知名的負責任人工智慧權威之一，致力確保這些系統維持問責和透明性。去年四月，她結束了在世界經濟論壇擔任 AI 和機器學習負責人的五年半任期，在那裡她為企業、國家和其他組織制定負責任開發和使用人工智慧的架構和手冊。她向英國和巴西提供建議，協助其建構此類人工智慧系統，最終成為法律。她說：「如果你身為政府官員，且對公民使用人工智慧，那麼你必須能夠向公民說明其使用方式。」2016 年，Firth-Butterfield 共同創辦了負責任人工智慧研究所，該研究所向組織提供工具，協助其建構安全可靠的人工智慧系統，而她也擔任 U.S. Government Accountability Office 的顧問委員會成員，就科學與技術相關的人工智慧事項提供建議，並在 UNESCO 的國際人工智慧研究中心擔任顧問委員會成員。

如今，她也經營 Good Tech Advisory，與企業、政府、非營利組織和媒體合作，負責任地執行人工智慧。這表示協助制定使用依賴人工智慧的技術的準則，以最大幅度減少潛在危害，同時最大化效益並確保合乎法律規定。

Firth-Butterfield 身為 Good Tech Advisory 的執行長，一直協助美國的醫院了解人工智慧的潛在用途，包括用於判讀醫學影像和診斷。許多醫院沒有明確的準則，說明員工如何使用像 ChatGPT 這樣的程式，儘管 Firth-Butterfield 指出，這些工具通常會提供不正確的資訊。她說：「那些公司正在努力應對一些真正嚴重的負責任人工智慧選擇。」醫生使用人工智慧有效率地輸入筆記和處理行政事務，可以讓更多時間提供病人照護。但在高壓狀況下依賴人工智慧做出診斷可能很危險。而且如果病人病情惡化或死亡，誰要負責任的問題就成了問題。

Firth-Butterfield 指出，當人工智慧沒有被負責任地使用時，人們會受到傷害，而且女性和有色人種受到的傷害更為嚴重。例如，帶有偏見的演算法可能阻止工人獲得聘僱、不公平地駁回抵押貸款申請，或者根據臉部辨識做出錯誤的安全威脅決定。 

Firth-Butterfield 倡導的核心是要了解人工智慧如何影響社會中最弱勢的成員。在世界經濟論壇，她研究人工智慧在兒童身上的使用，並組織了智慧玩具獎，呼籲周延的執行。她說：「我們允許孩子玩由人工智慧支援的玩具，但我們卻不了解孩子們學到了什麼……也不知道他們的資料流向何處。」

Firth-Butterfield 表示，禁止在玩具或教室中使用人工智慧來保護兒童免於其潛在風險並非答案。她說：「我們確實需要讓兒童在教育中使用人工智慧，因為他們在工作中會用到它。因此我們必須找到一種負責任的方式，允許機器與人類之間的這種互動。」但教師需要掌握主導權。她說：「我們不能只把教育交給人工智慧；我們需要讓人類參與其中。」教師可以依賴人工智慧進行後端管理，騰出更多時間專注於幫助學生。 

密切注意系統建構方式非常重要，但 Firth-Butterfield 也擔心誰能參與。儘管超過 1 億人使用 ChatGPT，但仍有近 30 億人無法使用網路。她說：「我們正在以驚人的速度拉大數位落差，不僅在全球北方國家和全球南方國家之間，在國家內部也是如此。」儘管人工智慧有潛力革新學校的教學和醫療病人的治療方式，但世界上許多地方可能無法感受其影響。她說：「我們傾向於坐在象牙塔裡談論人工智慧如何以出色方式完成所有事情，卻忘了世界上很多地方尚未經歷網際網路革命。」

她說，我們對人們如何使用和依賴人工智慧的決策攸關我們未來的命運：「這取決於我們人類是否能夠建構出我們想要的社會。」

此個人簡介發表於 TIME 的一環，該活動表彰來自全球各地並在社群和產業推動變革的領導人。下一屆 TIME100 Impact Awards 頒獎典禮將於 2 月 11 日在杜拜舉行。