Amazon 零售網站因 AI 代理採信過時 Wiki 的「不準確建議」而崩潰，公司被迫讓人類重新介入流程

(SeaPRwire) –   Amazon 週二重新調整了其每週例行的零售技術會議，旨在釐清為何其零售網站頻頻故障。據《Financial Times》報導，答案隱藏在內部文件中，但隨後被迅速刪除：這與其自身的 AI 計畫有關。

其零售網站在一週內遭遇了四次高嚴重性事故，包括上週四長達六小時的崩潰，導致購物者無法結帳、存取帳戶資訊及查看產品價格。這場由負責 Amazon 電子商務基礎設施的高級副總裁主持的會議，被定調為對故障原因的「深入探討」。據《Financial Times》報導，問題的根源正是 Amazon 一直推動其工程師採用的 AI 工具。

一份為該會議準備的內部文件最初將「GenAI 輔助的變更」列為自第三季以來一系列事故的因素之一。據查閱過該文件兩個版本的《Financial Times》報導，這一參考內容在會議召開前已被刪除。

Amazon 對此報導進行了反駁。該公司在一篇部落格文章中表示，僅有一宗事故涉及 AI 工具，且「沒有任何事故涉及 AI 編寫的程式碼」，事故原因是「一名工程師遵循了 AI 代理從過時的內部維基（wiki）中推斷出的不準確建議」。Amazon 還向媒體表示，該會議是例行的每週營運審查，而非緊急會議。該公司並稱，關於其為使用 AI 工具的工程師引入新的審批要求，以及 AWS 涉及任何事故的說法均不準確。

「作為正常業務的一部分，會議將包括審查我們網站和應用程式的可用性，因為我們致力於持續改進，」一位 Amazon 發言人告訴媒體。

然而，據 CNBC 獲取並報導的內部文件則講述了另一個故事。eCommerce Foundation 高級副總裁 Dave Treadwell 向員工說明：網站可用性近期表現不佳，而一系列 Sev 1 事故（針對導致重要系統癱瘓的最高嚴重性分類）需要立即關注。

但據 CNBC 報導，這些內部文件最初的內容講述了一個更複雜的故事。Treadwell 在備忘錄中承認，圍繞生成式 AI 使用的「最佳實踐和防護措施」尚未完全建立，並寫道公司將在涉及零售體驗最關鍵部分的部署中引入「受控摩擦」（controlled friction）。無論 Amazon 如何定義，傳達給工程師的訊息是：AI 輔助的變更現在需要受到更嚴格的審查。

對於 Amazon 而言，這類承認的時機點非常嚴峻。該公司剛超越 Walmart 登上《Fortune》500 強榜首，且在 AI 基礎設施上的支出超過地球上任何一家公司——今年預計資本支出達 2,000 億美元。

Amazon 也正在積極精簡人力。該公司在 10 月裁減了約 14,000 名企業員工（主要是中層管理人員），隨後在 1 月又裁減了 16,000 人。這是在 2022 年至 2023 年間裁減超過 27,000 名員工的基礎上進行的。6 月，Jassy 在一份內部備忘錄中寫道，由於 AI 驅動的「效率提升」，Amazon 將需要更少的員工，並重複強調了這家零售巨頭未來將減少人力依賴的願景。當 10 月裁員發生時，Jassy 在財報電話會議上將理由重新定義為「企業文化」，稱公司在疫情期間成長過快，Amazon 需要變得「精簡」並「快速行動」。

但另一份宣布同樣裁員的 Amazon 備忘錄則提到了適應「變革性技術」的必要性，這種說法比起「大掃除」更符合 AI 驅動的裁員邏輯。無論如何，Amazon 似乎發現自己在這個過程中需要更多的人類參與。

在 AI 相關裁員的世界中，這是一個有趣的敘事衝突。Jack Dorsey 的 Block 上個月裁減了近一半的員工（4,000 名員工），並明確將該決定與 AI 驅動的生產力提升掛鉤。Dorsey 表示，大多數公司將在一年內得出同樣的結論。Salesforce 的 Marc Benioff 在裁減 4,000 個支援職位後也表示，他需要更少的人手。高層的共識是，增加 AI 投資將透過精簡人力來實現回報。

但 AI 將減輕負擔的承諾並未實現——至少對於留下來的員工以及他們所管理的系統而言並非如此。根據《Wall Street Journal》報導，ActivTrak 對 164,000 名員工進行的一項新分析發現，AI 正在增加工作的速度、密度和複雜性，而不是減少它。員工採用 AI 工具後，花在電子郵件、訊息和聊天應用程式上的時間增加了一倍以上。投入於專注、不間斷工作（解決複雜問題所需的那種工作）的時間下降了 9%。同時，來自 Anthropic 的新研究表明，AI 理論上可以自動化的內容與實際自動化的內容之間存在巨大差距。即使在軟體和數學領域——理論上 94% 的任務可以由 AI 處理，但目前只有約 33% 實現了自動化。Anthropic 表示，法律限制和體制問題都在減緩部署速度。Amazon 的故障可能就是為何如此的一個現場演示。