輝達（Nvidia）對Groq的押注顯示，人工智慧晶片製造的經濟效益仍不明朗

(SeaPRwire) –   透過GPU打造了其人工智慧帝國。但它對Groq高達200億美元的投資表明，該公司並不確信僅靠GPU就能主導人工智慧最重要的階段：大規模運行模型，即所謂的推理。

當然，在人工智慧推理方面取得勝利的關鍵在於經濟效益。一旦模型訓練完成，它所做的每一件有用的事情——回答查詢、生成代碼、推薦產品、總結文件、驅動聊天機器人或分析圖像——都發生在推理階段。這一刻，人工智慧從沉沒成本變成了能產生收入的服務，同時伴隨著降低成本、減少延遲（即等待人工智慧回答所需的時間）和提高效率的壓力。

正是這種壓力，使得推理成為了該行業下一個潛在利潤的戰場，也解釋了為什麼Nvidia在聖誕節假期前宣布的一筆交易中，從Groq（一家專門為快速、低延遲人工智慧推理設計晶片的初創公司）獲得了技術授權，並僱用了其大部分團隊，包括創始人兼首席執行官Jonathan Ross。

推理是人工智慧的「工業革命」

Nvidia首席執行官黃仁勳已經明確指出了推理的挑戰。雖然他表示Nvidia「在人工智慧的每個階段都表現出色」，但他在11月公司的第三季度收益電話會議上指出，推理「非常非常困難」。現代推理遠非簡單的輸入一個提示就得到一個答案，它必須支持持續推理、數百萬並行用戶、保證低延遲以及嚴格的成本限制。而必須處理多個步驟的人工智慧代理，將會大幅增加推理的需求和複雜性，也會提高出錯的代價。

「人們認為推理只是一次性的，因此很容易。任何人都可以以這種方式進入市場，」黃仁勳說。「但事實證明，它是所有事情中最難的，因為思考，事實證明，是相當困難的。」

Nvidia對Groq的支持強化了這一觀點，也表明即使是在人工智慧訓練領域佔主導地位的公司，也在對推理的經濟效益最終走向持謹慎態度。

黃仁勳也直言不諱地表示，推理將對人工智慧的增長至關重要。在最近BG2播客的一次對話中，他指出推理已經佔據了超過40%的人工智慧相關收入，並預測它「即將增長十億倍」。

「這是大多數人還沒有完全理解的部分，」黃仁勳說。「這就是我們所討論的行業。這就是工業革命。」

這位首席執行官的信心，解釋了為什麼即使推理的基本經濟效益仍不確定，Nvidia仍願意積極對推理的交付方式進行多元化投資。

Nvidia想壟斷推理市場

Cambrian AI Research的創始人兼首席分析師Karl Freund表示，Nvidia正在分散投資，以確保自己能涉足市場的各個領域。「這有點像Meta收購 ，」他解釋道。「並不是他們認為Facebook不好，他們只是知道有一種替代方案，他們想確保這種方案不會與他們競爭。」

即便如此，黃仁勳曾對現有Nvidia推理平台的經濟效益提出過強有力的論點。「我懷疑他們發現該平台與客戶的共鳴程度不如他們所希望的，或者也許他們在Groq和另一家名為D-Matrix的公司所採用的基於晶片記憶體的方法中看到了一些優勢，」Freund說。他指的是另一家由 支持的快速、低延遲人工智慧晶片初創公司，該公司以20億美元的估值籌集了2.75億美元。

Freund表示，Nvidia對Groq的投資可能會提升整個類別。「我相信D-Matrix現在是一家相當高興的初創公司，因為我懷疑由於[Nvidia – Groq交易]，他們下一輪融資的估值將會高得多，」他說。

其他行業高管表示，隨著人工智慧從聊天機器人拓展到機器人、無人機和安全工具等實時系統，人工智慧推理的經濟效益正在發生變化。這些系統無法承受將數據往返傳輸到雲端所帶來的延遲，也無法承受計算能力可能無法隨時可用的風險。相反，它們更青睞像Groq這樣的專用晶片，而不是集中式的GPU集群。

OpenInfer的創始人兼首席執行官Behnam Bastani表示，他的初創公司專注於在數據生成的附近運行人工智慧推理，例如在設備、感測器或本地伺服器上，而不是在遙遠的雲端數據中心。他說他的初創公司的目標是「邊緣」應用。

他強調，推理市場仍處於起步階段。Nvidia希望通過與Groq的交易壟斷這個市場。由於推理的經濟效益仍不確定，他表示Nvidia正試圖將自己定位為一家覆蓋整個推理硬體堆棧的公司，而不是押注於單一的架構。

「這讓Nvidia成為了一把更大的傘，」他說。