人工智慧運算市場可能會在 2025 年發生轉變，為小公司帶來機遇。

英偉達在人工智慧運算領域佔據主導地位。不斷變化的工作負載可以使競爭對手受益。

Groq、Positron 和 SambaNova 等公司專注於推理，以挑戰 Nvidia 的市場地位。

到 2025 年，對於希望在人工智慧運算領域與價值 3 兆美元的大猩猩競爭的公司來說，潮流可能會轉變。

Nvidia估計佔據人工智慧運算 90% 的市佔率。儘管如此，隨著人工智慧使用的成長， 工作負載預計會發生變化，這種演變可能會為擁有有競爭力的硬體的公司帶來機會。

晶片新創公司 Positron AI 執行長 Thomas Sohmers 告訴 BI，到 2024 年，大部分人工智慧運算支出將轉向推理。他補充說，這將“繼續沿著指數曲線成長”。

在人工智慧中，推理是產生對使用者查詢或請求的回應所需的計算。向模型傳授回答所需的知識所需的計算稱為“訓練”。例如，創建OpenAI 的圖像生成平台Sora就代表着訓練。每个指示其創建图像的用户都代表一个推理工作负载。

OpenAI 的其他模型讓 Sohmers 和其他人對 2025 年計算需求的成長感到興奮。

OpenAI 的 o1 和 o3、Google 的 Gemini 2.0 Flash Thinking以及一些其他 AI 模型使用 更多運算密集型策略來提高訓練後的結果。這些策略通常稱為推理時間計算、思維鏈、推理鍊或推理模型。

簡而言之，如果模型在回答之前先思考更多，那麼答案就會更好。這種想法是以時間和金錢為代價的。

爭奪英偉達部分市佔率的新創公司正在嘗試優化其中一項或兩項。

Nvidia執行長黃仁勳在公司 11 月的財報電話會議上表示，Nvidia 已經從這些創新中受益。黃的潛在競爭對手押注，到 2025 年，新的人工智慧訓練後策略將使所有推理晶片供應商受益。

《商業內幕》訪問了三位挑戰者，講述了他們對 2025 年的希望與期望。以下是他們的新年決心。

在您的控制範圍內，有哪一件事可以讓2025年成為替代晶片的重要一年?

Groq 首席技術傳播者 Mark Heaps：

“執行、執行、執行。現在，Groq的每個人都決定今年不再休假。每个人都在執行和构建系统。我們都確保抓住我們所擁有的機會，因為在我們的掌控之中。

我告訴大家我們的漏斗現在充滿了碳酸並且冒著氣泡。客戶的興趣之大令人難以置信。我們必須建立更多的系統，並且必須維護這些系統，以便我們能夠滿足我們的需求。我們希望為所有這些客戶提供服務。我們希望提高每個人的費率限制。”

SambaNova Systems 執行長梁羅德里戈：

“對於SambaNova來說，最關鍵的因素是執行從訓練到推理的轉變。產業正快速朝向即時應用發展，推理工作負載正成為人工智慧需求的最大份額。我們的重點是確保我們的技術能夠為企業提供支援有效且可持續地擴大規模。”

Positron 執行長托馬斯·索莫斯 (Thomas Sohmers)：

“我的信念是，如果我們實際上能夠部署足夠的計算——值得慶幸的是，我認為從供應鏈的角度來看我們可以——透過部署更多的特定於推理的計算，我們將能夠提高‘思想鏈’的採用率'以及其他附加推理計算。”

2025 年，有哪一件事是你所希望但無法控制的？

Heaps：“這是關於客戶認識到相對於現有技術有新穎的進步。有很多人告訴我們，‘我們喜歡你所擁有的東西，但用一句古老的格言來說，重新表述一下：沒有人因為從以下地方購買而被解僱——現任插入。

但我們知道它已經開始沸騰了。人們意識到他們很難從現任者那裡獲得晶片，而且它的性能也不如 Groq。所以我希望人們願意抓住這個機會並實際研究其中的一些新技術。”

樑：“如果我有一根魔杖，我就能解決部署人工智慧的功耗挑戰。如今，大多數市場都在使用高耗電的硬件，而這些硬體並不是為大規模推理而設計的。結果是一種不可持續的方法——經濟上和環保。

在 SambaNova，我們已經證明有更好的方法。我們的架構消耗的電量減少了 10 倍，使企業能夠部署實現其目標的人工智慧系統，而不會超出其電力預算或碳目標。我希望看到市場更快採用優先考慮效率和永續性的技術，因為這就是我們如何確保人工智慧能夠在全球範圍內擴展而不壓倒支援它的基礎設施。”

Sohmers:“我希望人們能夠以最快的速度真正採用這些思想鏈能力。我認為從能力的角度來看，這是一個巨大的轉變。你擁有 80 億個參數模型，超過 700 億個參數模型。所以我試圖盡我所能來實現這一目標。”

你的新年新希望是什麼?

Heaps：“在過去的六個月裡，我參加了許多黑客馬拉松，並會見了開發人員。這非常鼓舞人心。因此，我的新年決心是努力放大人們利用人工智慧所做的善事的信號。”

樑：“騰出時間聽音樂。彈吉他是我一直喜歡的事情，我很想重新開始。音樂有這種令人難以置信的方式來理清思緒並激發創造力，我發現這在我們努力將 SambaNova 的人工智慧引入時非常寶貴。到地球的新角落。”

Sohmers：我想做同樣多的事情來鼓勵使用這些新工具來幫助我的媽媽。我進入科技領域的部分原因是因為我希望看到這些工具幫助人們能夠利用他們的時間做更多的事情——學習他們想要的一切，而不僅僅是他們從事的工作。我認為降低這些東西的成本將會促進這種擴散。

我個人也希望在我的工作環境之外看到並嘗試使用更多這些東西，因為過去幾週我一直沉迷於使用o1 Pro 模型，它對我的個人工作非常棒。但當我允許我媽媽做一些事情時，她會用它做的事情非常有趣——那些正常的、日常的人的任務，真正是作為一個助手。”

本文轉載自微信公眾號“半導體產業洞察”，FOREXBNB編輯：徐文強。