在人工智慧領域的許多不確定因素中,有一件事似乎一直很清楚:更大、更昂貴的系統能產生更好的結果。因此,像OpenAI這樣的模型開發商不斷籌集1570億美元的資金,以及大型科技集團的巨額資本支出。

然而,現在這種確定性的核心似乎正在瓦解。由於沒有新的數據來訓練軟體,研究人員正在努力透過投入更多的資源來獲得更聰明的輸出。淘金熱階段可能即將結束,為更靈活的新競爭者打開了大門。

FOREXBNB注意到,技術專家直到最近才認同人工智慧是“可擴展的”,這意味著越大越好。2020年,OpenAI的研究人員表明,當使用更多的數據、計算能力和參數(就像系統的旋鈕和刻度盤)進行訓練時,所謂的大型語言模型會以穩定的速度改進。

這引發了晶片和資料中心的軍備競賽,分析師預計,到2025年,光是微軟一家公司的資本支出就將達到640億美元,是通用汽車的六倍。Alphabet、亞馬遜、Meta平台、微軟和英偉達的總市值比2022年11月OpenAI發布ChatGPT時高出8万億美元。

人工智慧擴展定律的證據似乎正在瓦解。尖端系統已經吸收了世界上大部分有用且可用的訓練數據。多個人工智慧實驗室在改進下一代模型方面遇到了問題。Alphabet執行長皮查伊在最近的活動中表示,領先的模型已經達到了類似的性能水平,現在進一步改進的難度更高了。OpenAI的奧特曼在同一場會議上表示,“沒有牆”,同時他承認,AI規模擴大帶來的更容易的效益已經消退。

一些研究人員希望未來的進步將來自更好的演算法,而不是歷史上的暴力破解方法。一種被稱為“測試時間計算”的技術專注於增強推理過程,即客戶使用人工智慧系統的時間。給模型額外的時間來發現模式或使用新的數據可能會產生更好的結果,也許可以讓機器把大問題分解成小問題。雖然很有希望,但與人工智慧支持者一直在推動的以指數方式改進軟體的願景相比,這是一個退步。一旦一個模型考慮了一個問題的所有可能的答案,增加更多的時間不一定有幫助。如果人工智慧系統耗時太長,用戶也可能會到別處尋找答案。

大型語言模式遇到瓶頸 AI“淘金熱”時代即將來臨? - 圖片1

經濟放緩的傳言並未影響Alphabet、亞馬遜、Meta、微軟和英偉達的股價。一個新時代很可能會以不同的方式影響玩家。

可以說,英偉達的損失最大。黃仁勳的公司受惠於一股搶購矽片的熱潮,埃隆·馬斯克的xAI公司最近計劃建造一台擁有100萬個圖形處理單元晶片的超級計算機,是目前已經非常龐大的超級電腦的10倍。未來,公司可能更願意使用更專業、更便宜的半導體,這將使英偉達3.3兆美元的股權價值面臨風險。

OpenAI和Anthropic等模型開發商可能會感到矛盾。正面的一面是,如果他們不再需要訓練越來越大的系統,他們的財務報表將會受益。另一方面,人工智慧規模的終結將削弱這些公司的部分樂觀理由,即OpenAI或Anthropic的專有模型將變得越來越智能,並最終取代世界上大部分現有的軟體。

大型企業的情況也同樣好壞參半。好消息是,微軟的和同行們可能不再面臨眼看著競爭對手開發出一個能夠執行任何任務的超級智慧巨型模型的生存風險。如果人工智慧無限擴展,這種風險可能是可以想像的。輸掉這場競賽將意味著錯過可能是有史以來最偉大的創造財富的技術。因此,雖然頭獎現在可能變小了,但被更強大的競爭對手碾壓的風險也變小了。

從這種擔憂中解脫出來後,納德拉和皮查伊可以放下油門,等待更多的收入來證明所有的支出是合理的。股東們會很高興:過去鐵路和電信業的繁榮表明,對新技術的過度熱情是危險的。連祖克柏也承認,企業可能已經過度投資了。根據研究機構Epoch.ai的數據,最大模型的計算成本每8個月翻一番,訓練功耗每年翻一番。

然而,資本支出軍備競賽的結束也可能意味著進入門檻的降低。如果龐大的運算能力不再是主流,那麼新的新創公司應該能夠以最低的成本生產出具有競爭力的人工智慧產品,或許可以基於祖克柏的Meta提供的開源模型進行設計。可以想像,一股新的企業軟體業務浪潮將對廣泛使用的系統進行調整,以服務特定產業,例如法律專業人士或編碼人員。Y Combinator是一家為剛起步的矽谷公司提供資金和孵化的公司,其中有數百家潛在的新挑戰者。

無論哪家公司獲勝,如果人工智慧培訓成本停止螺旋式上升,對投資人來說可能都是個好消息。這可能是由於最近推理的價格急劇下降,或當客戶使用已經訓練好的模型時所產生的費用。

三年前,處理100萬個代幣(一個數據單位)的成本為60美元。據創投公司安德森·霍洛維茲稱,现在的成本為6美分。成本緊縮應該有助於採納,讓早期的進展跡象得以擴散。例如,Meta的季度廣告收入自Chatgpt之前的時期以來增長了46%,這可能是因為更好的廣告定位,而營運成本僅成長了5%。淘金熱之後的艱鉅任務是證明投資回報——並證明投資者令人眼花撩亂的預期是合理的。

大型語言模式遇到瓶頸 AI“淘金熱”時代即將來臨? - 圖片2