2016年,英偉達創(chuàng)始人黃仁勛將全球首款 DGX 交給了 OpenAI,加速了生成式AI革命的到來。如今,在ChatGPT這一現(xiàn)象級產(chǎn)品的帶動下,全球科技公司紛紛入場開發(fā)各自的大模型,預訓練和推理所需的算力需求也呈現(xiàn)指數(shù)級增長。
來自OpenAI的分析報告顯示,2012 年至2018年的6年間,人工智能訓練任務中使用的算力需求便增長了約30萬倍。這一趨勢下,GPU被廣泛應用于加速芯片,也讓全球GPU市場82%份額的英偉達成為其中的受益者。
“一臺包含8張A800的DGX超算,現(xiàn)在市面上的價格可能要到230萬元到250萬元之間,價格還在持續(xù)上漲。”位于上海張江的一家數(shù)據(jù)公司內,公司負責人陳運文正在向技術負責人紀達麒詢問算力設備的采購情況。
(相關資料圖)
上海張江一家初創(chuàng)公司 內部正在商討英偉達DGX的采購計劃
自從今年3月份發(fā)布了面向垂直領域的“曹植”大語言模型,龐大的算力規(guī)模需求,讓英偉達DGX的采購計劃,出現(xiàn)在了公司每周的日程表內。
算力成本高企
國內大模型開發(fā)者期待國產(chǎn)解決方案
“我們的算力平臺是自建的,像國內的云服務廠商,還沒有這么大的算力服務。我們現(xiàn)在采購的是DGX的高性能的一些解決方案,單套8張GPU價格接近200萬元,現(xiàn)在已經(jīng)采購了很多套。”在陳運文看來,現(xiàn)在市面上英偉達A800的供應還是有保障的,就是得排隊,真正難買的是存量的A100產(chǎn)品。
不過,無論哪種解決方案,算力成本短期內將給這些從事大模型開發(fā)的初創(chuàng)公司,帶來極大的困擾。陳運文表示,現(xiàn)在公司算力設施主要依賴于進口產(chǎn)品,他們也很期待,國內的GPU廠商能夠推出與之媲美的產(chǎn)品,來有效降低算力成本的投入。
而國內的GPU廠商,其實也已經(jīng)看到了AIGC帶來的算力機遇。國內GPU廠商燧原科技,早在兩年前就落地了國內第二個千卡集群的訓練項目,那時候AIGC還未引發(fā)關注。
燧原科技工作人員正在對產(chǎn)品進行測試
而現(xiàn)在AIGC火了,燧原科技看到了大模型預訓練之上的市場機會。燧原科技創(chuàng)始人、董事、CEO趙立東告訴記者,在大模型預訓練之上,還有一層Fine-tune精調層,再上面是推理應用層。
當有了基礎模型以后,還可以針對場景做一些精調的訓練,而這些訓練需要的算力需求就小了很多,準入門檻也低了很多,會有大量的開發(fā)者涌入這個賽道。針對這樣的需求變化,國內GPU廠商也在調整自身的產(chǎn)品路線圖,使得它更加符合AIGC時代的人工智能算力需求。
上海人工智能研究院院長助力、行業(yè)賦能中心主任楊浩也表示,國內通用芯片廠商目前有數(shù)十家,可能未來有一兩家脫穎而出,而更多的廠家會在FPGA、ASIC等專用芯片領域,找到新的市場機會。
新型算力研發(fā)提速
國內首條光子芯片中試線有望明年建成
傳統(tǒng)電子芯片技術已經(jīng)逼近物理極限,在AIGC時代,誰來承接人工智能計算需求的指數(shù)級增長?
以光子計算、量子計算為核心的新型算力技術,可能成為新的接棒者。
“傳統(tǒng)的電子芯片,包括英偉達的GPU,再早的CPU,一直沿著摩爾定律向前發(fā)展,而我們現(xiàn)在新型架構的芯片,是沿著滿足人工智能計算需求的方向發(fā)展,它的增長曲線一定是更陡峭的。” 圖靈量子創(chuàng)始人、上海交大教授金賢敏對記者表示。
上海交大金賢敏團隊將建成國內首條光子芯片中試線
自從2014年帶團隊從事光子芯片研發(fā)以來,從在校學術成果積累,到創(chuàng)辦公司進行產(chǎn)業(yè)化應用,金賢敏團隊即將迎來階段性成果——國內首條光子芯片中試線有望在明年年中建成,預計產(chǎn)能可達上萬片。
金賢敏非常自豪地告訴記者,如果在無錫的產(chǎn)線建成,他們將是全球范圍內唯一一個擁有光芯片流片中試線的團隊。
在AIGC時代,算力已經(jīng)成為大模型開發(fā)的短期瓶頸,而要解決算力短缺的問題,將是一個系統(tǒng)性的工程。上海社科院信息所研究員、互聯(lián)網(wǎng)研究中心主任惠志斌表示,現(xiàn)在不光要看到國外GPU廠商的一些先進的產(chǎn)品,更要立足長遠,在光子計算、量子計算等一些顛覆性技術的領域,也要加強科技攻關。
關于我們| 聯(lián)系方式| 版權聲明| 供稿服務| 友情鏈接
咕嚕網(wǎng) www.ulq4xuwux.cn 版權所有,未經(jīng)書面授權禁止使用
Copyright©2008-2023 By All Rights Reserved 皖ICP備2022009963號-10
聯(lián)系我們: 39 60 29 14 2@qq.com