當前,人工智能技術及生態(tài)迭代加快,大模型產(chǎn)品及應用層出不窮,對智能算力提出更強性能、更大規(guī)模、更低成本的需求。作為關鍵環(huán)節(jié)與核心底座,以智算中心為代表的智能算力基礎設施,呈現(xiàn)哪些創(chuàng)新技術與趨勢,多模態(tài)大模型發(fā)展如何,本文帶你一覽。
大模型不斷迭代創(chuàng)新
今年7月,中國信息通信研究院發(fā)布《全球數(shù)字經(jīng)濟白皮書(2024年)》顯示,全球人工智能大模型共1328個。人工智能在很多領域里正在釋放潛力,可以應用到工業(yè)、醫(yī)療、能源、城市、交通等領域中。
從文字生成到圖片生成、視頻生成,大模型不斷迭代,由單模態(tài)像多模態(tài)發(fā)展,極大增加了智能算力需求,也給AI賦能千行百業(yè)帶來變革。
就在當?shù)貢r間12月9日,OpenAI推出最新版本的視頻生成大模型Sora-Turbo。新版Sora可生成最高1080p分辨率、最長20秒、寬屏、豎屏或方形的視頻,用戶可以利用資源進行擴展、remix、融合,也可基于文本生成全新的內容。OpenAI開發(fā)了全新的UI界面,并提供故事板工具讓用戶可以精準地指定每個幀的輸入。目前新版Sora的單視頻平均生成價格約0.4美元,該公司CEOSam Altam表示“大家可以將Sora看作視頻版的GPT-1”。
業(yè)內人士認為,視頻生成模型在今年有了長足進展,因此Sora-Turbo上線相比首次發(fā)布時帶來的沖擊較弱。本次迭代上線在基礎模型能力上并沒有太多亮點,生成速度在分鐘級左右,估算相關算力成本并沒有降低。有大模型從業(yè)者表示,僅看技術指標,國內現(xiàn)有視頻生成模型并不比sora差。
智算崛起背后的用電挑戰(zhàn)
智算帶來驚人的能源消耗,帶來高額成本,更讓企業(yè)想不到的是,有一天“電從哪里來”成為新挑戰(zhàn)。
據(jù)中國信通院測算,截至2023年底,全球算力基礎設施總規(guī)模達到910EFLOPS(FP32),同比增長40%。美國、中國算力基礎設施規(guī)模位列前兩名,算力占比分別為32%、26%。高算力背后是高電力。擁GPT4.0訓練需要經(jīng)過三個月,使用2.5萬塊GPU芯片,僅一次訓練就消耗了2.4億度電。在推理階段,大模型的耗電量同樣不容小覷。
為滿足新增能源需求及成本要求,美國科技企業(yè)盯上了核能直接向數(shù)據(jù)中心供電:
今年10月,谷歌宣布著手與核電企業(yè)簽署協(xié)議,爭取截至2030年起通過核電站實現(xiàn)快速安全供電,“這項協(xié)議將提供500兆瓦全天候無碳電力”。
日前,Mate發(fā)布征求建議書,表示計劃在2030年代初新增1-4GW的核能發(fā)電能力,并就此向有關核開發(fā)商尋求合作,以支持數(shù)據(jù)中心及其周邊供電的電網(wǎng)增長需求。
然而,這樣核電站直連數(shù)據(jù)中心供電的趨勢,已經(jīng)引發(fā)一些美國電網(wǎng)公司反彈,并被美能源部門“重點關注”。
今年11月初,美國“核電廠+數(shù)據(jù)中心”的標桿性交易——被美國聯(lián)邦能源管理委員會否決,該交易涉及6.5億美元以上,能源公司Talen出售核電站旁的數(shù)據(jù)中心園區(qū)(960MW)給亞馬遜,并長期供應核電。
電力賣方直接與買方進行電力交易,無需通過電網(wǎng),這種交易行為被形象的稱為“隔墻售電”。在中國,這樣的數(shù)據(jù)中心用電方式,正在被鼓勵。
8月6日,國家發(fā)展改革委、國家能源局和國家數(shù)據(jù)局聯(lián)合印發(fā)《加快構建新型電力系統(tǒng)行動方案(2024~2027年)》提到:數(shù)據(jù)中心通過建設配套可再生能源電站、與可再生能源發(fā)電企業(yè)直接開展電力交易等方式,降低運營成本,實現(xiàn)能源消費結構優(yōu)化及東、西部電力資源互補和優(yōu)化配置。
11月28日,國家能源局發(fā)布《關于支持電力領域新型經(jīng)營主體創(chuàng)新發(fā)展的指導意見》,指出“新型經(jīng)營主體原則上可豁免申領電力業(yè)務許可證,明確提出支持“隔墻售電”等新型電力交易模式。
綠色節(jié)能除了液冷還有這些
隨著GPU芯片快速演進,功率快速攀升,傳統(tǒng)的風冷模式很難滿足散熱需求,更高換熱效率的液冷正逐漸被數(shù)據(jù)中心和大模型企業(yè)接受。
這一背景下,成本與實施難度更低的冷板式液冷最先被IDC企業(yè)等接受,而由于GPU芯片的迅猛發(fā)展,散熱效率更高的浸沒式液冷也一改過去的“冷遇”,產(chǎn)業(yè)鏈上游、中游持續(xù)推出浸沒式液冷服務器、冷卻液等新品。
與此同時,在液冷之外,數(shù)據(jù)中心還開展了更精密空調、無水等綠色節(jié)能探索。
傳統(tǒng)數(shù)據(jù)冷卻系統(tǒng)采用水蒸發(fā)冷卻方式降低能源需求,微軟云服務部門此前介紹了下一代“0水蒸發(fā)數(shù)據(jù)中心設計”,采用新型芯片級冷卻解決方案,配備更高效水冷機,支持更高運行水溫,整體冷卻系統(tǒng)采用閉環(huán)水路,可實現(xiàn)服務器和冷卻器之間的冷卻水流循環(huán),一旦在建設過程中填充完畢就無需新鮮水源填充。這樣的數(shù)據(jù)中心每年可節(jié)約1.25億升用水。
在自然資源適合的“東數(shù)西算”集群,亦有數(shù)據(jù)中心采用全變頻氟泵自然冷精密空調進行更節(jié)能的制冷。通過智慧控制系統(tǒng),實施監(jiān)測各參數(shù)性能,動態(tài)調整制冷模式,智能適應四季變化,實現(xiàn)最佳節(jié)能匹配。同時采用無水化設計,通過高效風側自然冷技術消除水資源的消耗。
更多技術創(chuàng)新與應用實踐,盡在IDCC2024【算力技術創(chuàng)新與應用論壇】,12月30日,北京·首鋼園四高爐,等你來!
“多元重構 算力躍遷” 第十九屆中國IDC產(chǎn)業(yè)年度大典 報名二維碼
▲掃碼報名
算力技術創(chuàng)新與應用系列論壇
2024年12月20日
計算變革論壇
9:30-9:50
唐煒中國信息通信研究院產(chǎn)業(yè)與規(guī)劃研究所副主任
《人工智能算力發(fā)展趨勢展望》
9:50-10:10
關琦華為北京昇騰創(chuàng)新中心解決方案總負責人
《大模型與昇騰算力:融合創(chuàng)新,開啟智能新時代的大門》
10:10-10:30
單彤超聚變算智能數(shù)據(jù)中心規(guī)劃總監(jiān)
《多算力兼容高密液冷平臺》
10:30-10:50
楊震北電數(shù)智CMO、戰(zhàn)略與市場負責人
《“國產(chǎn)算力PoC平臺”加速AI新質生產(chǎn)力發(fā)展》
10:50-11:10
張帆九章云極DataCanvas首席戰(zhàn)略官
《算力包——算力普惠時代的核心引擎》
技術創(chuàng)新論壇
11:10-11:30
安真華為數(shù)字能源數(shù)據(jù)中心領域首席架構師
《擁抱AI碳索智算中心演進路線》
11:30-11:50
郝鳳云捷聯(lián)克萊門特集團數(shù)據(jù)中心事業(yè)部總經(jīng)理
《AI未來的溫度“智”控者》
11:50-12:10
劉凱美的樓宇科技水機產(chǎn)品公司企劃總監(jiān)
《美的智算數(shù)據(jù)中心建設、運營創(chuàng)新實踐》
14:00-14:20
王永真北京理工大學機械與車輛學院副教授、博士生導師,副所長
《<數(shù)據(jù)中心算力-電力-熱力協(xié)同術語>標準解讀》
14:20-14:40
曹波雙登集團股份有限公司技術副總監(jiān)
《AI智算與鋰電的融合之道》
14:40-15:00
譚曉陽京東云數(shù)據(jù)中心運維負責人
《京東云數(shù)據(jù)中心節(jié)能實踐》
15:00-15:20
楊晨光聯(lián)想xCloud智能云方案高級營銷經(jīng)理
《聯(lián)想xCloud智算方案》
重塑應用論壇
15:20-15:40
徐俊剛中國科學院大學教授
《大模型發(fā)展趨勢與應用》
15:40-16:00
肖建清中國電子云能源智算業(yè)務首席顧問
《大模型在能源行業(yè)中的應用》
16:00-16:20
傅帥青云科技智算解決方案總監(jiān)
《多元異構算力如何調度與管理》
引領中國數(shù)據(jù)中心產(chǎn)業(yè)風向的中國IDC產(chǎn)業(yè)年度大典(IDCC)將于北京·首鋼園(四高爐)迎來第十九屆盛會。本屆IDCC以“多元重構,算力躍遷——迎變算力新十年”為核心主題,深度探討從從中國算力到全球算力、技術創(chuàng)新到產(chǎn)業(yè)賦能,從理念革新到生態(tài)構建,洞見行業(yè)發(fā)展新趨勢。本此大會從內容形式、參會嘉賓級別、會議整體規(guī)格、參展企業(yè)規(guī)模、參會機構數(shù)量、活動持續(xù)時間、參會人數(shù)規(guī)模等均迎來全面重磅升級,8000+算力產(chǎn)業(yè)代表參會、5000+算力產(chǎn)業(yè)機構參與、1000重磅嘉賓蒞臨、100+優(yōu)秀算力企業(yè)參展,這是一場面向全球、面向未來規(guī)??涨暗漠a(chǎn)業(yè)盛會?。ù髸磳㈤_啟,敬請期待,報名請從速。)
“多元重構 算力躍遷” 第十九屆中國IDC產(chǎn)業(yè)年度大典 報名二維碼
掃碼報名
本屆大會在為期三天(12月18日晚到20日晚)的會期中,將采用“1+2+3+N”會議架構,涵蓋超二十場論壇和交流活動,包含一個算力基礎設施優(yōu)秀企業(yè)展、兩場算力產(chǎn)業(yè)主論壇、三場主題系列論壇,以及多場特色論壇及交流活動。