華為聯(lián)合三大高校發(fā)布并開源AI容器技術(shù)Flex:ai,助力破解算力資源利用難題

新浪科技訊 11月24日晚間消息,聯(lián)合利用在近日的大高2025 AI容器應(yīng)用落地與發(fā)展論壇上,華為公司副總裁、布并數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰正式發(fā)布AI容器技術(shù)——Flex:ai。開源同時(shí),容器華為聯(lián)合上海交通大學(xué)、技術(shù)西安交通大學(xué)與廈門大學(xué)共同宣布,助力資源將此項(xiàng)產(chǎn)學(xué)合作成果向外界開源,破解助力破解算力資源利用難題。算力
當(dāng)前,難題AI產(chǎn)業(yè)高速發(fā)展催生海量算力需求,聯(lián)合利用但全球算力資源利用率偏低的大高問題日益凸顯,“算力資源浪費(fèi)”成為產(chǎn)業(yè)發(fā)展的布并關(guān)鍵桎梏:小模型任務(wù)獨(dú)占整卡導(dǎo)致資源閑置,大模型任務(wù)單機(jī)算力不足難以支撐,開源大量缺乏GPU/NPU的容器通用服務(wù)器更是處于算力“休眠”狀態(tài),供需錯(cuò)配造成嚴(yán)重的資源浪費(fèi)。
本次發(fā)布并開源的Flex:ai XPU池化與調(diào)度軟件,是基于Kubernetes容器編排平臺(tái)構(gòu)建,通過對(duì)GPU、NPU等智能算力資源的精細(xì)化管理與智能調(diào)度,實(shí)現(xiàn)AI工作負(fù)載與算力資源的精準(zhǔn)匹配,可大幅提升算力利用率。
據(jù)介紹,該技術(shù)深度融合了三大高校與華為的科研力量,形成三大核心技術(shù)突破:針對(duì)AI小模型訓(xùn)推場(chǎng)景中“一張卡跑一個(gè)任務(wù)”的資源浪費(fèi)問題,華為與上海交通大學(xué)聯(lián)合研發(fā)XPU池化框架,可將單張GPU或NPU算力卡切分為多份虛擬算力單元,實(shí)現(xiàn)算力單元的按需切分,使此類場(chǎng)景下的整體算力平均利用率提升30%;針對(duì)大量通用服務(wù)器因缺乏智能計(jì)算單元而無法服務(wù)于AI工作負(fù)載的問題,華為與廈門大學(xué)聯(lián)合研發(fā)跨節(jié)點(diǎn)拉遠(yuǎn)虛擬化技術(shù)。該技術(shù)將集群內(nèi)各節(jié)點(diǎn)的空閑XPU算力聚合形成“共享算力池”,促進(jìn)通用算力與智能算力資源融合;面對(duì)算力集群中多品牌、多規(guī)格異構(gòu)算力資源難以統(tǒng)一調(diào)度的痛點(diǎn),華為與西安交通大學(xué)共同打造Hi Scheduler智能調(diào)度器,實(shí)現(xiàn)AI工作負(fù)載分時(shí)復(fù)用資源。即便在負(fù)載頻繁波動(dòng)的場(chǎng)景下,也能保障AI工作負(fù)載的平穩(wěn)運(yùn)行。
海量資訊、精準(zhǔn)解讀,盡在新浪財(cái)經(jīng)APP 責(zé)任編輯:何俊熹
-
4000名選手暢跑2025重慶開州漢豐湖馬拉松工信部副部長:2024年中國民用航空產(chǎn)品產(chǎn)值突破1600億元中新人物丨馬龍,講不出再見日本“最小存儲(chǔ)卡”大賽結(jié)果出爐: 0.5MB SM卡奪冠華為Mate?80系列天貓首發(fā),超百萬網(wǎng)友涌入天貓官旗店鋪圍觀預(yù)訂雷軍提醒:輔助駕駛不是自動(dòng)駕駛 需時(shí)刻保持專注李斌稱為節(jié)省3萬元的加班費(fèi)改簽飛機(jī):這在蔚來以前不可想象西貝再現(xiàn)排隊(duì)現(xiàn)象:門店近40道產(chǎn)品降價(jià) 員工平均漲薪500元5999元起!華為MatePad Edge二合一平板電腦發(fā)布:平板、電腦需求一機(jī)滿足世界最大跨徑四主纜懸索橋燕磯長江大橋合龍
- ·亞太唯一!Gartner最新報(bào)告:阿里云在生成式AI四大維度均領(lǐng)先
- ·歌手白舉綱喊話游科《黑神話》DLC趕緊上:也期待鐘馗
- ·(粵港澳全運(yùn)會(huì))閉幕式特寫:于海天一色間繪就“星辰大?!?/a>
- ·新舟60西南增雨機(jī)完成首飛:轉(zhuǎn)入科研試飛階段
- ·付費(fèi)解鎖座椅加熱有人治了!紐約擬議法案限制車載訂閱服務(wù)
- ·烏方:美烏近日將在瑞士舉行會(huì)談
- ·2025菠蘿科學(xué)獎(jiǎng)得主:“抽象”設(shè)想亦具研究價(jià)值
- ·榮耀500系列明天發(fā)布 全系驍龍8系芯片、同檔唯一超聲波指紋
- ·以四大維度攻堅(jiān) 解商用出行痛點(diǎn):愛瑪馬赫構(gòu)建行業(yè)競爭格局
- ·中國推動(dòng)全球林木業(yè)產(chǎn)業(yè)鏈供應(yīng)鏈穩(wěn)定暢通
- ·又一智駕公司倒下!曝毫末智行原地解散:下周全員不上班
- ·曾罵自家員工是蒼蠅被開除 前極越公關(guān)負(fù)責(zé)人徐繼業(yè)加盟一畝田
- ·十字路口小米SU7被日產(chǎn)天籟攔腰橫撞:責(zé)任判了
- ·央視曝光豪車碰瓷特大騙保案:二手豪車專挑貨車撞 涉案金額超1億元
- ·海南航空比利時(shí)布魯塞爾直飛重慶航線首航
- ·重慶往返布魯塞爾國際航線22日正式開通
- ·谷歌對(duì)OpenAI見招拆招
- ·iOS微信更新發(fā)布 淘汰iOS 14 老iPhone徹底被拋棄!
- ·中新人物丨馬龍,講不出再見
- ·新國標(biāo)落地 央視透視領(lǐng)軍樣本:雅迪以擔(dān)當(dāng)描繪行業(yè)新未來
- ·別被騙了!長江存儲(chǔ)辟謠:沒有關(guān)閉致態(tài)SSD產(chǎn)線
- ·國產(chǎn)GPU第一股來了!摩爾線程下周一啟動(dòng)申購
- ·國產(chǎn)GPU第一股來了!摩爾線程下周一啟動(dòng)申購
- ·抖音生活服務(wù)推出六項(xiàng)扶持措施 助力中小商家和煙火小店經(jīng)營發(fā)展
- ·最貴蘋果手機(jī)!iPhone Fold售價(jià)將突破17000元
- ·男子舌頭天生異常:下面竟然長著兩條“流蘇”!
- ·每支不到1毛錢:金士達(dá)碘伏棉簽9.9元100支發(fā)車(京東16.9元)
- ·俞敏洪回應(yīng)用員工血汗錢旅游:老板們也在拼命努力 我熬夜時(shí)間一定不比你少
- ·法拉利博物館落戶北京城市副中心:亞洲首家 概念圖像汽車
- ·71歲董明珠現(xiàn)身直播間賣大衣 網(wǎng)友:很有氣質(zhì)就是1.5萬太貴
- ·小天鵝被惡意仿冒 致用戶誤買“小天鷗”!官方發(fā)聲明稱絕不姑息
- ·“數(shù)”問嶺南何處好?從3到55000“同”精彩
- ·甲骨文公司股價(jià)暴跌 埃里森凈資產(chǎn)縮水1300億美元
- ·公共場(chǎng)合死機(jī)不再尷尬!Windows 11新功能宣布:藍(lán)屏后15秒后關(guān)閉屏幕
- ·老用戶暫時(shí)別想:AMD確認(rèn)FSR Redstone僅適用于RX 9000!
- ·烏方:美烏近日將在瑞士舉行會(huì)談
