120GB共享顯存無人能敵!酷睿Ultra 200H輕松跑1200億參數(shù)MoE大模型
近幾年的共享AI浪潮之下,端側(cè)AI成為一個重要的顯存發(fā)展分支和方向,憑借隱私保護、無人數(shù)據(jù)安全、酷睿成本控制、輕松空間友好等方面的跑億優(yōu)勢得到了越來越廣泛的應(yīng)用。
為此,參數(shù)各家廠商紛紛打造了各種各樣的模型端側(cè)AI硬件方案,比如蘋果Mac mini、共享AMD Strix Halo、顯存NVIDIA DGX Spark,無人都以迷你機的酷睿形態(tài),提供了強大的輕松算力和豐富的開發(fā)用戶應(yīng)用生態(tài)。
那么,跑億Intel呢?參數(shù)
其實,Intel有著更為豐富的端側(cè)AI硬件方案,遠超其他任何友商,包括AI PC輕薄本、AI高靜游戲本、AI臺式機、Mini AI工作站、AI工作站、邊緣/車載AI Box、AI NAS等等。
它們基于酷睿Ultra或者至強W處理器,可搭配核顯、獨顯乃至銳炫Pro專業(yè)顯卡,滿足端側(cè)通用、垂直行業(yè)、邊緣計算等眾多領(lǐng)域的不同需求。
日前在重慶舉辦的技術(shù)創(chuàng)新與產(chǎn)業(yè)生態(tài)大會上,Intel就集中展示了以旗艦型號酷睿Ultra 9 285H為代表的酷睿Ultra 200H系列的四大全新AI能力,包括:
更大的系統(tǒng)內(nèi)存、更大的共享顯存、更多的應(yīng)用場景、更多的產(chǎn)品選擇。
酷睿Ultra 200H系列最高可以支持128GB系統(tǒng)內(nèi)存,最高頻率LPDDR5X-8400或者DDR5-6400。
面向8000元以下價位段的主流市場,Intel推薦采用酷睿Ultra 9 285H處理器搭配64GB內(nèi)存,專業(yè)、日常全場景需求都能滿足。
針對萬元價位以上價位段的發(fā)燒友、開發(fā)者市場,Intel推薦采用酷睿Ultra 9 285H處理器搭配96GB或128GB內(nèi)存,帶來更強的AI算力。
由于目前內(nèi)存的價格實在離譜,第一批次產(chǎn)品的內(nèi)存容量基本都是最高96GB。
值得一提的是,酷睿Ultra 9 285H處理器的整體AI算力高達99 TOPS,其中iGPU 77 TOPS ,可確保大參數(shù)AI模型流暢運行,NPU 13 TOPS,專為高能效AI推理設(shè)計,CPU 9 TOPS,可保障系統(tǒng)快速響應(yīng)與低時延處理。
不同于友商,Intel陣營的產(chǎn)品形態(tài)更加豐富,不止有迷你機,還有筆記本,而且都是品質(zhì)更高的商用本甚至工作站級筆記本。
現(xiàn)場展示的首批產(chǎn)品,包括:華碩NUC15 Pro、零刻GTi15、創(chuàng)盈芯A3A、極摩客EVO-IT、機械師MiniGTS、六聯(lián)MTB19D、Geekom NUCAR01-C包括戴爾Pro Max 16、惠普戰(zhàn)99 16 Gli、聯(lián)想昭陽悅Plus 16IAH等等。
AI不但需要大內(nèi)存,更需要大顯存,AMD做到了96GB,NVIDIA做到了100GB,Intel則更加靈活、強大。
在Intel顯卡驅(qū)動控制中心,開啟“共享GPU內(nèi)存覆蓋”,就可以自由選擇共享顯存的比例,最少為系統(tǒng)內(nèi)存的5%,最多可達95%。
也就是說,如果你的系統(tǒng)內(nèi)存為128GB,最多可以共享120GB作為顯存,96GB系統(tǒng)內(nèi)存則能共享90GB,這是其他廠商都做不到的。
有了如此海量的顯存,最直接的好處就是能夠以更快的速度、運行更大參數(shù)量的大模型,從而用于更多的應(yīng)用和場景,最高甚至能輕松搞定1200億參數(shù)規(guī)模的MoE專家模型。
Intel現(xiàn)場演示了本地運行GTP-OSS-20B、Qwen3-30B-A3B、Qwen3-Next-80B-A3B、GTP-OSS-120B等不同參數(shù)量的MoE專家模型,逐步上強度,都輕松搞定。
最關(guān)鍵的是,Tokens生成速度相當快,并非每秒幾個勉強能跑的樣子,而是都達到了幾十個、十幾個,輸出速度超過了人的閱讀速度。
AI續(xù)寫《紅樓夢》也非常有意思,只需給出設(shè)定條件,AI就能洋洋灑灑一揮而就,很快就能寫出幾千字的情節(jié),頗有閱讀性和戲劇性。
Intel率先支持并優(yōu)化了DeepSeek-R1 OCR模型,它擁有先進的光學壓縮技術(shù),可以準確處理文檔資料,并支持更長的內(nèi)容。
在酷睿Ultra 200H系列高算力的支持下,能夠精準識別圖像中的文字與排版格式,一鍵轉(zhuǎn)換為可編輯文檔,不但輸入處理速度更快,還能顯著降低內(nèi)存消耗,并大幅提升識別效率與系統(tǒng)響應(yīng)能力。
無論是復雜多變的掃描文檔,還是帶有各種圖表的題目,抑或格式復雜的表格,都不在話下。
對于醫(yī)療處方影像、法務(wù)合同文書、培訓學習教材、財會報銷票證、學習筆記資料,這些需要內(nèi)部保密,不方便上云處理的,更適合在本地端側(cè)搞定,離線也不影響。
TTS文字轉(zhuǎn)語音領(lǐng)域,無論是語音合成、聲音克隆,還是多語言支持、多音色定制不在話下,在本地生成具有自然音色、節(jié)奏、情感的語音,實現(xiàn)個性化聲紋的定制。
在端側(cè)運行,更能保證個人聲音不至于外泄而被惡意利用。
目前,Intel已經(jīng)與眾多TTS模型進行了合作,包括FastSpeech2、FireRedTTS2、GPT-Sovits、MeloTTS、OpenVoice2、Paler-TTS、Speech-t5、voxCPM-0.5B,等等。
視覺語言理解方面,可以實現(xiàn)“慧眼”識物。
酷睿Ultra 9 285H支持用戶上傳圖片或者通過多個攝像頭,采集圖片和視頻,在借助內(nèi)置模型實時解析畫面內(nèi)容,提供即時反饋。
得益于Intel XPU架構(gòu)的深度優(yōu)化,首字生成速度得以大幅提升,從而帶來更流暢、更直觀的視覺交互體驗。
當然,我們還可以將OCR、LLM、MCP、TTS、I2V等多種能力組合在一起,處理更加復雜的任務(wù)。
酷睿Ultra 200H系列通過支持模型上下文協(xié)議(MCP),可賦予AI智能體強大的理解、記憶與執(zhí)行能力,能夠基于環(huán)境感知進行連續(xù)任務(wù)處理,讓AI真正可以獨立規(guī)劃、連續(xù)執(zhí)行。
比如最近非?;鸬?ldquo;康熙之父野史”,AI就能快速生成相關(guān)視頻,其中就包括OCR歸檔資料、本地模型整理資料、重點內(nèi)容生成PPT、模仿音色完成配音、AIGC視頻生成等用到了不同能力的多個步驟。
Intel與群聯(lián)電子共同將aiDAPTIV+技術(shù)與酷睿Ultra 200H系列處理器結(jié)合,通過PCIe 5.0 AI SSD實現(xiàn)“以存代算”,顯著加速模型推理。
aiDAPTIV+是群聯(lián)電子、MaiStorage聯(lián)合開發(fā)的AI技術(shù),專為Intel AI PC平臺優(yōu)化,通過將閃存納入AI系統(tǒng)存儲池,將無需放在內(nèi)存中的數(shù)據(jù)卸載至SSD,從而實現(xiàn)低預算生成式AI訓練與推理,推理性能比核顯高出10多倍,程序響應(yīng)時間則可從73秒縮短至4秒。
這一技術(shù)不僅可以支持更快的響應(yīng)速度、更長的長下文、大幅縮短響應(yīng)速度,還能夠以更低的投入,提供更快速、流暢的端側(cè)AI體驗。
如果這些還是不能滿足你,還可以通過40Gbps帶寬的雷電4或者80Gbps帶寬的雷電5接口,進行雙機互連,構(gòu)建一個經(jīng)濟、高效的本地算力集群,樂趣加倍!
有了兩顆酷睿Ultra 9 285H處理器、192GB甚至是256GB內(nèi)存,就可以玩轉(zhuǎn)更大的模型,MoE模型甚至能搞定235B也就是2350億參數(shù)規(guī)模。
還可以通過雙機DP模式,滿足更多的并發(fā)用戶,或者雙機分別運行不同模型,支持更加復雜的應(yīng)用場景。
另外,針對有著更高需求的專業(yè)用戶、中小企業(yè)、工作室,Intel最近還推出了銳炫Pro B60專業(yè)顯卡,搭配酷睿Ultra或者至強W處理器,可組成更強大的工作站,支持單卡、雙卡、四卡、八卡甚至是多塊雙芯卡的不同組合,還可以搭配Gaudi AI加速器。
銳炫Pro B60就是為AI推理而生,基于Xe2微架構(gòu),擁有20個Xe核心、24GB大顯存,帶寬456GB/s,峰值算力197 TOPS。
還有低一檔的銳炫Pro B50,面向圖形工作站,擁有16個核心、16GB顯存、170 TOPS峰值算力。
目前已有華擎、藍戟、撼與、傲世、銘瑄、Senao、Lanner等多家廠商推出了不同形態(tài)的銳炫Pro B60/B50顯卡,包括MXM迷你卡、半高式刀卡、無風扇被動散熱等。
銘瑄、撼與更是打造了雙芯的銳炫Pro B60,單卡就有48GB顯存,八卡并行就有恐怖的384GB!
基于銳炫Pro B系列顯卡的工作站方案,也正在不斷涌現(xiàn)。
憑借酷睿Ultra 200H系列處理器、銳炫Pro B60專業(yè)顯卡,Intel正在打造令人耳目一新的端側(cè)AI硬件平臺方案,靈活滿足多行業(yè)多領(lǐng)域的不同需求,并且不斷優(yōu)化,擁有更豐富的AI能力。
明年,隨著酷睿Ultra 300系列(Panther Lake)處理器的問世,隨著性能、能效的再次飛躍,相信Intel還會帶來更多驚喜玩法!
-
普京:俄方愿和平談判但需對“28點新計劃”進行實質(zhì)性討論華碩天選6X臺式機評測:酷睿Ultra 5處理器穩(wěn)定高效 專業(yè)售后使用更安心華為Mate 80 Pro包裝盒亮相:麒麟9030、麒麟9030 Pro雙芯片宋雨琦驚喜亮相OPPO Reno15發(fā)布會:美到溢出屏幕小米之家重返法國!巴黎首店正式開業(yè)雷軍罕見硬剛回應(yīng)!同日公關(guān)負責人被曝調(diào)整(粵港澳全運會)“十五運”男子跳高 李佳倫奪冠AI沒有泡沫 NVIDIA將成科技行業(yè)救世主:3天后巨大利好(粵港澳全運會)十五運會項目全部收官!他們“一吻別賽場”越歪曲抹黑越大賣!雷軍遙遙領(lǐng)先友商:小米汽車今年目標完成了 第35萬臺車將交付
- ·卷完光源卷鏡頭!當貝X7 Max投影儀評測:純?nèi)す庖哑占?鏡頭移軸新賽道出現(xiàn)!
- ·《塞爾達傳說》首部真人電影首批劇照來了:塞爾達、林克亮相
- ·報告:中國三大國際科技創(chuàng)新中心實力持續(xù)領(lǐng)先
- ·(粵港澳全運會)全運會吉祥物表演者:讓大家笑著走出賽場,是最有成就感的事
- ·(粵港澳全運會)十五運會項目全部收官!他們“一吻別賽場”
- ·諾貝爾物理學獎得主:相信有外星人的存在
- ·(粵港澳全運會)張展碩全運會1500米自由泳奪冠
- ·理塘丁真喜提蔚來新ET5T 體驗3分鐘換電
- ·羅永浩:如果不做TNT 錘子科技有可能不倒閉
- ·AI漫評|高市或把日本推下萬劫不復深淵
- ·雷軍罕見硬剛回應(yīng)!同日公關(guān)負責人被曝調(diào)整
- ·三大平臺雙11終極官榜出爐 德施曼登頂全平臺第一
- ·實測十幾塊和上百塊的充電頭到底有什么區(qū)別:安全性差太多
- ·三星內(nèi)存漲價:手機/電腦抓緊時間買了
- ·(粵港澳全運會)許杰贏得男子花劍個人賽金牌
- ·(粵港澳全運會)黃東萍/歐烜屹含淚退賽 “雅思”組合晉級四強
- ·托卡耶夫會見帕什尼揚 哈亞關(guān)系提升至戰(zhàn)略伙伴水平
- ·2025人工智能+大會雙重認可!周鴻祎獲聘人工智能百人會高級顧問、“納米AI”榮登AI100應(yīng)用標桿
- ·2年近8倍性能提升 AMD下代AI顯卡將超越NVIDIA旗艦
- ·AI沒有泡沫 NVIDIA將成科技行業(yè)救世主:3天后巨大利好
- ·女子奔喪退票被索要“火化證明” 去哪兒網(wǎng)回應(yīng)
- ·中國移動推進星閃技術(shù):有效緩解信道競爭 減少設(shè)備并發(fā)沖突
- ·小米澎湃OS 3被贊安卓最強手機系統(tǒng) 盧偉冰:繼續(xù)努力
- ·流星雨之王來襲!獅子座流星雨今晚迎來極大之夜
- ·世界最大跨度四主纜懸索橋合龍:33萬公里鋼絲可繞地球8圈
- ·(粵港澳全運會)十五運會“新鮮事”拉升灣區(qū)“向心力”
- ·2025廣州車展:豆包大模型規(guī)?;宪? 新車搭載量行業(yè)第一
- ·百余干部同場深度體驗 每日互動個知·智能工作站展現(xiàn)強勁市場拓展力
- ·1.2萬億投資美國芯片 臺積電回本難:美國公司利潤暴跌99%
- ·10A索羅娜、7A新疆棉:網(wǎng)易嚴選純色長袖T恤2件69元半價狂促
- ·通訊:父女養(yǎng)蜂人釀就甜蜜事業(yè)
- ·還有家庭倫理戲! 《燕云十六聲》AI NPC被老外瘋狂調(diào)戲
- ·劉強東:我和太太在全世界出差 首選Rosewood 它最有品位
- ·報告:中國三大國際科技創(chuàng)新中心實力持續(xù)領(lǐng)先
- ·小雪節(jié)氣的打開方式:為啥此時要腌菜?
- ·11月17日人民幣對美元中間價報7.0816元 上調(diào)33個基點
