12月11日消息,吉尼美國初創(chuàng)公司Tiiny Lab推出了其最新產(chǎn)品Pocket Lab,證全這是球最一款專為個人LLM設計、主打完全離線運行的小迷“口袋AI超級計算機”。
這款設備憑借其極其緊湊的超算尺寸和強大的硬件配置,在“最小迷你PC(本地運行100B參數(shù)LLM)”類別下獲得了吉尼斯世界紀錄的發(fā)布官方認證。
Pocket Lab尺寸僅為14.2 x 8 x 2.5厘米,搭載重量約300克,內(nèi)存內(nèi)部配置也很強大:
處理器:基于ARM v9.2架構(gòu)的吉尼12核ARM CPU。
AI算力:定制異構(gòu)模塊(SoC + dNPU),證全提供約190 TOPS的球最總AI算力。
內(nèi)存與存儲:配備了高達80GB的小迷LPDDR5X內(nèi)存(其中48GB專用于NPU)和1TB SSD。
功耗:典型系統(tǒng)功耗為65W。超算
Pocket Lab最大的發(fā)布亮點在于,其能夠完全在本地離線狀態(tài)下運行高達1200億參數(shù)的搭載大模型,打破了以往對云端、服務器或高端GPU的依賴。
該公司通過TurboSparse(神經(jīng)元級稀疏激活技術(shù))和PowerInfer(開源異構(gòu)推理引擎)等技術(shù),實現(xiàn)了在低功耗下達到近似服務器級的性能,尤其針對10B至100B參數(shù)的個人AI “黃金區(qū)間”進行了優(yōu)化。
Pocket Lab支持一鍵安裝包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在內(nèi)的多種主流開源模型,并支持OpenManus、ComfyUI等AI Agent框架。
Tiiny AI確認,這些軟件功能和OTA硬件升級將在2026年1月的CES展會上正式發(fā)布,該產(chǎn)品的定價細節(jié)目前仍未公布。