
PrismML 宣稱可將 54GB 的大型 AI 模型壓縮至不到 4GB,在 iPhone 等終端裝置本地運行。Apple 正低調評估其技術,這可能重塑 Siri 發展路線與雲端/記憶體晶片需求結構,但也伴隨效能、耗電與產業鏈再洗牌風險。
在生成式 AI 爆炸成長、雲端伺服器與記憶體晶片供不應求之際,一家名不見經傳的矽谷新創 PrismML(PrismML Inc.)丟出了一枚「技術震撼彈」:聲稱能將動輒數十 GB 的大型語言模型壓縮到幾 GB,讓完整 270 億參數(27B parameters)的模型直接在 iPhone 這類消費裝置上本地運行。這項突破,正被 Apple(Apple Inc., AAPL)悄悄評估,牽動的不只是 Siri 的未來,更是整個 AI 基礎設施與記憶體供需格局。
PrismML 是從加州理工學院(California Institute of Technology, Caltech)研究團隊分拆出來的新創,獲得 Khosla Ventures 領投的 1,625 萬美元種子輪資金。公司周二公開釋出壓縮版的 Qwen 模型,原本約 54GB 的阿里巴巴開源模型,被壓縮到不到 4GB,仍保留 270 億參數,可在 iPhone 15 或更新機種上本地執行。PrismML 執行長 Babak Hassibi 向 CNBC 表示,Apple 與其他科技公司已在測試這些模型的速度、能源效率與裝置端表現,「正在認真評估我們的技術」,但目前仍是非常初期的對話,合作方向尚未定調。
技術關鍵在於極端的「量化」與資料表示簡化。PrismML 將模型內部儲存的數值,從一般常見的 16-bit 浮點數,壓縮成僅一到三種可能值,大幅降低記憶體占用。Hassibi 將其比喻為從 8-bit 邁向 4-bit 還要更激進的跳躍。PrismML 主張,壓縮後模型可減少 10 至 15 倍的記憶體需求、推論速度提升 6 至 8 倍、能源消耗降低 3 至 6 倍,意味過去需要一整台伺服器才能跑的大模型,未來可能在手機、筆電甚至機器人上本地完成計算。
不過,這種極端壓縮勢必付出效能代價。Hassibi 坦言,模型整體性能確實會下降幾個百分點,且「事實記憶」能力下降最明顯,其次才是推理、數學與程式能力。PrismML 對外提供兩種壓縮版模型免費下載,主打可在一般 iPhone、MacBook 以及搭載 Nvidia(Nvidia Corp., NVDA)GPU 的 PC 運行。未來壓縮對象還包括 Google(Alphabet Inc., GOOG/GOOGL)的 Gemma 模型、以及更大型、目前只能在資料中心硬體上運行的 frontier models。
對 Apple 而言,這種「模型瘦身」可能正好補上長期以來的戰略缺口。Apple 已在部分功能上使用裝置端 AI,例如翻譯、部分摘要與與個人資料高度綁定的服務,但更複雜的請求仍需透過私有雲或外部模型處理。Apple 剛開放 iOS 27 公測版,嘗試將延宕已久的 Siri(Siri)大改版,朝更智慧、可與 OpenAI、Anthropic 等對手匹敵的方向邁進,同時維持其強調的隱私與低延遲體驗。若 PrismML 技術成熟,Apple 就有機會把更大型、更聰明的模型直接塞進 iPhone,讓多數常見互動留在裝置端,只將最重度的任務丟給雲端。
產業分析師看見的是 Apple 在硬體與軟體整合上的獨特優勢。Horace Dediu(Asymco 創辦人)指出,Apple 會試圖讓絕大多數日常 Siri 互動在本地完成,雲端只負責最複雜的請求,關鍵不只是省記憶體,而是「在有限空間內塞進更聰明的模型」。Creative Strategies 分析師 Carolina Milanesi 則強調,若更多計算攝影、影片生成、健康與運動等高敏感度功能都能完全在端上執行,將大幅提升使用者對隱私的信任,「越多能在裝置端做的事,對這些個資來說就越好」。
然而,要把壓縮模型真正推向大規模消費市場,仍有不少現實考驗。Counterpoint Research 的 Tarun Pathak 指出,未來必須驗證模型在長篇輸入、多工情境下對電池續航的影響,以及在千百萬款裝置組合上能否維持穩定。IDC 客戶處理器研究主管 Phil Solis 更提醒,若模型足夠強大到需要頻繁或持續在背景運行,即便每次推論用電較少,累積耗電仍可能成為瓶頸,這對智慧型手機來說是關鍵風險。
這項突破也踩進了目前最火熱、也是最敏感的戰場:AI 帶動的記憶體與運算晶片需求超級循環。Morgan Stanley 近期估算,Apple 在 2027 會計年度,平均動態隨機存取記憶體(DRAM)每 bit 成本可能年增約 190%,NAND Flash 則可能上漲約 180%,逼得 Apple 可能將同級 iPhone 18 起跳價提高約 200 美元以維持毛利。PrismML 主張,其技術可讓原本需 8 顆 GPU 才能跑的大型雲端模型縮減為 1 顆,還能把原本只能在機房的模型移植到手機、筆電上,表面上看似對記憶體與伺服器需求是重大利空。
不過,華爾街多位分析師認為,「效率提升未必等於需求下滑」。D.A. Davidson 分析師 Gil Luria 指出,縮小模型只會改變晶片部署位置,並不消除對 GPU 與記憶體的需求,「晶片還是需要,只是可能從資料中心移到手機等裝置上。」他也指出,端裝置的 AI 推論往往使用率較低,很多時間處於閒置狀態,相較共享伺服器資源未必更省成本。過去在其他科技領域的經驗也顯示,一旦技術更便宜、更快速,往往會催生更多新服務與更高使用頻率,反而推高整體支出。
記憶體市場對「少用記憶體也能跑 AI」的技術消息向來極度敏感。今年 3 月,Google 發表 TurboQuant 論文,談到在不明顯犧牲性能情況下降低模型記憶體使用,Micron 等記憶體股一度重挫,之後才逐步回穩。這次 PrismML 將技術開放給一般使用者與開發者測試,若實際體驗證明其宣稱的效能與能效確實成立,勢必會重新引發市場對未來 DRAM、HBM(高頻寬記憶體)、甚至 Nvidia(NVDA)、Microsoft(MSFT)等雲端 AI 基礎設施股的估值爭論。
也正因為變數眾多,在 Apple 的 AI 佈局上,不少產業觀察家看好「雲端+裝置端」的混合架構將成為主流路線。Counterpoint 的 Pathak 形容,未來複雜、需要大量上下文與計算的任務仍會被丟到雲端,敏感、低延遲、與隱私高度相關的需求則會由本地模型完成,「兩者結合,才能提供完整、效率高又兼顧隱私的 AI 體驗」。在這個新格局下,PrismML 或類似技術若成功商用,將不只是 Apple 的內部優化工具,更可能成為整個 AI 生態系重新分工、重新定價的起爆點。
對投資人來說,觀察重點將集中在幾個關鍵:PrismML 壓縮後模型在真實大量使用情境中的穩定度與耗電表現;Apple 在未來 iOS 版本及新款 iPhone 上,是否實際導入這類端側大型模型;以及記憶體與雲端設備供應商的財報與展望是否開始反映「算力從機房外移到手機」的結構變化。若裝置端 AI 真能「瘦身成功」,接下來被瘦身的,可能不只是模型體積,還包括整個 AI 產業的商業模式與風險認知。
點擊下方連結,開啟「美股K線APP」,獲得更多美股即時資訊喔!
https://www.cmoney.tw/r/56/9hlg37
本網站所提供資訊僅供參考,並無任何推介買賣之意,投資人應自行承擔交易風險。






