昊梵体育网

很多用苹果m4-部署8b轻量化模型。m4 16g内存,最大优势就是显存内存一体。现在ai算力核心是显存。如果苹果发布一个大模型,肯定也是王炸存在。现在苹果今天同时把 M6 和 M5 Ultra 配置公布: M6:2nm、12核 CPU、12核 GPU、最高 32GB 内存、170GB/s 带宽 M

很多用苹果m4-部署8b轻量化模型。m4 16g内存,最大优势就是显存内存一体。现在ai算力核心是显存。如果苹果发布一个大模型,肯定也是王炸存在。现在苹果今天同时把 M6 和 M5 Ultra 配置公布:

M6:2nm、12核 CPU、12核 GPU、最高 32GB 内存、170GB/s 带宽
M5 Ultra:最高36核 CPU、80核 GPU、最高512GB内存、1.2TB/s 带宽

M6 的优势是新架构、单核和能效
M5 Ultra 则是暴力堆核心、内存和带宽

对本地 AI 来说,真正夸张的是:32GB vs 512GB

M6 更适合中小模型,M5 Ultra 已经进入本地运行数百B参数模型的级别了。苹果m5 m6的功耗肯定不会超过100瓦。本地部署个轻量化模型肯定香