苹果的端侧 AI,似乎被存储 “卡了脖子”。
在 AIGC 横空出世并迅速席卷全球的这两年间,苹果显然有些姗姗来迟。如今这位迟到的 “老大哥” 终于交出了自己的 “AI” 作品 —— 不是 Artificial Intelligence,而是 Apple Intelligence。
对于苹果的 AI 表现,外界大多认为 “有新意,但不多”。WWDC 召开当天,苹果美股不涨反跌近 2%,不过次日股价便 “收复失地”,一举涨超 7%,再创历史新高。
但并非所有苹果设备都能搭载 Apple Intelligence。在苹果 “精准的刀法” 下,iPhone 中仅有 15 Pro/Pro Max 支持 AI 功能,iPad 和 Mac 中也仅有 M1 芯片或更先进芯片机型支持。
这一次,DRAM 成为了苹果 AI 的关键与瓶颈。
知名分析师郭明錤指出,从配备 A16 的 iPhone 15 无法支持 Apple Intelligence、但 M1 机型可以支持,可推论出能否支持目前 Apple Intelligence 端侧模型的关键应该是 DRAM 大小,而非 AI 算力。
M1 的 AI 算力约为 11TOPS,低于 A16 的 17TOPS;但后者的 DRAM 为 6GB,低于 M1 的 8GB。因此,目前的 Apple Intelligence 端侧 AI 大模型对 DRAM 的需求约为 2GB 或更低。
对 DRAM 的需求可以用另一种方式验证。Apple Intelligence 采用设备端 3B 大模型,经过压缩后,随时需要预留约 0.7-1.5GB DRAM 来运行 Apple Intelligence 的端侧大模型。
苹果未来势必将进一步升级自家的端侧 AI,郭明錤预计最有可能升级到 7B 大模型,届时便需要更大的 DRAM 来运行。苹果日后是否会将此作为高低阶机型的产品分隔策略则有待观察。
AI 手机呼唤更大 “存力”
一直以来,苹果都在着力弱化 iPhone 中 DRAM 的存在感,历代 iPhone 的 DRAM 升级也堪称 “吝啬”。
在眼下已面世的 iPhone 系列中,iPhone 15 Pro/Pro Max 是唯二的 8GB DRAM 机型,从郭明錤之前另一篇分析来看,iPhone 16 系列将延续 8GB DRAM,这也将限制苹果的端侧大模型开发。
vivo 副总裁黄韬之前提到,大模型对手机运行存储性能的要求,起码是 8G 起步 —— 但那是之前。AI 大模型的发展速度令人咂舌,站在当下时点,8GB 似乎也要不够用了。
作为苹果的老对手,谷歌之前已经推出了以 AI 为主打卖点的新机型 Pixel 8 系列。但谷歌之后特别声明,最新的 AI 大模型 Gemini 仅能在 Pixel 8 Pro 上运行,拒绝在 Pixel 8 上运行 Gemini。
这两款机型基础硬件规格大致相同,最大的区别之一就是存储空间。谷歌解释称,Pixel 8 Pro 拥有 12GB DRAM,非常适合用来运行 Gemini Nano,可以充分释放它的潜力;但 Pixel 8 只有 8GB DRAM,如果贸然启用该功能,可能会影响用户的正常使用体验。
IDC 指出,16GB RAM 将成为新一代 AI 手机的基础配置。
联发科无线事业部 AI 技术高级经理庄世荣则认为,130 亿参数量大模型运行需要有 13GB 的存储容量(INT8),同时智能手机运行安卓操作系统需要 4GB 存储空间,相对流畅地运行其他手机 APP 需要 6GB 存储空间,AI 模型端侧推理部署的手机存储容量应该达到 23GB,才能够实现较好的用户软件使用体验。
本文来自微信公众号:科创板日报 (ID:chinastarmarket),作者:郑远方