苹果拟让大模型直接在iPhone本地运行
苹果正与AI初创公司PrismML初步接触,评估其模型压缩技术,目标是让大型AI模型直接在iPhone本地运行、无需依赖云端计算。PrismML(由Khosla Ventures投资)称,其技术可将模型内存占用降低10至15倍,使270亿参数的模型能在iPhone 15及以上机型运行,同时响应速度提升6至8倍、能耗降低3至6倍。
若技术落地,苹果有望将更多Siri及生成式AI功能转移至本地运行,提升响应速度与隐私保护、改善离线体验,并降低云计算成本。业内人士提醒,其对电池续航、稳定性及长期性能的影响仍需大规模实际应用验证。
来源:CNBC

