跳到正文
硅脉动SiliconMai

谷歌发布AI Edge Gallery,支持手机离线运行模型

Android实验版可下载Hugging Face开源模型,在设备上完成问答、代码和图像任务;iOS版本计划随后推出。

硅脉动
谷歌资料图

谷歌推出AI Edge Gallery实验应用,允许用户在手机上查找、下载并运行Hugging Face开源模型。Android版本已经提供,iOS版本计划随后推出。

模型可离线调用手机处理器,完成图像问答、聊天、代码编写和编辑等任务。无需把数据发送到远程服务器,对敏感信息和无网络环境具有实际价值。

应用主界面按任务展示兼容模型,例如谷歌Gemma 3n。Prompt Lab还提供文本总结和改写模板,用户可以调整参数并比较模型输出。

谷歌把当前版本标记为Alpha,提醒速度和效果取决于设备性能与模型大小。较大模型在图像任务上需要更长处理时间,端侧算力和内存会限制可运行范围。

本地模型通常不及云端大型模型,但可以降低网络延迟和云端推理成本。对开发者而言,端侧部署也需要在精度、包体、耗电和响应速度之间取舍。

该应用通过GitHub发布,并采用Apache 2.0许可证,允许在商业等多数场景使用。谷歌正在征集开发者反馈,现阶段更像测试与分发工具,而非面向普通用户的成熟产品。

端侧模型能否扩大使用,取决于兼容设备数量、开发者提交模型和实际任务表现。Alpha版本提供了入口,但尚未披露活跃用户或正式上架时间。