谷歌推出 AI Edge Gallery 应用程序,AI 完全离线运行在手机上

谷歌于5月31日悄然发行了AI Edge Gallery,这是一个直接在智能手机上运行的AI应用,无需互联网或与大型科技公司的服务器共享数据。

  • 开源应用程序 (Apache 2.0) 目前已在 GitHub 上发布,首先支持 Android,iOS 即将推出。
  • 完全离线运行AI模型,如Gemma 3n,从图像分析到编写代码仅使用手机硬件。
  • 主要功能包括:AI 聊天 (聊天),Ask Image (分析图像),Prompt Lab (单项任务,如重写文本)。
  • 用户可以从 Hugging Face 下载模型,但格式限制为 .task,尚未支持像竞争对手那样多。
  • 性能:小模型运行快速流畅 (~20 token/秒 CPU,超过 100 token/秒 GPU),表现良好,类似于早期的 GPT-3.5。
  • 主要优点:无需网络,安全性高,适合需要保持数据隐私的用户,如医生、记者。
  • 限制:大内存 (大约 4.4 GB),上下文窗口限制 4096 个 token,模型多样性不足,GPU 有时准确性低于 CPU。
  • 不需要像中心化服务那样担心严格的审查,可以使用简单的越狱。
  • 节省成本,因为没有云费用,只使用手机资源。

总之,这款应用适合需要AI安全保护、不联网或离线测试AI模型的人,尽管速度和体验尚无法与现代云AI服务相提并论。

查看原文
本页面内容仅供参考,非招揽或要约,也不提供投资、税务或法律咨询。详见声明了解更多风险披露。
  • 赞赏
  • 评论
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)