探索Google AI Edge Gallery：手机端离线AI体验新篇章
Google AI Edge Gallery开源项目，为Android用户带来离线生成式AI体验，支持多种交互模式，助力AI应用开发。
Google AI Edge Gallery概览
由Google AI Edge团队开源的Google AI Edge Gallery，让用户在手机端无需联网即可体验生成式AI。该项目源代码托管在GitHub，获得了众多关注。安装APK后，所有推理计算都在本地完成，支持Android系统，iOS版本正在筹备中。
项目概览图
Google AI Edge Gallery核心功能
离线推理
模型加载完毕后，即使断网也能使用，对隐私和时延有极大优势。
灵活切换模型
内置Hugging Face浏览器，可一键下载或导入自定义LiteRT .task模型，方便对比不同LLM的表现。
多模态交互
- Ask Image：上传图片提问，支持识别、描述和问题求解。
Ask Image示例
- AI Chat：多轮对话，适合日常问答与头脑风暴。
AI Chat示例
- Prompt Lab：内置摘要、改写、代码生成等单轮指令范例，便于快速实验。
Prompt Lab示例
性能监测
实时展示TTFT、解码速度与整体延迟，帮助开发者评估端侧部署成本。
Google AI Edge Gallery技术亮点
Google AI Edge平台
Gallery基于Google AI Edge的低代码API构建，支持文本、视觉与音频通用任务。
LiteRT运行时
LiteRT继承TensorFlow Lite，专为手机硬件加速优化，并计划取代TF Lite成为官方唯一维护的端侧运行时。
LLM Inference API
同名API允许在Android/iOS上完全离线执行大语言模型，为Gallery的聊天与Prompt Lab功能提供底层能力。
Hugging Face生态
Google与Hugging Face深度集成，用户可下载Gemini、Qwen、Dia-1.6B等量化模型到本地运行。
Google AI Edge Gallery典型应用场景
- 个人隐私场景：在无网络或敏感数据环境下完成文档总结、代码片段生成或图像分析。
- 开发者评测：通过实时性能面板对比不同模型的延迟与吞吐，快速选型。
- 教育与演示：离线演示生成式AI能力，避免课堂或会议Wi-Fi不稳定导致的体验中断。
Google AI Edge Gallery获取方式
APK可在GitHub Release页面或第三方平台Uptodown下载，借助Google AI Edge Gallery，离线大模型推理正从概念走向日常，让一部手机即可成为个人的AI工作站。
下载地址：网盘