pocketpal-ai

项目概述

PocketPal AI 是一款私有 AI 助手，完全在手机上运行。你可以与语言模型聊天、赋予它们语音，并让它们使用工具——全部在设备上完成。无需账号、无需云端、无需联网。大多数 AI 应用只是别人服务器的一扇薄窗，你输入的每条消息都被发送、记录和分析。PocketPal 则反过来：AI 住在你的手机里，你的对话永远不会离开它。

主要功能

• 设备端聊天：完全离线运行 GGUF 语言模型（Gemma、Qwen、Phi、Llama 等）
• 文字转语音：使用设备端神经 TTS（Kokoro 等引擎）为助手赋予声音，无需云端调用
• Pals：创建个性化助手，拥有自己的模型、系统提示词和个性（助手型和角色扮演型）
• PalsHub：发现和安装社区 Pals，包括通过应用内结账购买的高级 Pals
• Talents 与工具：让有能力的 Pals 在工具使用循环中调用内置工具（计算器、日期/时间、富 HTML 渲染）
• Hugging Face 集成：直接从 HF Hub 搜索和下载 GGUF 模型（包括门控模型）
• 基准测试：测量 tokens/sec 和内存使用，并可选在 AI Phone Leaderboard 上比较
• 硬件加速：CPU、GPU（iOS 的 Metal、Android 的 OpenCL/Adreno）和 NPU（高通 Hexagon）推理路径，并优雅回退
• 本地化：支持 11 种语言，适配手机和平板，包括完整 iPad 支持

适用人群

• 注重隐私、不希望对话数据上传到云端的用户
• 需要在无网络环境（飞机、野外）使用 AI 助手的用户
• 希望在手机上本地运行大语言模型的 AI 爱好者
• iOS / Android 用户

快速上手

1. 从 App Store（iOS）或 Google Play / GitHub Releases（Android）下载安装
2. 打开应用，从内置模型库或 Hugging Face 下载一个 GGUF 模型
3. 选择模型后即可开始离线对话
4. 可按需配置 Pals、语音和工具

核心优势

• 默认私有：每条提示、回复和文档都留在你的设备上，不上传或存储到外部服务器
• 完全离线可用：下载一次模型后即可永久离线使用，无需连接和账号
• 在你已有的硬件上运行：真实语言模型、语音和工具，针对手机的 CPU、GPU 和 NPU 调优
• 免费开源：无订阅、无“专业版”解锁，MIT 许可证，公开构建

系统要求

• 操作系统：iOS / iPadOS、Android

注意事项

• 唯一离开设备的数据是你明确选择分享的内容：基准测试结果（如果你选择加入排行榜）和你通过应用提交的反馈
• 实际运行速度和内存占用取决于模型大小、量化方式和设备性能