lemonade

项目概述

Lemonade 是一个本地 AI 服务器，让你在自己的 NPU 和 GPU 上获得与云 API 相同的体验，完全免费且私密。它支持最新的聊天、编码、语音和图像生成模型。

主要功能

• Lemonade Server：安装为服务，可通过标准 OpenAI、Anthropic 和 Ollama API 连接数百款应用
• Embeddable Lemonade：可嵌入到自有应用中的便携式二进制文件，支持多模态本地 AI
• 模型管理：浏览和下载模型
• 别名管理：支持模型别名，实现环境无关的命名和主备故障转移
• 混合部署：可路由到 OpenAI 兼容的云提供商
• 移动端支持：提供 iOS 和 Android 客户端

适用人群

• 希望在本地运行 AI 模型的开发者
• 隐私敏感的用户
• 需要在应用中嵌入 AI 能力的开发者

快速上手

1. Windows：下载 .msi 安装包
2. Linux/macOS：从 Releases 下载
3. Docker：支持 Docker 部署
4. CLI 使用：lemonade run Gemma-4-E2B-it-GGUF
5. 代码：lemonade launch claude

核心优势

• 完全免费且私密
• 支持多模态模型（聊天、编码、语音、图像生成）
• 提供服务器和可嵌入两种形态
• 由 AMD 工程师优化

系统要求

• 操作系统：Windows、Linux、macOS