QuantumNous

new-api

一个统一的AI模型聚合与分发网关,支持将各种大语言模型(LLM)交叉转换为OpenAI、Claude或Gemini兼容的API格式,适用于个人和企业级模型管理。

v1.0.0-rc.40
发布于
8 天前
49,012
星标
7,263
下载
同步于
1 天前

最新版本

v1.0.0-rc.402026年9月21日 23:15
下载慢?可在上方随时切换镜像源

项目说明

项目概述

New API 是一个下一代 LLM 网关和 AI 资产管理系统。它作为一个统一的 AI 模型中心,支持将各种 LLM 聚合和分发,并能将它们交叉转换为 OpenAI、Claude 或 Gemini 兼容的格式。

主要功能

  • 统一网关:聚合多种 LLM API,提供统一的访问入口
  • 格式转换:将不同 LLM 转换为 OpenAI、Claude 或 Gemini 兼容的 API 格式
  • 资产管理:提供组织级认证、多模型管理、用量分析和成本核算
  • 多种部署方式:支持 Docker Compose 和 Docker 命令快速部署

适用人群

  • 需要统一管理和分发多种 LLM API 的企业和开发者
  • 希望构建私有 AI 网关的组织

快速上手

  1. Docker Compose 部署(推荐):克隆仓库并编辑 docker-compose.yml,然后运行 docker-compose up -d
  2. Docker 命令部署:docker run --name new-api -d -p 3000:3000 calciumion/new-api:latest
  3. 部署完成后,访问 http://localhost:3000 开始使用

核心优势

  • 支持多种 LLM 的聚合与格式转换
  • 提供企业级的管理和审计功能
  • 部署灵活,维护简单

历史版本

排序