infinity

项目概述

Infinity 是一款为 LLM 应用构建的 AI 原生数据库，提供密集向量、稀疏向量、张量和全文的极速混合搜索。支持 RAG（检索增强生成）等多种 LLM 应用。

主要功能

• 极速搜索：百万级向量数据集 0.1ms 查询延迟、15K+ QPS
• 全文搜索：3300 万文档 1ms 延迟、12K+ QPS
• 混合搜索：密集向量、稀疏向量、张量和全文
• 多种重排序器：RRF、加权和、ColBERT
• 丰富的数据类型：字符串、数值、向量等
• 直观 Python API

适用人群

• LLM 应用开发者
• 构建 RAG 系统的团队
• 需要向量搜索的数据科学家

快速上手

1. 拉取 Docker 镜像：docker pull infiniflow/infinity:nightly
2. 运行容器：docker run -d --name infinity -v /var/infinity/:/var/infinity --network=host infiniflow/infinity:nightly
3. 通过 Python API 连接和使用

核心优势

• 单二进制架构，无依赖
• 极速混合搜索性能
• 可嵌入 Python 模块
• 开源免费

系统要求

• 操作系统：Linux（glibc 2.17+）、Windows 10+（WSL/WSL2）、macOS
• 支持架构：x86_64（AVX2）
• 额外依赖：Docker、Python 3.11+

注意事项

• 需要 x86_64 CPU 支持 AVX2
• Windows 需启用 WSL/WSL2