选择计算插件

为您的向量工作负载选择合适的计算插件。

您有两种扩展向量工作负载的选项：

1. 增加数据库大小。本指南将帮助您为工作负载选择合适的大小。
2. 将工作负载分散到多个数据库。您可以在工程扩展中找到关于此方法的更多详细信息。

维度

嵌入向量的维度数量是选择合适计算附加组件的最重要因素。一般来说，维度越低性能越好。我们为一些更常见的嵌入维度提供了指导建议。对于每个基准测试，我们使用Vecs创建集合，将嵌入向量上传到单个表，并为嵌入列创建IVFFlat和HNSW索引（使用inner-product距离度量）。然后我们运行了一系列查询来测量不同计算附加组件的性能：

HNSW#

384 维向量 #

该基准测试使用 dbpedia-entities-openai-1M 数据集，其中包含 1,000,000 个文本嵌入向量，重新生成为 384 维向量。每个嵌入向量都是使用 gte-small 生成的。

960维向量 #

该基准测试使用了gist-960数据集，其中包含1,000,000个图像嵌入向量。每个嵌入向量为960维。

1536 维向量 #

该基准测试使用 dbpedia-entities-openai-1M 数据集，其中包含 1,000,000 个文本嵌入向量。对于计算附加项 large 及以下规格，还使用了来自维基百科文章的 224,482 个嵌入向量。每个嵌入向量均为 1536 维，由 OpenAI 嵌入 API 生成。

IVFFlat 索引#

（注：IVFFlat 是 Inverted File with Flat Compression 的缩写，是一种用于向量相似性搜索的索引方法。在中文技术文档中通常保留原名不翻译，但可以在首次出现时添加说明）

IVFFlat 是一种基于聚类的近似最近邻(ANN)搜索算法，通过将向量空间划分为多个聚类单元来加速搜索。它通过以下两个阶段工作：

1. 训练阶段：使用 k-means 算法将向量空间划分为 nlist 个聚类中心
2. 搜索阶段：只搜索距离查询向量最近的 nprobe 个聚类中的向量

这种索引方法在搜索精度和性能之间提供了良好的平衡，特别适合中等维度的向量数据（通常维度在100-1000之间）。

384 维向量 #

该基准测试使用 dbpedia-entities-openai-1M 数据集，包含 1,000,000 个文本嵌入向量，专门针对 384 维向量重新生成。每个嵌入向量均使用 gte-small 模型生成。

960 维向量基准测试 #

该基准测试使用 gist-960 数据集，其中包含 1,000,000 个图像嵌入向量。每个嵌入向量为 960 维。

1536 维向量 #

本基准测试使用 dbpedia-entities-openai-1M 数据集，其中包含 1,000,000 个文本嵌入向量。每个嵌入向量是通过 OpenAI 嵌入 API 生成的 1536 维向量。

性能优化技巧

有多种方法可以提升您的 pgvector 性能。以下是一些实用建议：

数据库预热

在生产环境上线前执行数千次"预热"查询非常有用。这有助于优化内存利用率，同时也能帮助确认您为工作负载选择了合适的计算规格。

微调索引参数

您可以通过增加 m、ef_construction 或 lists 参数来提高每秒请求数。但需要注意一个重要事项：这些参数值越高，构建索引所需的时间就越长。

更多技巧和完整的分步指南，请参阅AI应用生产环境部署指南。

基准测试方法

我们遵循ANN Benchmarks方法中概述的技术。Python测试运行器负责上传数据、创建索引和执行查询。pgvector引擎使用vecs实现，这是一个用于pgvector的Python客户端。

每个测试至少运行30-40分钟。测试包含在不同并发级别下执行的一系列实验，以测量引擎在不同负载类型下的性能表现。最终结果取平均值。

作为通用建议，我们推荐对大多数工作负载使用5或更高的并发级别，对高负载工作负载使用30或更高的并发级别。