福强私学
看了下新的向量索引类型:CAGRA(Cuda Anns GRAph-based)暂时就不在KVectors(keevol.cn/#kvectors)里增加支持了,主要几个因素考虑:1. 英伟达卡和生态绑定(想走信创的路,肯定冲突)2. 构建索引的时候用GPU, 查询的时候走CPU,但其实构建索引的时候latency并没有那么重要; 而且,大多数企业其实对GPU的成本还是有顾虑。3. 单层图索引,而现阶段HNSW+Vamana这类单层图的组合足够好了。
1 week ago | [YT] | 0
福强私学
看了下新的向量索引类型:CAGRA(Cuda Anns GRAph-based)
暂时就不在KVectors(keevol.cn/#kvectors)里增加支持了,主要几个因素考虑:
1. 英伟达卡和生态绑定(想走信创的路,肯定冲突)
2. 构建索引的时候用GPU, 查询的时候走CPU,但其实构建索引的时候latency并没有那么重要; 而且,大多数企业其实对GPU的成本还是有顾虑。
3. 单层图索引,而现阶段HNSW+Vamana这类单层图的组合足够好了。
1 week ago | [YT] | 0