Performance
Choisir la dimension de ses embeddings
Coût mémoire par vecteur, effet de la dimension sur le rappel, quantification et troncature : comment arbitrer avant d'indexer un gros corpus.
Performance
Performance
Latence, débit et empreinte mémoire des index
Mesure et réduction des latences de queue, dimensionnement mémoire et arbitrages entre rappel et vitesse.
Articles de ce thème (2)
Performance
Réduire la latence p99 d'un index vectoriel
Pourquoi la queue de distribution se dégrade avant la médiane : efSearch, filtrage par métadonnées, réindexation et effets de la mémoire sur les latences hautes.