Modèle d'embeddings
Un modèle spécialisé dans la production d'embeddings plutôt que la génération de texte. Choisi sur la qualité de retrieval (score MTEB), les dimensions du vecteur, la longueur d'entrée max et le prix.
Ce que c'est
Les options vont des API hébergées (OpenAI text-embedding-3, Voyage, Cohere, Google) aux modèles ouverts que tu fais tourner toi-même (BGE, E5, Nomic). Ils diffèrent par les dimensions de sortie (qui pilotent le coût de stockage), la longueur de contexte, et la qualité de retrieval en benchmark.
Pourquoi c'est important
Un modèle à plus de dimensions retrouve parfois mieux mais coûte plus à stocker et chercher - un vecteur 3 072-d, c'est 4x le stockage d'un 768-d. Beaucoup de modèles permettent de raccourcir le vecteur (Matryoshka) pour échanger un peu de qualité contre beaucoup de coût.