Embedding
Une liste de nombres (un vecteur) qui représente le sens d'un texte, de sorte que des sens proches soient proches. La brique de base de la recherche sémantique et du RAG.
Ce que c'est
Un modèle d'embeddings transforme du texte en un vecteur de longueur fixe - souvent 384 à 3 072 nombres. Des textes de sens proche donnent des vecteurs proches selon une mesure de distance, en général la similarité cosinus.
Les API d'embeddings sont facturées au token d'entrée, comme un LLM, mais bien moins cher - souvent 0,02 à 0,15 $ par 1M.
Pourquoi c'est important
Les embeddings permettent de chercher une base de connaissances par le sens plutôt que par mots-clés. Le coût a deux parties : une passe d'embedding unique (ou à la mise à jour) sur tes documents, et l'embedding continu de chaque requête.
Impact coût & infrastructure
Embedder un corpus de 10M tokens une fois à 0,10 $/1M coûte 1 $. Le coût récurrent est dominé par la base vectorielle qui stocke et cherche les résultats, pas par les appels d'embedding.