Embedding
Una lista de números (un vector) que representa el significado de un fragmento de texto, de modo que los significados parecidos quedan cerca unos de otros. La pieza básica de la búsqueda semántica y del RAG.
Qué es
Un modelo de embeddings convierte el texto en un vector de longitud fija: normalmente de 384 a 3.072 números. El texto con significado relacionado produce vectores cercanos entre sí según una medida de distancia, normalmente la similitud del coseno.
Las API de embeddings se cobran por token de entrada, como un LLM, pero mucho más baratas: a menudo 0,02-0,15 $ por 1M.
Por qué importa
Los embeddings son lo que te permite buscar en una base de conocimiento por significado en lugar de por palabras clave. El costo tiene dos partes: una pasada de embeddings única (o al actualizar) sobre tus documentos, y el embedding continuo de cada consulta.
Impacto en costo e infraestructura
Hacer embeddings de un corpus de 10M de tokens una vez a 0,10 $/1M cuesta 1 $. El costo recurrente lo domina la base de datos vectorial que almacena y busca los resultados, no las llamadas de embeddings.