EMBEDDINGS

Les embeddings sont des vecteurs numériques qui représentent des mots, phrases ou autres éléments dans un espace à n dimensions, capturant ainsi leurs significations et relations contextuelles. Ils facilitent le traitement du langage naturel en permettant de mesurer la similarité entre différents éléments textuels de manière mathématique.

Par exemple, dans le modèle GPT-4, les embeddings sont utilisés pour associer des mots similaires comme 'roi' et 'reine' ou 'homme' et 'femme', en les plaçant à proximité dans l'espace vectoriel.

Embeddings et RAG sont deux concepts liés mais distincts dans l'écosystème IA. Pour approfondir : RAG, Base vectorielle, LLM.