Un vecteur d'embedding transforme un texte, une image ou un son en une suite de nombres, afin qu'une machine puisse calculer à quel point deux éléments se ressemblent. Les moteurs de recherche, les systèmes de recommandation et les bases de connaissances des chatbots s'en servent le plus souvent pour retrouver des informations, plutôt que de comparer les mots-clés lettre à lettre.
D'où viennent les vecteurs ?
Un modèle apprend, à partir de grandes quantités de texte, quelles relations les mots entretiennent : les mots qui apparaissent souvent ensemble se retrouvent proches, les mots de sens opposé s'éloignent. Ainsi, « chat » est plus proche de « chien » que de « voiture ». Personne n'attribue ces distances à la main ; elles émergent naturellement pendant l'entraînement.
En quoi est-ce différent de la recherche par mots-clés ?
La recherche par mots-clés ne vérifie que la présence exacte des mots, si bien qu'une reformulation peut ne rien donner. La recherche vectorielle s'intéresse au sens : chercher « le téléphone ne charge plus » peut faire remonter un contenu sur un « port de charge mal enfoncé », malgré une formulation différente. En contrepartie, des contenus « un peu semblables mais faux » peuvent arriver en tête, d'où la nécessité d'un filtrage supplémentaire.
Trois malentendus fréquents
Premièrement, un vecteur n'étiquette pas une phrase et ne juge pas du vrai ou du faux : il enregistre seulement un degré de similarité. Deuxièmement, un vecteur plus long n'est pas forcément plus précis ; les dimensions, les données d'entraînement et l'adéquation à la tâche comptent davantage. Troisièmement, la proximité de deux vecteurs ne signifie pas que les deux phrases sont correctes ; elles peuvent simplement être formulées de façon semblable.
Quand l'utilise-t-on ?
Pour une base de connaissances personnelle, un service client ou des recommandations de produits, les embeddings présélectionnent d'abord des candidats parmi une masse énorme, puis un grand modèle ou un ensemble de règles tranche. Utilisé comme un filtre grossier plutôt que comme un juge, il donne les résultats les plus stables.
