Fonctionnement des moteurs
Fenêtre de contexte
Aussi: context window
Une fenêtre de contexte est la quantité de texte qu'un modèle peut considérer à la fois : la conversation en cours plus les documents récupérés. Elle limite le nombre de sources pouvant nourrir une seule réponse.
En détail
Comme la fenêtre est finie, les moteurs n'incluent qu'une poignée de passages récupérés par réponse. Être concis et autonome améliore les chances d'un passage d'en faire partie.
Guides sur le sujet
Termes liés
Large Language Model
Un large language model est un système entraîné sur de très grandes quantités de texte pour prédire et produire du langage. C'est le composant qui rédige la réponse d'un answer engine, à partir de ce qu'il a appris et de ce qui est récupéré au moment de la question.
Retrieval-Augmented Generation
La retrieval-augmented generation consiste, pour un modèle, à chercher des documents pertinents et à rédiger sa réponse à partir de ce qu'il trouve plutôt qu'à partir du seul entraînement. C'est pourquoi une page publiée cette semaine peut apparaître dans une réponse aujourd'hui.
Prêt à dominer la recherche IA ?
Commencer maintenant
Allswap