Wie Engines arbeiten
Context Window
Auch: Kontextfenster
Ein Context Window ist die Textmenge, die ein Modell auf einmal berücksichtigen kann – das bisherige Gespräch plus alle abgerufenen Dokumente. Es begrenzt, wie viele Quellen in eine einzelne Antwort einfließen können.
Ausführlich
Weil das Fenster endlich ist, nehmen Engines pro Antwort nur eine Handvoll abgerufener Passagen auf. Knapp und in sich geschlossen zu sein verbessert die Chance einer Passage, eine davon zu sein.
Leitfäden dazu
Verwandte Begriffe
Large Language Model
Ein Large Language Model ist ein System, das auf sehr großen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen. Es ist die Komponente, die die Antwort einer Answer Engine schreibt – aus dem Gelernten plus dem, was im Moment der Frage abgerufen wird.
Retrieval-Augmented Generation
Retrieval-Augmented Generation bedeutet, dass ein Modell nach passenden Dokumenten sucht und seine Antwort aus dem Gefundenen schreibt statt allein aus dem Training. Deshalb kann eine diese Woche veröffentlichte Seite schon heute in einer Antwort auftauchen.
Bereit, die KI-Suche zu dominieren?
Jetzt loslegen
Allswap