Wie Engines arbeiten
Halluzination
Auch: Hallucination
Eine Halluzination ist eine selbstbewusst vorgetragene Aussage eines Modells, die von seinen Quellen nicht gedeckt ist – ein falscher Preis, eine dem falschen Unternehmen zugeschriebene Funktion, ein veralteter Fakt, der als aktuell dargestellt wird.
Ausführlich
Bei Marken lassen sich die meisten Halluzinationen auf etwas Reales, aber Veraltetes zurückführen: eine Zahl, die stimmte, als die Quelle geschrieben wurde. Den Fakt dort aufzufrischen, wo Engines ihn finden, ist das praktische Gegenmittel.
Fundierte Antworten mit Zitationen halluzinieren seltener, weil die Aussagen an abrufbare Dokumente gebunden sind.
Wie Allswap das misst
Leitfäden dazu
Verwandte Begriffe
Grounding
Grounding bedeutet, die Antwort eines Modells an konkret abgerufene Quellen zu binden statt an seine eigene Erinnerung. Eine fundierte Antwort lässt sich auf Dokumente zurückführen – das macht Zitationen möglich und Antworten verlässlicher.
Trainingsdaten
Trainingsdaten sind der Textbestand, aus dem ein Modell gelernt hat. Sie legen fest, wie das Modell eine Kategorie standardmäßig versteht und welche Marken es womit verbindet – noch bevor irgendein Live-Abruf stattfindet.
Knowledge Cutoff
Der Knowledge Cutoff ist das Datum, an dem die Trainingsdaten eines Modells enden. Was sich danach geändert hat, erreicht eine Antwort nur dann, wenn die Engine es zum Zeitpunkt der Frage live abruft.
Bereit, die KI-Suche zu dominieren?
Jetzt loslegen
Allswap