–-> zum BOTwiki - Das Chatbot Wiki

Embeddings sind numerische Repräsentationen von Texten, Bildern oder anderen Daten in einem hochdimensionalen Vektorraum. Sie übersetzen Bedeutung in Zahlen. Inhalte mit ähnlicher Bedeutung liegen im Vektorraum nahe beieinander, unabhängig von der konkreten Wortwahl. Damit machen Embeddings das möglich, was klassisches Stichwort-Matching nicht leisten kann, nämlich semantische Suche, in der „Stromzähler ablesen“ und „Zählerstand übermitteln“ als verwandt erkannt werden.

In modernen AI Agents sind Embeddings die Grundlage der semantischen Sprachverarbeitung bei z.B der initialen Anliegen-Erkennung, von Retrieval Augmented Generation (RAG) in Knowledge Bases und vielen weiteren Funktionen. 

 

Wie Embeddings technisch funktionieren

Ein Embedding-Modell, meist ein speziell trainiertes neuronales Netz, nimmt einen Eingabetext (z. B. „Wie melde ich einen Wasserschaden?“) und übersetzt ihn in einen Vektor mit typischerweise mehreren hundert oder tausend Dimensionen. Ähnliche Inhalte erzeugen ähnliche Vektoren. Über Distanzmaße wie Cosine Similarity lassen sich aus einer großen Menge an Inhalten effizient die zur Anfrage passendsten Texte finden, etwa aus einer Knowledge Base oder einem Produktkatalog.

Im RAG-Setup wird so erst die semantisch passende Information aus der Wissensbasis geholt und dem LLM als Kontext mitgegeben. Anstatt das Modell „raten“ zu lassen, antwortet es auf Basis verifizierter Quellen. Das ist einer der wirksamsten Hebel zur Reduktion von Halluzinationen und ein zentraler Baustein, mit dem BOTfriends Faktentreue absichert.

 

Best Practices für den Einsatz von Embeddings

In Enterprise-Projekten kann man vor allem die Verarbeitungsqualität des im Bot hinterlegten Wissens beeinflussen, den die Chunking-Qualität von Knowledge Base Einträgen entscheidet wesentlich über die Trefferqualität. Zu kleine Chunks verlieren Kontext, zu große verwässern semantische Genauigkeit. BOTfriends nutzt unterschiedliche Mechanismen, um die Chunks so optimal wie möglich zu gestalten und sicherzustellen, dass immer die relvantesten Infos ausgegeben werden.  Sie machen den Unterschied zwischen einem Agenten, der „irgendwie antwortet“, und einem Agenten, der die richtige Information aus der richtigen Quelle holt, auch bei umfangreichen, mehrsprachigen Wissensbeständen.

 

Häufig gestellte Fragen (FAQ)

–>  Zurück zum BOTwiki - Das Chatbot Wiki