Wissensdatenbanken-Suche

Mit dem Plugin Suche in Wissensdatenbank können Sie gezielt in zuvor definierten Wissensdatenbanken suchen.

Die gefundenen Informationen werden als Teil des sogenannten RAG-Prozesses (Retrieval-Augmented Generation) an das Sprachmodell übergeben. Dadurch erhält das Modell Zugriff auf zusätzliche, kontextrelevante Inhalte, die es in seine Antwort einbeziehen kann.

Das zuvor erwähnte Plugin benötigt eine Konfiguration, welche Sie unter dem Menüpunkt Konfigurationen erstellen können. Klicken Sie dazu auf das -Symbol am unteren Ende der Seite.

Erstellen einer neuen Konfiguration

Danach wählen Sie aus dem Auswahlmenü den Typ Wissensdatenbanken-Suche aus, vergeben einen Namen und klicken auf Weiter:

Neue Wissensdatenbanken-Suche

Danach legen Sie folgende Parameter fest:

Maximal Token

Dieser Parameter legt fest, wie viele Tokens das Ergebnis einer Wissensdatenbank-Suche maximal umfassen darf. Diese Grenze gilt übergreifend für alle Suchergebnisse.

Die Suchergebnisse werden dem Sprachmodell als zusätzlicher Kontext übergeben. Je mehr Kontext hinzugefügt wird, desto mehr Tokens werden dabei verbraucht. Um den Ressourcenverbrauch zu steuern und die maximale Eingabelänge des Modells nicht zu überschreiten, kann hier eine Obergrenze festgelegt werden.

Liefern die Suchergebnisse mehr Tokens als erlaubt, wird der Text automatisch gekürzt.

Maximale Suchergebnisse

Mit diesem Parameter bestimmen Sie, wie viele Ergebnisse aus der Wissensdatenbank-Suche maximal berücksichtigt werden sollen.

Je mehr Treffer übergeben werden, desto mehr zusätzliches Wissen steht dem Sprachmodell zur Verfügung. Gleichzeitig erhöht sich aber auch der übermittelte Kontext – und damit der Token-Verbrauch.

Eine ausgewogene Einstellung an maximalen Suchergebnissen und maximalen Token hilft, relevante Informationen bereitzustellen, ohne die maximale Kontextlänge des Modells zu überschreiten.

Quellen Template

Wenn in der Antwort des Modells auch die verwendeten Quellen angezeigt werden sollen, können Sie dies über ein frei definierbares Template steuern.

Dabei stehen Ihnen folgende Variablen zur Verfügung:

• source.name : Name der Quelle

• settings.url : URL der Quelle (sofern hinterlegt)

• text : Der eigentliche Text

• properties.* : Benutzerdefinierte Eigenschaften, die mit dem Präfix properties. angesprochen werden

Weitere Informationen zur Konfiguration individueller Eigenschaften finden Sie im Abschnitt Quellen.

Um die Variablen auszugeben, müssen sie in doppelten geschwungenen Klammern stehen, zum Beispiel {{ properties.timestamp }} .

Der Standardwert für das Template ist:

Quelle: {{ properties.title if properties.title else source.name}}\nInhalt:\n{{text}}