AI-Textkonfiguration

Um eine neue AI-Textkonfiguration anzulegen, wählen Sie den Menüpunkt Konfigurationen und klicken anschliessend auf das -Symbol:

Erstellen einer neuen Konfiguration

Danach wählen Sie aus dem Auswahlmenü den Typ AI-Textkonfiguration aus, vergeben einen Namen und klicken auf Weiter:

Neue AI-Textkonfiguration

Auf der folgenden Seite können Sie die Einstellungen für die AI-Textkonfiguration vornehmen:

Detaileinstellungen der AI-Textkonfiguration

Die Daten für die Parameter Endpunkt, API-Key und Deployment entnehmen Sie den Einstellungen Ihres LLM-Providers.

Temperatur

Die Temperatur steuert, wie kreativ und unvorhersagbar die Antworten des AI-Systems sind.

Niedrige Temperatur (0.1 - 0.3):

  • Das System wählt die wahrscheinlichsten Wörter

  • Antworten sind konsistent und vorhersagbar

  • Gut für faktische Fragen oder wenn Sie präzise Antworten benötigen

Mittlere Temperatur (0.4 - 0.9):

  • Das System wählt auch weniger wahrscheinliche Wörter.

  • Die Antworten sind kreativer und abwechslungsreicher.

  • Gut geeignet für kreatives Schreiben oder Brainstorming.

Hohe Temperatur (1.0 - 2.0):

  • Das System wird noch kreativer und wählt auch unwahrscheinliche Wörter.

  • Für Experimente empfohlen, aber nicht für produktive Anwendungen vorgesehen.

Praktische Anwendung

  • Für Zusammenfassungen oder Analysen sind niedrige Temperaturen am besten geeignet.

    • Zum Beispiel für die Klassifizierung von E-Mails.

  • Für Geschichten oder kreative Texte wählen Sie mittlere Temperaturen.

    • Zum Beispiel für Antworten, die an den Chatbot übergeben werden.

  • Der Standardwert liegt meist zwischen 0.5 - 0.7.

Maximale Token

Mit dieser Einstellung legen Sie fest, wie viele Tokens maximal bei einer Antwort generiert werden sollen. Dies soll verhindern, dass ein Modell zu lange Texte erstellt und dabei unnötig Token verbraucht.

In der deutschen Sprache sind ein Token ca. 0.6 - 0.8 Wörter. Ein Text, der aus 100 Wörtern besteht, würde somit ca. 125 - 170 Token verbrauchen.

Zuletzt aktualisiert