Lernziele
- Das Kontextfenster als begrenzte Ressource behandeln
- Temperatur bewusst wählen
- Nichtdeterminismus in Prozessen berücksichtigen
Das Kontextfenster
Das Kontextfenster ist die maximale Menge an Tokens, die Modell und Eingabe zusammen umfassen dürfen: Systemanweisung, Verlauf, angehängte Dokumente und die erzeugte Antwort. Wird es überschritten, fällt etwas heraus — in der Regel das Älteste. Das erklärt, warum lange Chats Anweisungen „vergessen“.
Praktische Konsequenz: Wichtige Regeln gehören an den Anfang und an das Ende der Eingabe, nicht in die Mitte eines langen Verlaufs. Und lange Dokumente gehören vorgefiltert, nicht vollständig eingefügt.
Temperatur und Reproduzierbarkeit
Die Temperatur steuert, wie stark die Auswahl von der wahrscheinlichsten Option abweichen darf. Niedrige Werte erzeugen konsistente, konservative Ausgaben und eignen sich für Extraktion, Klassifikation und Formatarbeit. Höhere Werte erzeugen Varianz und eignen sich für Ideenfindung.
In geprüften Prozessen ist Nichtdeterminismus ein Dokumentationsproblem: Wenn dieselbe Eingabe zweimal unterschiedlich beantwortet wird, muss protokolliert sein, welche Ausgabe tatsächlich verwendet wurde. Speichern Sie Eingabe, Ausgabe, Modellversion und Zeitpunkt.
- Niedrige Temperatur: Extraktion, Klassifikation, Formatierung
- Höhere Temperatur: Varianten, Brainstorming, Formulierungsalternativen
- Immer protokollieren: Eingabe, Ausgabe, Modellversion, Zeitpunkt
Kernaussagen
- Das Kontextfenster ist eine harte, geteilte Ressource.
- Temperatur ist eine Prozessentscheidung, keine Geschmacksfrage.
- Reproduzierbarkeit entsteht durch Protokollierung, nicht durch Hoffnung.
Übung
Lassen Sie dieselbe Klassifikationsaufgabe fünfmal laufen. Notieren Sie die Abweichungen — das ist Ihre reale Fehlerbandbreite.
Wissenscheck · formativ
Warum „vergisst“ ein langer Chat frühere Anweisungen?
Dieser Wissenscheck dient dem Lernen. Er ist kein Prüfungselement und hat keine Wirkung auf Zertifizierung oder Zulassung.