Curriculum

Modul 2 · Wie moderne Modelle funktionieren Lektion 5 von 25

Kontextfenster, Temperatur, Nichtdeterminismus

Die drei Stellschrauben, die das Verhalten im Alltag am stärksten prägen.

17 Minuten

0/25 Lektionen · 0%

Lernziele

  • Das Kontextfenster als begrenzte Ressource behandeln
  • Temperatur bewusst wählen
  • Nichtdeterminismus in Prozessen berücksichtigen

Das Kontextfenster

Das Kontextfenster ist die maximale Menge an Tokens, die Modell und Eingabe zusammen umfassen dürfen: Systemanweisung, Verlauf, angehängte Dokumente und die erzeugte Antwort. Wird es überschritten, fällt etwas heraus — in der Regel das Älteste. Das erklärt, warum lange Chats Anweisungen „vergessen“.

Praktische Konsequenz: Wichtige Regeln gehören an den Anfang und an das Ende der Eingabe, nicht in die Mitte eines langen Verlaufs. Und lange Dokumente gehören vorgefiltert, nicht vollständig eingefügt.

Temperatur und Reproduzierbarkeit

Die Temperatur steuert, wie stark die Auswahl von der wahrscheinlichsten Option abweichen darf. Niedrige Werte erzeugen konsistente, konservative Ausgaben und eignen sich für Extraktion, Klassifikation und Formatarbeit. Höhere Werte erzeugen Varianz und eignen sich für Ideenfindung.

In geprüften Prozessen ist Nichtdeterminismus ein Dokumentationsproblem: Wenn dieselbe Eingabe zweimal unterschiedlich beantwortet wird, muss protokolliert sein, welche Ausgabe tatsächlich verwendet wurde. Speichern Sie Eingabe, Ausgabe, Modellversion und Zeitpunkt.

  • Niedrige Temperatur: Extraktion, Klassifikation, Formatierung
  • Höhere Temperatur: Varianten, Brainstorming, Formulierungsalternativen
  • Immer protokollieren: Eingabe, Ausgabe, Modellversion, Zeitpunkt

Kernaussagen

  • Das Kontextfenster ist eine harte, geteilte Ressource.
  • Temperatur ist eine Prozessentscheidung, keine Geschmacksfrage.
  • Reproduzierbarkeit entsteht durch Protokollierung, nicht durch Hoffnung.

Übung

Lassen Sie dieselbe Klassifikationsaufgabe fünfmal laufen. Notieren Sie die Abweichungen — das ist Ihre reale Fehlerbandbreite.

Wissenscheck · formativ

Warum „vergisst“ ein langer Chat frühere Anweisungen?

Dieser Wissenscheck dient dem Lernen. Er ist kein Prüfungselement und hat keine Wirkung auf Zertifizierung oder Zulassung.