Sampling-Parameter

Übersicht

Keines dieser Felder ist erforderlich. Ein Feld ganz wegzulassen bedeutet, dass das Modell seinen eigenen Standardwert für diese Einstellung verwendet, was für die meisten Anfragen die richtige Wahl ist; greifen Sie zu diesen Feldern, wenn eine bestimmte Anfrage tatsächlich mehr Determinismus, mehr Vielfalt oder eine feste Abbruchbedingung braucht. Jeder Wert hier wird beim Eingang validiert: ein Wert vom falschen Typ oder eine Zahl außerhalb des zulässigen Bereichs wird für dieses eine Feld stillschweigend ignoriert, statt die gesamte Anfrage scheitern zu lassen, sodass ein fehlerhafter Sampling-Parameter nie eine funktionierende Anfrage kaputt macht. Wenn sich eine Anfrage so verhält, als hätte ein von Ihnen gesendeter Parameter keine Wirkung, ist die erste Sache, die Sie prüfen sollten, ob er innerhalb des unten angegebenen zulässigen Bereichs liegt.

Feld	Typ	Bereich	Wirkung
temperature	number	0–2	Höhere Werte machen die Ausgabe vielfältiger und weniger vorhersehbar; niedrigere Werte machen sie fokussierter und deterministischer. 0 kommt dem ständigen Wählen des wahrscheinlichsten nächsten Tokens nahe.
top_p	number	0–1	Nucleus-Sampling: beschränkt die Auswahl auf die kleinste Menge an Tokens, deren kombinierte Wahrscheinlichkeit diesen Wert erreicht. Ein alternativer Hebel zu temperature zur Steuerung der Vielfalt; die meisten Anfragen sollten das eine oder das andere setzen, nicht beides.
presence_penalty	number	-2–2	Positive Werte verringern die Wahrscheinlichkeit eines Tokens, das bisher schon irgendwo in der Antwort aufgetaucht ist, und ermutigen das Modell, neue Themen anzusprechen, statt bei bereits erwähnten zu verweilen.
frequency_penalty	number	-2–2	Positive Werte verringern die Wahrscheinlichkeit eines Tokens proportional dazu, wie oft es schon aufgetaucht ist, was die Wiederholung derselben Wörter und Formulierungen unterdrückt.
seed	integer	beliebige Ganzzahl	Denselben Seed bei einer ansonsten identischen Anfrage anzufordern macht die Ausgabe von Lauf zu Lauf reproduzierbarer. Keine strikte Garantie für byteidentische Ausgabe bei jedem Mal, verringert aber die Schwankung für Tests und Debugging spürbar.
stop	string oder array aus Strings	bis zu wenigen kurzen Sequenzen	Die Generierung stoppt in dem Moment, in dem eine dieser Sequenzen in der Ausgabe erscheinen würde. Die Sequenz selbst ist nicht im zurückgegebenen Text enthalten.

Beispiel

{
  "model": "tai-4.1",
  "messages": [{"role": "user", "content": "Bir ürün açıklaması yaz"}],
  "temperature": 0.3,
  "presence_penalty": 0.4,
  "stop": ["###"]
}

Wann welcher Parameter sinnvoll ist

Bei allem, wo Konsistenz wichtiger ist als Vielfalt, Extraktion, Klassifikation, strukturierte Ausgabe, Code, ist es meist die richtige Wahl, temperature niedrig zu halten (0 bis etwa 0,3). Für offenes Schreiben, Brainstorming oder alles, wo Sie über wiederholte Aufrufe hinweg lieber eine Bandbreite plausibler Ausgaben sehen würden, erzeugt eine höhere temperature (0,7 bis 1,0 oder darüber) tendenziell interessantere Vielfalt. presence_penalty und frequency_penalty lohnen sich besonders dann, wenn ein Modell repetitiven Text produziert, sich in derselben Formulierung verfängt oder denselben Punkt wiederholt; als allgemeiner Standardwert sind sie weniger nützlich als temperature. seed ist vor allem während Entwicklung und Tests nützlich, wo dieselbe Ausgabe über mehrere Läufe hinweg zu reproduzieren das Debuggen einer Prompt-Änderung deutlich erleichtert, statt nachzuverfolgen, ob ein Unterschied in der Ausgabe von Ihrer Änderung oder von gewöhnlicher Sampling-Varianz stammt.

Derzeit nicht unterstützt

Einige Sampling-nahe Felder, die in der eigenen API von OpenAI existieren, werden derzeit nicht akzeptiert: n (mehrere Kandidaten-Completions pro Anfrage; tAI gibt immer genau eine zurück), logprobs / top_logprobs sowie response_format (strukturierte Ausgabe im JSON-Modus). Diese zu senden hat keine Wirkung; sie werden weder validiert noch angewendet. Die vollständige Liste dessen, was unterstützt wird und was nicht, finden Sie auf der Seite OpenAI-SDK-Kompatibilität, falls Sie eine bestehende Integration portieren.