Reasoning-Modell
Ein Reasoning-Modell arbeitet ein Problem Schritt für Schritt in einer sichtbaren oder verborgenen „Denk“-Phase durch, bevor es seine endgültige Antwort gibt.
Reasoning-Modelle verwenden zusätzliche Tokens für Zwischenschritte, was Ergebnisse in Mathe, Programmierung und anderen mehrstufigen Aufgaben tendenziell verbessert. Manche offene Modelle enthalten einen Schalter, um das Denken ein- oder auszuschalten und Genauigkeit gegen Tempo und Kosten zu tauschen.
Das zusätzliche Denken verbraucht Kontext und kostet Zeit, daher ist ein Reasoning-Modell für einfachen Chat oder kurze Antworten nicht immer die beste Wahl. Prüfen Sie beim Modellvergleich, ob ein Benchmark-Score mit eingeschaltetem Denken gemessen wurde.
Verwandte Begriffe
- Token Ein Token ist ein kleines Stück Text, oft ein Wort oder ein Teil eines Wortes, das ein Sprachmodell liest und schreibt; Modelle messen Länge und Geschwindigkeit in Token.
- Kontextfenster Das Kontextfenster ist die maximale Textmenge, gemessen in Tokens, die ein Modell auf einmal berücksichtigen kann, einschließlich Ihres Prompts und seiner eigenen Antwort.
- KI-Agent Ein KI-Agent ist ein System, in dem ein Modell mehrstufige Aufgaben plant und ausführt, indem es Tools aufruft, etwa Code ausführen, das Web durchsuchen oder Dateien bearbeiten.