Token
Das kleinste Textstück, in das ein KI-Modell Sprache zerlegt: ein Wort, ein Wortteil oder ein Satzzeichen, auf dessen Basis Kosten und Limits berechnet werden.
Von Tanguy De Keyzer · Gründer und digitaler Strateg
Ein Token ist das kleinste Textstück, in das ein KI-Modell Sprache zerlegt, um sie zu verarbeiten. Ein Token ist nicht immer ein ganzes Wort: Es kann ein Wort, ein Wortteil oder ein Satzzeichen sein. Ein Large Language Model liest und erzeugt Text Token für Token, und alles, was Sie eingeben oder erhalten, wird zuerst in Tokens zerlegt.
Wie funktioniert die Tokenisierung?
Bevor das Modell Ihren Prompt verarbeitet, zerteilt es den Text nach einem festen Schema in Tokens. Kurze, häufige Wörter sind oft ein einziges Token, während längere oder seltenere Wörter in mehrere Stücke zerfallen. Als Faustregel entspricht ein Token ungefähr einem kurzen Wortteil, und ein normaler Absatz enthält schnell mehrere Hundert Tokens. Das Modell sagt anschließend jeweils das nächste Token voraus, und genau so baut sich die Antwort Schritt für Schritt auf.
Warum Tokens zählen
Tokens sind die Maßeinheit hinter Verbrauch und Limits. KI-Anbieter rechnen üblicherweise pro Token ab, sowohl für Ihre Eingabe als auch für die erzeugte Ausgabe. Zusätzlich hat jedes Modell ein Kontextfenster: die maximale Zahl an Tokens, die es auf einmal aufnehmen kann. Wer lange Dokumente oder viel Hintergrund mitgibt, stößt schneller an diese Grenze. Bei generativer KI im großen Stil summiert sich das.
Was das für B2B-Unternehmen bedeutet
Wenn Sie KI in Prozessen oder Automatisierungen einsetzen, bestimmt der Tokenverbrauch mit, was eine einzelne Aktion kostet. Kurze, fokussierte Prompts und der Verzicht auf überflüssigen Kontext halten den Aufwand beherrschbar, ohne Qualität zu opfern. Steuern Sie dabei auf das, was zählt: ein Prozess, der Kunden und Umsatz bringt, nicht auf das Ausquetschen jedes einzelnen Prompts. Die Technik ist ein Hebel, und Tokens sind schlicht die Tankanzeige.
Siehe auch
Von der Theorie zum Wachstum.
Wir machen aus Token messbare Ergebnisse für Ihr Unternehmen.