Token

Was ist ein Token?

Ein Token ist die kleinste Einheit, in die ein KI-Modell Text zerlegt, um ihn zu verarbeiten. Grob gesagt entspricht ein Token etwa einem Wort oder Wortteil. Der Satz “Das Wetter ist heute schön” liegt je nach Modell meist bei rund 5 bis 7 Tokens. Längere, zusammengesetzte Wörter wie “Geschäftsführer” können aus mehreren Tokens bestehen.

Warum ist das wichtig? Weil KI-Modelle Texte in Tokens denken. Die Anzahl der Tokens bestimmt, wie viel Text die KI auf einmal verarbeiten kann, wie schnell sie antwortet und was der Einsatz kostet. Je mehr Tokens, desto mehr Rechenleistung wird benötigt.

Warum ist das für Unternehmen relevant?

Tokens spielen bei der KI-Nutzung eine praktische Rolle: Die meisten KI-Dienste rechnen nach Tokens ab. Wenn Sie verstehen, wie Tokens funktionieren, können Sie die Kosten besser einschätzen und Ihre KI-Nutzung optimieren.

Außerdem hat jedes KI-Modell ein sogenanntes Kontextfenster — eine maximale Anzahl von Tokens, die es gleichzeitig verarbeiten kann. Ein größeres Kontextfenster bedeutet, dass die KI längere Dokumente lesen und umfangreichere Aufgaben bearbeiten kann. Wie viel davon tatsächlich in einem Durchlauf möglich ist, hängt jedoch immer vom konkreten Modell ab.

Tokens in der Praxis

Ein Unternehmen nutzt KI für die Kundenkommunikation. Pro Kundenanfrage werden etwa 500 Tokens verarbeitet (Anfrage lesen) und 300 Tokens erzeugt (Antwort schreiben). Bei 100 Anfragen pro Tag sind das 80.000 Tokens — die Kosten dafür hängen stark vom eingesetzten Modell und Tarif ab.

Ein Beratungsunternehmen lässt lange Verträge von der KI zusammenfassen. Ein 20-seitiger Vertrag hat etwa 10.000 Tokens. Das Kontextfenster des genutzten Modells muss groß genug sein, um den gesamten Vertrag auf einmal erfassen zu können.

Ein cleverer Ansatz für Token-Optimierung: Statt der KI jedes Mal den vollständigen Kontext zu senden, werden durch RAG nur die relevanten Abschnitte aus Dokumenten übergeben. Das spart Tokens und damit Kosten, ohne die Qualität zu beeinträchtigen.