NachschlagenQuellenregister

Werkzeugerreichbar

Tiktokenizer

tiktokenizer.vercel.app (externe Seite)

Zeigt im Browser, in welche Token ein beliebiger Text zerfällt. Modell oben rechts wählen, Text eintippen, den Schalter für Leerzeichen einschalten. Läuft vollständig lokal, es wird nichts hochgeladen.

geprüft 10.11.2026

Tokenizer im Glossar03 Token, die Bausteine der Sprache

Alle Quellen

↑↓ auswählenEnter öffnenDie Suche läuft im Browser. Nichts wird übertragen.