Der Begriff Token hat im Kontext von KI-Systemen wie dem OIT KI Gateway zwei unterschiedliche Bedeutungen.
1. Token als KI-Verarbeitungseinheit
In der Sprachverarbeitung von KI-Modellen ist ein Token die kleinste Einheit, die das Modell verarbeitet – in etwa ein Wort oder ein Wortteil. Das Wort „Gateway“ entspricht einem Token, „Automatisierung“ hingegen zwei bis drei Token.
Token sind aus zwei Gründen relevant: Erstens begrenzt das sogenannte Kontextfenster eines Modells, wie viele Token es auf einmal verarbeiten kann (bei Claude aktuell bis zu 200.000 Token). Zweitens werden API-Nutzungskosten nach der Anzahl verarbeiteter Token abgerechnet.
2. Token als Authentifizierungsschlüssel
Ein API-Token ist ein maschinenlesbarer Zugriffsschlüssel – ähnlich einem Passwort, aber speziell für die Kommunikation zwischen Systemen. Er wird im HTTP-Header einer Anfrage mitgeschickt und berechtigt zum Zugriff auf eine API.
Beispiele: Bei BookStack (wiki.oit.tools) lautet das Format Token ID:Secret. Beim OIT WordPress API wird ein X-OIT-Token-Header verwendet.
Sicherheitshinweis
API-Tokens sind vertraulich und dürfen nicht in öffentlich zugänglichen Dateien oder Chats gespeichert werden. Im OIT KI Gateway werden sie als verschlüsselte Tool-Einstellungen (Valves) hinterlegt.