Lokale KI bezeichnet KI-Modelle, die direkt auf eigener Hardware ausgeführt werden – auf einem Rechner, Server oder Edge-Gerät im Unternehmen statt in der Cloud eines Anbieters. Die Daten verlassen dabei das Haus nicht.
Der größte Vorteil ist Datenschutz und Kontrolle: Es fließen keine Eingaben an externe Dienste, was lokale KI besonders für DSGVO-sensible Anwendungen attraktiv macht. Werkzeuge wie Ollama oder LM Studio machen den Betrieb kleinerer Sprachmodelle heute auch auf bezahlbarer Hardware möglich.
Mehr dazu: OIT KI Gateway.
