Definition
Smart Routing bezeichnet das automatische Verteilen von KI-Anfragen auf das jeweils passende Modell. Ein Gateway entscheidet anhand von Inhalt, Sensibilität oder Komplexität, ob eine Anfrage an ein lokales Modell oder an ein leistungsstarkes Cloud-Modell geht.
So lassen sich Datenschutz, Kosten und Qualität ausbalancieren: sensible Daten bleiben lokal, anspruchsvolle Aufgaben gehen DSGVO-konform in die Cloud.
Mehr dazu: OIT KI Gateway.
IT-Glossar
Verwandte Begriffe – IT-Glossar
Verwandte Begriffe im IT-Glossar
Knowledge