Ollama ist eine quelloffene Software, die das Herunterladen, Verwalten und Ausführen lokaler Sprachmodelle (LLMs) auf einen einzigen Befehl reduziert. Sie kapselt die Komplexität von CUDA, ROCm und Metal und bietet eine einheitliche Schnittstelle für verschiedene Hardware.
Damit lassen sich Modelle wie Llama, Mistral oder Gemma ohne Cloud, API-Keys oder Datenabfluss lokal betreiben – ideal als datenschutzfreundlicher KI-Baustein im Unternehmen.
Mehr dazu: OIT KI Gateway.
Sie sehen gerade einen Platzhalterinhalt von Facebook. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSie sehen gerade einen Platzhalterinhalt von Instagram. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr InformationenSie sehen gerade einen Platzhalterinhalt von X. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf die Schaltfläche unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Mehr Informationen
