Lokale KI statt ChatGPT: deine eigene, private KI
Wie du mit Ollama und Open WebUI eine KI auf dem eigenen Rechner betreibst - ohne Konto, ohne Training auf deinen Daten, ohne Abhängigkeit.
Warum lokale KI
Jede Eingabe bei einem Cloud-KI-Dienst geht an einen fremden Anbieter - oft in die USA, oft ins Training. Eine lokale KI beantwortet deine Fragen auf deiner Hardware. Nichts verlässt das Haus.
Was du brauchst
Ollama ist ein kostenloses Werkzeug, das offene Modelle auf deinem Rechner laufen lässt. Mit Open WebUI bekommst du eine Oberfläche wie bei den großen Diensten. Für kleine Modelle (8B Parameter) genügen 8 GB Grafikkartenspeicher oder 16 GB Arbeitsspeicher.
Die Modelle
Offene Modelle wie Llama, Qwen, Mistral oder gpt-oss-20b sind für die meisten Aufgaben gut genug. Für sehr große Modelle brauchst du mehr Speicher - ein Mac mit viel Unified Memory oder eine Grafikkarte mit 24 GB.
Die ehrliche Grenze
Lokale KI ist nicht so stark wie die größten Cloud-Modelle. Aber sie gehört dir. Für vertrauliche Texte, Mandantenakten, Gesundheitsdaten oder einfach für Unabhängigkeit ist das der richtige Weg.