AnythingLLM: Test, Kosten & Souveränität

MIT-lizenzierter lokaler KI-Arbeitsplatz mit RAG-Fokus: Desktop-App, Docker-Deployment und Cloud-Angebot von Mintplex Labs - Dokumente werden standardmäßig nie vom Gerät übertragen.

Open Source selbst hostbar
3.3

Einschätzung

Für den Dokument-RAG-Arbeitsplatz auf dem eigenen Rechner der direkteste Weg: App laden, Modell wählen (inkl. LM Studio und Ollama als Quelle), Dokumente rein. Nimm LibreChat oder Open WebUI, wenn du ein Multi-Nutzer-Team-Frontend brauchst - AnythingLLMs Mehrbenutzer-Modus hatte wiederholt Zugriffsrechts-CVEs, und die Desktop-App brachte 2026 eine Critical-Kette mit RCE. Wer die Desktop-App nutzt, aktualisiert sofort nach Advisories.

Warum 3.3/10?

Souveränität & Jurisdiktion 22% 5
Verschlüsselung & Datenzugriff 26% 0
Eigentümer & Historie 14% 3
Ausstieg & Lock-in 10% 6.5
Sicherheit 8% 3
Ehrliche Kosten 10% 2
Alltag & Clients 10% 7

Platz #8 von 10 in ki - Gewichte in der Methodik · gewichtet für KI

++ Was hält

  • MIT ohne Branding-Klausel im Repo - nur eine LICENSE-Datei, Mintplex Labs Inc. [1]
  • Datenschutzerklärung klar: Inhalte bleiben lokal, Telemetrie anonym und per App-Einstellung abschaltbar [3]
  • RAG-Arbeitsplatz: Dokumente werden zu Wissensbasis 'with no data leaving your device' [2]
  • Desktop (macOS/Windows/Linux), Docker mit vorgefertigten Images und Mobile [7]

-- Was du prüfen solltest

  • 25 CVE-Einträge in der NVD (Stand 17.11.2026), darunter eine Critical-Kette mit RCE auf dem Host (Fix nach 1.11.1) [12][15]
  • LanceDB-Standard-Vektordatenbank braucht AVX2 - auf älterer/VM-Hardware heißt das Umzug auf eine externe Vektor-DB [6]
  • Mehrbenutzer-Berechtigungen waren wiederholt CVE-Thema (Export-Exfiltration, IDOR, Workspace-Enumeration) [13][14][16]
  • Pro-Preis nur auf der Checkout-Seite, nicht in der Doku; Magic-Features sind Telemetrie-nahe Systemintegration [8][9]

So startest du bei AnythingLLM

Identitätsprüfungnicht dokumentiert
ZahlungFiatgeld
EinstiegspreisPreis beim Anbieter
AuszugLanceDB/SQLite im STORAGE_LOCATION-Ordner, Export-Datenfunktion (mit Zugriffsrechten!), Metadaten exportierbar
Speicherortlokal (Desktop), eigene Infrastruktur (Docker), Mintplex Cloud optional, Wahl des Speicherorts
Firmeneinsatzgrundsätzlich möglich, AVV prüfen

Werte aus den Fakten dieser Seite (Stand: 2026-11-17). Preisangaben ohne Gewähr - vor der Anmeldung beim Anbieter gegenprüfen.

Überblick

AnythingLLM ist ein lokaler KI-Arbeitsplatz mit RAG-Kern von Mintplex Labs: Dokumente werden zur Wissensbasis des Agenten, laut Startseite "with no data leaving your device", ohne Konto, ohne API-Key-Zwang [2]. Es gibt drei Betriebsarten - Desktop-App für macOS, Windows und Linux, vorgefertigte Docker-Images für Server und eine optionale Cloud [2][8]. Mit 68.353 Stars und Pushes am Abruftag gehört das Projekt zu den aktiv gepflegten seiner Klasse [11], Release-Stand v1.19.0 [12].

Die Lizenz ist pures MIT: nutzen, ändern, weiterverkaufen [1]. Im Repository liegt genau eine LICENSE-Datei - anders als bei Open WebUI gibt es keine Branding-Klausel und keinen Enterprise-Zweig im Quellstand [1]. Monetisiert wird stattdessen über "AnythingLLM Pro", ein Abo für die systemweiten Magic-Features, das bewusst opt-in bleibt [9][10].

Funktionsweise & Sicherheit

Der RAG-Weg ist der eigentliche Kern: Dokumente werden geparst, in Vektoren zerlegt und Workspaces zugeordnet; Modelle kommen von überall - eingebaut, lokal über LM Studio oder Ollama, oder aus der Cloud [2][7]. Version v1.19.0 bringt laut Release-Notiz eine eingebaute lokale LLM-Erfahrung direkt im Docker-Image [20]. Die Workspace-Logik ist bewusst simpel: Ein Workspace bündelt Dokumente, System-Prompt und Modellwahl; wer mehrere Aufgaben fährt, trennt sie über getrennte Workspaces statt über Konfigurationsdateien [2]. Genau diese Fertigkeit - Dokumente rein, Chat raus - ist der Grund, warum AnythingLLM in lokalen RAG-Berichten als Standardbaustein auftaucht [21].

Die Sicherheitsbilanz ist die Problemzone. Die NVD listet 25 CVE-Einträge (Stand 17.11.2026) [13]. Der schwerwiegendste: CVE-2026-32626, eine Critical-Kette, bei der XSS in der Streaming-Chat-Render-Pipeline wegen einer unsicheren Electron-Konfiguration zu RCE auf dem Host-OS eskalierte - laut NVD funktionierte das mit Standardeinstellungen und ohne Nutzerinteraktion, betroffen bis 1.11.1 [14]. Ein r/selfhosted-Thread zerlegt denselben Befund aus Sicht der Nutzer: Ein vergiftetes Dokument in der Wissensbasis genügte, und der Payload lief mit vollen OS-Rechten [16]. Das ist für eine Desktop-App, die RAG mit Fremd- und Community-Dokumenten füttert, die zentrale Bedrohungslage.

Datenhoheit & Ausstieg

Die Datenschutzerklärung ist die Stärke: "None of your messages, chat histories, and documents are ever transmitted from your system" - nur anonyme Nutzungsstatistiken, E-Mails und die optionale Community-Hub-Nutzung werden erwähnt, und die Telemetrie lässt sich vollständig in den App-Einstellungen abschalten [3]. Die No-Sale-Zusage steht im selben Dokument [4]. Die Lösch-Semantik ist dokumentiert und differenziert: Workspace-Entfernung löscht nur die Vektoren des Workspace, die vollständige Löschung läuft über "My Documents" inklusive gecachter Embeddings [5].

Der Ausstieg läuft über den Speicherordner: STORAGE_LOCATION enthält Datenbank und Dokumente und ist portabel [6]. Sorgfalt gilt der Export-Funktion - historisch erlaubte sie Default-Nutzern die Exfiltration des gesamten Systemstands inklusive Löschung der Spuren [15].

Installation & Betrieb

Die Desktop-App ist "one file, no dependencies" - herunterladen, Modell wählen, los [2]. Docker: Image ziehen, STORAGE_LOCATION setzen, fertig; die Images erscheinen laut Doku nahezu täglich [8]. Zwei dokumentierte Stolpersteine: Der Container läuft als unprivilegierter Nutzer mit UID/GID 1000, deshalb chown statt dem in alten Issues kursierenden chmod 777 - sonst werden Datenbank, Dokumente und die .env mit API-Keys maschinenweit lesbar [6]. Und die Standard-Vektordatenbank LanceDB verlangt AVX2; auf alter Hardware oder in VMs ohne Durchreichung heißt das Ausweichen auf eine externe Vektor-DB per VECTOR_DB-Variable [7]. Der Multi-User-Betrieb in Homelabs erzeugt eigene Fragen - ein Tailscale-Thread dokumentiert das klassische Host-Mode-Netzwerkproblem [17].

Schmerzpunkte & Lösungen

  • Desktop-Updates: Die RCE-Kette von 2026 traf Stände bis 1.11.1 - Auto-Updates anlassen und nach Advisories sofort handeln [14][16].
  • AVX2 fehlt: VECTOR_DB in der .env auf eine externe Vektor-DB umstellen statt LanceDB zu erzwingen [7].
  • Storage-Rechte: chown auf UID/GID 1000, niemals chmod 777 auf den Speicherordner mit API-Keys [6].
  • Reranker-Limit: Wer eigene Reranker-Modelle braucht, läuft über einen Proxy oder weicht auf Open WebUI aus [19].
  • SSO im Team: Ohne Kernfunktion - die Community-Bridge ist der dokumentierte Umweg [22].
  • Workspace-Disziplin: Stil und Rohtexte in getrennte Workspaces, damit das Retrieval keine alten Texte in neue Entwürfe zieht [18].

Vorfälle & Warnzeichen

Die CVE-Liste liest sich als Pattern von Rechte- und Expositionsproblemen: Link-Scraping interner IPs (CVE-2024-0759) [13], Export-Exfiltration [15], Auth-Bypass an Workspace-Enumerationen in v1.8.5 [13], und die Desktop-RCE-Kette [14][16]. Warnzeichen für dich: Mehrbenutzer-Instanzen sind kein Set-and-Forget - die Berechtigungsgeschichte wiederholt sich; und die Desktop-App ist ein Electron-Prozess mit OS-Rechten, der auf Prompt-Inhalte aus Dokumenten reagiert [14][16]. Pro-Features sind die zweite Beobachtungsfläche: Magic-Funktionen greifen systemweit ins Arbeiten ein und sind telemetrie-technisch Teil der App, nicht der Wissensbasis [9].

Was Nutzer berichten

Die Community nutzt AnythingLLM genau für den versprochenen Zweck: Ein deutscher IT-Sicherheitsdienstleister testet den lokalen Chatbot mit Dokumentenwissen ohne Cloud-Abhängigkeit [18], und lokale RAG-Stacks mit Gemma4 und bge-m3 laufen über AnythingLLM auf fast beliebiger Hardware [21]. Selbsthost-Verzeichnisse melden neue Docker-Fähigkeiten als eigene Updates [20]. Kritik betrifft die RAG-Flexibilität: Nur der eingebaute Reranker wird unterstützt, ein eigener bge-reranker braucht einen Proxy-Vorlauf - Open WebUI kann das direkter [19]. Für Single-Sign-On im Team-Betrieb baut die Community eine OIDC-Bridge [22]. Und die Fork-Kultur ist aktiv: Ein Entwickler veröffentlichte einen AnythingLLM-Fork als NPM-Paket mit Verweis auf umfangreiche eigene Nutzung - Beleg für einen offenen Umgang mit dem Code [23].

Alternativen

LibreChat ist die MIT-Alternative für Multi-Provider-Teams mit MCP-Anspruch; Open WebUI das funktionsreichste Team-Frontend mit eigener Lizenz und Reranker-Konfiguration [19]. Wer nur chatten will, kommt mit Ollama plus schlankem Interface aus. AnythingLLM bleibt die Wahl für den Dokument-Arbeitsplatz mit fertiger Desktop-App [2].

Fazit

Für Einzelnutzer und Kleingruppen, die eine Dokument-Wissbasis lokal halten wollen, ist AnythingLLM der direkteste Weg - App oder Docker, Modell anbinden, Dokumente rein, Telemetrie aus [2][3]. Nimm lieber LibreChat oder Open WebUI, wenn echte Mehrbenutzer-Instanzen oder tiefe RAG-Konfiguration im Vordergrund stehen [13][19]. Meide exponierte Mehrbenutzer-Instanzen und alte Desktop-Stände: Die Critical-Kette von 2026 zeigte, dass hier nicht nur ein Chat leakt, sondern der Rechner verloren geht [14][16].

Fakten-Fazit

AnythingLLM von Mintplex Labs ist ein lokaler KI-Arbeitsplatz mit RAG-Kern: "Document Knowledge" macht Dokumente zur Wissensbasis "with no data leaving your device" [2]. Die Desktop-Privacy-Policy präzisiert: "None of your messages, chat histories, and documents are ever transmitted from your system", Telemetrie ist anonym und in den App-Einstellungen abschaltbar [3]. Die Lizenz ist pures MIT - im Repo liegt genau eine LICENSE-Datei, keine Branding-Klausel [1]. Die Schattenseite ist die CVE-Bilanz: 25 NVD-Einträge (Stand 17.11.2026), darunter CVE-2026-32626, eine Critical-Kette (CVSS 9.6), bei der ein vergiftetes RAG-Dokument über XSS in der Chat-Render-Pipeline zu RCE auf dem Host-OS eskalierte - laut NVD mit Standardeinstellungen und ohne Nutzerinteraktion [13][14][16].

Von der Redaktion verfasst - Faktenstand 2026-11-17

Quellen

  1. AnythingLLM LICENSE (MIT, Mintplex Labs Inc.) 2026-11-17
  2. AnythingLLM-Startseite (On-device-Versprechen, Document Knowledge, 67k+ Stars) 2026-11-17
  3. Docs - Desktop Privacy Policy (Lokal-Zusage, Telemetrie-Opt-out) 2026-11-17
  4. Docs - Privacy Policy (No-Sale-Zusage, Verarbeitungsanlässe) 2026-11-17
  5. Docs - Privacy & Data Handling (Telemetrie, Lösch-Semantik) 2026-11-17
  6. Docs - Local Docker Deployment (UID/GID, chown statt chmod) 2026-11-17
  7. Docs - System Requirements (AVX2-Pflicht von LanceDB, GPU-Hinweis) 2026-11-17
  8. Docs - Docker Images (latest, versioniert) 2026-11-17
  9. Docs - AnythingLLM Desktop Pro (Magic-Features, Gratis-Tier) 2026-11-17
  10. Docs - Getting Your Pro Key (Checkout, Lizenzschlüssel) 2026-11-17
  11. GitHub-Statistik via ungh (Sterne, Push-Aktivität) 2026-11-17
  12. Release-Liste via ungh (v1.19.0) 2026-11-17
  13. NVD-Keywordsuche anythingllm (25 CVE-Einträge) 2026-11-17
  14. NVD - CVE-2026-32626 (Critical, XSS zu RCE, Standardeinstellungen) 2026-11-17
  15. NVD - CVE-2024-0765 (Export-Daten-Exfiltration) 2026-11-17
  16. r/selfhosted - RCE über vergiftete RAG-Dokumente (via Arctic-Shift) 2026-11-17
  17. r/selfhosted - Docker Host Mode mit Tailscale (via Arctic-Shift) 2026-11-17
  18. Bluesky - deutscher IT-Sicherheitsdienstleister testet AnythingLLM 2026-11-17
  19. Bluesky - Reranker-Begrenzung gegenüber Open WebUI 2026-11-17
  20. Bluesky - v1.19.0 mit Built-in-LLM im Docker-Image 2026-11-17
  21. Bluesky - lokaler RAG-Stack mit AnythingLLM 2026-11-17
  22. Mastodon - AnythingLLM-SSO-Bridge für OIDC 2026-11-17
  23. Hacker News - AnythingLLM-Fork als NPM-Paket 2026-11-17

Alternativen zu AnythingLLM

Wer AnythingLLM nicht will, findet in der Aufgabe KI die ehrlichsten Vergleichsfälle - gleiche Aufgabe, gleiche Messlatte.

Nutzerkommentare (0)

Noch keine Kommentare.