AnythingLLM

AnythingLLM ist eine Open-Source-All-in-One-KI-Desktop-Anwendung, die es Benutzern ermöglicht, mit mehreren großen Sprachmodellen (LLMs) lokal oder über Cloud-APIs zu interagieren. Sie unterstützt RAG (Retrieval-Augmented Generation) durch die Aufnahme von Dokumenten, Websites und Code-Repositories, sodass Benutzer mit ihren eigenen Daten chatten können. Zu den wichtigsten Funktionen gehören Modellwechsel (z. B. OpenAI, Anthropic, lokale Modelle), benutzerdefinierte Embeddings und Arbeitsbereichsverwaltung. Zielgruppe sind Entwickler, Forscher und datenschutzbewusste Personen, die einen flexiblen, selbst gehosteten KI-Assistenten wünschen. Das Besondere ist, dass es sich um eine vollständig lokale Desktop-App mit mehreren Modellen und integrierter RAG-Unterstützung handelt.