AnythingLLM

AnythingLLM est une application IA open-source full-stack conçue autour du chat documentaire, de la génération augmentée par la recherche (RAG) et de l'automatisation multi-agents. Elle est développée par Timothy Carambat chez Mintplex Labs Inc., une startup de quatre personnes soutenue par YC et basée à Irvine, en Californie. Le problème principal qu'elle résout est simple : la plupart des équipes qui souhaitent une IA privée et capable de traiter des documents doivent assembler de toutes pièces une base de données vectorielle, un pipeline d'intégration (embedding), un fournisseur de LLM et une interface de chat. AnythingLLM regroupe tout cela dans un seul package installable, sous licence MIT, sans aucun frais d'utilisation de la part de l'éditeur.

L'application fonctionne soit comme une application de bureau native Electron (Mac, Windows, Linux), soit comme une image serveur Docker pour les déploiements en équipe. Elle prend en charge plus de 30 fournisseurs de LLM, dont OpenAI, Anthropic Claude, les modèles locaux Ollama et l'inférence llama.cpp. Les documents aux formats PDF, Word, Excel, PowerPoint, Markdown, HTML, audio et vidéo peuvent être intégrés dans des espaces de travail isolés, chacun disposant de son propre index vectoriel, de sa configuration de modèle et de son historique de conversation. Le framework d'agents intégré prend en charge la navigation web, l'exécution de code, la génération de fichiers et des compétences personnalisées téléchargeables depuis le Community Hub sur hub.anythingllm.com. Une API REST offre aux développeurs un accès programmatique à chaque espace de travail, pipeline d'intégration et capacité d'agent.

Ce que fait réellement AnythingLLM en avril 2026

La version 1.12.1, sortie le 22 avril 2026, est la version de production actuelle. La plateforme fonctionne selon deux modes principaux : le mode Chat (Chat Mode), où le LLM peut utiliser à la fois les documents de l'espace de travail et ses connaissances générales d'entraînement, et le mode Requête (Query Mode), où les réponses sont strictement limitées aux documents intégrés (utile pour les déploiements soumis à des contraintes de conformité). Les espaces de travail fonctionnent comme des dossiers de projet isolés : chacun contient son propre corpus de documents, son index vectoriel, son prompt système, sa sélection de modèles et son historique de conversation, indépendamment de tous les autres espaces de travail.

Depuis la version 1.12.0, le système d'agents fonctionne en « Automatic Mode » par défaut : l'appel d'outils est déclenché sans que l'utilisateur n'ait besoin de préfixer ses requêtes avec « @agent ». La sélection intelligente des outils (Intelligent Tool Selection) réduit l'utilisation des tokens jusqu'à 80 % par requête en n'acheminant que le contexte pertinent vers l'outil actif, plutôt que d'envoyer le manifeste complet de l'outil. Les compétences d'agents intégrées disponibles incluent la navigation web, le Filesystem Agent (accès aux fichiers de la machine hôte), le Document Generation Agent (formats de sortie multiples) et une intégration Telegram Bot avec streaming et compréhension d'images. La compatibilité MCP (Model Context Protocol) est entièrement implémentée pour Desktop et Docker, permettant la connexion à n'importe quel serveur MCP compatible avec Anthropic.

Le Community Hub a été lancé le 27 novembre 2024, en même temps que l'annonce d'un partenariat avec NVIDIA mettant en avant l'exécution locale d'agents accélérée par RTX. Le hub distribue des compétences d'agents, des prompts système et des commandes slash créés par les utilisateurs. Parmi les exemples de compétences du Hub, on trouve des assistants de messagerie Microsoft Outlook, des agents Google Calendar, des contrôleurs domotiques et des intégrations de points de terminaison d'API personnalisés. Le hub est encore en version bêta : les espaces de travail et les connecteurs de données sont annoncés comme des catégories à venir.

« Un contrôle des documents impressionnant ; prise en charge de multiples modèles » -- Dmitry Ivanov, avis sur aitools.xyz, 20 février 2025

Où se situe AnythingLLM par rapport à Open WebUI et PrivateGPT

Le paysage de l'IA auto-hébergée présente trois approches architecturales distinctes, et AnythingLLM occupe le juste milieu entre elles sur tous les axes importants.

Open WebUI (plus de 124 000 étoiles GitHub) est une interface axée sur le chat qui a ajouté le RAG comme fonctionnalité secondaire. Elle s'exécute sous la forme d'un conteneur Docker unique et détecte automatiquement les instances Ollama locales, mais n'intègre pas Ollama de la même manière que l'application de bureau d'AnythingLLM. Le système multi-utilisateurs d'Open WebUI est plus mature : il est livré avec RBAC, SSO via OIDC et des quotas d'utilisation prêts à l'emploi. Son système d'agents utilise des Pipelines basés sur Python, ce qui nécessite d'écrire du code pour l'étendre, contrairement au constructeur d'agents no-code d'AnythingLLM. Fait crucial, Open WebUI n'est pas sous une licence MIT pure : en novembre 2024, le projet est passé de la licence BSD-3-Clause à une « Open WebUI License » personnalisée avec un accord de licence contributeur (CLA) qui restreint les forks concurrentiels et le reconditionnement commercial. La réaction de la communauté a été importante (suivie sur Hacker News et Lobsters). Un retour en arrière partiel a suivi avec la version 0.6.6+ en avril 2025, mais la licence reste plus restrictive que les conditions claires de la licence MIT d'AnythingLLM. Les équipes qui créent des produits commerciaux sur leur stack IA auto-hébergée devraient considérer cela comme un facteur de risque architectural significatif.

PrivateGPT (Zylon AI) adopte une approche plus ciblée : des questions-réponses documentaires 100 % privées utilisant FastAPI et LlamaIndex, optimisées pour des déploiements à usage unique et isolés (air-gapped). Il n'intègre pas de serveur de modèles, nécessite une configuration de modèle séparée et n'est pas conçu pour des cas d'usage multi-espaces de travail ou multi-agents. Zylon a réorienté le projet vers une passerelle API d'entreprise en 2025 ; l'activité de développement de la communauté est nettement inférieure à celle d'AnythingLLM ou d'Open WebUI. La dernière version majeure était la 0.6.2. Pour les organisations qui ont besoin de la surface d'attaque la plus réduite possible dans un environnement totalement isolé, PrivateGPT reste pertinent. Pour toute équipe ayant besoin de flexibilité, d'isolation des espaces de travail, de workflows d'agents ou d'un support communautaire actif, AnythingLLM l'a largement dépassé.

Le résumé technique : Open WebUI l'emporte sur la maturité de l'authentification multi-utilisateurs et la taille de la communauté, mais comporte un risque lié à la licence et manque d'un constructeur d'agents no-code. PrivateGPT l'emporte sur le minimalisme du déploiement, mais a perdu du terrain sur le développement actif. AnythingLLM l'emporte sur le RAG en tant que fonctionnalité principale, l'isolation des espaces de travail, les outils d'agents no-code, la compatibilité MCP, l'intégration d'Ollama et une licence MIT claire.

« L'interface utilisateur semble écrasante avec des options excessives » -- Marco Fiorentini, avis sur aitools.xyz, 21 janvier 2025

À quoi ressemble la réalité du workflow quotidien

Les utilisateurs de l'application de bureau bénéficient de l'intégration la plus fluide. Téléchargez le programme d'installation, lancez-le, sélectionnez un fournisseur de modèles (ou utilisez Ollama intégré pour une inférence entièrement locale), créez un espace de travail et glissez-y des documents. Le pipeline RAG gère automatiquement le découpage (chunking), l'intégration (embedding) et le stockage vectoriel. Les requêtes s'exécutent immédiatement.

Les utilisateurs de Docker font face à un parcours plus complexe. Le mode d'échec le plus courant est une mauvaise configuration réseau : lors de l'exécution d'AnythingLLM dans Docker aux côtés d'une instance Ollama séparée, le nom d'hôte correct est host.docker.internal sur macOS et Windows, ou 172.17.0.1 sur Linux, et non localhost. Cela piège une part importante des nouveaux utilisateurs et la documentation ne le met pas suffisamment en évidence.

Changer de base de données vectorielle ou de modèle d'intégration après la configuration initiale est fastidieux. Changer votre modèle d'intégration ne réintègre pas automatiquement les documents existants : vous devez réingérer l'intégralité du corpus, ce qui, pour de grands ensembles de documents, est une opération de plusieurs heures. Les équipes doivent considérer le choix du modèle d'intégration comme une décision impliquant des coûts de migration.

Les compétences d'agents téléchargées depuis le Community Hub doivent être traitées avec prudence. La documentation officielle note explicitement que les compétences provenant du Hub exécutent du code sur votre machine hôte et doivent être examinées avant le déploiement. Le hub est en version bêta ; les processus de vérification des compétences soumises ne sont pas encore robustes.

À qui s'adresse AnythingLLM

L'outil est particulièrement adapté à trois groupes. Les équipes axées sur la confidentialité qui ont besoin d'une intelligence documentaire sur site sans faire transiter les données par des API cloud : cabinets d'avocats, instituts de recherche, opérations de santé et entreprises soumises à des exigences de résidence des données. Les développeurs qui souhaitent une stack RAG complète avec une API REST fonctionnelle qu'ils peuvent intégrer dans d'autres applications plutôt que de construire le pipeline de zéro. Les utilisateurs avancés (power users) exécutant des modèles locaux (en particulier sur du matériel NVIDIA RTX) qui souhaitent une automatisation par agents en plus de leur configuration Ollama sans avoir à coder manuellement la boucle de l'agent.

Les déploiements de bureau conviennent aux individus et aux petites équipes. Les déploiements multi-utilisateurs Docker avec gestion des autorisations par espace de travail conviennent aux organisations, bien que le système d'authentification (rôles admin, manager, utilisateur par défaut) soit moins complet que les outils d'entreprise basés sur le SSO.

Ce que n'est pas AnythingLLM

Ce n'est pas le bon choix si votre équipe souhaite principalement une interface de chat générale et que le chat documentaire est secondaire. Open WebUI ou LibreChat seront plus rapides à configurer et plus faciles pour les utilisateurs non techniques dans ce scénario. Le modèle d'espace de travail d'AnythingLLM est optimisé pour les workflows centrés sur les documents ; il ajoute des frictions pour les équipes qui souhaitent surtout basculer entre les fournisseurs de LLM dans une interface de chat familière.

Ce n'est pas un outil sans configuration pour les utilisateurs non techniques sur la voie Docker. L'application de bureau réduit considérablement les frictions, mais le déploiement Docker nécessite d'être à l'aise avec la mise en réseau des conteneurs, le mappage des ports et la configuration des volumes. « La confidentialité garantit que les données ne sont pas partagées avec des tiers », comme l'a noté un évaluateur, mais cette confidentialité dépend de la configuration correcte de sa propre infrastructure par l'utilisateur.

Ce n'est pas un produit d'entreprise fini avec des pistes d'audit, des rapports de conformité ou une intégration LDAP mature. Les organisations qui ont besoin de ces contrôles aujourd'hui devront les construire autour de l'API REST ou attendre que la feuille de route les fournisse.