AnythingLLM
App todo en uno para conversar con tus documentos, crear agentes y ejecutar modelos locales: escritorio o servidor Docker multiusuario.
AnythingLLM, de Mintplex Labs, reúne chat, ingesta de documentos, agentes y bases de datos vectoriales en una sola aplicación. Conectas un modelo local o de nube, subes documentos como PDF, TXT y DOCX y conversas con ellos, con citas de las fuentes. Hay versión de escritorio para macOS, Windows y Linux, y la versión Docker añade soporte multiusuario con permisos, white-labeling y un widget de chat incrustable.
Incluye un motor de modelos locales integrado, basado en Lemonade y llama.cpp, que funciona en CPU o GPU (NVIDIA vía CUDA, AMD e Intel vía Vulkan) sin configuración adicional. También puede conectarse a Ollama, LM Studio, LocalAI, KoboldCpp y muchos proveedores de nube. Otras funciones del README incluyen un constructor de agentes sin código, compatibilidad con MCP, tareas programadas, memorias y una API para desarrolladores.
La licencia es MIT. Al ser una capa de aplicación, la calidad de las respuestas sobre tus documentos depende del modelo de chat y del modelo de embeddings que conectes, y nuestra lista de modelos de embeddings es un buen punto de partida para elegir un embedder.
Ideal para
- Preguntas y respuestas privadas sobre tus propios PDF y notas
- Equipos que quieren un servidor de chat multiusuario con permisos
- Agentes sin código que usan herramientas y tus documentos
- Conectar muchos proveedores de modelos locales y de nube desde una sola interfaz
A tener en cuenta
- El soporte multiusuario, el white-labeling y el widget de chat incrustable solo están disponibles en la versión Docker
- Si eliges un proveedor de nube, este recibe tus prompts y los fragmentos de documentos enviados con ellos
- La calidad de las respuestas depende del modelo de embeddings y del modelo de chat que elijas