AnythingLLM

App todo en uno para conversar con tus documentos, crear agentes y ejecutar modelos locales: escritorio o servidor Docker multiusuario.

  • Interfaces
  • MIT · Código abierto
  • macOS, Windows, Linux
  • Verificado

AnythingLLM, de Mintplex Labs, reúne chat, ingesta de documentos, agentes y bases de datos vectoriales en una sola aplicación. Conectas un modelo local o de nube, subes documentos como PDF, TXT y DOCX y conversas con ellos, con citas de las fuentes. Hay versión de escritorio para macOS, Windows y Linux, y la versión Docker añade soporte multiusuario con permisos, white-labeling y un widget de chat incrustable.

Incluye un motor de modelos locales integrado, basado en Lemonade y llama.cpp, que funciona en CPU o GPU (NVIDIA vía CUDA, AMD e Intel vía Vulkan) sin configuración adicional. También puede conectarse a Ollama, LM Studio, LocalAI, KoboldCpp y muchos proveedores de nube. Otras funciones del README incluyen un constructor de agentes sin código, compatibilidad con MCP, tareas programadas, memorias y una API para desarrolladores.

La licencia es MIT. Al ser una capa de aplicación, la calidad de las respuestas sobre tus documentos depende del modelo de chat y del modelo de embeddings que conectes, y nuestra lista de modelos de embeddings es un buen punto de partida para elegir un embedder.

Ideal para

  • Preguntas y respuestas privadas sobre tus propios PDF y notas
  • Equipos que quieren un servidor de chat multiusuario con permisos
  • Agentes sin código que usan herramientas y tus documentos
  • Conectar muchos proveedores de modelos locales y de nube desde una sola interfaz

A tener en cuenta

  • El soporte multiusuario, el white-labeling y el widget de chat incrustable solo están disponibles en la versión Docker
  • Si eliges un proveedor de nube, este recibe tus prompts y los fragmentos de documentos enviados con ellos
  • La calidad de las respuestas depende del modelo de embeddings y del modelo de chat que elijas

Enlaces