AnythingLLM

App tudo-em-um para conversar com seus documentos, criar agentes e rodar modelos locais: desktop ou servidor Docker multiusuário.

  • Interfaces
  • MIT · Código aberto
  • macOS, Windows, Linux
  • Verificado

O AnythingLLM, da Mintplex Labs, reúne chat, ingestão de documentos, agentes e bancos de dados vetoriais em um único aplicativo. Você conecta um modelo local ou de nuvem, envia documentos como PDF, TXT e DOCX e conversa com eles, com citações das fontes. Há uma versão de desktop para macOS, Windows e Linux, e a versão Docker adiciona suporte multiusuário com permissões, white-labeling e um widget de chat incorporável.

Ele inclui um motor de modelos local integrado, baseado em Lemonade e llama.cpp, que roda em CPU ou GPU (NVIDIA via CUDA, AMD e Intel via Vulkan) sem configuração extra. Também pode se conectar a Ollama, LM Studio, LocalAI, KoboldCpp e muitos provedores de nuvem. Outros recursos do README incluem um construtor de agentes sem código, compatibilidade com MCP, tarefas agendadas, memórias e uma API para desenvolvedores.

A licença é MIT. Por ser uma camada de aplicação, a qualidade das respostas sobre seus documentos depende do modelo de chat e do modelo de embeddings que você conectar, e nossa lista de modelos de embeddings é um bom ponto de partida para escolher um embedder.

Bom para

  • Perguntas e respostas privadas sobre seus próprios PDFs e notas
  • Equipes que querem um servidor de chat multiusuário com permissões
  • Agentes sem código que usam ferramentas e seus documentos
  • Conectar muitos provedores de modelos locais e de nuvem a partir de uma interface

Pontos de atenção

  • Suporte multiusuário, white-labeling e o widget de chat incorporável estão disponíveis apenas na versão Docker
  • Se você escolher um provedor de nuvem, ele recebe seus prompts e os trechos de documentos enviados junto
  • A qualidade das respostas depende do modelo de embeddings e do modelo de chat que você escolher

Links