AnythingLLM

ドキュメントと対話し、エージェントを構築し、ローカルモデルを実行するオールインワンアプリ。デスクトップ版と多ユーザーの Docker サーバー版。

  • インターフェース
  • MIT · オープンソース
  • macOS, Windows, Linux
  • 検証日

AnythingLLM は Mintplex Labs 製のアプリで、チャット、ドキュメント取り込み、エージェント、ベクトルデータベースを 1 つのアプリケーションにまとめています。ローカルまたはクラウドのモデルを接続し、PDF、TXT、DOCX などのドキュメントをアップロードすれば、出典の引用つきでそれらと対話できます。macOS、Windows、Linux 向けのデスクトップ版があり、Docker 版では権限管理つきのマルチユーザー対応、ホワイトラベル化、埋め込み可能なチャットウィジェットが追加されます。

Lemonade と llama.cpp を基盤とするローカルモデルエンジンを内蔵しており、追加設定なしで CPU でも GPU でも動きます(NVIDIA は CUDA、AMD と Intel は Vulkan 経由)。Ollama、LM Studio、LocalAI、KoboldCpp や多数のクラウドプロバイダーにも接続できます。README に挙げられているその他の機能には、ノーコードのエージェントビルダー、MCP 互換、定期タスク、メモリー、開発者 API があります。

ライセンスは MIT です。アプリケーション層であるため、ドキュメントについての回答の質は、接続したチャットモデルと埋め込みモデルに左右されます。当サイトの埋め込みモデル一覧は、埋め込みモデルを選ぶ際の良い出発点です。

おすすめの用途

  • 自分の PDF やメモについてのプライベートな質問応答
  • 権限つきのマルチユーザーチャットサーバーが欲しいチーム
  • ツールと自分のドキュメントを使うノーコードエージェント
  • 1 つのインターフェースから多くのローカル・クラウドモデルプロバイダーに接続

注意点

  • マルチユーザー対応、ホワイトラベル化、埋め込み可能なチャットウィジェットは Docker 版のみ
  • クラウドプロバイダーを選ぶと、入力したプロンプトと一緒に送った文書の抜粋がその相手に送信される
  • 回答の質は選んだ埋め込みモデルとチャットモデルに依存する

リンク