anything-llm AnythingLLM 您一直在寻找的全方位AI应用程序

AI MCP 系列

AgentGPT-01-入门介绍

Browser-use 是连接你的AI代理与浏览器的最简单方式

AI MCP(大模型上下文)-01-入门介绍

AI MCP(大模型上下文)-02-awesome-mcp-servers 精选的 MCP 服务器

AI MCP(大模型上下文)-03-open webui 介绍 是一个可扩展、功能丰富且用户友好的本地部署 AI 平台，支持完全离线运行。

AI MCP(大模型上下文)-04-n8n 为技术团队打造的安全工作流自动化平台

AI MCP(大模型上下文)-05-anything-llm AnythingLLM 您一直在寻找的全方位AI应用程序

AI MCP(大模型上下文)-06-maxkb 强大易用的企业级 AI 助手

AI MCP(大模型上下文)-07-dify 入门介绍

AI MCP(大模型上下文)-08-分享一些好用的 Dify DSL 工作流程

AI MCP(大模型上下文)-09-基于Dify自主创建的AI应用DSL工作流

AI MCP(大模型上下文)-10-Activepieces 一个开源的 Zapier 替代方案

AI MCP(大模型上下文)-11-微软 Playwright MCP server

AI MCP(大模型上下文)-12-AWS MCP

AI MCP(大模型上下文)-13-github MCP

AnythingLLM 您一直在寻找的全方位AI应用程序。

与您的文档聊天，使用AI代理，高度可配置，多用户，无需繁琐的设置。

适用于桌面（Mac、Windows和Linux）的AnythingLLM！

这是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库，同时支持多用户管理并设置不同权限。

产品概览

AnythingLLM是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。

AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。

工作区的功能类似于线程，同时增加了文档的容器化。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。

AnythingLLM的一些酷炫特性

• 🆕 自定义AI代理
• 🆕 无代码AI代理构建器
• 🖼️ 多用户实例支持和权限管理（支持封闭源和开源LLM！）
• 👤 多用户实例支持和权限管理 仅限Docker版本
• 🦾 工作区内的智能体Agent（浏览网页、运行代码等）
• 💬 为您的网站定制的可嵌入聊天窗口
• 📖 支持多种文档类型（PDF、TXT、DOCX等）
• 通过简单的用户界面管理向量数据库中的文档
• 两种对话模式：聊天和查询。聊天模式保留先前的对话记录。查询模式则是针对您的文档做简单问答
• 聊天中会提供所引用的相应文档内容
• 100%云部署就绪。
• “部署你自己的LLM模型”。
• 管理超大文档时高效、低耗。只需要一次就可以嵌入（Embedding）一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
• 全套的开发人员API，用于自定义集成！

支持的LLM、嵌入模型、转录模型和向量数据库

支持的LLM：

• 任何与llama.cpp兼容的开源模型
• OpenAI
• OpenAI (通用)
• Azure OpenAI
• Anthropic
• Google Gemini Pro
• Hugging Face (聊天模型)
• Ollama (聊天模型)
• LM Studio (所有模型)
• LocalAi (所有模型)
• Together AI (聊天模型)
• Fireworks AI (聊天模型)
• Perplexity (聊天模型)
• OpenRouter (聊天模型)
• Novita AI (聊天模型)
• Mistral
• Groq
• Cohere
• KoboldCPP
• PPIO (聊天模型)

支持的嵌入模型：

• AnythingLLM原生嵌入器（默认）
• OpenAI
• Azure OpenAI
• LocalAi (全部)
• Ollama (全部)
• LM Studio (全部)
• Cohere

支持的转录模型：

• AnythingLLM内置 （默认）
• OpenAI

TTS (文本转语音) 支持：

• 浏览器内置（默认）
• PiperTTSLocal - 在浏览器中运行
• OpenAI TTS
• ElevenLabs
• 任何与 OpenAI 兼容的 TTS 服务

STT (语音转文本) 支持：

• 浏览器内置（默认）

支持的向量数据库：

• LanceDB （默认）
• Astra DB
• Pinecone
• Chroma
• Weaviate
• QDrant
• Milvus
• Zilliz

技术概览

这个单库由三个主要部分组成：

• frontend: 一个 viteJS + React 前端，您可以运行它来轻松创建和管理LLM可以使用的所有内容。
• server: 一个 NodeJS express 服务器，用于处理所有交互并进行所有向量数据库管理和 LLM 交互。
• docker: Docker 指令和构建过程 + 从源代码构建的信息。
• collector: NodeJS express 服务器，用于从UI处理和解析文档。