开源LLM网络应用汇总和对比分析
该项目收集并分析了多种开源LLM网络应用,涵盖聊天机 器人、自然语言界面等类型。通过比较各项目的功能特点,为开发者选择合适的应用提供参考。收录的项目均为开源且活跃维护,包含从基础API到完整生产系统等不同复杂度。
从应用开始,而不是从框架开始,快速启动你的大语言模型项目。本仓库汇集了高质量、功能完善的Web应用,适用于聊天机器人、自然语言接口、助手和问答系统等用例。它从重要维度对这些用例的项目进行比较,帮助你为你的应用选择合适的起点。
为确保最高质量和可用性,项目必须符合以下标准才能被收录:
这些项目涵盖了广泛的复杂程度,从简单的API封装到具有多源RAG后端、对话日志记录和身份验证/用户管理的生产就绪系统。几乎能满足各种需求。
贡献是这个列表的基石!如果你知道符合我们标准但未列出的项目,我们很乐意听到你的意见。如果列出的任何项目变得不再维护或改变了许可,也请通知我们。此外,如果你想比较某个目前未跟踪的项目细节,请为此提交一个问题。最后,如果你是已列出项目的维护者,想要更新或修改列表,请重新提交并附上所需的修改。
提交项目:
如果你想帮助维护这个项目,请通过电子邮件联系clharman。
目前正在寻求以下方面的提交:
项目 | 演示 | 简要描述 | 对话上下文传递 | 对话历史 | 身份认证 | 模型支持 | 富文本支持 | 图片支持 | (RAG)搜索引擎 | (RAG)显示来源 | (RAG)数据摄取 | 快速部署 | 其他特性 |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|
Hugging Face 聊天界面 | 🟢 链接 | 功能齐全的聊天界面 | 🟢 | 🟢 | 🟢 OpenID | Hugging Face 推理 API、本地、Amazon SageMaker | 🟢 | 🔴 | 🟢 谷歌搜索 | 🟢 | 🔴 | 🟢 Hugging Face Spaces | 主题配置 |
Weaviate Verba | 🟢 链接 | RAG 应用的聊天界面 | 🔴 | 🔴 | 🔴 | OpenAI | 🟢 | 🔴 | 🟢 Weaviate | 🟢 | 🟢 通过命令行界面 | 🟢 Docker | 语义缓存 |
Microsoft Azure 聊天 | 🔴 | 基于 Azure 的私有聊天租户,适用于数据和文件 | 🟢 | 🟢 | 🟢 NextAuth | OpenAI | 🟢 | 🔴 | 🟢 Azure 认知搜索 | 🔴 | 🟢 界面单文件上传 | 🟢 Azure | |
AWS GenAI LLM 聊天机器人 | 🔴 | 基于 AWS 的聊天机器人,具有 RAG 和可选择的 LLM | 🟢 | 🟢 | 🟢 Amazon Cognito | Bedrock、SageMaker、Hugging Face 推理端点、OpenAI、Anthropic、AI21、Cohere | 🔴 | 🔴 | 🟢 Postgres/Kendra/OpenSearch | 🟢 | 🟢 界面文件上传 | 🟢 AWS | 用户可选模型和搜索后端 |
PrivateGPT | 🔴 | RAG 应用的 API、管道和界面。支持私有模型。 | 🟢 | 🔴 | 🔴 |