HuixiangDou

项目介绍：慧想豆（HuixiangDou）

慧想豆是一个基于大语言模型（LLM）的专业知识助手。它设计了一个三阶段的处理流程，包括预处理、拒绝和响应。这一模型旨在提供群聊场景下的高效问答解决方案和实时流聊天功能。

项目特点

• 三阶段处理流程

  • chat_in_group：适用于群聊场合，能够在不干扰大家的前提下智能回答用户的问题。
  • chat_with_repo：实现实时流聊天功能。

• 硬件低要求

  • 无需训练，支持仅用CPU以及2G、10G、20G、80G等不同硬件配置，便于广泛应用。

• 完整技术支持

  • 提供了一整套Web、安卓、管道的源代码，可以实现工业级别并具有商业潜力的应用。

最新功能

• Web版本现已发布至 OpenXLab，该平台可以创建知识库、更新正负例、开启网页搜索和测试聊天，甚至集成到飞书或微信群聊中。
• 整合了安卓设备的API，便于在其他设备中应用。

运行环境

慧想豆完美支持多种文件格式（如pdf、word、excel等）和检索方法（如文档密集、代码稀疏检索和互联网搜索）。它能够轻松整合至微信、飞书、OpenXLab，以及其它应用环境。

硬件需求与配置

项目提供多种版本，从不需要GPU的CPU版本到需要80GB显存的高级配置，用户可以根据自己的硬件条件自由选择。

使用教程

用户可以遵循标准版本的介绍，以在本地运行LLM进行文本检索。项目所需的其他版本主要体现在配置选项的不同。

1. 依赖的下载与安装
   • 用户需登录Huggingface并安装必要的系统和Python依赖。
2. 知识库的创建与问答
   • 用户可利用项目中的文档创建知识库，随后进行问答测试，以查看效果。
3. 集成到飞书或微信群聊
   • 提供一键发送、双向飞书接收和发送功能，以及个人微信和微信团队接入方案。

常见问题

项目详细解答了一些可能遇到的常见问题，包括机器过于沉默或话唠、内存不足等，并提供相应解决方案。

鸣谢

特别感谢在项目开发中提供支持和技术开发的团队与个人，包括KIMI、FlagEmbedding、BCEmbedding等。

慧想豆项目力求为用户提供更智能、更高效的知识管理和交流工具，欢迎大家的参与与支持！如果觉得项目有帮助，别忘了给星支持哦⭐