🤖 在本地与多个PDF进行聊天

📖 目录

• 功能
• 理念
• 设置
  • Kaggle
  • 本地
    • 克隆
    • 安装
    • 运行
• 待办事项

⭐️ 主要功能

• 易于在本地或Kaggle上运行（新功能）
• 使用来自Huggingface和Ollama的任何模型
• 处理多个PDF输入
• 支持多语言聊天（即将推出）
• 使用Gradio的简洁用户界面

💡 理念（实验）

💻 设置

1. Kaggle（推荐）

• 将notebooks/kaggle.ipynb导入到Kaggle
• 用你的令牌替换<YOUR_NGROK_TOKEN>

2. 本地

2.1 克隆项目

git clone https://github.com/datvodinh/rag-chatbot.git
cd rag-chatbot

2.2 安装

2.2.1 Docker

docker compose up --build

2.2.2 使用脚本（Ollama、Ngrok、python包）

source ./scripts/install_extra.sh

2.2.3 手动安装

1. Ollama

• MacOS、Windows：下载

• Linux

curl -fsSL https://ollama.com/install.sh | sh

2. Ngrok

• MacOS

brew install ngrok/ngrok/ngrok

• Linux

curl -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc \
| sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null \
&& echo "deb https://ngrok-agent.s3.amazonaws.com buster main" \
| sudo tee /etc/apt/sources.list.d/ngrok.list \
&& sudo apt update \
&& sudo apt install ngrok

3. 安装rag_chatbot包

source ./scripts/install.sh

2.3 运行

source ./scripts/run.sh

或

python -m rag_chatbot --host localhost

• 使用Ngrok

source ./scripts/run.sh --ngrok

3. 设置完成后，访问：http://0.0.0.0:7860/或Ngrok链接

🎯 待办事项

• 添加评估
• 改进文档处理
• 为越南语和其他语言提供更好的嵌入模型支持
• ReAct代理
• 文档管理（Qrdant、MongoDB等）

🌟 Star历史