TigerBot学习资料汇总 - 开源多语言多任务大语言模型

TigerBot学习资料汇总 - 开源多语言多任务大语言模型

TigerBot是一个开源的多语言多任务大语言模型(LLM),由虎博科技研发并开源。本文汇总了TigerBot的各种学习资源,帮助读者快速了解和使用这个强大的开源大模型。

项目简介

TigerBot是一个基于Llama-2架构的多语言大模型,支持中英文等多种语言,覆盖对话、文本生成、问答等多种任务。项目开源了从7B到180B不同规模的基座模型和对话模型,并提供了免费的API服务。

模型下载

TigerBot提供了多个版本的模型权重供下载使用:

• TigerBot-70B系列模型
• TigerBot-13B系列模型
• TigerBot-7B系列模型

模型可以从Hugging Face或ModelScope平台下载。

使用教程

1. 环境配置:

conda create --name tigerbot python=3.8
conda activate tigerbot
pip install -r requirements.txt

2. 模型推理:

python infer.py --model_path TigerResearch/tigerbot-13b-chat

3. Web Demo:

streamlit run apps/web_demo.py -- --model_path tigerbot-13b-chat

API使用

TigerBot提供了免费的API服务,支持chat、summarization等功能:

import requests

url = "https://api.tigerbot.com/chat"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {"prompt": "你好,请介绍一下自己"}

response = requests.post(url, headers=headers, json=data)
print(response.json())

文档资源

• TigerBot GitHub: 项目主页,包含完整文档
• TigerBot 官网: 在线体验demo和API文档
• Hugging Face主页: 模型下载和在线使用

学术论文

• TigerBot: A Multi-language Multi-task LLM
• PEFT TigerBot with QLoRA

社区生态

TigerBot拥有活跃的开发者社区,有多个第三方项目:

• TigerBot聊天机器人桌面版
• 基于TigerBot的QQ群知识库机器人

TigerBot为开发者提供了丰富的学习资源和开放生态,欢迎更多开发者参与到这个开源项目中来,共同推动大语言模型技术的发展与应用。无论您是想使用TigerBot构建应用,还是希望深入研究大模型技术,相信这些资料都能为您提供有价值的参考。