Skywork入门学习资料汇总 - 开源大语言模型

Skywork

Skywork开源大语言模型入门指南

Skywork是由昆仑万维集团·天工团队开发的一系列开源大语言模型,包括Base、Chat、Math等版本。本文汇总了Skywork的相关学习资料,帮助读者快速了解和使用该模型。

1. 模型概述

Skywork目前开源了以下几个版本的模型:

Skywork-13B-Base:基础模型,在3.2T多语言和代码数据上预训练
Skywork-13B-Chat:对话模型,在文创领域进行了增强
Skywork-13B-Math:数学能力增强版本
Skywork-13B-MM:多模态模型,支持图像输入

此外还开源了各模型的量化版本,支持在消费级显卡上部署。

2. 模型下载

可以从以下平台下载Skywork模型:

🤗 Hugging Face
🤖 ModelScope
👾 Wisemodel
🧰 OpenXLab

3. 快速使用

可以使用以下代码快速加载和使用Skywork模型:

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Skywork/Skywork-13B-Base", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("Skywork/Skywork-13B-Base", trust_remote_code=True)

input_text = "Hello, I am Skywork."
input_ids = tokenizer(input_text, return_tensors="pt").input_ids
outputs = model.generate(input_ids, max_new_tokens=50)
print(tokenizer.decode(outputs[0]))