Llama-Guard-3-8B

Llama-Guard-3-8B项目介绍

Llama-Guard-3-8B是一个基于Llama-3.1-8B预训练模型的内容安全分类模型。这个模型是Meta公司开发的内容审核工具,旨在为大型语言模型(LLM)提供内容安全保护。

模型特点

1. 功能强大:可以对LLM的输入(提示分类)和输出(回应分类)进行内容安全分类。

2. 使用简单:作为一个LLM模型,它可以生成文本输出,指出给定的提示或回应是否安全,如果不安全,还会列出违反的内容类别。

3. 多语言支持:能够对8种语言进行内容审核,包括英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语和泰语。

4. 安全性强:针对MLCommons标准化的危害分类进行了优化,可以支持Llama 3.1的各项功能。

5. 应用广泛:特别针对搜索和代码解释器工具调用的安全性进行了优化。

使用方法

Llama-Guard-3-8B可以直接通过transformers库使用。使用时需要注意以下几点:

1. 需要使用transformers 4.43或更高版本。

2. 模型提供了半精度(16位)和8位精度两个版本。

3. 使用时可以通过简单的Python代码进行调用,对聊天内容进行审核。

危害分类

该模型基于MLCommons的13种危害分类,外加1个针对代码解释器滥用的分类,共14个类别:

1. 暴力犯罪
2. 非暴力犯罪
3. 性相关犯罪
4. 儿童性剥削
5. 诽谤
6. 专业建议
7. 隐私
8. 知识产权
9. 无差别武器
10. 仇恨言论
11. 自杀和自残
12. 色情内容
13. 选举相关
14. 代码解释器滥用

训练数据

Llama-Guard-3-8B的训练数据来源于:

1. Llama Guard使用的英语数据,这些数据是通过Llama 2和Llama 3针对hh-rlhf数据集的提示生成的。

2. 为了扩展新类别和多语言能力,收集了额外的人工和合成生成的数据。

3. 多语言数据包括单轮和多轮的人机对话数据。

4. 为了减少模型的误报率,还精心策划了一组多语言良性提示和回应数据。

5. 针对工具使用功能,还收集了特定的训练数据。

总的来说,Llama-Guard-3-8B是一个功能强大、使用简单、支持多语言的内容安全分类模型,可以为各种LLM应用提供有效的内容审核保护。

</SOURCE_TEXT>