Qwen2-1.5B-Ita

项目介绍

模型概述

Qwen2 1.5B 是一个专门为意大利语优化的小型语言模型，尽管其参数量仅有 15 亿，但在性能上几乎可以媲美参数量高达 90 亿的 ITALIA 模型。该模型经过精细调优，专注于为意大利语的各种语言任务提供支持，在效率和效果上都表现出色。

模型详情

模型名称： Qwen2 1.5B 意大利语优化版
版本： 1.5b
模型类型： 语言模型
参数数量： 15 亿
支持语言： 意大利语
可比模型： ITALIA by iGenius（参数量 90 亿）

Qwen2 1.5B 的小巧优势在于资源利用率高，适用于各类意大利语应用场景。该模型在多个基准测试中进行了性能评估，与 ITALIA 模型进行了对比，显示其优异的表现。

性能评估

在多个基准测试中，Qwen2 1.5B 展现了其优异的性能，特别是在 MMLU 基准测试中表现突出。尽管在 ARC 和 HELLASWAG 基准上稍逊于 ITALIA 模型，但整体得分接近，显示出其在高效性和能力之间的平衡。

模型名称	参数数量	平均分	MMLU得分	ARC得分	HELLASWAG得分
ITALIA	90 亿	43.5	35.22	38.49	56.79
Qwen2-1.5B-Ita	15 亿	43.98	51.45	32.34	48.15

如何使用

用户可以通过 Python 代码对该模型进行调用，具体代码示例如下：

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "DeepMount00/Qwen2-1.5B-Ita"

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

prompt = [{'role': 'user', 'content': """Marco ha comprato 5 scatole di cioccolatini. Ogni scatola contiene 12 cioccolatini. Ha deciso di dare 3 cioccolatini a ciascuno dei suoi 7 amici. Quanti cioccolatini gli rimarranno dopo averli distribuiti ai suoi amici?"""}]
inputs = tokenizer.apply_chat_template(
    prompt,
    add_generation_prompt=True,
    return_tensors='pt'
)
tokens = model.generate(
    inputs.to(model.device),
    max_new_tokens=1024,
    temperature=0.001,
    do_sample=True
)

print(tokenizer.decode(tokens[0], skip_special_tokens=False))

结论

Qwen2 1.5B 表明，小型且高效的模型也能达到与大型模型不相上下的性能水平。其在多任务语言理解（MMLU）基准测试中尤其突出，展示了其在多任务处理的强大能力。虽然在 ARC 和 HELLASWAG 基准上的得分略低，但其整体表现使其成为一个值得信赖的意大利语任务解决方案，在效率与能力之间取得了良好的平衡。