DeepSeek-Math: 推动开放语言模型数学推理能力的极限

DeepSeek-Math:开创数学推理新纪元

在人工智能领域,语言模型的数学推理能力一直是一个备受关注的研究方向。近日,DeepSeek AI团队推出了一款专门针对数学推理进行优化的开源大语言模型 - DeepSeek-Math,在数学推理能力方面取得了突破性进展。让我们一起深入了解这个令人振奋的项目。

模型简介

DeepSeek-Math是基于DeepSeek-Coder-v1.5 7B模型初始化,并在数学相关数据上进行了5000亿个token的预训练。该模型在Common Crawl数据集中提取了大量与数学相关的网页内容,同时结合了自然语言和代码数据进行训练。

$DeepSeek-Math logo$

DeepSeek-Math提供了三个版本的7B参数模型:

DeepSeekMath-Base:基础预训练模型
DeepSeekMath-Instruct:在Base模型基础上进行了指令微调
DeepSeekMath-RL:在Instruct模型基础上使用强化学习进行了进一步优化

卓越的数学推理能力

DeepSeek-Math在数学推理能力方面展现出了惊人的表现。在竞赛级别的MATH基准测试中,DeepSeek-Math-Base 7B模型在不依赖外部工具和投票技术的情况下,仅通过少样本链式思考提示就达到了51.7%的得分,超过了现有的开源基础模型10%以上,甚至超越了Minerva 540B。这一成绩已经接近Gemini-Ultra和GPT-4的水平。

评估结果

DeepSeek-Math不仅在数学推理方面表现出色,在使用工具解决数学问题和形式化定理证明方面也展现出了强大的能力。此外,该模型在自然语言理解、推理和编程技能方面的表现也与DeepSeek-Coder-Base-7B-v1.5相当。

数据收集与模型训练

DeepSeek团队采用了一种迭代的数据收集方法来构建高质量的数学语料库:

选择OpenWebMath作为初始种子语料库,训练FastText模型
使用FastText模型从Common Crawl数据库中检索数学相关网页
通过统计分析识别潜在的数学相关域名
人工标注这些域名中与数学内容相关的URL
将这些URL链接的新网页添加到种子语料库,重复步骤1-4共4次迭代

通过这种方法,DeepSeek团队最终收集了3550万个数学相关网页,总计1200亿个token。这种精心设计的数据收集过程为模型提供了高质量的训练数据,是DeepSeek-Math取得卓越性能的重要基础。

模型下载与快速使用

DeepSeek-Math的三个版本(Base、Instruct和RL)均已在Hugging Face上开源,供学术和商业社区进行更广泛和多样化的研究。使用这些模型非常简单,可以直接通过Hugging Face的Transformers库进行推理。

以下是使用DeepSeek-Math-Base模型进行文本补全的示例代码:

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig

model_name = "deepseek-ai/deepseek-math-7b-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")
model.generation_config = GenerationConfig.from_pretrained(model_name)
model.generation_config.pad_token_id = model.generation_config.eos_token_id

text = "The integral of x^2 from 0 to 2 is"
inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(**inputs.to(model.device), max_new_tokens=100)

result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)

模型许可与商业使用

DeepSeek-Math支持商业使用,但使用时需遵守模型许可协议。代码仓库采用MIT许可证,而模型使用则受MODEL许可证约束。详细信息可参考LICENSE-CODE和LICENSE-MODEL。

未来展望

DeepSeek-Math的出现无疑为数学推理和人工智能领域带来了新的可能性。它不仅在数学问题解决方面展现出卓越能力,还在工具使用、定理证明等方面显示出巨大潜力。随着更多研究者和开发者参与到这个开源项目中来,我们有理由相信DeepSeek-Math将在推动数学推理和人工智能融合方面发挥越来越重要的作用。

DeepSeek-Math项目的成功,也为其他领域特定的大语言模型开发提供了宝贵经验。通过精心设计的数据收集流程、多阶段的模型训练策略,以及开放共享的研究态度,DeepSeek团队展示了如何在特定领域打造高性能的AI模型。

随着DeepSeek-Math的开源,我们期待看到更多创新应用的出现,例如智能数学辅导系统、自动定理证明工具,甚至是辅助数学研究的AI助手。这个项目无疑将推动数学教育、科研和工程应用等多个领域的发展。

总的来说,DeepSeek-Math的发布标志着AI在数学推理领域迈出了重要一步。它不仅展示了大语言模型在特定领域达到接近人类专家水平的潜力,还为未来AI辅助科学研究和问题解决开辟了新的可能性。我们有理由相信,随着这项技术的不断发展和完善,人类的数学探索之旅将会变得更加精彩纷呈。