DeepSeek-Coder-V2-Lite-Instruct-GGUF
DeepSeek推出的全新MoE模型，专注编码指令与代码补全
DeepSeek-Coder-V2-Lite-Instruct是DeepSeek推出的编码指令专用MoE架构模型，通过6万亿高质量编码数据训练，以增强编程和数学推理能力，支持128k超长上下文。在多项基准测试中表现出色，可用于指令跟随和代码补全。要求使用LM Studio 0.2.25及更高版本，并需禁用Flash attention以正常运行。
项目介绍：DeepSeek-Coder-V2-Lite-Instruct-GGUF
项目背景
DeepSeek-Coder-V2-Lite-Instruct-GGUF是DeepSeek公司推出的一款全新模型，旨在专注于编程指令的生成与处理。作为一款混合专家模型（MoE），它在一系列的编程基准测试中表现优异，能够用于指令跟随与代码补全。
模型特色
模型设计
该模型是基于DeepSeek-V2进行进一步训练的，采用了高达16B的参数，其中仅有2.4B被激活以实现高效的推理速度。它还支持惊人的128k上下文长度，为用户提供更广泛的编程场景支持。
训练数据
DeepSeek-Coder-V2通过使用6万亿高质量的编码token进行训练，以增强其编程和数学推理能力，使其在相关领域中的表现更加出色。
使用案例
此模型主要用于生成和处理与编程相关的指令。为达到最佳效果，建议在使用LM Studio时选择Deepseek Coder模板进行提示格式化。
技术细节
- 模型类型：混合专家模型（MoE）
- 参数量：总参数量16B，活跃参数量2.4B
- 上下文长度：支持最长128k的上下文长度
使用指南
要使用DeepSeek-Coder-V2-Lite-Instruct-GGUF，需要在LM Studio版本0.2.25及以上中加载。请确保关闭闪存注意力功能以保证模型正常运行。
特别鸣谢
- 感谢Georgi Gerganov和他的团队在llama.cpp上的贡献。
- 感谢Kalomaze和Dampf在数据集上的工作，该数据集被用于计算所有尺寸的imatrix。
项目免责声明
LM Studio不是任何社区模型的创作者、发起者或所有者。每个社区模型均由第三方创作和提供。LM Studio不对任何社区模型的完整性、真实性、准确性或可靠性做出任何承诺。 使用者需理解，模型可能生成攻击性、有害、不准确或其他不当内容。 使用者对使用或访问社区模型所造成的任何损坏负有全部责任。
了解更多
如需更多技术细节和背景信息，请查看DeepSeek的研究论文：DeepSeek-Coder-V2论文
编辑推荐精选
Vora
免费创建高清无水印Sora视频
Vora是一个免费创建高清无水印Sora视频的AI工具
Refly.AI
最适合小白的AI自动化工作流平台
无需编码，轻松生成可复用、可变现的AI自动化工作流
酷表ChatExcel
大模型驱动的Excel数据处理工具
基于大模型交互的表格处理系统，允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令，自动执行排序、公式计算和数据透视等操作，支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内，支持超过100万行数据的即时分析。
TRAE编程
AI辅助编程，代码自动修复
Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。
AIWritePaper论文写作
AI论文写作指导平台
AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。
博思AIPPT
AI一键生成PPT，就用博思AIPPT！
博思AIPPT，新一代的AI生成PPT平台，支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等，内置海量精美PPT模板，涵盖商务、教育、科技等不同风格，同时针对每个页面提供多种版式，一键自适应切换，完美适配各种办公场景。
潮际好麦
AI赋能电商视觉革命，一站式智能商拍平台
潮际好麦深耕服装行业，是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌，以及国内10万+淘宝、天猫、京东等主流平台的品牌商家，为卖家节省将近85%的出图成本，提升约3倍出图效率，让品牌能够快速上架。
iTerms
企业专属的AI法律顾问
iTerms是法大大集团旗下法律子品牌，基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构，帮助企业扫清合规障碍，筑牢风控防线，成为您企业专属的AI法律顾问。
SimilarWeb流量提升
稳定高效的流量提升解决方案，助力品牌曝光
稳定高效的流量提升解决方案，助力品牌曝光
Sora2视频免费生成
最新版Sora2模型免费使用，一键生成无水印视频
最新版Sora2模型免费使用，一键生成无水印视频
推荐工具精选
AI云服务特惠
懂AI专属折扣关注微信公众号
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号