llama3-Chinese-chat

项目介绍：llama3-Chinese-chat

项目概览

llama3-Chinese-chat 项目是首个专门针对中文优化的 Llama3 版本项目。其目标是为中文学习爱好者和研究人员提供一个开放、交流的平台，助力于分享和讨论 Llama3 中文相关的学习内容。这个项目对任何人都敞开大门，欢迎加入和贡献，以及在改进该项目的过程中提交代码（PR）。除了开放共享和共同建设，项目团队还推出了多个相关教程和指南，以推动 LLM（大模型）在中文场景下的应用和训练。

重要更新

• 2024年7月25日：发布llama3.1 中文DPO版训练权重。
• 2024年5月17日：全面整理的llama3中文化数据集在ModelScope平台下载量达到2.9k次，并持续三周登上首页。
• 2024年5月4日：推出语言偏好强化对齐版本，尽量保持原汁原味的语言风格和趣味性，支持丰富的表情符号。

演示示例

项目展示了各种版本的 Llama3 中文模型，包括 llama3-base-8b 中文SFT版、llama3-instruct-8b 中文DPO版及 llama3.1-instruct-8b 中文DPO版。这些模型通过图像展示了如何实现复杂的人机交互。

可用模型

项目提供了多种版本的 Llama3 中文模型下载，以满足不同需求：

• llama3.1 shareAI-DPO中文 8B版本：其训练数据、训练细节及下载方式均已公开。
• OpenCSG Wukong中文 405B版本，支持SFT中文。
• llama3 Moe增强版等多个版本，均具有独特的侧重和应用场景。

模型部署与使用

项目组提供了多种部署方式，以便于模型使用者能够灵活地选择合适的部署方案：

• 云端服务部署：提供简单API调用和vLLM部署方式，后者兼容OpenAI格式。
• 本地电脑部署：包括UI界面的LMStudio和简易使用的ollama工具。
• 网页推理方式：通过Streamlit实现网页推理，适用于模型的调试和测试。

训练数据及工具

项目收集并整理了一系列高质量的中文训练数据集，供模型训练使用。同时，提供了相关的训练工具和教程，帮助开发者更好地进行中文模型的自定义和优化。

总结

llama3-Chinese-chat 项目为中文AI社区提供了一个开放的平台，不仅让开发者能够迅速上手进行LLM的二次微调和应用，也为学术研究人员和爱好者提供了一个分享学习和共同成长的机会。通过不断更新和扩充的内容，项目正在逐步成为一个中文AI领域的重要资源。