transformerlab-app

<!-- 项目标志 --> <br /> <div align="center"> <a href="https://github.com/transformerlab/transformerlab-app"> <img src="https://yellow-cdn.veclightyear.com/0a4dffa0/5adb5852-45b6-4ad2-8eda-9acc8e0d504d.svg" alt="Logo" width="80" height="80"> </a> <h1 align="center" style="color: rgb(68, 73, 80); letter-spacing: -1px">Transformer Lab</h1> <p align="center"> 在本地下载、交互和微调模型。 <br /> <a href="https://transformerlab.ai/docs/intro"><strong>查看文档 »</strong></a> <br /> <br /> <a href="https://youtu.be/tY5TAvKviLo">观看演示</a> · <a href="https://github.com/transformerlab/transformerlab-app/issues">报告错误</a> · <a href="https://github.com/transformerlab/transformerlab-app/issues/new">提出建议</a> · <a href="https://discord.gg/transformerlab">加入Discord</a> · <a href="https://twitter.com/transformerlab">关注Twitter</a> </p> <p align="center"> 注意：Transformer Lab正在积极开发中。请加入我们的Discord或关注我们的Twitter以获取更新。我们非常重视您的问题、反馈和贡献！</p> </div> <!-- 关于项目 -->

立即下载

关于项目

Transformer Lab是一款允许任何人实验大型语言模型的应用程序。

Transformer Lab允许您：

• 💕 一键下载数百个流行模型：
  • Llama3、Phi3、Mistral、Mixtral、Gemma、Command-R等数十种模型
• ⬇ 从Huggingface下载任何LLM
• 🎶 在不同硬件上微调/训练
  • 在Apple Silicon上使用MLX进行微调
  • 在GPU上使用Huggingface进行微调
• ⚖️ RLHF和偏好优化
  • DPO
  • ORPO
  • SIMPO
  • 奖励建模
• 💻 跨操作系统使用LLM：
  • Windows应用
  • MacOS应用
  • Linux
• 💬 与模型对话
  • 聊天
  • 补全
  • 预设（模板）提示
  • 聊天历史
  • 调整生成参数
• 🚂 使用不同的推理引擎
  • Apple Silicon上的MLX
  • Huggingface Transformers
  • vLLM
  • Llama CPP
• 🧑‍🎓 评估模型
• 📖 RAG（检索增强生成）
  • 拖放文件界面
  • 适用于Apple MLX、Transformers和其他引擎
• 📓 构建训练数据集
  • 从HuggingFace上的数百个常用数据集中提取
  • 通过拖放提供您自己的数据集
• 🔢 计算嵌入
• 💁 完整的REST API
• 🌩 在云端运行
  • 您可以在桌面/笔记本电脑上运行用户界面，而引擎在远程或云机器上运行
  • 或者您可以在单台机器上本地运行所有内容
• 🔀 跨平台转换模型
  • 在Huggingface、MLX、GGUF之间转换
• 🔌 插件支持
  • 轻松从现有插件库中获取
  • 编写您自己的插件以扩展功能
• 🧑‍💻 嵌入式Monaco代码编辑器
  • 编辑插件并查看幕后发生的情况
• 📝 提示编辑
  • 轻松编辑系统消息或提示模板
• 📜 推理日志
  • 在进行推理或RAG时，查看发送给LLM的原始查询日志

您可以通过简单的跨平台GUI完成以上所有操作。

<!-- 入门 -->

入门

<a href="https://transformerlab.ai/docs/download">点击此处</a>下载Transformer Lab。

<a href="https://transformerlab.ai/docs/intro">阅读此页面</a>以了解如何安装和使用。

使用的技术

• 
• 
• 

开发者

从头开始构建

要自行构建应用程序，请拉取此仓库，并按照以下步骤操作：

npm install

npm start

打包生产版本

为本地平台打包应用程序：

npm run package

<!-- 许可证 -->

许可证

根据AGPL V3许可证分发。有关更多信息，请参阅LICENSE.txt。

引用

如果您在研究或应用中发现Transformer Lab有用，请使用以下BibTeX引用：

@software{transformerlab,
  author = {Asaria, Ali},
  title = {Transformer Lab: 实验大型语言模型},
  month = December,
  year = 2023,
  url = {https://github.com/transformerlab/transformerlab-app}
}

<!-- 联系方式 -->

联系方式

• @aliasaria - Ali Asasria
• @dadmobile - Tony Salomone

<!-- MARKDOWN链接和图片 -->