scGPT

scGPT 项目介绍

项目概述

scGPT 是一个利用生成式人工智能构建单细胞多组学基础模型的项目。它的核心目标是通过使用先进的生成式AI技术，提升单细胞数据分析的能力和效率。该项目目前提供了一套完整的代码库，供用户进行模型训练和应用。

项目亮点

• 生成式AI应用：scGPT 将生成式AI流程引入到单细胞组学领域，为科研人员提供了一种全新的数据分析与处理方法。
• 多样的预训练模型：scGPT 提供了多种预训练模型，包括“whole-human”通用模型以及专注于大脑、血液、心脏、肺、肾脏和癌症等特定器官的模型。这些模型在大量细胞数据上进行了预训练，为各种应用提供了良好的基础。
• 高效的参考映射：scGPT 使用 faiss 库实现了高效的参考映射，其性能在记忆使用和查询速度上都有显著提升，适用于处理大量细胞数据。

重要功能和更新

• 零样本应用教程：scGPT 提供了关于零样本应用的教程，帮助用户快速掌握如何在无训练数据的情况下使用预训练模型执行特定任务。
• 新特性支持：项目现已支持通过 HuggingFace 执行预训练工作流程，并且对于 flash-attention 的依赖已成为可选配置，灵活性更高。
• 在线应用支持：用户可以在 Superbio.ai 提供的云平台上直接运行 scGPT 的各种功能，如参考映射、细胞注解和基因调控网络推断。

安装指南

scGPT 的安装过程简单，只需确保 Python 和 R 的版本分别不低于 3.7.13 和 3.6.1。用户可以通过 PyPI 直接安装 scGPT，并根据需要选择性安装 flash-attn 和 orbax。项目推荐使用 wandb 进行日志记录和可视化分析。

预训练模型获取

为了满足不同研究需求，scGPT 提供了多种预训练模型，用户可以根据具体任务选择合适的模型进行应用或进一步微调。每个模型都附带一个基因名称到 ID 的映射文件，方便进行数据转换和处理。

项目发展计划

scGPT 的开发团队计划进一步完善项目功能，包括提供生成注意力遮罩的预训练代码、完善多组学集成的微调示例，以及推动更多功能上线到 HuggingFace 模型中心。

如何贡献

scGPT 项目欢迎社区成员的贡献，用户可以通过提交 pull request 来分享想法或修复问题。同时，团队也欢迎任何在使用过程中遇到的问题反馈。

致谢

scGPT 项目感谢众多开放源代码项目的贡献者，包括 flash-attention、scanpy、scvi-tools、scib、datasets 和 transformers。正是因为这些项目的存在，scGPT 才能在单细胞多组学领域中发挥关键作用。

文献引用

如需引用 scGPT 项目，请参考以下文献：

@article{cui2023scGPT,
title={scGPT: Towards Building a Foundation Model for Single-Cell Multi-omics Using Generative AI},
author={Cui, Haotian and Wang, Chloe and Maan, Hassaan and Pang, Kuan and Luo, Fengning and Wang, Bo},
journal={bioRxiv},
year={2023},
publisher={Cold Spring Harbor Laboratory}
}