懂AI
mamba-minimal

mamba-minimal

单文件PyTorch实现的Mamba模型

mamba-minimal项目是Mamba模型的PyTorch单文件实现。该项目在保持代码简洁可读的同时，实现了与官方版本在前向和反向传播上相同的数值输出。虽未优化速度，但为理解Mamba架构提供了有价值的资源。项目包含文本生成示例，方便研究者和开发者使用和学习Mamba模型。

MambaPyTorch实现语言模型状态空间模型深度学习Github开源项目
访问官网GitHub论文

mamba-minimal

在一个 PyTorch 文件中简单、最小化地实现 Mamba。

特点：

  • 前向和反向传播的数值输出与官方实现等效
  • 简化、可读、带注释的代码

不包括：

  • 速度。官方实现经过大量优化，这些优化是 Mamba 论文的核心贡献。为了可读性，我保持了大部分实现的简单性。
  • 适当的参数初始化（尽管可以在不牺牲可读性的情况下添加）

演示

查看 demo.ipynb 以获取提示补全的示例。

from model import Mamba
from transformers import AutoTokenizer

model = Mamba.from_pretrained('state-spaces/mamba-370m')
tokenizer = AutoTokenizer.from_pretrained('EleutherAI/gpt-neox-20b')

generate(model, tokenizer, 'Mamba is the')

Mamba 是世界上最长的毒蛇，估计长度超过 150 米。由于体型巨大和带有毒性的咬伤，Mamba 通过刺伤受害者来杀死猎物（这比单次咬伤更痛苦且效果较差）

150 米... 🫢 太可怕了！

参考文献

Mamba 架构由 Albert Gu 和 Tri Dao 在论文 Mamba: Linear-Time Sequence Modeling with Selective State Spaces 中提出。

官方实现在此：https://github.com/state-spaces/mamba/tree/main

编辑推荐精选

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌，基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构，帮助企业扫清合规障碍，筑牢风控防线，成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案，助力品牌曝光

稳定高效的流量提升解决方案，助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用，一键生成无水印视频

最新版Sora2模型免费使用，一键生成无水印视频

Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手，它拥有超精准的音频识别翻译能力，几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球，无论你是留学生、商务人士、韩剧美剧爱好者，还是出国游玩、多国会议、跨国追星等等，都可以满足你所有需要同传的场景需求，线上线下通用，扫除语言障碍，让全世界的语言交流不再有国界。

讯飞绘文

讯飞绘文

选题、配图、成文，一站式创作，让内容运营更高效

讯飞绘文，一个AI集成平台，支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容，加速品牌传播，提升内容营销效果。

AI助手热门AI工具AI创作AI辅助写作讯飞绘文内容运营个性化文章多平台分发
TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

热门AI工具生产力协作转型TraeAI IDE
商汤小浣熊

商汤小浣熊

最强AI数据分析助手

小浣熊家族Raccoon，您的AI智能助手，致力于通过先进的人工智能技术，为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答，小浣熊都能以快速、准确的响应满足您的需求，让您的生活更加智能便捷。

imini AI

imini AI

像人一样思考的AI智能体

imini 是一款超级AI智能体，能根据人类指令，自主思考、自主完成、并且交付结果的AI智能体。

Keevx

Keevx

AI数字人视频创作平台

Keevx 一款开箱即用的AI数字人视频创作平台，广泛适用于电商广告、企业培训与社媒宣传，让全球企业与个人创作者无需拍摄剪辑，就能快速生成多语言、高质量的专业视频。

即梦AI

即梦AI

一站式AI创作平台

提供 AI 驱动的图片、视频生成及数字人等功能，助力创意创作

下拉加载更多