懂AI
llm_steer

llm_steer

引导和增强大型语言模型响应的Python模块

LLM Steer是一个专为大型语言模型设计的Python模块，通过在模型的不同层添加引导向量来实现激活工程。它能够引导模型响应朝向特定主题，并提高模型解决复杂逻辑问题的能力。该模块与transformers库兼容，支持LLaMa、Mistral等多种架构。LLM Steer提供简洁的API，方便用户进行灵活的实验和优化。这个工具为AI研究人员和开发者提供了一种新的方法来增强和定制语言模型的输出。

LLM Steer模型引导激活工程Python模块transformers库Github开源项目
GitHub文档

LLM 引导

一个用于引导大型语言模型(LLM)回答朝向特定主题/主体的Python模块，并增强其能力(例如,使其更频繁地对棘手的逻辑谜题给出正确回答)。

这是一个实用工具,通过在大型语言模型(LLM)的不同层添加引导向量来使用激活工程。

它应与transformers库一起使用。

演示

Google Colab演示: https://colab.research.google.com/github/Mihaiii/llm_steer/blob/main/demo/llm_steer_demo.ipynb

基本用法

安装: pip install llm_steer

然后使用:

from llm_steer import Steer
steered_model = Steer(model, tokenizer)

在模型的特定层上添加具有给定系数和文本的引导向量。 系数也可以为负值。

steered_model.add(layer_idx=20, coeff=0.4, text="logical")

获取所有已应用的引导向量:

steered_model.get_all()

移除所有引导向量以恢复到初始模型:

steered_model.reset_all()

高级用法

所谓的"高级用法"涉及更改两个参数("try_keep_nr"和"exclude_bos_token")的默认值，根据我的实验，这几乎总是会导致LLM输出无意义的内容。在极少数情况下，当LLM输出的文本确实有意义时，基本用法提供更高质量的输出。

更多信息将在单独的文件中提供。

问答

问：llm_steer与在系统提示中提及你想要的内容有什么区别？

答：我将llm_steer视为增强器。它可以与系统提示一起使用。

<br/> 问：如何确定要使用的最佳参数？

答：我没有具体方法；这全靠试错。我建议从小系数开始，然后慢慢增加。

<br/> 问：支持哪些模型？

答：我在多种架构上进行了测试，包括LLaMa、Mistral、Phi、StableLM。 请记住，llm_steer旨在与HuggingFace的transformers库一起使用，所以它不适用于GGUF等格式。

<br/> 问：我应用了引导向量，但LLM输出无意义内容。我该怎么办？

答：尝试降低系数值或选择另一层。

<br/> 问：我可以在同一层添加多个引导向量吗？我可以在多个层上添加相同的引导向量吗？我可以添加带有负系数的引导向量吗？

答：可以，而且请尽管尝试。llm_steer是为实验而构建的。 查看Colab中的示例：https://colab.research.google.com/github/Mihaiii/llm_steer/blob/main/demo/llm_steer_demo.ipynb

<br/> 问：我可以使用引导向量来增强角色扮演特征吗（例如，使角色更有趣或更自负）？

答：我相信这是可能的，但我还没有得到好的结果。我正在考虑进行更深入的测试，可能会为此撰写一个新的笔记本。

<br/> 问：我可以使用负向引导向量来强制它不说"作为一个AI语言模型"吗？

答：可以。

致谢/感谢

  • DL Explorers的激活工程视频，该视频讨论了一篇文章和他制作的colab。视频中提到的资源是llm_steer的起点。
  • Gary Bernhardt的出色面向程序员的Python课程。我需要一个能帮助我学习Python基础知识而不把我当成开发新手对待的课程（大多数基础教程都这样对待他们的观众）。
  • Andrej Karpathy的GPT现状视频。我一直想做一个开源项目，但我之前想到的每个想法都已经有相应的仓库了。不过在LLM工具方面确实还有机会！

编辑推荐精选

Keevx

Keevx

AI数字人视频创作平台

Keevx 一款开箱即用的AI数字人视频创作平台，广泛适用于电商广告、企业培训与社媒宣传，让全球企业与个人创作者无需拍摄剪辑，就能快速生成多语言、高质量的专业视频。

即梦AI

即梦AI

一站式AI创作平台

提供 AI 驱动的图片、视频生成及数字人等功能，助力创意创作

扣子-AI办公

扣子-AI办公

AI办公助手，复杂任务高效处理

AI办公助手，复杂任务高效处理。办公效率低？扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作，覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应，生活工作无缝切换，提升50%效率！

TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
蛙蛙写作

蛙蛙写作

AI小说写作助手，一站式润色、改写、扩写

蛙蛙写作—国内先进的AI写作平台，涵盖小说、学术、社交媒体等多场景。提供续写、改写、润色等功能，助力创作者高效优化写作流程。界面简洁,功能全面,适合各类写作者提升内容品质和工作效率。

AI辅助写作AI工具蛙蛙写作AI写作工具学术助手办公助手营销助手AI助手
问小白

问小白

全能AI智能助手，随时解答生活与工作的多样问题

问小白，由元石科技研发的AI智能助手，快速准确地解答各种生活和工作问题，包括但不限于搜索、规划和社交互动，帮助用户在日常生活中提高效率，轻松管理个人事务。

热门AI助手AI对话AI工具聊天机器人
Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手，它拥有超精准的音频识别翻译能力，几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球，无论你是留学生、商务人士、韩剧美剧爱好者，还是出国游玩、多国会议、跨国追星等等，都可以满足你所有需要同传的场景需求，线上线下通用，扫除语言障碍，让全世界的语言交流不再有国界。

讯飞智文

讯飞智文

一键生成PPT和Word，让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目，能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定，还是学生群体的职业生涯规划、实习避坑指南，亦或是活动策划、旅游攻略等内容，它都能提供支持，帮助用户精准表达，轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级，全面对标OpenAI o1

科大讯飞的星火大模型，支持语言理解、知识问答和文本创作等多功能，适用于多种文件和业务场景，提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台，涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能，能为不同需求的用户提供便捷高效的帮助，助力用户轻松获取信息、解决问题，满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目，由多个知名机构联合参与。该项目提供了高效的 LLM（大语言模型）驱动的语音合成方案，支持语音克隆和语音创建功能，可通过命令行界面（CLI）和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数，生成高质量的语音。该项目适用于多种场景，如有声读物制作、智能语音助手开发等。

下拉加载更多