用于网络安全研究的大型语言模型工具

逆向工程

• G-3PO：Ghidra 的协议机器人：由 Tenable 的 Olivia Lucca Fraser 开发的 AI 助手，用于在 Ghidra 中分析和注释反编译代码，可查询 OpenAI 和/或 Anthropic 的语言模型。详情请参阅 Tenable 技术博客上的这篇文章。

• Pwndbg 的 AI 功能：由 Tenable 的 Olivia Lucca Fraser 开发的可靠 AI 调试助手，作为 Pwndbg 命令实现。

• GEF 的 AI 功能：与上述功能相同，但作为 GEF 命令实现。由 Tenable 的 Olivia Lucca Fraser 开发。

• Gepetto：一个 IDA Pro 插件，可查询 GPT 模型以获取解释性注释和有意义的变量名（类似于 IDA Pro 版的 G-3PO）。由 Ivan Kwiatkowski 开发。

• GPT-WPRE：使用 GPT-3 进行全程序逆向工程。这是一个小型原型工具，尝试使用 GPT-3（特别是 text-davinci-003 模型）根据 Ghidra 提供的反编译代码对整个二进制文件进行总结。由 Brendan Dolan-Gavitt 开发。

• IATelligence：IATelligence 是一个 Python 脚本，可从 PE 文件中提取导入地址表（IAT），并使用 OpenAI 的 GPT-3 模型提供有关该文件导入的每个 Windows API 的详细信息。该脚本还会搜索相关的 MITRE ATT&CK 技术，并解释攻击者可能如何使用这些 API。由 Thomas Roccia 开发。

网络分析

• GPT 的 Burp 扩展：由 Tenable 开发的 BurpSuite 插件，使用 GPT 分析 HTTP 请求和响应。由 Tenable 的 Yossi Nisani 开发。

云安全

• EscalateGPT：使用 GPT 发现 AWS 身份访问和管理（IAM）策略配置错误中的特权提升漏洞。由 Tenable 的 Yossi Nisani 开发。

概念验证

攻击 LLM

• 间接提示注入：Kai Greshake 开发的间接提示注入攻击概念验证代码。

LLM 驱动的恶意软件

• LLMorphism：由 Second Part to Hell 开发的使用 GPT-3.5 作为变形引擎的自我复制代理。
• Darwin-GPT：由 Bernhard Mueller 开发的基于 GPT-3.5/4 的最小自我复制代理。