最佳AI安全工具和资源集合

ML-Papers-of-the-Week 学习资料汇总 - 每周精选顶级机器学习论文

ML-Papers-of-the-Week是一个精选每周顶级机器学习论文的开源项目。本文汇总了该项目的主要学习资源,包括GitHub仓库、每周论文列表、newsletter订阅等,帮助读者更好地了解和利用这一宝贵的学习资料。

awesome-MLSecOps: 机器学习安全运维的综合资源指南

本文深入探讨了MLSecOps(机器学习安全运维)领域,介绍了一系列工具、文章和资源,旨在为机器学习和MLOps系统的安全应用提供全面的参考。文章涵盖了MLSecOps的核心概念、最佳实践、常见挑战及解决方案,为从业者和研究者提供了宝贵的指导。

说服即破解：揭秘人性化语言模型的潜在安全风险

本文深入探讨了一项名为'Persuasive Jailbreaker'的研究项目，该项目通过运用说服技巧来'破解'大型语言模型的安全限制。文章详细介绍了研究方法、关键发现及其对AI安全的深远影响，同时也探讨了相关的伦理问题和防御策略。

AI-exploits: 揭示人工智能系统的安全漏洞

AI-exploits 项目是由 Protect AI 公司发起的一个开源项目,旨在收集和展示真实世界中人工智能和机器学习系统的安全漏洞。该项目通过提供实际的攻击案例和扫描模板,帮助安全专家和开发者更好地理解和应对 AI/ML 基础设施面临的安全威胁。

seed-tts-eval: ByteDance的开源文本转语音评估工具

ByteDance开源了一个用于评估零样本文本转语音和语音转换能力的工具集,包含客观测试数据集和评估指标计算脚本。

深度解析BytedanceSpeech开源的seed-tts-eval项目:评估零样本语音生成能力的客观测试集

探索BytedanceSpeech发布的seed-tts-eval项目,了解其如何通过创新的客观测试集和评估指标,为零样本语音生成技术的发展提供重要支持。

Purple Llama: Meta 推出的开源 AI 安全工具集

Purple Llama 是 Meta 推出的一个开源项目,旨在为开发人员提供工具和评估方法,以帮助他们负责任地构建和使用生成式 AI 模型。该项目包括网络安全评估和输入/输出安全防护等多个组件,致力于提高 AI 系统的安全性和可信度。

PyRIT：微软开源的生成式AI风险识别自动化框架

PyRIT是微软开发的一款开源自动化框架，旨在帮助安全专业人员和机器学习工程师主动发现生成式AI系统中的潜在风险。

Prompt-Hacker-Collections：探索AI提示词攻防的前沿资源库

深入解析GitHub上备受关注的Prompt-Hacker-Collections项目，揭秘AI提示词注入攻防的最新进展，为研究人员和安全专家提供全面的学习资源。

ML-Papers-of-the-Week:每周精选机器学习顶级论文

深入探讨DAIR.AI的ML-Papers-of-the-Week项目,该项目每周精选并总结机器学习领域的顶级论文,为研究人员和从业者提供最新研究动态。

Google开源最小的端侧模型，只有2B参数手机运行无延迟，又衍生出很多好场景可以落地