wefe

wefe

词嵌入公平性评估框架

WEFE是一个词嵌入公平性评估框架,用于测量和缓解词嵌入模型中的偏见。它统一了现有的公平性指标,提供标准接口来封装指标、测试集和计算模型公平性。WEFE还将偏见缓解过程标准化为计算和执行两个阶段。框架支持多种安装方式,提供详细文档。WEFE致力于推动词嵌入技术的公平性发展。

WEFE词嵌入偏见评估公平性开源库Github开源项目

.. -- mode: rst --

|许可证|_ |GitHub操作|_ |ReadTheDocs|_ |下载量|_ |Pypy|_ |Conda版本|_

.. |许可证| image:: https://img.shields.io/github/license/dccuchile/wefe .. _许可证: https://github.com/dccuchile/wefe/blob/master/LICENSE

.. |ReadTheDocs| image:: https://readthedocs.org/projects/wefe/badge/?version=latest .. _ReadTheDocs: https://wefe.readthedocs.io/en/latest/?badge=latest

.. |GitHub操作| image:: https://github.com/dccuchile/wefe/actions/workflows/ci.yaml/badge.svg?branch=master .. _GitHub操作: https://github.com/dccuchile/wefe/actions

.. |下载量| image:: https://pepy.tech/badge/wefe .. _下载量: https://pepy.tech/project/wefe

.. |Pypy| image:: https://badge.fury.io/py/wefe.svg .. _Pypy: https://pypi.org/project/wefe/

.. |Conda版本| image:: https://anaconda.org/pbadilla/wefe/badges/version.svg .. _Conda版本: https://anaconda.org/pbadilla/wefe

WEFE:词嵌入公平性评估框架

.. image:: ./docs/logos/WEFE_2.png :width: 300 :alt: WEFE标志 :align: center

词嵌入公平性评估(WEFE)是一个开源库,用于测量和缓解词嵌入模型中的偏见。 它将许多现有的公平性指标整合到一个统一的框架中,并提供了一个标准接口用于:

  • 封装以前工作中的现有公平性指标并设计新的指标。
  • 将公平性指标使用的测试词封装到称为查询的标准对象中。
  • 使用用户给定的查询在给定的预训练词嵌入模型上计算公平性指标。

WEFE还通过类似于scikit-learnfit-transform接口标准化了缓解偏见的过程。 这种标准化将缓解过程分为两个阶段:

  • 计算要对模型执行的转换的逻辑(fit)。
  • 在模型上执行缓解转换(transform)。

官方文档可在此链接 <https://wefe.readthedocs.io/>_找到。

安装

有两种不同的方法安装WEFE:

使用pip安装包::

pip install wefe
  • 使用conda:

使用conda安装包::

conda install -c pbadilla wefe

要求

如果尚未安装这些包,它们将随包一起安装:

  1. numpy
  2. scipy
  3. scikit-learn
  4. scipy
  5. pandas
  6. gensim
  7. plotly
  8. requests
  9. tqdm
  10. semantic_version

贡献

您可以通过执行以下命令下载代码::

git clone https://github.com/dccuchile/wefe

要贡献,请访问文档中的贡献 <https://wefe.readthedocs.io/en/latest/user_guide/contribute.html>_部分。

开发要求

要安装WEFE开发、测试和编译文档所需的依赖项,请运行::

pip install -r requirements-dev.txt

测试

所有单元测试都在wefe/tests文件夹中。它使用pytest作为运行框架。

要运行测试,请执行::

pytest tests

要检查覆盖率,请运行::

pytest tests --cov-report xml:cov.xml --cov wefe

然后::

coverage report -m

构建文档

文档使用sphinx创建。 它可以在项目根目录的docs文件夹中找到。 要编译文档,请运行:

.. code-block:: bash

cd docs
make html

然后,您可以在docs/_build/html/index.html查看文档

更新日志

版本0.4.1

  • 修复了RIPA中最后一对目标词未包含的错误。
  • 在文档中添加了一个基准测试,将WEFE与其他测量和偏见缓解库进行比较。
  • 在文档中添加了一个库自原始论文发布以来的变更页面。

版本0.4.0

  • 实现了3种新的偏见缓解方法(去偏):双重硬去偏、半兄弟回归和排斥吸引中和。
  • 重构了库的文档结构。 现在,文档分为用户指南和理论框架。 用户指南不包含理论信息。 相反,理论文档可以在概念指南中找到。
  • 改进了API文档和示例。添加了由社区贡献的多语言示例。
  • 用户指南现在完全可执行,因为它们现在是笔记本形式。
  • 还对API文档以及指标和去偏示例进行了重要改进。
  • 改进了库对指标和去偏方法的测试机制。
  • 修复了查询的错误repr。现在集合按正确顺序排列。
  • 为WordEmbeddingModel实现了repr。
  • 测试CI从CircleCI迁移到GithubActions。
  • 许可证更改为MIT。

版本0.3.2

  • 修复了RNSB错误,其中分类标签被互换,当属性大小不同时可能产生错误结果。
  • 修复了RNSB复制笔记本
  • 更新了WEFE案例研究分数。
  • 改进了WEAT、RNSB、RIPA的文档示例。
  • 为RNSB添加了holdout参数,允许指示在训练分类器时是否执行留出。
  • 改进了RNSB评估的打印。

版本0.3.1

  • 更新WEFE原始案例研究
  • 热修复:修复了执行WEFE原始案例研究的多个错误。
  • fetch_eds top_n_race_occupations参数设置为10。
  • 预处理:get_embeddings_from_set现在返回一个包含丢失的预处理词的列表,而不是原始词。 版本 0.3.0

  • 实现了 Bolukbasi 等人 2016 年提出的硬消偏方法。
  • 实现了 Thomas Manzini 等人 2019 年提出的多类硬消偏方法。
  • 实现了一个获取函数来检索 gn-glove 女性-男性词集。
  • 将单词、集合和查询到嵌入的转换逻辑移至独立模块:preprocessing
  • 增强了度量预处理参数 preprocessor_args 和 secondary_preprocessor_args,将其改为预处理器列表 preprocessors,并添加参数 strategy 指示是考虑所有转换后的词('all')还是仅考虑首个遇到的词('first')。
  • 将 WordEmbeddingModel 属性 modelmodel_name 分别重命名为 wvname
  • 将每个度量中 run_query 的 word_embedding 参数重命名为 model

版本 0.2.2

  • 添加了 RIPA 度量(感谢 @stolenpyjak 的贡献!)。
  • 修复了 Literal 类型错误,使 WEFE 兼容 Python 3.7。

版本 0.2.1

  • 兼容性修复。

版本 0.2.0

  • run_query 可选参数 warn_filtered_words 重命名为 warn_not_found_words
  • run_query 添加了 word_preprocessor_args 参数,允许在词嵌入中搜索单词之前指定转换。
  • run_query 添加了 secondary_preprocessor_args 参数,允许在词嵌入中搜索单词之前指定第二个预处理转换。使用此参数不需要指定第一个预处理器。
  • WordEmbeddingModel 中实现了 __getitem__ 函数。该方法允许使用索引从存储在实例中的模型获取单词的嵌入。
  • 移除了类和实例变量名中的下划线。
  • 改进了创建对象和执行方法时的类型和验证异常消息。
  • 修复了在计算具有两列相同名称聚合的排名时出现的错误。
  • 现在使用 pandas corr 方法计算排名相关性。
  • 将度量模板、名称和短名称更改为类变量。
  • 在 RNSB 中实现了 random_state,以允许实验复现。
  • run_query 现在返回参数中请求的默认度量作为结果,并在字典的其他变量中返回所有可能有用的计算值。
  • 修复了 API 文档问题:现在显示类的方法。
  • 为 WEAT 实现了 p 值

引用

如果在学术出版物中使用此包,请引用以下论文:

P. Badilla, F. Bravo-Marquez, 和 J. Pérez WEFE: The Word Embeddings Fairness Evaluation Framework In Proceedings of the 29th International Joint Conference on Artificial Intelligence and the 17th Pacific Rim International Conference on Artificial Intelligence (IJCAI-PRICAI 2020), Yokohama, Japan. <https://www.ijcai.org/Proceedings/2020/60>_

Bibtex:

.. code-block:: latex

@InProceedings{wefe2020,
    title     = {WEFE: The Word Embeddings Fairness Evaluation Framework},
    author    = {Badilla, Pablo and Bravo-Marquez, Felipe and Pérez, Jorge},
    booktitle = {Proceedings of the Twenty-Ninth International Joint Conference on
               Artificial Intelligence, {IJCAI-20}},
    publisher = {International Joint Conferences on Artificial Intelligence Organization},
    pages     = {430--436},
    year      = {2020},
    month     = {7},
    doi       = {10.24963/ijcai.2020/60},
    url       = {https://doi.org/10.24963/ijcai.2020/60},
    }

团队

  • Pablo Badilla <https://github.com/pbadillatorrealba/>_
  • Felipe Bravo-Marquez <https://felipebravom.com/>_
  • Jorge Pérez <https://users.dcc.uchile.cl/~jperez/>_
  • María José Zambrano <https://github.com/mzambrano1/>_

贡献者

我们感谢所有让 WEFE 得以成长的贡献者,特别是 stolenpyjak <https://github.com/stolenpyjak/>_ 和 mspl13 <https://github.com/mspl13/>_ 实现了新的度量。

我们还要感谢 alan-cueva <https://github.com/alan-cueva/>_ 开始开发 上下文化嵌入模型的度量,以及 harshvr15 <https://github.com/harshvr15/>_ 提供的多语言偏见测量示例。

非常感谢你们 😊!

编辑推荐精选

TRAE编程

TRAE编程

AI辅助编程,代码自动修复

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
蛙蛙写作

蛙蛙写作

AI小说写作助手,一站式润色、改写、扩写

蛙蛙写作—国内先进的AI写作平台,涵盖小说、学术、社交媒体等多场景。提供续写、改写、润色等功能,助力创作者高效优化写作流程。界面简洁,功能全面,适合各类写作者提升内容品质和工作效率。

AI辅助写作AI工具蛙蛙写作AI写作工具学术助手办公助手营销助手AI助手
问小白

问小白

全能AI智能助手,随时解答生活与工作的多样问题

问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。

热门AI助手AI对话AI工具聊天机器人
Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。

讯飞智文

讯飞智文

一键生成PPT和Word,让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级,全面对标OpenAI o1

科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。

咔片PPT

咔片PPT

AI助力,做PPT更简单!

咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
材料星

材料星

专业的AI公文写作平台,公文写作神器

AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。

下拉加载更多