类别不平衡(也称为长尾问题) 是指在分类问题中,类别之间的表示不均衡,这在实践中非常常见。例如,欺诈检测、预测罕见的不良药物反应和预测基因家族。未能考虑类别不平衡通常会导致许多分类算法的预测性能不准确和下降。不平衡学习旨在解决类别不平衡问题,从不平衡数据中学习无偏模型。
受 awesome-machine-learning 的启发。在这个仓库里:
注意:
查看 Zhining 的其他开源项目!
<table style="font-size:15px;"> <tr> <td align="center"><a href="https://github.com/ZhiningLiu1998/imbalanced-ensemble"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/c03db1eb-03bd-485e-844e-98ee2b581b28.png" height="80px" alt=""/><br /><sub><b>Imbalanced-Ensemble [PythonLib]</b></sub></a><br /> <a href="https://github.com/ZhiningLiu1998/imbalanced-ensemble/stargazers"> <img alt="GitHub stars" src="https://yellow-cdn.veclightyear.com/35dd4d3f/c0763fa9-e73a-4f63-8207-799b4db31608.png"> </a> </td> <td align="center"><a href="https://github.com/ZhiningLiu1998/awesome-awesome-machine-learning"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/cc9ce30e-4c1f-4bc4-97a1-95bba8b9cf0e.png" height="80px" alt=""/><br /><sub><b>Machine Learning [Awesome]</b></sub></a><br /> <a href="https://github.com/ZhiningLiu1998/awesome-awesome-machine-learning/stargazers"> <img alt="GitHub stars" src="https://yellow-cdn.veclightyear.com/35dd4d3f/aae4e95a-b398-4dbd-8117-e5fe7f757f05.png"> </a> </td> <td align="center"><a href="https://github.com/ZhiningLiu1998/self-paced-ensemble"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/64dd3c7f-1d7c-43bc-a764-0f6859923583.png" height="80px" alt=""/><br /><sub><b>Self-paced Ensemble [ICDE]</b></sub></a><br /> <a href="https://github.com/ZhiningLiu1998/self-paced-ensemble/stargazers"> <img alt="GitHub stars" src="https://yellow-cdn.veclightyear.com/35dd4d3f/a654f876-e3df-499a-8f29-a6fb3e6bdc41.png"> </a> </td> <td align="center"><a href="https://github.com/ZhiningLiu1998/mesa"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/d8b5f863-8f40-49ef-9808-ff7a78691904.png" height="80px" alt=""/><br /><sub><b>Meta-Sampler [NeurIPS]</b></sub></a><br /> <a href="https://github.com/ZhiningLiu1998/mesa/stargazers"> <img alt="GitHub stars" src="https://yellow-cdn.veclightyear.com/35dd4d3f/d84ae733-aa8c-4d13-9f49-8a6a8a8c710c.png"> </a> </td> </tr> </table>imbalanced-ensemble [Github][文档][画廊][论文]
注意: 用 Python 编写,易于使用。
imbalanced-ensemble
是一个 Python 工具箱,用于快速实施和部署在类别不平衡数据上进行 集成学习算法。其特点有:
imbalanced-learn [Github][文档][论文]
注意: 用 Python 编写,易于使用。
imbalanced-learn
是一个 Python 包,提供了许多在类别不平衡数据集中常用的 重采样 技术。它兼容 scikit-learn,并且是 scikit-learn-contrib 项目的一部分。smote_variants [文档][Github] - 一个用于不平衡学习的 85 种少数类 过采样 技术的集合,具有多类别过采样和模型选择功能(全部用 Python 编写,也支持 R 和 Julia)。
KEEL [Github][论文] - KEEL 提供了一个基于数据流的简单 图形用户界面 来设计实验,使用不同的数据集和计算智能算法(尤其关注进化算法)来评估算法的表现。这一工具包含许多广泛使用的不平衡学习技术,例如(进化)过/欠采样、成本敏感学习、算法修改和集成学习方法。
注意: 包含多种经典的分类、回归、预处理算法。
从不平衡数据中学习 (IEEE TKDE, 2009, 6000+ 引用) [论文]
从不平衡数据中学习:开放挑战和未来方向 (2016, 900+ 引用) [论文]
学习不平衡数据:方法和应用综述 (2017, 900+ 引用) [论文]
注意: 灵活的解决方案,具有卓越的性能和计算效率。
MESA: 用MEta-SAmpler提升集成不平衡学习 (NeurIPS 2020) [论文][代码][视频][知乎]
注意: 直接从数据中学习最佳采样策略。
类不平衡学习的探索性欠采样 (IEEE Trans. on SMC, 2008, 引用1300+) [论文]
注意: 简单但有效的解决方案。
利用集成模型对不平衡数据集的多样性分析 (2009, 引用400+) [论文]
注意: 关于更多过采样方法,请参见 smote-variants.
A Study of the Behavior of Several Methods for Balancing Training Data (2004年, 2000+ 引用) [论文]
注意: 涉及 10 种不同过采样/欠采样方法的广泛实验评估。
综述
卷积神经网络中类别不平衡问题的系统研究 (2018年, 330+ 引用) [论文]
类别不平衡深度学习综述 (2019年, 50+ 引用) [论文]
注意: 最近关于深度学习中类不平衡问题的全面综述。
图神经网络
多类不平衡图卷积网络学习 (IJCAI 2020) [论文]
困难样本挖掘
使用在线困难样本挖掘训练基于区域的目标检测器 (CVPR 2016, 840+ 引用) [论文][代码] - 在 NN 训练的后期阶段,仅对“困难样本”(即损失值较大的样本)执行梯度反向传播
损失函数工程
用于密集目标检测的焦点损失 (ICCV 2017, 2600+ 引用) [论文][代码 (detectron2)][代码(非官方)] - 一种均匀的损失函数,专注于训练一组稀疏的困难样本,以防止训练过程中大量容易的负样本压倒检测器。
注意: 优雅的解决方案,高影响力。
注意: 通过元学习解决类别不平衡问题的代表性工作。
注意: 由元学习驱动的集成学习
注意: 在表示学习和分类器学习方面的有趣发现
注意: 半监督训练/自监督预训练有助于不平衡学习
在平衡数据集上进行预训练,在原始不平衡数据上微调softmax之前的最后输出层。
imbalanced-learn
数据集
该数据集集合来自
imblearn.datasets.fetch_datasets
.
ID | 名称 | 存储库及目标 | 比例 | #S | #F |
---|---|---|---|---|---|
1 | ecoli | UCI, 目标: imU | 8.6:1 | 336 | 7 |
2 | optical_digits | UCI, 目标: 8 | 9.1:1 | 5,620 | 64 |
3 | satimage | UCI, 目标: 4 | 9.3:1 | 6,435 | 36 |
4 | pen_digits | UCI, 目标: 5 | 9.4:1 | 10,992 | 16 |
5 | abalone | UCI, 目标: 7 | 9.7:1 | 4,177 | 10 |
6 | sick_euthyroid | UCI, 目标: sick euthyroid | 9.8:1 | 3,163 | 42 |
7 | spectrometer | UCI, 目标: > =44 | 11:1 | 531 | 93 |
8 | car_eval_34 | UCI, 目标: good, v good | 12:1 | 1,728 | 21 |
9 | isolet | UCI, 目标: A, B | 12:1 | 7,797 | 617 |
10 | us_crime | UCI, 目标: >0.65 | 12:1 | 1,994 | 100 |
11 | yeast_ml8 | LIBSVM, 目标: 8 | 13:1 | 2,417 | 103 |
12 | scene | LIBSVM, 目标: >one label | 13:1 | 2,407 | 294 |
13 | libras_move | UCI, 目标: 1 | 14:1 | 360 | 90 |
14 | thyroid_sick | UCI, 目标: sick | 15:1 | 3,772 | 52 |
15 | coil_2000 | KDD, CoIL, 目标: minority | 16:1 | 9,822 | 85 |
16 | arrhythmia | UCI, 目标: 06 | 17:1 | 452 | 278 |
17 | solar_flare_m0 | UCI, 目标: M->0 | 19:1 | 1,389 | 32 |
18 | oil | UCI, 目标: minority | 22:1 | 937 | 49 |
19 | car_eval_4 | UCI, 目标: vgood | 26:1 | 1,728 | 21 |
20 | wine_quality | UCI, wine, 目标: <=4 | 26:1 | 4,898 | 11 |
21 | letter_img | UCI, 目标: Z | 26:1 | 20,000 | 16 |
22 | yeast_me2 | UCI, 目标: ME2 | 28:1 | 1,484 | 8 |
23 | webpage | LIBSVM, w7a, 目标: minority | 33:1 | 34,780 | 300 |
24 | ozone_level | UCI, ozone, data | 34:1 | 2,536 | 72 |
25 | mammography | UCI, 目标: minority | 42:1 | 11,183 | 6 |
26 | protein_homo | KDD CUP 2004, 目标: minority | 111:1 | 145,751 | 74 |
27 | abalone_19 | UCI, 目标: 19 | 130:1 | 4,177 | 10 |
不平衡数据库
感谢以下这些优秀的人们 (emoji key):
<!-- ALL-CONTRIBUTORS-LIST:START - Do not remove or modify this section --> <!-- prettier-ignore-start --> <!-- markdownlint-disable --> <table> <tbody> <tr> <td align="center" valign="top" width="14.28%"><a href="http://zhiningliu.com"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/4e0790a5-3f18-4e7a-9a05-409b6a2c6fb3.png" width="100px;" alt="Zhining Liu"/><br /><sub><b>Zhining Liu</b></sub></a><br /><a href="https://github.com/ZhiningLiu1998/awesome-imbalanced-learning/commits?author=ZhiningLiu1998" title="Code">💻</a> <a href="#maintenance-ZhiningLiu1998" title="Maintenance">🚧</a> <a href="#translation-ZhiningLiu1998" title="Translation">🌍</a></td> <td align="center" valign="top" width="14.28%"><a href="https://github.com/AshinZeng"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/80e59f23-37e1-47b4-b936-12f288fb38ec.png" width="100px;" alt="曾阿信"/><br /><sub><b>曾阿信</b></sub></a><br /><a href="#maintenance-AshinZeng" title="Maintenance">🚧</a></td> <td align="center" valign="top" width="14.28%"><a href="https://wjun0830.github.io/"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/618aecce-d7e1-4c2c-96d7-4c187091650f.png" width="100px;" alt="WonJun Moon"/><br /><sub><b>WonJun Moon</b></sub></a><br /><a href="https://github.com/ZhiningLiu1998/awesome-imbalanced-learning/commits?author=wjun0830" title="Code">💻</a></td> <td align="center" valign="top" width="14.28%"><a href="https://github.com/liugangcode"><img src="https://yellow-cdn.veclightyear.com/35dd4d3f/3e7503d7-b579-4ac4-b663-fe4e24753c13.png" width="100px;" alt="Gang Liu"/><br /><sub><b>Gang Liu</b></sub></a><br /><a href="https://github.com/ZhiningLiu1998/awesome-imbalanced-learning/commits?author=liugangcode" title="Code">💻</a></td> </tr> </tbody> </table> <!-- markdownlint-restore --> <!-- prettier-ignore-end --> <!-- ALL-CONTRIBUTORS-LIST:END -->该项目遵循all-contributors规范。欢迎任何形式的贡献!
字节跳动发布的AI编程神器IDE
Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改 变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。
全能AI智能助手,随时解答生活与工作的多样问题
问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。
实时语音翻译/同声传译工具
Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。
一键生成PPT和Word,让学习生活更轻松
讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。
深度推理能力全新升级,全面对标OpenAI o1
科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用 于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。
一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型
Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。
AI助力,做PPT更简单!
咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。
选题、配图、成文,一站式创作,让内容运营更高效
讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。
专业的AI公文写作平台,公文写作神器
AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成 ,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。
OpenAI Agents SDK,助力开发者便捷使用 OpenAI 相关功能。
openai-agents-python 是 OpenAI 推出的一款强大 Python SDK,它为开发者提供了与 OpenAI 模型交互的高效工具,支持工具调用、结果处理、追踪等功能,涵盖多种应用场景,如研究助手、财务研究等,能显著提升开发效率,让开发者更轻松地利用 OpenAI 的技术优势。
最新AI工具、AI资讯
独家AI资源、AI项目落地
微信扫一扫关注公众号