awesome-self-supervised-learning

项目介绍：Awesome Self-Supervised Learning

简介

Awesome Self-Supervised Learning 是一个精心收集的自监督学习资源列表，该项目的灵感来源于一系列与深度学习相关的优秀项目，包括 Awesome Deep Vision、Awesome Adversarial Machine Learning、Awesome Deep Learning Papers 和 Awesome Architecture Search。这个资源库为研究人员、开发者和学习者提供了全面的自监督学习理论、方法和应用资源。

自监督学习的意义

自监督学习在人工智能社区中成为了一个令人兴奋的研究方向。几位人工智能领域的知名专家都表达了对自监督学习的重视：

• Jitendra Malik 指出“监督学习是人工智能研究员的鸦片”，暗示自监督学习能够减少对标签数据的依赖。
• Alyosha Efros 认为“人工智能革命将不依赖监督”。
• Yann LeCun 把自监督学习比作蛋糕的主体，而监督学习和强化学习则是蛋糕上的糖霜和樱桃。

贡献指南

项目的成长需要大家的共同参与，您可以通过提交 pull request 来贡献您的资源与见解。任何相关的理论、代码或文章都可以通过指定的 markdown 格式进行贡献。

项目目录

• 理论基础
• 计算机视觉
  • 调查研究
  • 图像表示学习
  • 视频表示学习
  • 3D 特征学习
  • 几何
  • 音频
  • 其他
• 机器学习
  • 强化学习
  • 推荐系统
• 机器人技术
• 自然语言处理
• 自动语音识别
• 时间序列
• 图数据
• 演讲资料
• 论文集合
• 博客

重点资源概览

理论基础

自监督学习的理论部分包含对比学习的无监督表示学习、对比自监督学习的泛化、对比损失行为的理解等研究。这些理论文章对于深入理解自监督学习的机制提供了坚实的理论支持。

计算机视觉

自监督学习在计算机视觉领域的应用非常广泛，涵盖了从图像、视频的表示学习到各种具体应用的广泛研究。例如，非参数实例区分的无监督特征学习、通过拼图解锁任务进行的图像表示学习、以及利用颜色化任务进行的视觉理解等众多方法。

年度突破

项目中列出了从 2015 年到 2023 年的重要研究文章，展示了自监督学习领域的持续发展和技术突破。这些研究不仅仅是在图像处理领域，在自然语言处理、音频识别、时间序列分析等领域也有许多创新应用。

结束语

Awesome Self-Supervised Learning 项目提供了一个宝贵的知识平台，帮助从事人工智能和机器学习的研究者和爱好者理解和探索自监督学习的最新进展与应用。希望社区的成员积极参与这个项目，一同推动自监督学习的发展。