changedetection.io

changedetection.io

开源网站内容变化监测与通知工具

changedetection.io是一款开源的网站内容变化监测工具。它能自动检测网页、JSON API和PDF文件的变化,并通过多种渠道发送通知。该工具提供可视化选择器、交互式浏览和价格监控等功能,适用于产品库存、价格变动、政府公告等多种监测场景。支持Docker部署,操作简便,是一个功能完善的网站变化检测解决方案。

网站变化监测通知系统自托管API监控价格变化跟踪Github开源项目

网站变更检测、库存监控和通知

检测网站内容变化并执行有意义的操作 - 通过Discord、电子邮件、Slack、Telegram、API调用等多种方式触发通知。

主动掌控您的数据生活。

使用可视化选择器工具定位网页的特定部分。

轻松查看变更内容,可按单词、行或单个字符进行检查。

执行交互式浏览器步骤

填写文本框、点击按钮等,设置您的变更检测场景。

使用浏览器步骤配置,在执行变更检测之前添加基本步骤,如登录网站、将产品添加到购物车、接受cookie登录、输入日期和优化搜索。

在运行浏览器步骤后,访问可视化选择器标签页以精确定位您感兴趣的内容。 需要启用Playwright。

出色的补货和价格变化通知

启用"单个产品页面的补货和价格检测"选项,激活监控产品价格的最佳方式,这将提取HTML页面中的任何元数据,为您提供多种选项来跟踪产品价格。

从仪表板轻松组织和监控产品价格,当产品价格变化或重新有货时获得警报和通知!

设置价格变化通知参数,包括上限和下限价格、价格变化百分比等。 随时了解在售产品的价格下降情况。

示例用例

  • 产品和服务价格变化
  • 缺货通知重新有货通知
  • 监控和跟踪PDF文件变更,了解PDF文件何时发生文本变化
  • 政府部门更新(变更通常只在其网站上)
  • 新软件发布、安全公告(当您不在他们的邮件列表中时)
  • 节日变更
  • Discogs补货警报和监控
  • 房地产列表变化
  • 在其他人之前知道您最喜欢的威士忌何时打折,或其他特别优惠公告
  • 政府网站上与COVID相关的新闻
  • 大学/组织网站上的新闻
  • 检测和监控JSON API响应的变化
  • JSON API监控和警报
  • 法律和其他文件的变更
  • 当网站上出现文本时通过通知触发API调用
  • 使用JSON过滤器和JSON通知连接API
  • 根据网页内容变化创建RSS源
  • 监控HTML源代码是否有意外变化,加强您的PCI合规性
  • 您有一个非常敏感的URL列表需要监控,并且您_不_想使用付费替代方案。(记住,_您_就是产品)
  • 当Twitter搜索结果中出现某些关键词时获得通知
  • 主动搜索工作,当公司更新其职位页面时获得通知,在求职门户网站上搜索关键词
  • 当Bamboo HR和其他求职平台上有新职位空缺时获得警报
  • 网站篡改监控
  • 宝可梦卡片补货跟踪器 / 宝可梦TCG跟踪器
  • RegTech - 及时了解监管变化,保持监管合规

需要实际的Chrome运行器支持JavaScript吗?我们支持通过WebDriver和Playwright进行获取!</a>

主要特性

  • 大量触发过滤器,如"文本触发"、"通过选择器删除文本"、"忽略文本"、"提取文本",也可使用正则表达式!
  • 使用XPath(1.0)和CSS选择器定位元素,轻松使用JSONPath或jq监控复杂的JSON
  • 在快速非JS和基于Chrome的JS "获取器"之间切换
  • 跟踪PDF文件的变化(监控PDF中文本的变化,还可监控PDF文件大小和校验和)
  • 轻松指定检查网站的频率
  • 在提取文本之前执行JS(适用于登录,请参阅UI中的示例!)
  • 覆盖请求头,指定POSTGET等方法
  • 使用"可视化选择器"帮助定位特定元素
  • 可配置每个监控的代理
  • 在检测到网页变化时随通知发送截图

我们推荐并使用Bright Data全球代理服务,使用我们的注册链接,Bright Data将匹配任何高达100美元的首次存款。

Oxylabs也是一个优秀的代理提供商,值得使用,他们提供住宅、ISP、轮换等多种类型的代理,以适应您的项目。

请给这个项目:star:加星:star:并帮助它成长! https://github.com/dgtlmoon/changedetection.io/

我们有Chrome扩展程序!

轻松将当前网页添加到您的changedetection.io工具中,只需安装扩展程序并点击"同步"即可将其连接到您现有的changedetection.io安装。

前往Chrome网上应用店下载扩展程序。

安装

Docker

使用Docker Compose,只需克隆此存储库并..

$ docker compose up -d

Docker独立版

$ docker run -d --restart always -p "127.0.0.1:5000:5000" -v datastore-volume:/datastore --name changedetection.io dgtlmoon/changedetection.io

:latest标签是我们最新的稳定版本,:dev标签是我们最新的master分支。

ghcr上的替代Docker存储库 - ghcr.io/dgtlmoon/changedetection.io

Windows

请查看wiki上的安装说明 https://github.com/dgtlmoon/changedetection.io/wiki/Microsoft-Windows

Python Pip

查看我们的pypi页面 https://pypi.org/project/changedetection.io/

$ pip3 install changedetection.io $ changedetection.io -d /path/to/empty/data/dir -p 5000

然后访问 http://127.0.0.1:5000 ,您现在应该能够访问UI了。

现在支持每个站点可配置使用内置的快速HTTP获取器或使用基于Chrome的获取器来监控JavaScript网站!

更新changedetection.io

Docker

docker pull dgtlmoon/changedetection.io
docker kill $(docker ps -a -f name=changedetection.io -q)
docker rm $(docker ps -a -f name=changedetection.io -q)
docker run -d --restart always -p "127.0.0.1:5000:5000" -v datastore-volume:/datastore --name changedetection.io dgtlmoon/changedetection.io

docker compose

docker compose pull && docker compose up -d

更多信息请参阅wiki https://github.com/dgtlmoon/changedetection.io/wiki

过滤器

内置支持XPath(1.0)、JSONPath、jq和CSS!您可以根据需要具体指定,使用从各种XPath元素查询创建工具导出的XPath。 (我们支持LXML re:testre:matchre:replace。)

通知

得益于<a href="https://github.com/caronc/apprise">apprise</a>库,当检测到网页变化时,ChangeDetection.io支持大量通知(包括电子邮件、office365、自定义API等)。 只需在该监控的_[编辑]_标签中设置一个或多个通知URL。

以下只是一些示例

discord://webhook_id/webhook_token
flock://app_token/g:channel_id
gitter://token/room
gchat://workspace/key/token
msteams://TokenA/TokenB/TokenC/
o365://TenantID:AccountEmail/ClientID/ClientSecret/TargetEmail
rocket://user:password@hostname/#Channel
mailto://user:pass@example.com?to=receivingAddress@example.com
json://someserver.com/custom-api
syslog://

<a href="https://github.com/caronc/apprise#popular-notification-services">以及此列表中的所有其他选项!</a> 现在您还可以自定义通知内容,并为标题和正文使用 <a target="_new" href="https://jinja.palletsprojects.com/en/3.0.x/templates/">Jinja2 模板</a>!

JSON API 监控

通过使用 JSONPath 或 jq 来过滤、解析和重构 JSON,以检测 JSON API 中的变化并监控数据。

图片

这将重新解析 JSON 并对文本进行格式化,使监控和检测 JSON API 结果中的变化变得非常简单

图片

JSONPath 还是 jq?

对于更复杂的 JSON 数据解析、过滤和修改,推荐使用 jq,因为它内置了运算符和函数。有关 jq 的更多具体信息,请参阅文档

jq 的一个巨大优势是,您可以在 JSON 过滤器中使用逻辑,例如仅显示值大于/小于等的过滤器。

更多信息和示例请参见 wiki https://github.com/dgtlmoon/changedetection.io/wiki/JSON-Selector-Filter-help

解析嵌入 HTML 中的 JSON!

当您启用 json:jq: 过滤器时,甚至可以自动提取和解析嵌入 HTML 页面中的 JSON! 这对于基于 JSON 构建内容的网站非常方便,比如许多电子商务网站。

<html>
...
<script type="application/ld+json">

{
   "@context":"http://schema.org/",
   "@type":"Product",
   "offers":{
      "@type":"Offer",
      "availability":"http://schema.org/InStock",
      "price":"3949.99",
      "priceCurrency":"USD",
      "url":"https://www.newegg.com/p/3D5-000D-001T1"
   },
   "description":"Cobratype King Cobra Hero Desktop Gaming PC",
   "name":"Cobratype King Cobra Hero Desktop Gaming PC",
   "sku":"3D5-000D-001T1",
   "itemCondition":"NewCondition"
}
</script>

json:$..pricejq:..price 将得到 3949.99,或者您可以提取整个结构(使用 JSONpath 测试网站进行验证)

该应用程序还支持自动通知您可以跟踪此信息

代理配置

参见 wiki https://github.com/dgtlmoon/changedetection.io/wiki/Proxy-configuration ,我们还支持在可能的情况下使用 Bright Data 代理服务Oxylabs 代理服务。

支持树莓派吗?

支持树莓派和 linux/arm/v6 linux/arm/v7 arm64 设备! 详情请参见 wiki

导入支持

轻松以 Excel .xlsx 文件格式导入您要监视变化的网站列表,或粘贴纯文本形式的网站 URL 列表。

推荐使用 Excel 导入 - 这样您可以更好地组织网站的标签/组和其他功能。

API 支持

支持通过我们的 API 管理网站监视列表

支持我们

您是否使用 changedetection.io 赚钱?它是否为您节省时间或金钱?它是否让您的生活更轻松?压力更小?请记住,我们编写这个软件时本应做实际的有偿工作,我们需要购买食物和支付租金,就像您一样。

考虑订阅官方支持的网站变化检测服务,即使您不使用它,您仍然会得到帮助项目的温暖模糊感觉。(而且谁知道呢,您可能会用到它!)

商业支持

我提供商业支持,这个软件被网络安全、航空航天、数据科学和数据新闻专业人士等依赖,仅举几例。如有任何询问,请联系 dgtlmoon@gmail.com,我很乐意与您的组织合作,进一步探讨 changedetection.io 的可能性。

商业许可

如果您将此软件作为任何商业安排的一部分或全部进行转售,您必须遵守我们代码仓库中的 COMMERCIAL_LICENCE.md,请联系 dgtlmoon@gmail.comcontact@changedetection.io

第三方许可

changedetectionio.html_tools.elementpath_tostring: 版权所有 (c), 2018-2021, SISSA (Scuola Internazionale Superiore di Studi Avanzati), 根据 MIT 许可证 授权

贡献者

对项目做出杰出贡献的人员表彰

编辑推荐精选

Trae

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
问小白

问小白

全能AI智能助手,随时解答生活与工作的多样问题

问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。

热门AI助手AI对话AI工具聊天机器人
Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。

讯飞智文

讯飞智文

一键生成PPT和Word,让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级,全面对标OpenAI o1

科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。

咔片PPT

咔片PPT

AI助力,做PPT更简单!

咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
材料星

材料星

专业的AI公文写作平台,公文写作神器

AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。

openai-agents-python

openai-agents-python

OpenAI Agents SDK,助力开发者便捷使用 OpenAI 相关功能。

openai-agents-python 是 OpenAI 推出的一款强大 Python SDK,它为开发者提供了与 OpenAI 模型交互的高效工具,支持工具调用、结果处理、追踪等功能,涵盖多种应用场景,如研究助手、财务研究等,能显著提升开发效率,让开发者更轻松地利用 OpenAI 的技术优势。

下拉加载更多