我们的爬虫(AdsupBot)

Adsup.ai 爬虫做什么、访问哪些页面、访问频率,以及站长如何让它停止抓取。

最近更新: 2026-11-07

我们是谁

Adsup.ai 是一个广告情报服务。我们的爬虫 AdsupBot 访问公开网站,记录这些页面向所有访客展示的广告:素材、尺寸与位置、投放的广告平台,以及点击后的落地页。本页说明它做什么,以及如何让它停止。

你是站长?在这里申请退出抓取。 几分钟即可完成,立即生效。

访问哪些内容

  • 只访问公开页面。 首页,以及首页上链接到的、同一域名下的少量文章页或栏目页。不访问需要登录、付费或提交表单的页面。
  • 少量文本文件。 每次检查读取一次 robots.txt 和 ads.txt / app-ads.txt。
  • 不涉及个人信息。 我们不注册账号、不提交表单、不保存 Cookie,也不收集访客的个人数据。

访问频率与强度

  • 每个站点同时只有一个会话,页面加载之间至少间隔 5 秒。
  • 同一(站点、国家、设备)组合至少间隔 6 小时才会再次访问。大多数站点按其广告多少每 1 到 180 天回访一次;没有广告的站点很少再访问。
  • 我们从不点击广告,也不请求按点击计费的跳转链接,不会给你或你的广告主带来付费点击。

浏览方式

AdsupBot 用真实的 Chrome 浏览器加载页面,以便看到与真人相同的广告。它发送的是标准 Chrome User-Agent,而不是爬虫名称,因为很多广告平台不会向自报身份的爬虫投放广告。这对站长意味着:

  • 按名称针对爬虫的规则(例如 robots.txt 中的 User-agent: AdsupBot)对它无效,User-Agent 过滤也无法可靠识别它。
  • 退出申请才是让我们停止抓取的可靠方式。 域名验证通过后,所有子域名都会被排除,不再安排任何访问。

robots.txt

AdsupBot 挑选要访问的内页时,会跳过你的 robots.txt 对所有爬虫(User-agent: *)禁止的 URL。首页本身仍可能被加载,因为那是每位访客都会看到的页面。如需完全停止访问,请使用退出申请,而不是 robots.txt。

退出流程

  1. 在退出页面输入你的域名。我们按可注册域名处理,blog.example.co.uk 会变成 example.co.uk,并覆盖其所有子域名。
  2. 证明你控制该域名:在域名上添加 DNS TXT 记录 adsup-verify=<token>,或在 https://<domain>/.well-known/adsup-verify.txt 放置一个包含该 token 的文件。
  3. 点击验证。成功后立即停止抓取:排队中的访问会被取消,正在进行的访问结果会被丢弃,该域名也不会再有公开的档案页面。

验证完成后可以删除 DNS 记录或文件,退出状态会保留。

联系我们

表单未覆盖的事项(下架已收集的广告、个人数据删除请求、撤销退出),请登录后在账号中提交工单,或使用任意页面上的客服按钮。下架请求在 7 个工作日内处理,个人数据删除请求在 30 天内处理。