我们的爬虫(AdsupBot)
Adsup.ai 爬虫做什么、访问哪些页面、访问频率,以及站长如何让它停止抓取。
最近更新: 2026-11-07
我们是谁
Adsup.ai 是一个广告情报服务。我们的爬虫 AdsupBot 访问公开网站,记录这些页面向所有访客展示的广告:素材、尺寸与位置、投放的广告平台,以及点击后的落地页。本页说明它做什么,以及如何让它停止。
你是站长?在这里申请退出抓取。 几分钟即可完成,立即生效。
访问哪些内容
- 只访问公开页面。 首页,以及首页上链接到的、同一域名下的少量文章页或栏目页。不访问需要登录、付费或提交表单的页面。
- 少量文本文件。 每次检查读取一次
robots.txt和ads.txt/app-ads.txt。 - 不涉及个人信息。 我们不注册账号、不提交表单、不保存 Cookie,也不收集访客的个人数据。
访问频率与强度
- 每个站点同时只有一个会话,页面加载之间至少间隔 5 秒。
- 同一(站点、国家、设备)组合至少间隔 6 小时才会再次访问。大多数站点按其广告多少每 1 到 180 天回访一次;没有广告的站点很少再访问。
- 我们从不点击广告,也不请求按点击计费的跳转链接,不会给你或你的广告主带来付费点击。
浏览方式
AdsupBot 用真实的 Chrome 浏览器加载页面,以便看到与真人相同的广告。它发送的是标准 Chrome User-Agent,而不是爬虫名称,因为很多广告平台不会向自报身份的爬虫投放广告。这对站长意味着:
- 按名称针对爬虫的规则(例如
robots.txt中的User-agent: AdsupBot)对它无效,User-Agent 过滤也无法可靠识别它。 - 退出申请才是让我们停止抓取的可靠方式。 域名验证通过后,所有子域名都会被排除,不再安排任何访问。
robots.txt
AdsupBot 挑选要访问的内页时,会跳过你的 robots.txt 对所有爬虫(User-agent: *)禁止的 URL。首页本身仍可能被加载,因为那是每位访客都会看到的页面。如需完全停止访问,请使用退出申请,而不是 robots.txt。
退出流程
- 在退出页面输入你的域名。我们按可注册域名处理,
blog.example.co.uk会变成example.co.uk,并覆盖其所有子域名。 - 证明你控制该域名:在域名上添加 DNS TXT 记录
adsup-verify=<token>,或在https://<domain>/.well-known/adsup-verify.txt放置一个包含该 token 的文件。 - 点击验证。成功后立即停止抓取:排队中的访问会被取消,正在进行的访问结果会被丢弃,该域名也不会再有公开的档案页面。
验证完成后可以删除 DNS 记录或文件,退出状态会保留。
联系我们
表单未覆盖的事项(下架已收集的广告、个人数据删除请求、撤销退出),请登录后在账号中提交工单,或使用任意页面上的客服按钮。下架请求在 7 个工作日内处理,个人数据删除请求在 30 天内处理。