Cloudflare默认屏蔽AI训练爬虫
9月15日,Cloudflare于7月1日宣布的AI爬虫管控新策略正式生效。新规则下,展示广告的网站默认禁止AI训练类及AI Agent爬虫抓取内容,但搜索引擎爬虫仍默认放行。Cloudflare表示,此举旨在让网站运营者更容易控制内容是否被用于AI训练,同时避免影响搜索引擎收录。苹果、谷歌和微软已实施或承诺遵守“禁止AI训练”设置,使网站退出AI训练不会影响搜索曝光。
coding in a complicated world
9月15日,Cloudflare于7月1日宣布的AI爬虫管控新策略正式生效。新规则下,展示广告的网站默认禁止AI训练类及AI Agent爬虫抓取内容,但搜索引擎爬虫仍默认放行。Cloudflare表示,此举旨在让网站运营者更容易控制内容是否被用于AI训练,同时避免影响搜索引擎收录。苹果、谷歌和微软已实施或承诺遵守“禁止AI训练”设置,使网站退出AI训练不会影响搜索曝光。