使用 CloudFlare 后如何才能不影响搜索引擎蜘蛛爬虫

今天，明月给大家再次详细讲解一下，明月在使用 CloudFlare 后如何才能不影响搜索引擎蜘蛛爬虫对站点的抓取，因为这是很多首次使用 CloudFlare 的站长们容易忽略和触犯的问题，并不是 CloudFlare 不友好，而是 CloudFlare 的防火墙（WAF）实在是太给力。其实在【CloudFlare 如何让合法搜索引擎蜘蛛爬虫正常抓取】一文里就给大家分享过使用 CloudFlare 后如何放行搜索引擎蜘蛛爬虫，但因为 CloudFlare 后台多次升级更新，相应的设置也有了些许的变化，所以明月感觉有必要重新给大家分享一下。

目前，明月发现到的 CloudFlare 影响搜索引擎爬虫的只有两个地方，理论上只要这两个地方配置好了，任何搜索引擎爬虫都是可以畅通无阻的来你的站点抓取的，并且每次来访蜘蛛爬虫都可以在 CloudFlare 后台【安全性】——【事件】里看到记录的，如下图所示：