降低或限制谷歌蜘蛛的爬取频率

运营推广 投稿 78900 0 评论

解决google蜘蛛爬行导致服务器资源不足,流量消耗异常:

  1. 如果可以彻底不需要国外ip的访问,可以直接一次性屏蔽掉所有国外ip对服务器的访问;

  2. 记录谷歌蜘蛛的IP段(我发现爬取超级频繁的就那两三个ip段,在服务器禁止就完全可以解决问题)

  3. 如果需要让国外用户访问,可以用robots文件禁止谷歌蜘蛛爬取;

  4. 如果还需要保持一定的谷歌优化,可以在谷歌站长工具中进行限制(google search console)

    访问,https://www.google.com/webmasters/tools/home?hl=zh-CN

    先验证站点权限,然后访问老版本地址,把下面网址中的网站地址换成你的网址, https://www.google.com/webmasters/tools/settings?siteUrl=https://www.feishuai.vip

    然后选择滑道到最低即可,一般次日生效。

降低或限制谷歌蜘蛛的爬取频率

推荐用第2或第4种方法。

那么,为什么要限制谷歌蜘蛛的爬取频率呢

因为谷歌在国内的访问障碍,消耗这么大服务器资源的同时,谷歌带来的访问量是不成比例的,每天平均差不多只有20个访客。

编程笔记 » 降低或限制谷歌蜘蛛的爬取频率

赞同 (209) or 分享 (0)
游客 发表我的评论   换个身份
取消评论

表情
(0)个小伙伴在吐槽