首页 >  SEO >  SEO知识 >  正文

ETag提升sitemap抓取速度频次

 作者:潘某人SEO
793

sitemap是大家提交url的主要途径之一,但是sitemap最大的一个问题就是抓取速度比较慢,对于新提交的sitemap文件,根据百度搜索资源平台的文档描述是,会在1个小时内处理。但是我们很多时候sitemap希望实现的功能是让搜索引擎去定期抓取各个sitemap文件,实现定期更细sitemap中的链接,无须重新提交链接,实现对全站内容的定期抓取。

但是sitemap的问题是只有把提交过链接删除重新提交,抓取速度会快一点;如果等待搜索引擎的定期抓取,这个时间就比较漫长,快则几天,慢则几个星期,显然这不是我们期待的效果,那么有什么方法让搜索引擎加快对sitemap的定期抓取。

sitemap抓取频次因素

对于搜索引擎每天面对的是海量的网站抓取任务,算法上优先是抓取网站的新内容,对于网站的更新抓取,会根据网站的质量评级,以及网站的内容属性等因素决定。

ETag提升sitemap抓取速度频次

网站评级越高,网站的价值高,那么在各方面都有搜索引擎的优待,这个很好理解;但是不同内容属性的站点,决定了网站内容更新的几率,比如新闻资讯类的站点,只要是新内容的增加速度快,但是已经收录过的内容发生修改的几率是很低的,因此搜索引擎对于已经收录过的内容抓取频次就比较低,也意味着提交过的sitemap的更新抓取周期比较长。

ETag简介

ETag(EntityTags)是URL的tag,实现对url是否发生过更新进行一个标注。简单的讲就是比如你打开了一个页面,同时浏览器开启了缓存,这个时候我们刷新这个页面;服务器首先会将页面的ETag传回网站服务器,验证浏览器客户端的缓存,如果页面没有发生过修改,此时直接返回状态码304,而不是重新对页面数据加载而是直接使用浏览器的缓存,可以有效的降低服务器的负载。

站点启用ETag的好处

对于网站sitemap开启了ETag后,如果sitemap文件没有更新的时候,搜索引擎来抓取的时候服务器只会返回304状态码,一方面可以有效的降低带宽的消耗,可以有效提升sitemap文件抓取的稳定性。另一面,对于搜索引擎通过ETag可以识别出站点sitemap文件是否发生更新,提升了抓取效率,对于这类站点会提升对于sitemap的抓取频次,对于搜索引擎只要检查ETag决定是否抓取并不会有很大的资源消耗,但是可以更加及时的抓取有价值的内容。





公众号
潘某人SEO 关注我每天学习SEO优化相关知识... 470篇原创内容
潘某SEO 公众号
申明:以上内容仅代表个人观点,仅供学习参考 本站图片来源于CC0协议或已获得VRF授权的图库站点 版权申明:本文为博主原创,未经授权任何个人或组织单位不得复制、转载、摘编以及其它形式的应用! 本文地址:https://www.chateach.com/seo/seozhishi/702
相关文章
  • 网站优化要不要制作sitemap

    sitemap,网站地图

    网站优化到底需不要要制作sitemap地图呢?sitemap地图的作用又是什么呢?可以提升网站的收录速度吗?

    1182
    • sitemap
    • 网站地图
  • 如何快速的生成sitemap网站地图

    sitemap,如何制作,网站地图

    如何快速的生成sitemap网站地图,我们不能依靠工具来实现,因为逻辑上就走不通,其实通过数据库可以快速有效的生成最有价值的sitemap网站地图。

    1229
    • sitemap
    • 如何制作
    • 网站地图
  • robots文件里该不该加上sitemap地址

    robots里放sitemap

    robots文件里该不该加上sitemap地址,有种说法就是搜索引擎抓取一个网站首先会抓取robots文件,这样把sitemap地址写在robots文件里,这样搜索引擎可以地址直接的对网站地图进行抓取,可以加快链接收录的速度,真相并不是这样

    1646
    • robots里放sitemap
  • 网站地图sitemap的注意事项

    sitemap注意事项,网站地图

    链接提交是站长们每天都会去做的事情,sitemap提交的注意事项,虽然说sitemap提交收录速度不是最快的,但是功能却是最强大的。

    635
    • sitemap注意事项
    • 网站地图
  • 网站地图sitemap制作与提交详细教程

    网站地图,sitemap

    sitemap如何处理,如何提交,移动动端和pc端是否需要都提交sitemap还是提交一次就可以了呢?那么仔细看完这篇文章,你将不再有这个疑虑。大多数搜索引擎都支持文本格式和xml格式的形式的地图,站点可以根据站点的需求随便选择一种。但是不推荐大家使用文本格式的sitemap方式提交,而是推荐使用xml格式的网站地图。

    1166
    • 网站地图
    • sitemap
  • sitemap超详细超实用的教程

    sitemap,网站地图

    Sitemap的配置是非常简单的,但是如果想要获得最大SEO效果,那么Sitemap的制作还是存在很多技巧的,今天为大家总结一份全面详细的sitemap网站地图的保姆级教程,内容又长又实用记得先搜藏。

    1394
    • sitemap
    • 网站地图
  • 如何查看sitemap文件提交配额

    sitemap提交配额

    为了提升站点提交的优质资源的处理效率,搜索资源平台对平台工具的sitemap文件提交配额进行限制,包括“资源提交-普通收录-sitemap提交”、“链接提交-死链提交”。平台将基于站点资源质量和搜索用户喜欢程度综合评估计算站点提交配额,站点不同,提交配额也可能不同。

    475
    • sitemap提交配额
  • 百度几种链接推送方式对比

    百度链接推送

    网站内容如果想要实现快速收录,那么及时的提交新内容链接是直接有效的方法。对于百度搜索来说链接提交方式是比较丰富的,大致分类主动提交、自动提交、手动提交和sitemap提交,那么你知道这四种提交方式有什么区别呢?哪张方式可以更快使内容收录呢?

    1322
    • 百度链接推送
  • 收录工具常见问题解析

    收录工具

    今天讲一下百度收录工具那些事,今年百度搜索引擎的收录工具发生很大的变化。首先自动提交功能下线了,手动提交不再支持未认证站点链接的提交,sitemap不再支持索引型,并且每日提交的数量也有了限制。

    945
    • 收录工具
  • 你的网站提交配额被回收了吗?

    提交配额,百度seo

    ​2023-9-22百度搜索资源平台发布了关于《关于回收网站提交配额的通知》,将对对非实名账户内站点、低质站点关停sitemap提交能力并调整API每日推送额度。那么站点如何检查站点配额、如何查看配额数量、如何恢复配额。

    452
    • 提交配额
    • 百度seo
  • 百度搜索无法提交链接怎么解决?

    百度搜索,seo,链接提交

    近期大家应该发现了百度搜索资源平台的大多数的站点api提交额度基本都将为的10条,并且无法提交sitemap,为什么会出现这种情况,又应该如何解决链接提交的问题呢?

    405
    • 百度搜索
    • seo
    • 链接提交
  • 百度如何提交链接,快速收录

    seo链接提交,如何加快收录

    百度的4种链接提交方式的介绍,他们之间的区别,以及各自的特点,对于seo优化用哪一种提交方式可以花更少的时间,但是可以获得更快的收录速度,提高推送效率,增加网站的收录总数。

    7171
    • seo链接提交
    • 如何加快收录
  • 百度不收录原因分析

    百度不收录原因

    百度不收录原因分析,目前百度Spider抓取新链接的途径有两个,一是主动出击发现抓取,二就是从百度站长平台的链接提交工具中获取数据,其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。

    1109
    • 百度不收录原因
  • 如何最大化挖掘关键词

    挖掘关键词

    关键词挖掘一定程度上决定了SEO优化的成与败,在网站的内容和搜索引擎之间衔接的桥梁就是关键词,关键词是用户需求解决的起点,对于搜索引擎通过关键词来匹配最优质的内容的。不考虑其他因素,站点的关键词覆盖面更全,流量覆盖更完整。

    428
    • 挖掘关键词
  • 域名更换,如何降低对排名权重的影响

    域名变更对于SEO的影响

    网站的域名变更,对于网站优化来说是一件需要非常谨慎对待的,就算你知道怎么操作,但是有着无数的坑等着你,分享几个常见的问题在域名变更的时候会对网站权重流量有着致命打击的注意点......

    2078
    • 域名变更对于SEO的影响
  • 巧用robots避免蜘蛛黑洞

    robots,蜘蛛黑洞

    今天我们来了解下什么是蜘蛛黑洞,黑洞大家应该有一定的了解,属于一种高质量高引力天体,包括光任何的物体都无法逃逸。蜘蛛黑洞既是蜘蛛进入之后无法再出来,对正常的抓取工作产生负面影响。

    922
    • robots
    • 蜘蛛黑洞
  • seo网站页面性能优化指南

    seo,页面性能

    seo优化站点必须做的事情,提升网站的加载速度性能。为了更好地提升用户的浏览体验,《移动落地页体验白皮书5.0》中规定:页面的首屏内容应在1秒内加载完成。

    634
    • seo
    • 页面性能
-- 这已经是底线了,看看别的把! --