我要投稿
当前位置:首页 > 推广杂谈 > 页面长度过长也会导致不收录?
页面长度过长也会导致不收录?
2017/6/17 9:24:00   作者:隐身守候   人气:0次  评论(0)
所属标签: 网站运营 

  最近院长收到一个非常典型的抓取优化例子,整理一下分享给各位,各位站长们谨记不要出现相同的情况,网站主体内容都是js生成,针对用户访问,没有做优化;但是网站特针对爬虫抓取做了优化,且将图片也直接做了base64转化;然而优化后发现内容却不被百度收录。


  blob.png


  页面质量很好,还特意针对爬虫做了优化,为什么内容反而不收录了呢?

  

  工程师分析:

  

  1、网站针对爬虫爬取做的优化,直接将图片二进制内容放到了html中导致页面长度过长,网站页面长度达164k;

  

  2、 站点优化后将主体内容放于最后,图片却放于前面;

  

  3、爬虫抓取内容后,页面内容过长被截断,已抓取部分无法识别到主体内容,最终导致页面被认定为空短而不收录。

  

  工程师建议:

  

  1、不建议站点使用js生成主体内容,如js渲染出错,很可能导致页面内容读取错误,页面无法抓取

  

  2、 如站点针对爬虫爬取做优化,建议页面长度在128k之内,不要过长

  

  3、针对爬虫爬取做优化,请将主题内容放于前方,避免抓取截断造成的内容抓取不全


推荐阅读
我是一名纯互联网草根阶级,于10年开始接触互联网,距今已有7年之久。谈不上丰富经验,只是对于一些行业有粗略的了解和思维。网络行业,懂得利用人性的弱点!把不精准的客户变成精准的,把客户不需要的变成需要的