当前位置:首页VIP大讲堂(上海站)QA集锦——抓取建库篇 举报文章

VIP大讲堂(上海站)QA集锦——抓取建库篇

作者:admin    来源:用户投稿    时间:2015.6.24   

  首先,小编要对各位站长朋友说声抱歉,VIP大讲堂上海站已经过去N久,QA内容今天才发布出来。各位站长参加VIP大讲堂,除了聆听官方声音外,更重要的是可以与百度专家进行面对面的沟通。VIP大讲堂上海站请出了百度spider专家孙权,这是他第一次走出来与站长进行培训交流,课程中抖出干货无数,各位无法参与现场培训的站长除了申请观看培训现场视频外,还可以通过QA记录看看自己心中的疑问是否已被解答。

  由于现场QA环节火爆热烈内容超多,故本次仅放出spider抓取建库部分,其它内容请静待下期。

  :为什么收录量像坐过山车一样的,还有为什么有些网页今天在明天就没了?

  答:百度会周期建库,且每个库的收录量是恒定的,你老是有新增,肯定会再从库里淘汰一些,反正总是保持那个库是满的。在建库的过程中,你会感觉有波动。具体的怎么筛,哪个页面会留下哪个页面会淘汰,这个策略是有很多的,他随着时间的变化,收录的标准策略也是在发生微调。

  :我们站点使用CDN加速会不会比较容易造成蜘蛛无法抓取?因为有时候修改掉他绑定的什么东西。

  答:如果要修改掉一定要通知到上一级,现在不存在这个问题,现在你如果修改掉也可以解析掉,之前可能会存在这个问题。

  :你们百度自己也有一个CDN加速,对抓录排名有没有影响?

  :在使用CDN加速这个问题上,我们对所有站点一视同仁。但我建议你使用技术能力强的CDN服务商,保证站点的稳定和速度,百度会更喜欢。

  :刚才您说IP上的站点数不能太多,那CDN这种情况怎么办?

  :CDN的情况另说,如果我们识别出来是CDN的话不会受站点数量的影响,如果你是提供独立IP的话会有这样一些问题。

  :还是IP上站点数量的问题,如果是主域跟二级域名呢?也受数量限制?

  :我说的是独立域名。当然质量比较好的二级域名也可以认为是独立域名

  问:多个域名,他有相同的一些内容,怎么建库?

  :如果是多域名在同一个主域下面有相同内容的话,不可能所有都建库,而且被建库的那个可能不是你希望的那个,所以尽量不要有相同的内容。

  :刚才讲的IP如果是多域名的话,好几百个IP域名,现在我们也用了CDN,按照刚才的说法,单个IP最多抓多少?1000是说对站点还是对IP?

  答:对IP,但1000是我举例,不是实际的数据,这个数据不会分享出来的

  :现在我的网站被很多蜘蛛爬,我想只让百度蜘蛛爬,百度蜘蛛IP多少?能设白名单么?

  :百度蜘蛛IP是不断变的,现在网上的确有一些白名单的说法,暂时是有效的,但不保证今后不会变,所以建议站点还是通过ua进行判断,我们百度站长平台上有相关的文章,你可以找一下。

  :如果我写robots只想禁掉动态链接的话,会不会影响动态参数前面正常链接的抓取?

  :不会的,你原来的页面还在,肯定会抓。

  问:比如我们一个域名www.abcde.com,我们想把带?号的url全部禁掉,首页我们不要禁掉,怎么弄?

  :?前面有个*,后面再有个*就可以了。

  问:我想了解,如果我现在收录有5,大概多长时间才能把我原来收录5重新抓取一遍?

  :不同站点不好说,一个是你站点做的很好,知名度很响更新很快质量很好就会快;如果你的站点默默无闻,贡献很少,可能就会很慢。

  (接上个问题)

  :就是差不多的情况,大概。

  :这个没有人能估出来。

  :百度站长平台上有数据提交的工具,我们实时提交,你们也会实时抓取吗?

  :不会,他会有一层判断。现在只是通知你提交成功,后面什么时候抓,什么时候建库没有,我们正在研究要不要把这个分享出来。

  :我网站有一些列表页,都没有链接,担心百度抓不到

  :现在百度站长平台的站内搜索工具有一个绿色收录通道,在那里提交种子页,我们就知道的。

  (接上个问题)

  :提交种子页面必须要用站搜?

  :是的。

  :如果说页面里url特别多的话,蜘蛛会不会有选择性的进行抓取?

  答:不会,他都会一个不漏给你提出来,但会把JS、CSS这样的链接给过滤掉。但请注意,全部抓取过来之后会进行筛选,并不是所有都会建库。

  :现在很多网站都有自己的站内搜索,都会产生站内搜索结果页,百度不喜欢搜索结果页的话,我们用这个会不会对我们有影响?只是不喜欢还是对我们网站会有惩罚

  答:蜘蛛会去抓,抓完之后重要是提取里面的链接。如果只有一两条这样的页面质量不好问题不大,如果整体质量较差,有可能受到惩罚。

  :新出的时效性文章当时没有被收录,后期是否还会被收录?

  :会

  问:站点每天最高爬虫多少次?

  :这个其实说不好,有的站点我们一天会抓一两千,有的站点只抓几个、几十个,看你的规模和质量,而且这个抓取量也是会根据网站的情况进行调整的。

好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:大讲堂  上海  集锦  抓取  
  • 相关搜索
图片推荐
    喜迎双蛋!购买江湖系统9折优惠活动火爆进行

    喜迎双蛋!购买江湖系统9折优惠活动火爆进行

    圣诞元旦来临之际,江湖科技推出购买系统享受9折优惠的活动,只要是购买江湖家居系统,江湖婚庆系统,江湖装企系统,通过扫描我们官方微信二维码或者添加微信号ijhcms为好友,然后领取优惠券的,购买程序的时
    文案人的江湖 以及文案门派间的鄙视链

    文案人的江湖 以及文案门派间的鄙视链

    广告青史几行名姓,不过前人播种后人收。  文案一派由来已久。今特从门派归宗的角度,来说说文案人的身份,各位看官请容我一一道来。  开门见山。自广告开宗立派以来,文案、设计、创意、策略四使分列四坛,守护
    美图在港交所提交IPO申请 拟融资5-10亿美元

    美图在港交所提交IPO申请 拟融资5-10亿美元

    【TechWeb报道】8月22日消息,多方信息显示,美图公司已经在港交所提交了IPO申请,并拟于今年第四季度上市,拟募资5亿美元至10亿美元。    资料显示,美图公司成立于2008年,至今已进行多轮
    营销型网站良好用户体验度提高转化率

    营销型网站良好用户体验度提高转化率

    营销型网站最根本的问题也是最关键的问题,就是关于用户体验度的问题,我们做营销型网站,除了做给搜索引擎看,最重要的一点就是做给用户看的,用户是上帝,用户是否喜欢我们的网站,是否看了我们的网站有购买产品的
    如何做好微信营销?人人传引流开启微商发展之路?

    如何做好微信营销?人人传引流开启微商发展之路?

    如何做好微信营销,是一个很让网友头痛的问题。尤其是2015年微商洗牌与整合的时期,如何做好微信营销?一些类似掌卡人人传这样的微信推广平台也趁势而起,为微商的发展注入了新鲜的活力。那么掌卡人人传(www
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面