当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    关键词如何分类?看完本文你会了解很多

    关键词如何分类?看完本文你会了解很多

    【导读】只有明确关键词的分类后,才可以根据网站的目的来筛选、布局和重点优化关键词。关键词的分类有很多种形式,每一种形式都可以指导网站SEO策略和方向的规划。不同网站所使用的关键词分类方式也会不同。在为
    如何打造一家有特色的微店?小编助你一臂之力

    如何打造一家有特色的微店?小编助你一臂之力

    当我们想要认识一个人时,首先会思考怎样让这个人记住自己、印象深刻,以此达到事半功倍的效果。就像两个人谈恋爱一样,追求从来不是最好的方式,关键在于吸引,在于你身上的特色和亮点。人如此,微店同样如此。让别
    轻社交重沟通 微信真心不是营销工具

    轻社交重沟通 微信真心不是营销工具

    微信真的需要群发吗?  前段时间钛媒体发了一个消息称微信要取消群发,震动了整个微信界,很多人以为微信要取消公众账号群发功能了,不少人都开始考虑该往那个平台转移了,但其实原文的标题是有一个问号的,只是后
    当病毒遇到情感:10个引爆全美的线上营销

    当病毒遇到情感:10个引爆全美的线上营销

    导语:让消费者通过社交媒体注意你的产品似乎变得越来越难。让公司的品牌从这些海量内容中脱颖而出完成病毒式传播不亚于天方夜谭。其实,引爆情感就是引爆病毒式传播。    如今,让消费者通过社交媒体注意你的产
    河北省信息安全研修班 创宇盾再受关注

    河北省信息安全研修班 创宇盾再受关注

    8月15日,河北省信息安全风险评估高级研修班在张家口举行,本次研修班由河北省信息安全测评中心主办,省工信厅网络信息安全处处长范卫国、省人社厅培训教育处处长董军虎等出席本次研修班并致辞。研修班由信息安全
    人人网陈一舟往事回顾

    人人网陈一舟往事回顾

    陈一舟把人人网卖给了他曾经收购过来的多牛传媒。这句话听起来有点绕,但也正好符合陈一舟闪躲腾挪的行事风格。2005 年,陈一舟的千橡集团收购刘韧的DoNews(多牛传媒前身); 2008 年之后,千橡从
    1号店之殇:创始人丧失控股权被迫去职

    1号店之殇:创始人丧失控股权被迫去职

    [摘要]编者按:随着创始人于刚的离去,1号店这个曾经靠沃尔玛大树而快速成长随后又掉队的电商又一次引起业界关注。换帅风波因何而起?1号店又将走向何处?腾讯科技推出系列文章为你还原和解读。  刘峻岭(左)
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面