当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    如何通过视频营销运作淘宝客赚钱(二)

    如何通过视频营销运作淘宝客赚钱(二)

    此前是利用其他人已经制作好的视频去找流量,好处是减少了我们自己去发视频的繁琐步骤,弊端也很明显,这样的劫持行为,很大程度上会影响淘宝客之间的和睦,同时,吃别人剩下的饭,终究还是不香,所以,昨天与大家分
    不发烧?骁龙810 v2.1跑分高的真相

    不发烧?骁龙810 v2.1跑分高的真相

    小米Note顶配版今年1月份就发布了,但上市时间一直拖到了5月,小米说他们使用了改进版的骁龙810 v2.1处理器,改善了功耗和发热,实际测试也显示小米Note顶配版的性能确实比其他骁龙810机型如L
    内页收录停滞不前 你是否考虑过以下致命原因

    内页收录停滞不前 你是否考虑过以下致命原因

    网站的收录情况一直是站长们所关注的一项关键指标数据,很大程度上,收录情况影响到站点的排名流量情况。在随着百度推出的绿萝和石榴算法之后我们可以发现百度蜘蛛对于内页的爬行要求越来越高了,假如我们的内页在一
    这个微信公众号只发广告,却篇篇10万+,凭什么?

    这个微信公众号只发广告,却篇篇10万+,凭什么?

    经常有小伙伴问插坐菌,电商类微信公众号的内容怎么做?发广告吧,用户不高兴;不发广告吧,老板不高兴!愁人!  针对这个问题,插坐菌推荐大家参考这个公众号,它每篇文章都是广告,但篇篇浏览量10万+,这个神
    未来网站设计比网站优化要值钱

    未来网站设计比网站优化要值钱

    一直说网站设计不赚钱,投入人力脑力很大,最后赚个白菜萝卜价,但是藤设计发现百度给网站设计师准备了一条发财之路。  之前我们一直在评估在网站设计日益透明的年代,所有的东西都是可被复制的(因为共享的东西越
    探索二次元的盗版世界:B站、贴吧、QQ群

    探索二次元的盗版世界:B站、贴吧、QQ群

    二次元的世界里,盗版从来都是如影随形。不论是无奈还是贪婪,我们并不想对动漫盗版存在的合理性进行任何评判。  二次元的世界里,盗版从来都是如影随形。不论是无奈还是贪婪,我们并不想对动漫盗版存在的合理性进
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面