当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    浅析:店铺设计中的视觉营销策略

    浅析:店铺设计中的视觉营销策略

    在网络上,顾客对产品以及店铺的了解最主要是通过店铺页面的呈现结合自己的想象来最终决定是否下单,所以店铺页面的视觉呈现尤为重要。在淘宝上不鲜有视觉营销成功的案例,例如服装行业的七匹狼,韩都衣舍,化妆品行
    淘宝客如何通过论坛社区博客营销服装类产品

    淘宝客如何通过论坛社区博客营销服装类产品

    目前淘客推广的方式很多,QQ产品,百度产品,论坛sns博客,APP,微博,微信,建站等等方式,也因为推广途径的多样化,让我们这些小白不知道该如何去推广,选择哪种推广途径。下面就来介绍下论坛sns博客营
    教大家如何去设置博客的站内优化

    教大家如何去设置博客的站内优化

    教大家如何去设置博客的站内优化,优化一个博客是在SEO优化中是最简单,比起那些企业站比较容易,一般网站优化都分为两个部分,一个是站内优化,另一个是站外优化,现在梓轩教大家如何去优化一个博客的站内优化,
    企业网站在新窗口打开网页链接好不好?

    企业网站在新窗口打开网页链接好不好?

    可能是受到了门户网站和购物网站的的影响,有一些企业在做网站的时候也要求建站方把网站设置为在新窗口打开网页。没点击一次导航条,就信打开一个网页,然后,当用户不知不觉浏览网站十多分钟之后,浏览器的窗口已经
    极客标签:用代码回放来愉快地学习前端知识

    极客标签:用代码回放来愉快地学习前端知识

    网 页编程学习的过程中最痛苦的是什么?你看到各种大牛写下的代码和旁边只言片语的说明,但你根本无法理解整套代码是怎样写下来的,大牛写的时候遵循的是什么 样的逻辑。教程放在一个屏幕,然后你自己的编程工具放
    淘宝女装金冠店被查封? 疑因品牌侵权

    淘宝女装金冠店被查封? 疑因品牌侵权

    7月1日消息,日前,亿邦动力网发现,淘宝女装金冠店钱夫人家和缪可miuco被查封。有消息人士指出,这两家店铺被封是由于品牌侵权而受到举报。    店铺看不到任何商品  但有商家发现,在6月30日白天还
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面