当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    对于企业网站建设来说 哪些内容是必不可少的“干货”

    对于企业网站建设来说 哪些内容是必不可少的“干货”

    什么样的内容是企业网站必不可少呢?这对企业网站来说,是最核心的内容,如果用传统思维来说,可能这种认知会有所偏差,毕竟互联网的营销推广和传统营销渠道比较,有着许多不同的地方。    什么是干货呢?在互联
    讲故事不讲广告,现象级真人秀背后的别样跨界

    讲故事不讲广告,现象级真人秀背后的别样跨界

    当下的中国正迎来一股综艺爆发潮。  最近几年来,融合了真人秀的综艺栏目火爆起来,不仅收视率连创新高,而且也得到了品牌商家的青睐。但是,要想做好一次成功的综艺节目跨界营销却不容易,并非投了广告费,摆上产
    网站建设的同时也能向客户“取经”?

    网站建设的同时也能向客户“取经”?

    小编最近和几个同事一起,在一家客户集团总部给他们做网站建设服务。成都数字立方作为创业型网络建设公司,此次为了确保客户网站建设高质量完成,特地让我们几位同事前往客户所在总部,同客户自有网络部门携手一起完
    谈新生代草根站长创业

    谈新生代草根站长创业

    我不知道像我这样并不成功的个人站长是否有资格谈创业,正如我不知道为什么要写下本文谈论我对于新生代草根站长创业的看法。世间上的很多事本没有绝对的正确与否,本文所讲述的一切均为袁程旭个人观点,如有不恰当之
    让广告硬起来的秘诀 就是让文软下去

    让广告硬起来的秘诀 就是让文软下去

    '如今,面对泛滥成灾的广告,大多数受众表现出赤裸裸的抵触,尤其是直接宣传产品的纯广告。这些传统的硬广,带有强制、反复的传播性质,受众往往处于被动接受状态,极易产生厌恶情绪,'买会员去广告'就是这么个理
    如何利用百度统计提升网站用户体验

    如何利用百度统计提升网站用户体验

    用户体验是转化最基础也是最核心的因素之一,那么想方设法提高用户体验就至关重要了。今天易科seo就跟大家分享一下,如果用百度统计实战提升用户体验提高转化率。  百度统计有很多给力的功能方便我们提升网站的
    “文人”陈年与“戏子”周杰伦

    “文人”陈年与“戏子”周杰伦

    在电商圈里,似乎除了每年刷新纪录的双11以及有关东哥与奶茶妹妹的娱乐新闻,能够溅起几朵舆论浪花之外,其他时间便都处于沉寂的状态。不过,这样安静的局面最近却被陈年的那张嘴打破。  5月19日,凡客创始人
    中美日美女机器人大比拼,单身狗们喜欢哪款呢?

    中美日美女机器人大比拼,单身狗们喜欢哪款呢?

    随着时代的发展,人工智能的发展也十分迅速。美女机器人做得已经越来越逼真,所拥有的功能也越来越全面。而说到世界最先进的机器人,便不得不说说中美日的美女机器人了。中国、美国和日本一直都在致力于机器人方面的
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面