当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    贵州罗蒙:西服定做饥饿营销可行嘛?

    贵州罗蒙:西服定做饥饿营销可行嘛?

    想到饥饿营销,人们就不自觉的想起小米。那么这种营销模式能不能适用于西服定做。贵州罗蒙的应该是薄利多销,西服定做几年的大发展行情趋势逐渐变冷,但这是正常状态,谁也不能保证一直持续走好。下面贵州罗蒙给大家
    TAG标签好处多多 你的网站使用了吗?

    TAG标签好处多多 你的网站使用了吗?

    当下随处可见的一些大型网站都已经熟练的使用着TAG标签,而今天小编在这里要与大家探讨这个话题是因为很多的中小网站很多时候容易忽略TAG标签的作用和好处,甚至根本不了解TAG标签能够给网站带来怎样的好处
    微信之父张小龙的语录被刷爆朋友圈

    微信之父张小龙的语录被刷爆朋友圈

    一向深居简出的张小龙每年有2次公开演讲,一次微信公开课,一次腾讯年会。而这两次发言,都会成为互联网人津津乐道的话题。这次也不例外,腾讯年会,张小龙如段子手般的发言瞬间被刷爆朋友圈。语录分享在网友整理的
    刘强东4000字长文:纵论O2O与电商的未来

    刘强东4000字长文:纵论O2O与电商的未来

    在O2O与电商风云际会的关口,作为中国最大的B2C电商创始人,刘强东如何判断大势?  在近期为《富甲美国》再版所写的序言中,刘强东阐述了自己对O2O发展的观点,对大数据的思考,对互联网+的认识,以及对
    致互联网创业者:请别把自己当作典型用户

    致互联网创业者:请别把自己当作典型用户

    今天在看Vision Mobile最新一期的移动开发者报告时,一个数据挺令我惊讶的只有24%的开发者会进行市场调研,越来越多的开发者选择相信自己的判断,远离用户似乎正在成为这个快时代下产品决策的主旋律
    深度:为什么信息时代已死,而新时代与体验相关?

    深度:为什么信息时代已死,而新时代与体验相关?

    导语:美国科技博客TechCrunch最近刊文称,在线互动环境在联网设备的塑造下不断变化,引发了经济重心从信息向体验转移。人们线上线下的身份正在融合,这一趋势已经把新的技术黄金时带到了眼前。  以下为
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面