当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    互联网创业:做好颠覆传统产业的“五大痛点”

    互联网创业:做好颠覆传统产业的“五大痛点”

    雷军在前几天的一次采访中说:互联网是一种思维,是一种考虑问题的方法。用这种思维武装传统产业将获得的成绩可能也是颠覆性的,因而互联网+传统产业会极大的推进中国传统经济的转型升级,会巨大的提高整个运作效率
    BAOCMS微信生活O2O系统社区服务是什么?

    BAOCMS微信生活O2O系统社区服务是什么?

    社区是若干社会群体或社会组织聚集在某一个领域里所形成的一个生活上相互关联的大集体,是社会有机体最基本的内容,是宏观社会的缩影。社区就是这样一个聚居在一定地域范围内的人们所组成的社会生活共同体。社区O2
    媒体人创业会碰上什么难题?方向选择、合伙人与融资

    媒体人创业会碰上什么难题?方向选择、合伙人与融资

    摘要:资本是逐利的本性,他要什么你就给到他什么。就可以更多的从市场上拿到更多的钱,更好的把自己的事情做扎实。融资这件事情你自己决定,你到底要干什么,你要花多少钱,然后努力去做。    当经年累月地谈论
    跟苹果学营销:除了活儿要好 还得有个性

    跟苹果学营销:除了活儿要好 还得有个性

    我们需要一种永不过时的经典款式,就像大众汽车的甲壳虫一样。史蒂夫乔布斯  苹果公司很早就已经掌握了设计的情感特质,正是这种对于人性的深刻理解让它成为了世界上最具价值的公司。  就产品对用户所造成的情感
    叮当巴士专注包车领域 抢占巴士领域新蓝海

    叮当巴士专注包车领域 抢占巴士领域新蓝海

    当滴滴巴士、嗒嗒巴士、PP大巴在班车抢人大战中僵持不下时,叮当巴士一直在悄悄布局。8月12日,叮当巴士正式上线,并且走差异化路线定位于更细分的团体包车领域。叮当巴士面向企业团体用户,依靠B2B模式,抢
    拍拍微店分销上线微信二级入口 人人分享购物时代到来

    拍拍微店分销上线微信二级入口 人人分享购物时代到来

    今日,京东旗下拍拍宣布其拍拍微店分销系统正式上线京东微信二级入口(具体位置在微信我-钱包-京东精选中)。拍拍微店负责人表示,通过在京东的微信二级入口中提供分销功能,将帮助拍拍微店的优质商家利用广大的优
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面