当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    我来告诉你:百度索引量下降怎么办

    我来告诉你:百度索引量下降怎么办

    作为一名合格的SEOer,我们都要时刻关注着网站的各项数据,就拿百度索引量来说,就是我们平时最为关注的焦点,因为网站流量的前提来自于百度索引量,没有百度索引网站数据,就不会给我们带来流量,从某种方面上
    解析“朋友圈营销愿景好但难执行”到底是什么鬼

    解析“朋友圈营销愿景好但难执行”到底是什么鬼

    微信的火热已经让太多人看到了商机。现在随时打开朋友圈,很难不发现一些做代购或是自家销售产品的朋友圈信息。对于这些东西大家肯定见怪不怪,因为随着微信在人群中的普及,它所展现出来的信息涵盖能力完胜其他产品
    周鸿祎名下360导航联盟拒付推广费1745万元 遭起诉

    周鸿祎名下360导航联盟拒付推广费1745万元 遭起诉

    5月6日消息,因拒付网站推广服务费用,360周鸿祎名下奇思科技遭瓦力科技起诉,后者要求前者支付拖欠的网站推广服务费及利息共1803.30万元,并要求其承担全部诉讼费用。目前,东莞市第一人民法院已受理此
    90后CEO:从估值过千万到一无所有是怎样的体验?

    90后CEO:从估值过千万到一无所有是怎样的体验?

    注:当你还在为新一轮融资奔波的时候,还在为估值窃喜的时候,或许你该停下来看看,你的项目到底值不值那么多钱。不要被金钱冲昏头脑,时刻保持清醒,才有机会生存下来。以下文章转自夏军:  大家好,我是夏军,大
    从糯米网分析制作什么网站最赚钱

    从糯米网分析制作什么网站最赚钱

    互联网给人提供便利的体验,同时也让很多创业者发现了商机,通过发掘新的行业,或者通过行业网站制作,开启新的销售渠道,以此获得商机,不过,未必是所有的行业上线网站都能获得直接利益,尤其是那些传统行业网站,
    2014年全球SEO行业调查报告中文版

    2014年全球SEO行业调查报告中文版

    从蜂鸟算法到熊猫算法,过去一年的网络营销行业注定是不平凡的一年,因此我们再次着手研究这些变化对你的工作、用户以及策略产生的影响。有超过 3700人参与了今年的行业调查,以下就是该调查报告的内容。总的来
    如何简单的理解长尾关键词

    如何简单的理解长尾关键词

    长尾关键词,顾名思义,就是那些较长且意思表达的更精确的关键词。通常,接近于 point-of-purchase的互联网用户,在搜索时不自主的都会在搜索框中输入长尾搜索词,也即长尾关键词。也许有人会说,
    那些成为商业奇点的公司 极具传奇色彩的创业故事

    那些成为商业奇点的公司 极具传奇色彩的创业故事

    [核心提示] 商业奇点公司不仅仅是能取得成功,通过引导技术奇点的到来,其对社会产生的正面推动作用,让传统的模式彻底断裂。  在大部分人尚未意识到前,已经置身于技术奇点带来的变化中。那些被认为成功改造世
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面