当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    SEO搜索优化傻脸了:Google放弃PageRank

    SEO搜索优化傻脸了:Google放弃PageRank

    Google确认,将停止公开提供PageRank,这意味着任何从Google获取并展示PageRank数据的浏览器、工具栏,很快就再也没有任何数据了。  PageRank诞生于2000年,以特定算法为
    网站优化策略:先增加关键词库,OR 先提升排名?

    网站优化策略:先增加关键词库,OR 先提升排名?

    导读:我想每一个SEO从业人员是不是都曾经有过这样一个疑惑,接手站点之后,发现他们本身已经有一定的关键词库,但排名都不是特别好,换句话说就是排在首页的关键词并不多,遇到这样的情况,你该怎么办呢?  虽
    Smamoo神妈全球首款智能奶瓶 即将引爆众筹

    Smamoo神妈全球首款智能奶瓶 即将引爆众筹

    Smamoo神妈智能奶瓶预计将于8月6日在京东众筹。消息一出,引起了众多奶爸奶妈们的关注。究竟Smamoo神妈智能奶瓶有何强大功能;这些智能功能怎样解决了宝贝的喂养难题;智能奶瓶又是如何改变传统的喂养
    企业微信VS钉钉? 新战役一触即发

    企业微信VS钉钉? 新战役一触即发

    近日,微博网友Fenng在微博上贴出了一张手机截图,一直处于保密状态的企业版微信就这样提前曝光在公众面前。    3月10日,腾讯宣布将在最近两个月内发布企业微信,并透露前期主要邀请部分企业进行内测,
    京东不公布618销售额:失去公信力意味着失去信誉

    京东不公布618销售额:失去公信力意味着失去信誉

    近日,京东又一次上了新闻头条,且又是一次负面消息,从京东刷单到翻新机事件,舆论风口上的竞争。如今又被爆出发布做空报告,说的通俗点就是涉嫌数据造假,以此来误导消费者和投资者。造成京东形式一片大好的假象,
    英文外贸网站谷歌SEO优化都需要哪些服务

    英文外贸网站谷歌SEO优化都需要哪些服务

    一、关键词选择  在做英文外贸网站优化之前需要进行SEO优化方案的策划,根据客户所处的行业,网站的现状和主要竞争对手的情况,挖掘数据,甄选出200个左右关键词目录,并排出其中100个竞争度较低,并且搜
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面