当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    腾讯的银行出了个手机应用,这是我们的体验

    腾讯的银行出了个手机应用,这是我们的体验

    这是一个只能在线办卡的银行,需要 QQ 号或者微信号  去年 7 月,银监会批准腾讯筹建深圳前海微众银行,这家由腾讯控股的商业银行成为中国第一家互联网银行。12 月,微众银行官网上线,但并未提供任何实
    一套完整的QQ群营销推广方案(附无限加好友神器)

    一套完整的QQ群营销推广方案(附无限加好友神器)

    朋友说做灰色行业的,本向想通过黑帽SEO技术来优化网站,但考虑到成本问题还技术问题,看来是比较难实现的了,不过我给他出了一套关于QQ群营销推广的方案,看到他最近这段时间执行的还算不错,有明显的效果,所
    深度解密微信疯读狂加粉的伎俩

    深度解密微信疯读狂加粉的伎俩

    两年前,微信公众号刚开始的时候,我毅然决然的继续做独立博客,在那个野蛮涨粉的时候,谁也看不清微信到底有多大力量,大家都在摸索中探索盈利方式。  两年后,他的微信公众号有了百万粉丝,每月通过网络接单能赚
    企业搞微博微信社交媒体营销真能让人购买?62%人说不

    企业搞微博微信社交媒体营销真能让人购买?62%人说不

    周末浏览新闻信息,发现全球知名的民意测验和商业调查咨询公司盖洛普,发布了一份《美国消费者调查报告》,其中一章是讲社交媒体对消费者决策的影响。因此,我发邮件跟它索要全文版本,刚收到。  浏览全文并精读有
    事实证明页面理论贡献量决定了site排名次序

    事实证明页面理论贡献量决定了site排名次序

    针对百度site域名网站首页不在第一位的情况,我发表了博文《解析:百度site一下,首页不在第一位的原因》。该文发表在admin5后招来了不少非议,其中好几个人认为,site首页不在第一位是降权的迹象
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面