当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    魅蓝Note 2电信版发布时间曝光! 售价调整到799元

    魅蓝Note 2电信版发布时间曝光! 售价调整到799元

    本月初,魅族正式发布了魅蓝Note 2,在配置基本上没有太大变化的前提下,售价从999元调整到了799元,非常良心。  但遗憾的是,魅族官方于6月10日宣布,由于专用配件供应量产推迟,魅蓝Note2电
    知乎的另一面:如何用数据管理内容

    知乎的另一面:如何用数据管理内容

    虎嗅注:知乎已经走过了4年年头,在互联网的世界里,知乎已经成为无可争议的高质量社区,但在经历了高速发展之后,如何管理,筛选,呈现这些大量的信息(数据)成为一个难题,事实上无论对于哪一个社区而言,数据的
    从创业到打工 我的5年SEO之路

    从创业到打工 我的5年SEO之路

    感谢说说SEO的投稿:  一次又一次的,静静的坐在电脑前,捧一个黑色的大瓷杯,轻蘸几口咖啡,看着桌上自己低调而创意的SEO主管名片,看着电脑屏幕上的说说SEO论坛, 心底却已是莫名的沉稳和平静。回想五
    网页质量白皮书给我们带来什么?

    网页质量白皮书给我们带来什么?

    百度最新的百度搜索引擎网页质量白皮书已经发布、相信很多朋友已经看了、对于刚刚入门的初学者来说肯定也懂了不多!对于已经从事seo几年的朋友来说想必看完了也就那么几点自己做的东西。  那么百度发布这样一份
    中国创业者“性生活”真实写照

    中国创业者“性生活”真实写照

    Founder/VC 栏目第 26 期,本文作者:两位刚刚拿到新一轮融资,并要求匿名的连环创业者。  独立、敏捷的中美科技观察,硅发布微信号Guifabucom  李克强总理说全民创业,万众创新,然后
    钟智鑫:网络营销之竞争对手的调查分析

    钟智鑫:网络营销之竞争对手的调查分析

    之前写了一篇《钟智鑫:网络营销之用户需求调查》,用户需求是不可忽视的一部分,除了对用户进行调查,我们还要对竞争对手做一个详细的调查分析。  一、搜索排名结果  调查竞争对手情况也可以从搜索引擎入手。搜
    微商生存面面观:非法传销还是电商颠覆者?

    微商生存面面观:非法传销还是电商颠覆者?

    柏可林摄  原标题:微商生存面面观  对于微商有着两个截然不同的观点,一种是魔鬼,说它是非法传销;另一种是天使,说它是电商的颠覆者。一方面,微商们五花八门的炫富,以证明这条道路的正确性,另一方面,关于
    如何SEO优化网站排名?网站SEO优化排名技术教程

    如何SEO优化网站排名?网站SEO优化排名技术教程

    如何SEO优化网站排名?你如果懂SEO,就可以把网站排名做上去。那么SEO是什么?SEO就是搜索引擎优化的简称。站长网下面来分享一下网站SEO优化排名技术教程。首先你要知道决定网站SEO排名的三大核心
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面