当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    互联网产品定位不要盲目领导

    互联网产品定位不要盲目领导

    做产品如何进行定位?也许有人会说,直接对产品进行定位,根据产品的特性,结合产品的目标客户来进行定位。  这样的定位方式看起来没有错误,但在实际操作中,很容易出现问题,很多时候,做产品的最初起源并不是因
    百度站长平台:阻止个人信息在搜索引擎中出现

    百度站长平台:阻止个人信息在搜索引擎中出现

    个人信息一旦在网上发布,很有可能会被百度搜索引擎抓取,特别是在知名社交网站、专业网站上发布的内容。可能您并不希望这类个人信息出现在百度搜索结果中,以下方式可以帮助您阻止个人信息在搜索结果中出现。  如
    围绕微信生态,2015年第三方创业者的三大机遇

    围绕微信生态,2015年第三方创业者的三大机遇

    微信第三方,一直以来都是微信生态中重要的一环,在建设微信智慧生活中发挥了巨大的作用。虽然外界对微信第三方有诸多质疑,笔者认为,在往电商后端深、广、高的落地实施上,微信不仅离不开第三方,还会依靠第三方。
    移动互联网时代站长去哪儿?将如何完成“蝶变”?

    移动互联网时代站长去哪儿?将如何完成“蝶变”?

    摘要 : 移动互联网时代,站长并没有消失。随着平台的增加,站长群体反而变得更加庞大,在未来他们或许有一个新的名字,但本质都是依靠某个流量体系创造内容、服务用户。    iPhone掀起的移动互联网浪潮
    京东涉价格欺诈被罚50万元 三年累计被罚277次

    京东涉价格欺诈被罚50万元 三年累计被罚277次

    京东涉价格欺诈被罚50万元 三年累计被罚277次  【TechWeb报道】6月24日消息,因为销售的奢侈品品牌Burberry(巴宝莉)涉嫌价格欺诈,京东商城收到50万元的行政处罚单。 通过北京企业信
    亿超眼镜上门验光受热捧,眼镜O2O行业前景被看好

    亿超眼镜上门验光受热捧,眼镜O2O行业前景被看好

    配眼镜,就是一件麻烦事儿。  近视本来就是一件麻烦事儿,戴个眼镜吧还得要定时更换,可是换眼镜得要先去验光呀,不验光又怕度数不对,伤害了眼睛。好,验光就验光。可是问题来了眼镜店离我家很远;交通太堵了;关
    案例分析如何设计出符合访客需求的站内搜索

    案例分析如何设计出符合访客需求的站内搜索

    搜索是我们在使用互联网中最常用到的功能,无论我们是在搜索引擎上进行搜索,还是在网站内部进行搜索,我们的目的都是为了获得自己想要的内容。作为搜索引擎,其要不断的改善搜索结果来满足用户,而作为网站的运营者
    2015年BAT三巨头盘点之阿里巴巴帝国

    2015年BAT三巨头盘点之阿里巴巴帝国

    《2015年度中国互联网创业投资盘点》,用数据和观点,与大家分享2015年国内互联网创业、投资、大公司格局、上市、失败等全方位的信息。  BAT三巨头的策略,是IT桔子非常关注的,也值得中国乃至全球互
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面