当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    木林:创业者如何快速成功的秘密

    木林:创业者如何快速成功的秘密

    正在创业的你是否开始注意到,不管你怎么吆喝,怎么说你的产品的各种好处,怎么拉劝你的顾客买你的产品,但是实际收效却甚微。要么他们对此无动于衷,要么他们会闭着眼睛给你提各种各样的问题,你回答了一个,又冒出
    一支顶级 VC 的自杀

    一支顶级 VC 的自杀

    所有VC追逐的目标只有一个高回报率。Crosspoint,这支回报率曾高达 33.7 倍的神话VC,却在顶点以自杀的方式急流勇退。  在这篇长达六千字的文章,不仅可以看到美国VC二十年来的发展缩影,更
    百度推广/360好搜推广/搜狗推广后台管理异同

    百度推广/360好搜推广/搜狗推广后台管理异同

    目前国内的搜索引擎市场主要是百度搜索、360好搜、搜狗搜索,每个平台都有自己的推广平台,主要产品大同小异,分为搜索推广和网盟,但不同平台肯定也存在一些差异,下面重点调出几个比较重点的地方谈谈这三个推广
    SEO网站站内优化最有效手段:自然

    SEO网站站内优化最有效手段:自然

    随着搜索引擎技术的越来越成熟,曾经的站点只要站内内容有更新,站外发发外链就有可能拥有一个好的排名。但如今收录下降了,外链上升了,排名也并非随着外链的增加而上升。内容为王,外链为皇的时代已经过时了。如今
    SEO是什么 2014版

    SEO是什么 2014版

    SEO的术语解释  SEO在2000-2011年之间都是针对于主流搜索引擎友好度的一种网站站内外技术与内容的优化。通过接近搜索引擎算法的一种手段,所以称之为Search Engine Optimiza
    如何快速有效开展百度知道推广营销上

    如何快速有效开展百度知道推广营销上

    相信百度知道推广营销的重要性和营销的认识度对网络推广营销人员来说已经是很解,开展的人也比较多,如何有效或更快速展开百度知道推广营销这是一个很重要的话题,如果有在做的朋友常经一回答问题就马上失效或提交不
    案例解析:百度搜索结果标题参数F2

    案例解析:百度搜索结果标题参数F2

    F2 含义是百度搜索结果标题从哪儿提取并如何组合的。结论:百度服务器收到用户发送的查询请求,排序之后还会根据目标网页对应查询词的相关度,从标题(Title),外链锚文本(external-anchor
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面