当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    不改变这两点 你的B2B内容营销基本被判了死刑

    不改变这两点 你的B2B内容营销基本被判了死刑

    如果你认为内容营销算不上一个足够大的挑战,( 一方面花费大量的时间创建和分发内容,另一方面又要又要衡量这些内容是否能够驱动用户进行消费从而获取回报。)那么想象一下,B2B领域针对技术的内容营销人员,又
    SEO技巧篇01:一篇文章三个标题

    SEO技巧篇01:一篇文章三个标题

    可能很多人不明白我这个标题的意思,一篇文章就一个标题,怎么有三个标题呢?其实我说的标题是站在SEO的角度来阐述的文章标题(title1、title2、title3)。    文章是一个网站流量极其重要
    最近很火的小红书,是如何创造引爆点的?

    最近很火的小红书,是如何创造引爆点的?

    购物平台小红书成立不过两年,百度指数两周内飙升30倍,APP Store排名三天内超越京东、唯品会。6月6日周年庆,帅哥送快递引爆朋友圈。怎么做到的?从环境威力法则、个别人物法则及附着力法则来分析。 
    产品运营:APP上线前,如何做运营推广工作?

    产品运营:APP上线前,如何做运营推广工作?

    一 竞品分析  1.选择竞品,做好定位(选择两个产品最好,最多三个)  如何获取竞品?  A 百度搜索类似产品关键词,假设你的产品是一款旅游分享类APP,你可以输入主要关键词旅游app,一般排在自然排
    分析网站以提醒大家建站需注意哪些方面

    分析网站以提醒大家建站需注意哪些方面

    一、代码部分  (1)代码不完整,缺少结束标签,建议加上;另外核心关键词设置太多,建议3~5个最佳;而且title最好放到meta部分前面。  (2)可以适当使用一个h1标签,最好加在核心关键词上,增
    网络营销之——农田营销法则

    网络营销之——农田营销法则

    其实很多事情都是想通的,现下最流行的网络营销和传统的营销模式区别在那?就是营销的手段不同,采用的媒介不同,但是它们的最终目的都是相同的,为了品牌或是销售的提升。今天我们不讨论两种营销方式的优劣,从本质
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面