当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    14个SEO的最佳做法让电商网站销量翻番

    14个SEO的最佳做法让电商网站销量翻番

    搜索引擎优化可以让电子商务网站线上销售增加2倍。可能这听起来非常的不可思议,但事实如此,搜索引擎优化和转化率优化可以加倍电子商务网站的流量和销售额。    Question 1:如何处理缺货的产品页面
    浅析如何加强网站交互性来提升转化率

    浅析如何加强网站交互性来提升转化率

    在如今的信息时代,网络营销已经不是什么新鲜事了,不少传统的企业已经瞄准了互联网这块大蛋糕,纷纷把自己的产品放到网上来销售。笔者之前也和一个朋友合伙建设了一个卖香油的网站,尽管很多关键词被我们优化到了首
    做微商 可不可以温柔一点

    做微商 可不可以温柔一点

    现在做微商的无论是线上下线,都让人感觉太暴力,太霸道。要不QJ视觉,要不QJ生活,还时不时晒个单,晒个发货,晒个转账截图来蹂躏你一下。    1、线上。  一个人走在路上,心情不好,想看看微信朋友圈,
    微商微店多元化布局开启 “可信度”是成功的关键

    微商微店多元化布局开启 “可信度”是成功的关键

    当微商、微店铺面而来,你会不会购物?  从朋友圈的微商们身上所得:信任是成交的关键  朋友圈出现陌生人做微商的时候,陌生人被拉入黑名单了;稍疏远的几个朋友也开始做微商的时候,碍于面子留住了朋友圈的阅读
    如何快速获得网站更新页全部网址?

    如何快速获得网站更新页全部网址?

    大家都知道在网站优化过程中需要进行数据分析,而收录指标是众多数据里尤为重要的一个,并且很多时候我们不仅要查看网站每天更新的收录情况,还要查看整个网站更新页有哪些页面没有收录,而通过百度站长平台查看子栏
    如何从营销中不同角度观察消费者变化

    如何从营销中不同角度观察消费者变化

    导读:当今在营销中要学会从不同角度观察消费者变化,从而找到有效的营销策略。    当今的消费者可谓千变万化,但有一点是肯定的就是消费者是由希望满足他们需求的欲望而驱动的现实和潜在群体构成。市场之所以启
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面