当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    “百家号”正式开放注册  所有人都可以成为作者

    “百家号”正式开放注册 所有人都可以成为作者

    站长之家(Chinaz.com)9月30日消息 百度在本月初曾宣布将全面开放内容分发平台百度百家号,在经过一段时间内测后,“百家号”9月28日起正式向所有用户开放注册,任何人都可以在百家号的官网注册成
    互联网我真的可以玩自媒体吗

    互联网我真的可以玩自媒体吗

    谁都看到了互联网的商机,谁都想通过互联网实现自己的价值。做互联网成败有一个决定因素:信任。怎么建立信任关系呢?自媒体是大家的选择。那么作为互联网人,我真的可以玩自媒体吗?  什么是自媒体,每个人都有不
    网络营销 必争之地百度首页

    网络营销 必争之地百度首页

    前言  最近对于前期分享过的如何免费做百度首页的内容有很多朋友问我一些具体的方法,这边也告知了一些实用的方法,今天针对其中一些具体的操作做下明确的讲解,其中可能涉及一些相对于偏技术、较专业的内容   
    用5秒读懂,你的网站为什么没排名?

    用5秒读懂,你的网站为什么没排名?

    经常有站长在非凡网赚网 08398.com 商学院中问我:网站为什么还是没排名啊?对此我回答最多的是:网站用户体验差,结构优化不合理,信息质量不过关,如果把控好如上三点,排名自然会给你,反过来讲,没排
    想要做好seo必须提升自己的seo技术

    想要做好seo必须提升自己的seo技术

    seo优化我们一直推崇白帽的优化方法,作为站长seo是很多企业网站优化专业必须面对的事情,互联网日新月异作为站长我们必须能够紧跟时代步伐,将优化工作做精做细,那么,作为seoer我们如何及时的提升我们
    深度揭秘:阿里巴巴的全球化之路现状如何

    深度揭秘:阿里巴巴的全球化之路现状如何

    摘要:从上述五大版块电商,物流,金融,数据计算,UC的全球化来看,阿里巴巴集团聚焦跨境,以中国消费者为根基,去海外开疆拓土,这可能是阿里巴巴全球化1.0的阶段。有点类似于复星集团以中国动力嫁接全球资源
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面