当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    百度竞价着陆页标记技巧

    百度竞价着陆页标记技巧

    大家最开始给着陆页做标记,可能都是为了区分竞价与免费流量,以统计更为精细的ROI(投入产出比)。下面分享一些着陆页标记的简单技巧,让刚着手百度竞价学习的朋友对着陆页标记有个初步了解。    现在常用的
    17岁高中辍学创业者发明新型计算机

    17岁高中辍学创业者发明新型计算机

    本周二,年仅17岁的Thomas Sohmers推出了一个全新的高速计算机服务器,该计算机功耗极低,该计算机使用了低能耗的ARM处理器,而其所需电量仅为一台普通电脑一小部分。  在本周在旧金山举行的O
    微博如何增加粉丝攻略一

    微博如何增加粉丝攻略一

    做营销的都不会忽略微博,而做微博营销的也不会不懂如何增加大量粉丝。其实要想让微博的粉丝增多,说难也不难。微博说白了就是一种网络上的人际传播。传播学有舆论领袖的说法,就是指在人际传播网络中经常为他人提供
    格力电器网上商城上线 启用二级域名shop.bjgree.net

    格力电器网上商城上线 启用二级域名shop.bjgree.net

    格力官方网上商城本周起试运营,格力电器O2O的渠道模式显山露水。目前,格力官方网上商城已启用二级域名shop.bjgree.net上线。    今年,格力的电商布局真正拉开了帷幕。继首次以格力天猫官方
    明知是广告 却欲罢不能?好软文就是这么来的

    明知是广告 却欲罢不能?好软文就是这么来的

    硬广的时代已经过去了,就算你的产品再好,一篇纯广告还是会引起别人的反感,甚至有可能这篇广告,会被论坛主、贴吧吧主等一删而后快。被删的文案,就算价值再好,内容再吸引人也是没用的,因为别人点进去的时候已经
    在百度百家写一篇文章居然能赚3000元?

    在百度百家写一篇文章居然能赚3000元?

    地点:百度百家 时间:今天  动作:查看百度百家周榜NO1文章《中国代工业的生死赌局》 阅读量:20万+  百度百家文章一旦被推荐,阅读量超大,而且内置百度网盟广告。  按每次点击点击为0.5元计算(
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面