当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    标签慎用 wordpress减少垃圾内容三种方式

    标签慎用 wordpress减少垃圾内容三种方式

    wordpress是应用非常广泛的开源建站程序,其最大的优势在于免费,另外具有N多种模板可供选择,但是wordpress并不是很完美,因为在使用wordpress建站的同时,我们不得不使用很多word
    关注站长平台,谈网站改版之后优化

    关注站长平台,谈网站改版之后优化

    作为一名seoer,工作这么几年,也不知道自己到底有多成功,至少能够知道拿到一个网站之后该怎么开始优化,从哪边开始着手,随时关注站长平台更新的最新动态,关注非凡网赚网 08398.com 里面各大帖子
    微信营销:去广告性回归社交化本质

    微信营销:去广告性回归社交化本质

    微信是目前最火爆的营销研究方向之一,很多做网络营销高手都逐渐把目光瞄向无限这一块崭新的领域。微信自上线以来,短短几年时间用户数就突破4亿。可以说,这是腾讯自QQ之后,唯一一款可以领先全球的产品了。尤其
    中国特色创业者:热衷平台,二次创业很少

    中国特色创业者:热衷平台,二次创业很少

    腾讯科技 刘亚澜 1月17日报道  几千年前,中国是世界发明创造的中心。而今,创业投资的热潮再度席卷中国。不管是那些一战成名的拓荒者,还是习惯于学习国外成熟产品的创业模式,中国创业受到了世界的关注。而
    配色讲道理!THINKFUL网站配色完全学习指南(下)

    配色讲道理!THINKFUL网站配色完全学习指南(下)

    常听人感慨,看了那么多的案例,依然搞不定配色,这真是一个悲伤的故事啊!的确,找到漂亮的网站容易,弄明白为什么漂亮,却需要从根子上来思考,所以,读完上篇的基础分析之后,接下来你需要掌控那些关于配色的概念
    狼来了 腾讯QQ群也要在广告联盟中分一杯羹

    狼来了 腾讯QQ群也要在广告联盟中分一杯羹

    小编以前写过一篇文章《静待那个夏天腾讯企业QQ群盟平台来临》,认为企业QQ群盟系统上线的话,以后的QQ群推广营销将会又被动变为主动。各个商家作为广告主向腾讯的企业QQ群盟平台投放广告,腾讯在根据广告主
    巨头混战:互联网还有合纵连横的机会吗

    巨头混战:互联网还有合纵连横的机会吗

    3月27日消息,2016 IT领袖峰会27日在深圳召开。  峰会首场高端对话主题为IT创新与共享经济,主持人是数字中国联合会主席吴鹰。对话嘉宾有:百度公司创始人、董事长兼首席执行官李彦宏,腾讯公司董事
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面