当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    3年站长干货分享:讲述奔走在逆袭道路上的那点事

    3年站长干货分享:讲述奔走在逆袭道路上的那点事

    3年站长干货分享:讲述奔走在逆袭道路上的那点事  举头望明月,低头思故乡之际,真是独在异乡为异客,每逢佳节倍思亲啊! 一年一度的中秋节又到来了,作者从结业到现在,工作整整一年时间了,这一年里有欢喜,有
    做SEO不得不深思的问题

    做SEO不得不深思的问题

    互联网的发展是飞快的,SEO也是一样,上至企业老板,下至创业草根站长,都明白SEO的价值性,尤其是2016年这段时间,学习SEO的人远远比往年的高,相信未来五年里,会呈现一个狼多肉少的局面,在做SEO
    十万字干货浓缩版:个人数据才是互联网金融的大杀器

    十万字干货浓缩版:个人数据才是互联网金融的大杀器

    摘要在星空上有点点滴滴的金融科技发明、闪耀者,同时星空中也有规则规范这些星星如何的运行,所以我们希望最终金融科技能够在合理的人类智慧结晶规则中,找到自己生长的土壤和发展的前景,最终给我们带来更美好的社
    网站优化SEOer利用seo赚钱细节和常规方法

    网站优化SEOer利用seo赚钱细节和常规方法

    当下互联网的发展电子商务的大潮势不可挡,在这种情况下很多seoer也跃跃欲试,不错我们是该有想法为自己赢得属于自己的第一桶金,seoer并不一定要辞职创业,很多时候我们可以提供seo相关的服务也可以让
    傻瓜式过万流量精品软文写作法(一)

    傻瓜式过万流量精品软文写作法(一)

    在硬广告过度泛滥的互联网时代,想要降低成本,提高转化,软文是必不可少的工具,那么,如何才可以写出精品软文?  分享以下五个步骤,当做软文模板填充内容即可!  一、诱因  对于无欲无求的人,任何营销都是
    网站采集内容如何保证质量度分值

    网站采集内容如何保证质量度分值

    对于个人站长而言,不管做任何站点最重要的就是内容填充问题。这也就是为什么很多站长都在拼命的给自己的网站增加网站内容。但是,需要站长把内容增加上去之后,对于网站质量度问题就难免会忽略,这也就是为什么常说
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面