当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    面对最严监管的229号文件,互联网电视能做什么?

    面对最严监管的229号文件,互联网电视能做什么?

    今年9月广电总局联合公安部等四部门发布了229号文件,这份文件被业内称作为史上最严的非法互联网电视终端查处文件。229号文件由多部委联合出台,这文件的发布意味着对互联网电视行业的监管不再是一纸空文,而
    匹凸匹公司砸500万元买了个“P2P”域名WWW.P2P.CN

    匹凸匹公司砸500万元买了个“P2P”域名WWW.P2P.CN

    [摘要]提及购买该域名的原因,匹凸匹称,本次交易有利于公司发展战略规划。  腾讯科技讯(木艮)8月25日消息,匹凸匹(600696)今日发布公告称,出资500万购买域名WWW.P2P.CN。  公告显
    网站404页面的美观设计和注意事项

    网站404页面的美观设计和注意事项

    在网站中404页面显得极为重要的一个页面,而且每个网站都是具备404页面的,如果一个网站没有设置404页面的话,这个网站格外显得不够专业,404页面在SEO优化中起到重要的作用。404页面通常是用在用
    体验微众银行首款APP,都有哪些亮点和槽点?

    体验微众银行首款APP,都有哪些亮点和槽点?

    摘要:国内首个互联网银行和首批试点获批的民营银行,刚刚上线了他们的第一个APP,都有哪些亮点和槽点。    腾讯旗下的微众银行从去年12月16日上线之初就备受关注,不过初期只有一个移动端Html 5架
    互联网跨界:传统企业才能真正淘汰传统企业

    互联网跨界:传统企业才能真正淘汰传统企业

    以电商为核心的互联网甚至是移动互联网只是工具,怎样用好工具才是核心?也只有能够用好以互联网甚至是移动互联网工具的传统企业才有机会,无论是对于TO C还是 TO B。  编者注:本文由@3W咖啡 推荐。
    三个操作让你的网站排名直线上升

    三个操作让你的网站排名直线上升

    很多人做SEO都说好累、好难,这是因为你并不懂SEO的真正核心知识,或者你懂但你没有真正实施,网站排名是一个综合性因素影响的结果,只有找到核心的几个要点,在全局化操盘下你的网站排名真的很简单。那么到底
    百度剥离“负资产”28亿美元急售爱奇艺

    百度剥离“负资产”28亿美元急售爱奇艺

    猴年互联网并购第一案,烧钱烧了6年,百度终于卸下爱奇艺  12日晚间,百度公告称,董事会收到百度CEO李彦宏和爱奇艺CEO龚宇针对爱奇艺股权的初步非约束收购提议,李彦宏和龚宇将收购爱奇艺100%股权。
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面