摘要：对比新浪提供的API及传统的爬虫方式获取微博的优缺点，采用模拟登陆和网页解析技术，将获取的信息存入数据库中并进行分析。基于Python设计实现了新浪微博爬虫程序，可以根据指定的关键词获取相应的微博内容及用户信息。

关键词：新浪微博；Python；爬虫

0 引言

自2009年8月新浪推出微博业务以来，微博逐渐地进入人们的日常生活中。越来越多的人开始加入到社交网络中，与他人互动。继新浪之后，腾讯、网易等也相继推出微博业务，但新浪做为国内微博界的“元老”，仍是广泛受到人们的欢迎。如今，新浪微博用户已达5亿多人。

随着使用人数的直线上升，带来的是信息量的急剧膨胀。每天都有数以万计的信息在奔流。微博通过点赞，转发，评论功能将个人的声音快速放大到社会空间，将个人的行为放大成为社会行为。作为网络新媒体的代表，微博用户产生的大量微博数据以及用户之间的互粉，转发等关系作为真实社会关系的一种写照，为社会网络研究提供了绝佳的研究数据。基于微博的数据研究已成为当今社会科学和计算机科学研究的重点。

1 新浪API

API接口使用较为方便，通过一个接口就可以很方便得获取所需的信息，而无须了解具体实现过程。但是新版的新浪API接口却有着很大的限制。最主要的一点，如果要想获得某人的微博个人信息和发表的微博内容，就必须得到对方的授权许可。

新浪API使用OAuth2.0授权机制。授权流程如图1所示。

其中Client指第三方应用，Resource Owner指用户，Authorization Server是我们的授权服务器，ResourceServer是API月艮务器。……