微博爬虫如何爬取数据

微博爬虫如何爬取数据

微博上有大量的信息，很多用户会有采集微博信息的需求，对于不会写爬虫的小白来说可能是一件难事。本文介绍一个小白也可以使用的工具是如何爬取数据的。

介绍使用八爪鱼采集器简易模式采集抓取微博页面用户信息的方法。

需要采集微博内容的，在网页简易模式界面里点击微博进去之后可以看到所有关于微博的规则信息，我们直接使用就可以的。

微博爬虫抓取数据步骤1

批量采集微博每个用户界面的信息（下图所示）即在博主个人主页的信息

1、找到微博用户页面信息采集任务然后点击立即使用

微博爬虫抓取数据步骤2

2、简易采集中微博用户页面信息采集的任务界面介绍

查看详情：点开可以看到示例网址；

任务名：自定义任务名，默认为微博用户页面信息采集；

任务组：给任务划分一个保存任务的组，如果不设置会有一个默认组；

网址：用于填写博主个人主页的网址，可以填写多个，用回车分隔，一行一个，将鼠标移动到？号图标和任务名顶部文字均可以查看详细的注释信息；

示例数据：这个规则采集的所有字段信息。

微博爬虫抓取数据步骤3

3、任务设置示例

例如要采集与相关的微博消息

在设置里如下图所示：

任务名：自定义任务名，也可以不设置按照默认的就行

任务组：自定义任务组，也可以不设置按照默认的就行

网址：从浏览器中直接复制博主个人主页的网址，此处以“人民日报”和“雷军”为例。示例网址：/rmrb?is_all=1

/leijun?refer_flag=1001030103_&is_all=1

设置好之后点击保存

微博爬虫抓取数据步骤4

保存之后会出现开始采集的按钮

微博爬虫抓取数据步骤5

4、选择开始采集之后系统将会弹出运行任务的界面

可以选择启动本地采集（本地执行采集流程）或者启动云采集（由云服务器执行采集流程），这里以启动本地采集为例，我们选择启动本地采集按钮。

微博爬虫抓取数据步骤6

5、选择本地采集按钮之后，系统将会在本地执行这个采集流程来采集数据，下

图为本地采集的效果

微博爬虫抓取数据步骤7

6、采集完毕之后选择导出数据按钮即可，这里以导出excel2007为例，选择这

个选项之后点击确定

微博爬虫抓取数据步骤8

7、然后选择文件存放在电脑上的路径，路径选择好之后选择保存

微博爬虫抓取数据步骤9

8、这样数据就被完整的导出到自己的电脑上来了

微博爬虫抓取数据步骤10