最火爆的python爬虫scrapy框架项目实战,带你走进scrapy爬虫世界
ccwgpt 2024-09-27 07:29 113 浏览 0 评论
说在前面:
我们前面学习的基础爬虫的功能也是非常强大的,几乎可以处理所有想要收集的数据,那我们为什么还要学习现在最火爆的爬虫scrapy框架呢?因为基础爬虫有一点不好的地方,就是基础重复的代码量太多了,这样就显得过于繁杂了,而scrapy把一些不是很关键的部分代码封装成了框架,这样我们就不用写那些次要的代码了,只着重我们要处理数据的那一部分重点代码就可以实现功能了。
课题:爬取韦玮老师的文章标题、链接和作者名
爬虫scrapy框架一个简单例子实现的全过程主要有4个方面:
创建爬虫项目——设置items.py文件——创建爬虫文件——启动运行爬虫
下面进行最火爆爬虫scrapy框架实例的讲解:
(为了让读者更好的理解知识,小编采用了截图每一步的操作步骤来方便读者学习和掌握)
1.创建爬虫项目文件夹
两种方式:
第一种:没有安装了pycharm软件的朋友,可以按【win】+R 键进入window运行终端有页面,具体命令操作也与第二种一样,这里不详讲了,用这种方法的朋友请看第二种方法的具体操作。
第二种:安装了pycharm软件的朋友,可以直接进入终端Terminal的命令下,比如笔者的终端如下图所示,并且我在D:\1.PCshizhan的目录下,也就是说,我创建的爬虫项目文件夹就在D:\1.PCshizhan的目录下。
(1)创建爬虫项目的命令是:scrapy startproject 自定义项目的名称,比如笔者创建的项目名为myxml。
(2)如上图出现的字样,代表创建项目myxml成功,其项目目录情况如下图所示:
2.设置items.py文件
items文件有什么用处呢?items主要用于设置要提取的内容结构,例如我们要提取【标题】+【链接】+【作者】这三个信息,可以对items文件进行修改,如下图:
(1)还没修改前默认的代码情况:
(2)进行修改后的代码:(在pass的位置按照别人的提示进行自定义修改)
3.创建爬虫文件(作用相当于c语言中的main函数的作用)
注意:在这一步要先进入到刚刚创建的项目文件夹目录下,才可以创建爬虫文件
(1)先查看有什么类型的爬虫文件:输入命令:scrapy genspider -l(L小写),如下图,类型有:basic、crawl、csvfeed、xmlfeed四种类型。
(2)我们选择xmlfeed类型来创建爬虫文件,名称自定义为myxmlspider,创建爬虫文件的格式:scrapy genspider -t 类型 爬虫文件名 域名(域名可以为百度或者其他都行),如下图所示:
如图所示已创建成功,其所在位置如下图所示:可以在spiders目录下找到爬虫文件myxmlspider
(3)创建爬虫文件成功之后,就要进行代码编写或者说修改了:
还没有修改前的爬虫文件myxmlspider代码如下:
进行修改之后,实现我们要爬取的数据信息如下:
到这里,所有的代码都修改好了,下面要启动爬虫了。
4.启动运行爬虫得出结果:
格式:scrapy crawl 爬虫文件名 --nolog
如下图所示,运行结果已经打印出来了:(部分结果截图)
今天的内容到此就结束了,学会了这一篇scrapy实例、熟记和理解我所说的几个scrapy项目的思路,基本上可以解决一般的框架爬虫的问题了,喜欢的朋友可以关注一下、也可以转发给需要学习scrapy的朋友学习,希望今晚的内容能对读者有所受益。
相关推荐
- 丨公司丨公司大架构整理汇总
-
注:本文转自团队成员原创作品,特此鸣谢(公号:法海图鉴)今日话题公司大架构整理背景介绍经过前几期话题对各种企业类型的介绍,想必大家已经有了初步认识。之后我将带着大家开启对公司的深入了解。本期...
- 图解物理--八年级物理下册最全知识框架导图
-
第七章力1力2弹力3重力第八章运动和力1牛顿第一定律2二力平衡3摩擦力第九章压强1压强2液体压强3大气压强4流体压强与流速的关系第十章浮力1浮力2阿基米德原理3物体的浮沉条件及应用第十一章功...
- 八年级上册生物,思维导图,期末高分必备资料,家长收藏
-
这是八年级上册生物的思维导图,孩子在背诵知识点的时候,可以看一下知识点在导图中的位置,形成对知识点整体的把握,有助于学生拿高分,特别是图片中带红色星星的部分,更是要注意背诵,是重点内容。家长可以把图片...
- 2019政府工作报告精华,这张思维导图里全都有
-
每经记者:李可愚每经编辑:陈星每日经济新闻
- 图解薪酬体系结构设计
-
...
- 司考复习独家总结!一张图总结行政法知识结构体系
-
作为三大实体法之一,行政法的分值在60分左右,行政法在司法考试中一直比较平稳常规,没有偏题怪题,还是比较容易得分的。小编要提醒大家,在3月之前要把三大实体法学习一遍。下图是厚大在线360导学师小周总结...
- 实用干货!高中物理框架图,让零碎知识“串联”起来
-
高中物理学习一定要抓好逻辑结构大框架!了解整个知识框架体系后,更易抓住骨干知识,干掉重难知识点~今天给大家分享高中物理的框架图同学们赶紧收藏起来吧!力学知识结构图光学知识结构图热学、原子物理知识结构图...
- 254m超高层办公楼型钢砼框架-核心筒结构图
-
高度类别:超高层建筑钢筋混凝土结构:框架,框架核心筒钢结构:钢框架建筑功能:办公包含:办公楼57层(-3层)254.150m钻孔灌注桩桩+筏板型钢混凝土框架-钢筋混凝土核心筒西裙房2层(-...
- 砖混结构与框架结构,究竟有何区别?千万别被坑!
-
现在买房装修的人最怕啥?不是价格高,而是房子不安全!两种主流建筑结构,砖混靠墙,框架靠柱子,选错了隔墙都可能要命。简单说,砖混便宜但别碰高层,框架贵点但能保命。砖混那些承重墙根本不能拆,想砸墙改个开放...
- 大师一百——高中化学必考:《元素周期律》考点框架图
-
今天大师给大家带来的是高中化学的《元素周期律》考点框架图,高中的同学必须牢记于心,这种重要的考点,考试是一定会考的!化学大师...
- 需求分析框架图
-
需求分析框架图
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- mfc框架 (52)
- abb框架断路器 (48)
- beego框架 (52)
- java框架spring (58)
- grpc框架 (65)
- tornado框架 (48)
- 前端框架bootstrap (54)
- orm框架有哪些 (51)
- ppt框架 (48)
- 内联框架 (52)
- cad怎么画框架 (58)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)