Python爬虫第七讲:Scrapy爬虫框架详解(1)
ccwgpt 2024-09-27 07:28 101 浏览 0 评论
为什么Scrapy爬虫框架这么流行
业界主流Python的爬虫框架有Scrapy，Pyspider（这个是百度一个大佬写的），但是我唯一用的爬虫框架是Scrapy，优点简而言之：简单，易用，各种中间层已经做好规范，异步等不需要自己写，足以应付大部分业务不是很复杂的场景（有时候业务比拿数据难得多，那就只好自己用Requests写了）。同时各种生态比较完善，这里着重介绍几种比较好用的：
- scrapy-redis:分布式的组件，改下配置文件，Spider改下内容，在redis里设置下start_url，所谓的分布式爬虫就搞定了。scrapy-redis主要解决任务队列分发，确保各个Spider拿到的URL不同就可以了，这就是分布式（当然你要多在几个机器里跑scrapy的爬虫任务）。
- Splash：渲染引擎。类似于selenium，但是是一个服务化的工具。这个原理是：我们发送请求给这个splash服务，中间定义了很多配置（像渲染延时啊，是否渲染图片等等），splash转出请求，然后把服务器返回的各种文件（html,css,js）渲染，就像用浏览器访问一般，然后再把渲染后的内容返回给用户。这里的优势是我们不用再本机配置selenium的各种内容，只需要在一个服务器上配置好splash，这种服务化的思想现在随处可见，所谓的云服务也是如此。
- scrapyd+Gerapy:可视化部署和远程控制。Scrapyd 是一个部署和运行scrapy spiders的应用。它可以使用JSON API部署工程并控制spider。Gerapy是一个调用scrapyd的小型控制系统。远程控制爬虫运行，和远程部署还蛮好用的，适用于工作量特别大的场景。
优势总结：根据业务选择工具，避免重复造轮子是比较好的思路。Scrapy的生态在现阶段已经比较完善了，从分布式，再到远程控制，再到渲染引擎等等。这些能极大的减少我们的工作量，还不错不是吗？
Scrapy构架
- scrapy engine:整个爬虫引擎，中间的并发，异步处理等等都由他控制。
- Scheduler：调度器，负责任务调度，其中默认会去重除start_url以外的重复URL（log也有提示的）。
- Spider:主要的爬取规则，爬取域，起始URL，爬取规则一般都在里面定义
- pipeline:管道，负责处理爬虫从网页中抽取的内容，一般都会在这个文件做清洗入库等等操作。
- Downloader Middlewares：下载中间层，处理Scrapy引擎与下载器之间的请求及响应。
其他还有很多小的中间件等等，我就不一一介绍了。
Scrapy文件目录
仔细看看项目模板，其实在Scrapy构架里面就都有这些内容，开发者把整个构架内容抽象化，就成了现在的模板内容，这就是易用性的一种体现吧。
写在最后
最近事情有点多，公司分了个大案子，争取两天一更，下一更：用Scrapy爬一个网站。做技术分享还是很有意思的，感谢大家的关注。
相关推荐
- 团队管理“布阵术”:3招让你的团队战斗力爆表!
-
为何古代军队能够以一当十？为何现代企业有的团队高效似“特种部队”，有的却松散若“游击队”？**答案正隐匿于“布阵术”之中！**今时今日，让我们从古代兵法里萃取3个核心要义，助您塑造一支战斗力爆棚的...
- 知情人士回应字节大模型团队架构调整
-
【知情人士回应字节大模型团队架构调整】财联社2月21日电，针对原谷歌DeepMind副总裁吴永辉加入字节跳动后引发的团队调整问题，知情人士回应称：吴永辉博士主要负责AI基础研究探索工作，偏基础研究；A...
- 豆包大模型团队开源RLHF框架，训练吞吐量最高提升20倍
-
强化学习（RL）对大模型复杂推理能力提升有关键作用，但其复杂的计算流程对训练和部署也带来了巨大挑战。近日，字节跳动豆包大模型团队与香港大学联合提出HybridFlow。这是一个灵活高效的RL/RL...
- 创业团队如何设计股权架构及分配（创业团队如何设计股权架构及分配方案）
-
创业团队的股权架构设计，决定了公司在随后发展中呈现出的股权布局。如果最初的股权架构就存在先天不足，公司就很难顺利、稳定地成长起来。因此，创业之初，对股权设计应慎之又慎，避免留下巨大隐患和风险。两个人如...
- 消息称吴永辉入职后引发字节大模型团队架构大调整
-
2月21日，有消息称前谷歌大佬吴永辉加入字节跳动，并担任大模型团队Seed基础研究负责人后，引发了字节跳动大模型团队架构大调整。多名原本向朱文佳汇报的算法和技术负责人开始转向吴永辉汇报。简单来说，就是...
- 31页组织效能提升模型，经营管理团队搭建框架与权责定位
-
分享职场干货，提升能力！为职场精英打造个人知识体系，升职加薪！31页组织效能提升模型如何拿到分享的源文件：请您关注本头条号，然后私信本头条号“文米”2个字，按照操作流程，专人负责发送源文件给您。...
- 异形柱结构（异形柱结构技术规程）
-
下列关于混凝土异形柱结构设计的说法，其中何项正确？（A）混凝土异形柱框架结构可用于所有非抗震和抗震设防地区的一般居住建筑。（B）抗震设防烈度为6度时，对标准设防类（丙类）采用异形柱结构的建筑可不进行地...
- 职场干货:金字塔原理（金字塔原理实战篇）
-
金字塔原理的适用范围：金字塔原理适用于所有需要构建清晰逻辑框架的文章。第一篇：表达的逻辑。如何利用金字塔原理构建基本的金字塔结构受众（包括读者、听众、观众或学员）最容易理解的顺序：先了解主要的、抽象的...
- 底部剪力法（底部剪力法的基本原理）
-
某四层钢筋混凝土框架结构，计算简图如图1所示。抗震设防类别为丙类，抗震设防烈度为8度（0.2g），Ⅱ类场地，设计地震分组为第一组，第一自振周期T1=0.55s。一至四层的楼层侧向刚度依次为：K1=1...
- 结构等效重力荷载代表值（等效重力荷载系数）
-
某五层钢筋混凝土框架结构办公楼，房屋高度25.45m。抗震设防烈度8度，设防类别丙类，设计基本地震加速度0.2g，设计地震分组第二组，场地类别为Ⅱ类，混凝土强度等级C30。该结构平面和竖向均规则。假定...
- 体系结构已成昭告后世善莫大焉（体系构架是什么意思）
-
实践先行也理论已初步完成框架结构留余后人后世子孙俗话说前人栽树后人乘凉在夏商周大明大清民国共和前人栽树下吾之辈已完成结构体系又俗话说青出于蓝而胜于蓝各个时期任务不同吾辈探索框架结构体系经历有限肯定发展...
- 框架柱抗震构造要求（框架柱抗震设计）
-
某现浇钢筋混凝土框架-剪力墙结构高层办公楼，抗震设防烈度为8度（0.2g），场地类别为Ⅱ类，抗震等级：框架二级，剪力墙一级，混凝土强度等级：框架柱及剪力墙C50，框架梁及楼板C35，纵向钢筋及箍筋均采...
- 梁的刚度、挠度控制（钢梁挠度过大会引起什么原因）
-
某办公楼为现浇钢筋混凝土框架结构，r0=1.0，混凝土强度等级C35，纵向钢筋采用HRB400，箍筋采用HPB300。其二层（中间楼层）的局部平面图和次梁L-1的计算简图如图1～3（Z）所示，其中，K...
- 死要面子!有钱做大玻璃窗，却没有钱做“柱和梁”，不怕房塌吗?
-
活久见，有钱做2层落地大玻璃窗，却没有钱做“柱子和圈梁”，这样的农村自建房，安全吗？最近刷到个魔幻施工现场，如下图，这栋5开间的农村自建房，居然做了2个全景落地窗仔细观察，这2个落地窗还是飘窗，为了追...
- 不是承重墙，物业也不让拆?话说装修就一定要拆墙才行么
-
最近发现好多朋友装修时总想拆墙“爆改”空间，别以为只要避开承重墙就能随便砸！我家楼上邻居去年装修，拆了阳台矮墙想扩客厅，结果物业直接上门叫停。后来才知道，这种配重墙拆了会让阳台承重失衡，整栋楼都可能变...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- bootstrap框架 (43)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- express框架 (43)
- scrapy框架 (52)
- beego框架 (42)
- java框架spring (43)
- grpc框架 (55)
- 前端框架bootstrap (42)
- orm框架有哪些 (43)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)