百度360必应搜狗淘宝本站头条
分布式事务框架shiro框架java日志框架框架图cad怎么画框架
当前位置：网站首页 > 技术文章 > 正文

Scrapy框架 -- crawlSpider爬虫（爬虫框架scrapy原理）

ccwgpt 2024-09-20 13:21 51 浏览 0 评论

一、新建一个分布式爬虫项目，并进入该项目创建爬虫文件

scrapy startproject fenbushi
cd fenbushi
scrapy genspider-t crawl fenbushipc www.xxx.com

二、修改配置文件settings

ROBOTSTXT_OBEY = False
LOG_LEVEL = 'ERROR'
USER_AGENT = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36"

三、编写爬虫文件

1、指定要爬取的网址

start_urls = ["https://699pic.com/soso/-complex---------0--3-.html"]
rules = (Rule(LinkExtractor(allow=r'/soso/-complex---------0--\d+-\.html'), callback="parse_item", follow=True),)

2、获取图片的名称和详情页地址

标题列表=response.xpath('//*[@id="wrapper"]/div[4]/div/div')
for i in 标题列表:
   标题=i.xpath('./a/@title').extract_first()
   详情页=i.xpath('./a/@href').extract_first()

3、items添加字段

标题 = scrapy.Field()
地址 = scrapy.Field()

4、赋值给items对象

item对象=FenbushiItem()
item对象['标题']=标题
yield scrapy.Request(url=详情页,callback=self.详情页解析,meta={'ietm':item对象})
def 详情页解析(self,response):
    item=response.meta['item']
    图片地址=response.xpath('//*[@id="wrapper"]/div[2]/div[1]/div/div[1]/div[2]/div[1]/div/a/@href').extract_first()
    item['地址']=图片地址
    yield item

5、管道文件打印items对象

class FenbushiPipeline:
    def process_item(self, item, spider):
        print(item)
        return item

6、开启管道文件

ITEM_PIPELINES = {
   "fenbushi.pipelines.FenbushiPipeline": 300,
}

7、运行效果

相关推荐

十分钟让你学会LNMP架构负载均衡（impala负载均衡）

业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念：一个网站的所有页面，在一天内，被浏览的总次数。(大型网站通常是上千万的级别)2、u...

AGV仓储机器人调度系统架构（agv物流机器人）

系统架构层次划分采用分层模块化设计，分为以下五层：1.1用户接口层功能：提供人机交互界面（Web/桌面端），支持任务下发、实时监控、数据可视化和报警管理。模块：任务管理面板：接收订单（如拣货、...

远程热部署在美团的落地实践（远程热点是什么意思）

Sonic是美团内部研发设计的一款用于热部署的IDEA插件，本文其实现原理及落地的一些技术细节。在阅读本文之前，建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...

springboot搭建xxl-job(分布式任务调度系统)

一、部署xxl-job服务端下载xxl-job源码：https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...

大模型:使用vLLM和Ray分布式部署推理应用

一、vLLM：面向大模型的高效推理框架1.核心特点专为推理优化：专注于大模型（如GPT-3、LLaMA）的高吞吐量、低延迟推理。关键技术：PagedAttention：类似操作系统内存分页管理，将K...

国产开源之光【分布式工作流调度系统】:DolphinScheduler

DolphinScheduler是一个开源的分布式工作流调度系统，旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流，提供了丰富的调度功能和监控...

简单可靠高效的分布式任务队列系统

#记录我的2024#大家好，又见面了，我是GitHub精选君！背景介绍在系统访问量逐渐增大，高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下，异步任务队列扮演着至关重要的角色，...

虚拟服务器之间如何分布式运行?（虚拟服务器部署）

　　在云计算和虚拟化技术快速发展的今天，传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生，并成为支撑各类互联网平台、企业信息系统和A...

一文掌握 XXL-Job 的 6 大核心组件

XXL-Job是一个分布式任务调度平台，其核心组件主要包括以下部分，各组件相互协作实现高效的任务调度与管理：1.调度注册中心（RegistryCenter）作用：负责管理调度器（Schedule...

京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?

京东大佬问我,SpringBoot中如何做延迟队列？单机如何做？分布式如何做呢？并给出案例与代码分析。嗯，用户问的是在SpringBoot中如何实现延迟队列，单机和分布式环境下分别怎么做。这个问题其实...

企业级项目组件选型(一)分布式任务调度平台

官网地址：https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性，调度中心和执行器进行安全性校验，双方AccessToken匹配才允许通讯；调度中心和执...

python多进程的分布式任务调度应用场景及示例

多进程的分布式任务调度可以应用于以下场景：分布式爬虫：importmultiprocessingimportrequestsdefcrawl(url):response=re...

SpringBoot整合ElasticJob实现分布式任务调度

介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案，由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...

分布式可视化 DAG 任务调度系统 Taier 的整体流程分析

Taier作为袋鼠云的开源项目之一，是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本，提高大数据平台稳定性，让大数据开发人员可以在Taier直接进行业务逻辑的开发，而不用关...

SpringBoot任务调度:@Scheduled与TaskExecutor全面解析

一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中，任务调度扮演着至关重要的角色，它使得开发者能够自动化处理周期性任务、定时任务和异...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表