百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Python爬虫架构Scrapy快速安装(python爬虫程序框架)

ccwgpt 2024-09-20 13:21 51 浏览 0 评论

Scrapy的安装相对来说比较简单,不过它会完全依赖于你从哪里起步。为了能够支持尽可能多的用户,运行和安装Scrapy以及所有示例的“官方”方式是通过Vagrant,该软件能够让你在不考虑宿主操作系统的情况下,运行一个标准的Linux系统,在该系统中我们已经安装好所有需要用到的工具。

我们将会在接下来的几小节中给出Vagrant的使用说明以及一些常用操作系统中的指引。

MacOS

为了更加方便地阅读本书,请按照后面给出的Vagrant使用说明操作。如果你想直接在MacOS系统中安装Scrapy,其实也很简单。只需要输入下面的命令即可。

$ easy_install scrapy

然后,一切都会为你准备好。在过程中,可能会要求你填写密码或安装Xcode,如图3.1所示。这些都没有问题,你可以放心地接受这些请求。

图3.1

Windows

直接在Windows系统中安装Scrapy会复杂一些,坦白来说,会有一点痛苦。而且,安装本书中所需的所有软件也需要很大程度的勇气和决心。我们已经为你做好了准备。Vagrant和Virtualbox可以在Windows 64位平台中良好运行。直接前往本章后续的相关小节,你可以很快将其安装好并运行起来。如果你必须要在Windows系统中直接安装Scrapy,请查阅本书网站(http://scrapybook.com)中的资源。

Linux

和前面提及的两个操作系统一样,如果你想按照本书操作,那么Vagrant就是最为推荐的方式。

由于在很多场景下,你需要在Linux服务器中安装Scrapy,因此更详尽的指引可能会很有用。

确切的依赖条件经常会发生变更。本书编写时,我们安装的Scrapy版本是1.0.3,下面的内容是针对不同主流系统的操作指南。

1.Ubuntu或Debian Linux

为了在Ubuntu(使用Ubuntu 14.04 Trust Tahr 64位版本测试)或其他使用apt的发布版本中安装Scrapy,需要执行如下3个命令。

$ sudo apt-get update

$ sudo apt-get install python-pip python-lxml python-crypto python-
cssselect python-openssl python-w3lib python-twisted python-dev libxml2-
dev libxslt1-dev zlib1g-dev libffi-dev libssl-dev

$ sudo pip install scrapy

上述过程需要一些编译工作,而且可能会被不时打断,不过它将会为你安装PyPI源上最新版本的Scrapy。如果你想避免某些编译工作,并且能够忍受使用稍微过时一些的版本的话,可以通过Google搜索“install Scrapy Ubuntu packages”,并跟随Scrapy官方文档的指引进行操作。

2.Red Hat或CentOS Linux

在Red Hat或其他使用yum的发布版本中安装Scrapy相对来说比较容易。你只需按照如下3行操作即可。

sudo yum update
sudo yum -y install libxslt-devel pyOpenSSL python-lxml python-devel gcc
sudo easy_install scrapy

源码安装

只要你按照上述指引操作的话,就已经安装好了Scrapy目前所需的所有依赖。由于Scrapy是纯Python应用,因此如果你想修改其源代码或测试最新功能,可以很容易地从https://github.com/scrapy/scrapy网站中克隆其最新版本。在你的系统中安装Scrapy,只需输入如下命令。

$ git clone https://github.com/scrapy/scrapy.git
$ cd scrapy
$ python setup.py install

我猜如果你属于这类Scrapy用户,也就不需要我再提及virtualenv了。

升级Scrapy

Scrapy经常会升级。你会发现自己需要在很短时间内完成升级,此时可以使用pip、easy_install或aptitude完成这项工作。

$ sudo pip install --upgrade Scrapy

$ sudo easy_install --upgrade scrapy

如果想降级或选择特定版本,可以通过指定版本号来完成,比如:

$ sudo pip install Scrapy==1.0.0

$ sudo easy_install scrapy==1.0.0

Vagrant:运行示例的官方方式

本书中会有很多复杂但又有趣的例子,其中一些例子会用到很多服务。无论是处于初学还是进阶阶段,都可以运行本书中的这些示例,这是因为被称为Vagrant的程序可以让我们仅仅使用简单的命令就能准备好这个复杂的系统。本书中使用的系统如图3.2所示。

在Vagrant的术语中,你的电脑或笔记本被称为“宿主”机。Vagrant使用宿主机运行Docker提供者VM(虚拟机)。这些技术可以让我们拥有一个隔离的系统,在其中拥有其私有网络,可以忽略宿主机的软硬件,运行本书中的示例。

大部分章节只使用了两个服务:"dev"机器和"web"机器。我们登录到dev机器中运行爬虫,抓取web机器中的页面。后面的一些章节会用到更多的服务,包括数据库和大数据处理引擎。

请按照附录A的说明,在操作系统中安装Vagrant。到附录A的结尾时,你应当已经在操作系统中安装好git和Vagrant了。打开控制台/终端/命令提示符,现在可以按照如下操作获取本书的代码了。

$ git clone https://github.com/scalingexcellence/scrapybook.git
$ cd scrapybook

然后可以通过输入如下命令打开Vagrant系统。

$ vagrant up --no-parallel

在首次运行时将会花费一些时间,这取决于你的网络连接状况。在这之后,'vagrant up'操作将会瞬间完成。当系统运行起来之后,就可以使用如下命令登录dev虚拟机。

$ vagrant ssh

现在,你已经处于开发控制台当中,在这里可以按照本书的其他说明操作。代码已经从你的宿主机复制到dev机器当中,可以在book目录下找到这些代码。

$ cd book
$ ls
ch03 ch04 ch05 ch07 ch08 ch09 ch10 ch11 ...

打开几个控制台并执行vagrant ssh,可以获得多个可供操作的dev终端。可以使用vagrant halt关闭系统,使用vagrant status查看系统状态。请注意,vagrant halt不会关掉VM。如果出现问题,则需要打开VirtualBox然后手动关闭它,或者使用vagrant global-status找到其id(名为"docker-provider"),然后使用vagrant halt <ID>停掉它。即使你处于离线状态,大部分示例仍然能够运行,这也是使用Vagrant的一个很好的副作用。

现在,我们已经正确地创建好了系统,下面就该准备学习Scrapy了。

相关推荐

十分钟让你学会LNMP架构负载均衡(impala负载均衡)

业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...

AGV仓储机器人调度系统架构(agv物流机器人)

系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...

远程热部署在美团的落地实践(远程热点是什么意思)

Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...

springboot搭建xxl-job(分布式任务调度系统)

一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...

大模型:使用vLLM和Ray分布式部署推理应用

一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...

国产开源之光【分布式工作流调度系统】:DolphinScheduler

DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...

简单可靠高效的分布式任务队列系统

#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...

虚拟服务器之间如何分布式运行?(虚拟服务器部署)

  在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...

一文掌握 XXL-Job 的 6 大核心组件

XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...

京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?

京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...

企业级项目组件选型(一)分布式任务调度平台

官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...

python多进程的分布式任务调度应用场景及示例

多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...

SpringBoot整合ElasticJob实现分布式任务调度

介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...

分布式可视化 DAG 任务调度系统 Taier 的整体流程分析

Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...

SpringBoot任务调度:@Scheduled与TaskExecutor全面解析

一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...

取消回复欢迎 发表评论: