新一代浏览器自动化神器Playwright深度解析:从入门到实战的指南
ccwgpt 2025-06-09 20:33 1 浏览 0 评论
一、Playwright简介:为什么选择它?
Playwright是由微软推出的新一代浏览器自动化框架,专为Web测试与数据抓取设计。其核心优势在于:
- 跨浏览器支持:统一API兼容Chromium、Firefox、WebKit(含Edge、Safari),无需切换驱动。
- 自动化等待机制:内置智能等待,减少手动定位延时,提升脚本稳定性。
- 无头/有头模式无缝切换:兼顾调试与性能需求。
- 低门槛安装:自动下载浏览器与驱动,告别环境配置烦恼。
对比传统工具(Selenium vs Playwright):
特性 | Selenium | Playwright |
浏览器支持 | 需手动安装对应驱动 | 内置主流浏览器驱动 |
等待机制 | 依赖显式等待,易导致卡顿 | 自动等待元素加载,默认30秒超时 |
API设计 | 接口分散,学习成本高 | 统一简洁,支持链式调用 |
网络拦截 | 需第三方库配合 | 原生支持请求/响应拦截 |
并行测试 | 需复杂配置 | 天生支持多进程并行执行 |
二、安装与配置
- 环境要求
Python 3.7+(推荐使用虚拟环境管理)
安装Playwright:
pip install playwright
- 驱动安装(自动下载Chromium、Firefox、WebKit)
python -m playwright install
- 提速技巧:使用国内镜像源(如清华源):
playwright install --driver-binary-mirror=https://mirrors.tuna.tsinghua.edu.cn/playwright
三、基础使用:同步 vs 异步模式
3.1 同步模式(适合新手)
from playwright.sync_api import sync_playwright
with sync_playwright() as p:
browser = p.chromium.launch(headless=False)
page = browser.new_page()
page.goto("https://www.example.com")
page.click("text=Login")
page.fill("#username", "testuser")
page.screenshot(path="login.png")
browser.close()
3.2 异步模式(性能优化)
import asyncio
from playwright.async_api import async_playwright
async def main():
async with async_playwright() as p:
browser = await p.chromium.launch()
page = await browser.new_page()
await page.goto("https://example.com")
await page.evaluate("document.title = 'Test Page'")
title = await page.title()
print(title) # 输出:Test Page
await browser.close()
asyncio.run(main())
核心方法对比:
- sync_playwright() vs async_playwright():上下文管理器,管理浏览器生命周期。
- page.goto(url):导航至指定URL,自动等待页面加载完成。
- page.click(selector):通过选择器定位元素并点击(支持CSS、XPath、文本匹配)。
- page.fill("#input", "text"):输入文本到指定输入框。
四、高级功能实战
4.1 元素定位与操作
Playwright提供三种定位方式:
- CSS选择器:
page.click("#submit-btn") # 按ID定位
page.click("[data-testid=login]") # 按自定义属性定位
- XPath:
page.click("xpath=//button[contains(text(), 'Login')]")
- 文本匹配(模糊/正则):
page.click("text=Log in") # 精确匹配文本
page.click("text=/Log\s*in/i") # 正则匹配
实战示例:自动登录表单
def login(page):
page.fill("#username", "admin")
page.fill("#password", "123456")
page.click("text=Login")
# 断言登录成功
expect(page).to_have_title("Dashboard")
4.2 事件监听与自动化测试
- 页面事件拦截:
def on_console_message(msg):
print(f"Console log: {msg.text}")
page.on("console", on_console_message)
- 网络请求监控:
def intercept_response(response):
if "api/login" in response.url:
print(response.json()) # 打印登录接口返回数据
page.route("**/api/*", intercept_response)
4.3 网络Mock与数据拦截
- Mock接口响应:
def mock_handler(route):
route.fulfill(body={"success": True}, status=200)
page.route("https://example.com/api/data", mock_handler)
- 上传/下载文件:
# 上传文件
with page.expect_file_chooser() as chooser:
page.click("text=Upload")
chooser.value.set_files("path/to/file.pdf")
# 下载文件
with page.expect_download() as download:
page.click("text=Download")
download.value.save_as("output.pdf")
五、实战案例:豆瓣电影爬虫
目标:爬取豆瓣电影Top250榜单信息(名称、评分、简介)。
步骤:
- 启动Playwright,打开豆瓣页面。
- 定位电影列表,解析元素内容。
- 处理分页,循环抓取。
- 数据存储(CSV/JSON)。
from playwright.sync_api import sync_playwright
def crawl_douban_top250():
with sync_playwright() as p:
browser = p.chromium.launch()
page = browser.new_page()
page.goto("https://movie.douban.com/top250")
movies = []
for page_num in range(1, 11): # 共10页
movie_items = page.query_selector_all(
"//div[@class='item']"
)
for item in movie_items:
title = item.query_selector("div.title a").text_content()
rating = item.query_selector("span.rating_num").text_content()
movies.append({
"title": title,
"rating": rating
})
# 翻页
page.click("text=后页")
return movies
# 保存为CSV
import csv
with open("douban_movies.csv", "w", newline="") as f:
writer = csv.DictWriter(f, fieldnames=["title", "rating"])
writer.writeheader()
writer.writerows(crawl_douban_top250())
六、性能优化与调试技巧
- 无头模式加速:
browser = p.chromium.launch(headless=True)
- 延迟模拟:
page.locator("text=Submit").click(slow_mo=500) # 慢动作调试
- 日志记录:
playwright.log.setLevel("DEBUG")
- 代码生成工具:
playwright codegen --target python -o script.py https://example.com
实时记录操作并生成对应代码,快速生成原型脚本。
七、总结与展望
Playwright凭借其低门槛安装、智能等待、多浏览器支持等特性,已成为自动化测试与数据抓取的理想选择。
未来,其WebAssembly支持(跨平台)与移动端测试能力(如Appium集成)值得期待。
对于需要高稳定性、跨场景兼容的开发者,Playwright无疑是替代Selenium的优选方案。
参考资料:
- Playwright官方文档:https://playwright.dev/python
- 性能对比报告:https://playwright.dev/docs/benchmarks
- 代码生成工具使用指南:https://playwright.dev/docs/codegen
感谢点赞关注收藏:)
相关推荐
- 阿里大数据技术架构师整理分享java面试核心知识点框架篇文档
-
前言本文是对Java程序员面试中常见的微服务、网络编程、分布式存储和分布式计算等必备知识点的总结,包括Spring原理及应用、SpringCloud原理及应用、Netty网络编程原理及应用、Zoo...
- 初探分布式Agent系统架构,及全新AutoGen框架下分布式Agent 体验
-
AIAgent(智能体)系统发展迅猛,且关注点已经不再局限在Agent的规划推理等基本能力,智能体系统在扩展性、互操作、安全性等工程化方面的挑战也越来越引起重视,比如最近的MCP和A2A。上一篇我们...
- 微软分布式云计算框架Orleans(2):容灾与集群(1)
-
在上一篇:微软分布式云计算框架Orleans(1):HelloWorld,我们大概了解了Orleans如何运用,当然上一篇的例子可以说是简单且无效的,因为用了Orleans不可能只写一个Hello...
- 分布式光伏发电项目合作框架协议模板
-
分布式光伏发电项目合作框架协议模板复制链接-微信或浏览器打开-领取电子档:https://mp.weixin.qq.com/s/0QU_rZEDG0cuS1jxSlaOeA...
- 晶科科技:签署户用分布式光伏项目合作框架协议
-
晶科科技公告,公司近日与湖南新华水利电力有限公司(简称“湖南新华”)签署《关于户用分布式光伏项目合作框架协议》,公司拟与湖南新华在2024年—2026年内累计合作开展不低于6GW户用分布式光伏项目。每...
- 国人之光-分布式存储框架FastDFS入门篇
-
在这里插入图片描述一、分布式文件存储1.分布式文件存储的由来在我们的项目中有很多需要存储的内容出现,比如图片,视频,文件等等,在早期的时候用户量不大,产生的文件也不是很多,这时我们可以把文件和服务...
- 分布式计算框架——Hadoop(hadoop分布式计算框架是)
-
Hadoop是一个开源的分布式计算框架,旨在解决大规模数据集的存储和处理问题。它基于Google的MapReduce论文和Google文件系统(GFS),提供了一种可靠、可扩展的方式来处理海量数据。以...
- 坐读与行读 精读与泛览(读写坐立行)
-
【我是这样做学问的】作者:荣新江(北京大学历史学系教授)在大学里教书,如果有初入史学之门的学生问我这个问题,我会把做学问的一般方法讲给他们来听,这里面既有我自己的经验之谈,也有很多其他成功学者的治学之...
- 文言文实词“顾”的解析(高中文言文实词120个精编汇总)
-
文言文实词“顾”的解析A笔记栏(KeyNotes)核心知识点具体内容/例句/解析实词“顾”的本义与引申义-本义:回头看(形旁“页”与“头”相关,强调头部动作)例:“临行反顾”(临走时回头看)...
- 快期中考试了,串讲人教版七下道法,我的知识库清晰了好多…
-
自从道法上了主科赛道,已经不再是背书那么简单的了。开卷,更是加大了难度。不知道考的是啥,要翻到哪里抄。下周期中考试,出于各种原因,我给儿子班上的一些同学串讲了一下第一单元内容。从备考任务、梳理框架、单...
- 杜甫《佳人》的图像解读及其意义(杜甫《佳人》的图像解读及其意义概括)
-
杜甫《佳人》“天寒翠袖薄,日暮倚修竹”一句,凄丽动人,宋人据此作《天寒翠袖图》(现藏于北京故宫博物院)与《竹林仕女图》(现藏于美国费城艺术博物馆)。二图布局极为相似,当为同源画本。杜甫《佳人》诗因诗意...
- 窠字不读guǒ,不念cháo,窠怎么读,什么意思?窠臼是什么意思?
-
中午的学校食堂,热闹非凡。一位阿姨在窗口忙着打饭,勺子与餐盘的碰撞声“叮叮当当”。一位同学一边排队一边和身边的朋友讨论着下午的课程,话语声此起彼伏。打饭的声音和讨论声交织在充满期待的午休时光里。言归正...
- 字象字母B,又象眼镜镜框,这是个什么字?
-
字象字母B,又象眼镜镜框,这是个什么字?在《殷周金文集成》8498号金文中,有如图这样一个古文字,字形近似一个大写的英文字母B,也象一副框架眼镜的镜框,这是个什么古文字?容庚《金文编》、严志斌《商金文...
- 文言文实词“当”的解析(文言文实词"当"的解析研究)
-
文言文实词“当”的解析笔记栏(KeyContent)1.核心义项与语境解析c义项1:掌管、主持(dāng)例:“李斯为秦相,当政”(担任宰相,掌管政权)。搭配:当政、当权(强调权力或职位的执...
- 语文班主任:三年级下册单元知识点归纳,孩子期末复习的好帮手!
-
家人们,孩子步入三年级,语文学习难度直线上升,马上又到期末,复习压力是不是扑面而来别慌!作为班主任,今天给大家带来一份超实用的三年级下册单元知识点归纳,堪称孩子期末复习的王炸好帮手!三年级语文的知识...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)