百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

新一代浏览器自动化神器Playwright深度解析:从入门到实战的指南

ccwgpt 2025-06-09 20:33 18 浏览 0 评论


一、Playwright简介:为什么选择它?

Playwright是由微软推出的新一代浏览器自动化框架,专为Web测试与数据抓取设计。其核心优势在于:

  • 跨浏览器支持:统一API兼容Chromium、Firefox、WebKit(含Edge、Safari),无需切换驱动。
  • 自动化等待机制:内置智能等待,减少手动定位延时,提升脚本稳定性。
  • 无头/有头模式无缝切换:兼顾调试与性能需求。
  • 低门槛安装:自动下载浏览器与驱动,告别环境配置烦恼。

对比传统工具(Selenium vs Playwright)

特性

Selenium

Playwright

浏览器支持

需手动安装对应驱动

内置主流浏览器驱动

等待机制

依赖显式等待,易导致卡顿

自动等待元素加载,默认30秒超时

API设计

接口分散,学习成本高

统一简洁,支持链式调用

网络拦截

需第三方库配合

原生支持请求/响应拦截

并行测试

需复杂配置

天生支持多进程并行执行


二、安装与配置

  • 环境要求

Python 3.7+(推荐使用虚拟环境管理)

安装Playwright:

pip install playwright
  • 驱动安装(自动下载Chromium、Firefox、WebKit)
python -m playwright install
  • 提速技巧:使用国内镜像源(如清华源):
playwright install --driver-binary-mirror=https://mirrors.tuna.tsinghua.edu.cn/playwright

三、基础使用:同步 vs 异步模式

3.1 同步模式(适合新手)

from playwright.sync_api import sync_playwright

with sync_playwright() as p:
    browser = p.chromium.launch(headless=False)
    page = browser.new_page()
    page.goto("https://www.example.com")
    page.click("text=Login")
    page.fill("#username", "testuser")
    page.screenshot(path="login.png")
    browser.close()

3.2 异步模式(性能优化)

import asyncio
from playwright.async_api import async_playwright

async def main():
    async with async_playwright() as p:
        browser = await p.chromium.launch()
        page = await browser.new_page()
        await page.goto("https://example.com")
        await page.evaluate("document.title = 'Test Page'")
        title = await page.title()
        print(title)  # 输出:Test Page
        await browser.close()

asyncio.run(main())

核心方法对比

  • sync_playwright() vs async_playwright():上下文管理器,管理浏览器生命周期。
  • page.goto(url):导航至指定URL,自动等待页面加载完成。
  • page.click(selector):通过选择器定位元素并点击(支持CSS、XPath、文本匹配)。
  • page.fill("#input", "text"):输入文本到指定输入框。

四、高级功能实战

4.1 元素定位与操作

Playwright提供三种定位方式:

  • CSS选择器
page.click("#submit-btn")  # 按ID定位
page.click("[data-testid=login]")  # 按自定义属性定位
  • XPath
page.click("xpath=//button[contains(text(), 'Login')]")
  • 文本匹配(模糊/正则):
page.click("text=Log in") # 精确匹配文本
page.click("text=/Log\s*in/i") # 正则匹配

实战示例:自动登录表单

def login(page):
    page.fill("#username", "admin")
    page.fill("#password", "123456")
    page.click("text=Login")
    # 断言登录成功
    expect(page).to_have_title("Dashboard")

4.2 事件监听与自动化测试

  • 页面事件拦截
def on_console_message(msg):
    print(f"Console log: {msg.text}")

page.on("console", on_console_message)
  • 网络请求监控
def intercept_response(response):
    if "api/login" in response.url:
        print(response.json())  # 打印登录接口返回数据

page.route("**/api/*", intercept_response)

4.3 网络Mock与数据拦截

  • Mock接口响应
def mock_handler(route):
    route.fulfill(body={"success": True}, status=200)

page.route("https://example.com/api/data", mock_handler)
  • 上传/下载文件
# 上传文件
with page.expect_file_chooser() as chooser:
    page.click("text=Upload")
    chooser.value.set_files("path/to/file.pdf")

# 下载文件
with page.expect_download() as download:
    page.click("text=Download")
    download.value.save_as("output.pdf")

五、实战案例:豆瓣电影爬虫

目标:爬取豆瓣电影Top250榜单信息(名称、评分、简介)。
步骤

  1. 启动Playwright,打开豆瓣页面。
  2. 定位电影列表,解析元素内容。
  3. 处理分页,循环抓取。
  4. 数据存储(CSV/JSON)。
from playwright.sync_api import sync_playwright

def crawl_douban_top250():
    with sync_playwright() as p:
        browser = p.chromium.launch()
        page = browser.new_page()
        page.goto("https://movie.douban.com/top250")
        
        movies = []
        for page_num in range(1, 11):  # 共10页
            movie_items = page.query_selector_all(
                "//div[@class='item']"
            )
            for item in movie_items:
                title = item.query_selector("div.title a").text_content()
                rating = item.query_selector("span.rating_num").text_content()
                movies.append({
                    "title": title,
                    "rating": rating
                })
            # 翻页
            page.click("text=后页")
        
        return movies

# 保存为CSV
import csv
with open("douban_movies.csv", "w", newline="") as f:
    writer = csv.DictWriter(f, fieldnames=["title", "rating"])
    writer.writeheader()
    writer.writerows(crawl_douban_top250())

六、性能优化与调试技巧

  1. 无头模式加速
browser = p.chromium.launch(headless=True)
  1. 延迟模拟
page.locator("text=Submit").click(slow_mo=500) # 慢动作调试
  1. 日志记录
playwright.log.setLevel("DEBUG")
  1. 代码生成工具
playwright codegen --target python -o script.py https://example.com

实时记录操作并生成对应代码,快速生成原型脚本。


七、总结与展望

Playwright凭借其低门槛安装、智能等待、多浏览器支持等特性,已成为自动化测试与数据抓取的理想选择。

未来,其WebAssembly支持(跨平台)与移动端测试能力(如Appium集成)值得期待。

对于需要高稳定性、跨场景兼容的开发者,Playwright无疑是替代Selenium的优选方案。


参考资料

  • Playwright官方文档:https://playwright.dev/python
  • 性能对比报告:https://playwright.dev/docs/benchmarks
  • 代码生成工具使用指南:https://playwright.dev/docs/codegen

感谢点赞关注收藏:)

相关推荐

自己动手写Android数据库框架_android开发数据库搭建

http://blog.csdn.net/feiduclear_up/article/details/50557590推荐理由关于Android数据库操作,由于每次都要自己写数据库操作,每次还得去...

谷歌开源大模型评测工具LMEval,打通谷歌、OpenAI、Anthropic

智东西编译|金碧辉编辑|程茜智东西5月28日消息,据科技媒体TheDecoder5月26日报道,当天,谷歌正式发布开源大模型评测框架LMEval,支持对GPT-4o、Claude3.7...

工信部:着力推动大模型算法、框架等基础性原创性的技术突破

工信部新闻发言人今日在发布会上表示,下一步,我们将坚持突出重点领域,大力推动制造业数字化转型,推动人工智能创新应用。主要从以下四个方面着力。一是夯实人工智能技术底座。通过科技创新重大项目,着力推动大模...

乒乓反复纠结“框架不稳定”的三个小误区

很多球友由于对框架的认知不清晰,往往会把“框架不稳定”当成一种心理负担,从而影响学球进度,其典型状态就是训练中有模有样,一旦进入实战,就像被捆住了手脚。通过训练和学习,结合“基本功打卡群”球友们交流发...

前AMD、英特尔显卡架构师Raja再战GPU,号称要全面重构堆栈

IT之家8月5日消息,知名GPU架构师拉贾科杜里(RajaKoduri)此前曾先后在AMD和英特尔的显卡部门担任要职。而在今日,由Raja创立的GPU软件与IP初创企...

三种必须掌握的嵌入式开发程序架构

前言在嵌入式软件开发,包括单片机开发中,软件架构对于开发人员是一个必须认真考虑的问题。软件架构对于系统整体的稳定性和可靠性是非常重要的,一个合适的软件架构不仅结构清晰,并且便于开发。我相...

怪不得别人3秒就知道软考案例怎么做能50+

软考高级统一合格标准必须三科都达到45分,案例分析也一直是考生头疼的一门,但是掌握到得分点,案例能不能50+还不是你们说了算吗?今天就结合架构案例考点,分享实用的备考攻略~一、吃透考点,搭建知识框架从...

UML统一建模常用图有哪些,各自的作用是什么?一篇文章彻底讲透

10万+爆款解析:9大UML图实战案例,小白也能秒懂!为什么需要UML?UML(统一建模语言)是软件开发的“蓝图”,用图形化语言描述系统结构、行为和交互,让复杂需求一目了然。它能:降低沟通成本避...

勒索软件转向云原生架构,直指备份基础设施

勒索软件组织和其他网络犯罪分子正越来越多地将目标对准基于云的备份系统,对久已确立的灾难恢复方法构成了挑战。谷歌安全研究人员在一份关于云安全威胁演变的报告中警告称,随着攻击者不断改进数据窃取、身份泄露和...

ConceptDraw DIAGRAM:释放创意,绘就高效办公新未来

在当今数字化时代,可视化工具已成为提升工作效率和激发创意的关键。ConceptDrawDIAGRAM,作为一款世界顶级的商业绘图软件,凭借其强大的功能和用户友好的界面,正逐渐成为众多专业人士的首选绘...

APP 制作界面设计教程:一步到位_app界面设计模板一套

想让APP界面设计高效落地,无需繁琐流程,掌握“框架搭建—细节填充—体验优化”三步法,即可一步到位完成专业级设计。黄金框架搭建是基础。采用“三三制布局”:将屏幕横向三等分,纵向保留三...

MCP 的工作原理:关键组件_mcp部件

以下是MCP架构的关键组件:MCP主机:像ClaudeDesktop、GitHubCopilot或旅行助手这样的AI智能体,它们希望通过MCP协议访问工具、资源等。MCP主机会...

软件架构_软件架构师工资一般多少

软件架构师自身需要是程序员,并且必须一直坚持做一线程序员。软件架构应该是能力最强的一群程序员,他们通常会在自身承接编程任务的同时,逐渐引导整个团队向一个能够最大化生产力的系统设计方向前进。软件系统的架...

不知不觉将手机字体调大!老花眼是因为“老了吗”?

现在不管是联系、交友,还是购物,都离不开手机。中老年人使用手机的时间也在逐渐加长,刷抖音、看短视频、发朋友圈……看手机的同时,人们也不得不面对“视力危机”——老花眼,习惯眯眼看、凑近看、瞪眼看,不少人...

8000通用汉字学习系列讲座(第046讲)

[表声母字]加(续)[从声汉字]伽茄泇迦枷痂袈笳嘉驾架咖贺瘸(计14字)嘉[正音]标准音读jiā。[辨形]上下结构,十四画。会意形声字,从壴从加,加也表声。注:从壴,字义与鼓乐有关;从加,字义与...

取消回复欢迎 发表评论: