推广 热搜: 公司  快速  中国  企业  上海  未来    政策  系统  公司2 

Puppeteer 0.13

   日期:2024-12-28     作者:laktzb    caijiyuan   评论:0    移动:http://www78564.xrbh.cn/mobile/news/30626.html
核心提示:Puppeteer是一款专业的 Node.js 库,相当于一个可以用来操控Chrome的API,它可以用到的场景很多,如它具有强大的爬虫功能,有点
Puppeteer是一款专业的 Node.js 库,相当于一个可以用来操控Chrome的API,它可以用到的场景很多,如它具有强大的爬虫功能,有点类似于PhantomJS,用来在网站抓取内容非常不错,有需要的朋友欢迎使用。

Puppeteer核心功能:

Puppeteer  0.13

利用网页生成PDF、图片

爬取SPA应用,并生成预渲染内容(即“SSR” 服务端渲染)

可以从网站抓取内容

自动化表单提交、UI测试、键盘输入等

帮你创建一个最新的自动化测试环境(chrome),可以直接在此运行测试用例

捕获站点的时间线,以便追踪你的网站,帮助分析网站性能问题

Puppeteer 0.13改变如下:

Chroium 64.0.3264.0 (r515411)

browser.pages 可用于访问 Chromium 中的所有页面,包括由 window.open 创建的页面。 (32398d1)

browser.close 可用于关闭 Chromium (2b79514)

Puppeteer爬虫教学:

使用puppeteer.launch()运行puppeteer,他会return一个promise,使用then方法获取browser实例,Browser API猛击这里

拿到browser实例后,通过browser.newPage()方法,可以得到一个page实例, 猛戳 Page API

使用page.goto()方法,跳转至ES6标准入门

在page.evaluate()方法中注册回调函数,并分析dom结构,从下图可以进行详细分析,并通过

document.querySelectorAll('ol li a')拿到文章的所有链接

拿到所有链接之后,依次爬取各个页面(也可以promise all同时抓取多个页面),使用page.pdf()方法打印当前页面

核心代码如下:

puppeteer.launch().then(async browser => {

let page = await browser.newPage();

await page.goto('http://es6.ruanyifeng.com/#README');

await timeout(2000);


 

let aTags = await page.evaluate(() => {

  let as = [...document.querySelectorAll('ol li a')];

  return as.map((a) =>{

  return {

    href: a.href.trim(),

    name: a.text

  }

  });

});

await page.pdf({path: `http://www.onlinedown.net/soft/es6-pdf/${aTags[0].name}.pdf`});

page.close()


 

// 这里也可以使用promise all,但cpu可能吃紧,谨慎操作

for (var i = 1; i < aTags.length; i++) {

  page = await browser.newPage()

  var a = aTags[i];

  await page.goto(a.href);

  await timeout(2000);

  await page.pdf({path: `http://www.onlinedown.net/soft/es6-pdf/${a.name}.pdf`});

  page.close();

}

browser.close();

本文地址:http://www78564.xrbh.cn/news/30626.html    迅博思语 http://www78564.xrbh.cn/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。

 
标签: 使用 方法 页面
 
更多>同类最新资讯
0相关评论

文章列表
相关文章
最新动态
推荐图文
最新资讯
点击排行
网站首页  |  二维码  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  粤ICP备2023022329号