python爬虫如何分析动态网页的商品信息

518次阅读
没有评论

python爬虫如何分析动态网页的商品信息

平时的购物界面也属于动态网页。上面很多同类型的商品价格是不同的,我们能不能用python爬虫把这个信息整理收集出来呢?有些小伙伴看到以前代码模块过多,本次采集的商品信息量也很大就有了退缩的想法。其实本篇文章的代码都不是很长,不信的小伙伴可以跟着小编继续往下看:

先安装Puppeteer库,用到的也就只有这个库:

npm install puppeteer

链接网页也非常简单,只需要几行代码:

const puppeteer = require('puppeteer')
 
//启动浏览器
const browers = await puppeteer.launch()
//启动新页面
const page = await browers.newPage()
//链接网址
await page.goto(url)

 

拿到了同类所有商品的标签信息,接下来开始分析信息。获取里面所有商品的名称,然后对照关键字是否存在,如果存在则将headless改为false弹出窗口提醒,如果不存在则在半小时后再次链接。Puppeteer提供了一个等待命令page.waitFor(),不仅可以按时间等待,也可以按某个元素的加载进度进行等待。

const goods = page.$$eval('#auctionRecommend > div.mc > ul > li', el => {
    //错误和关键字不存在都会返回false
    try {
        for (let i = 0; i < el.length; i++) {
            let n = el[i].querySelector('div.p-name').textContent
            if(n.includes('妙控板')){
                return true
            } else {
                return false
            }
        }
    } catch (error) {
        return false
    }
})
 
if(!bool){
    return console.log('网页已打开,不再监控')
}
 
//根据goods里面的回调函数返回ture或false来决定是否开启浏览器界面
await goods.then(async (b) => {
    if(b){
        console.log('有货了!')
        await page.waitFor(2000)
        await browers.close()
        return requestUrl(false)
    }  else {
        console.log('还没货')
        console.log('三十分钟后再尝试')
        await page.waitFor(1800000)
        await browers.close()
        return requestUrl(true)
    }
})

 

到这一步我们就可以对购物界面上的商品信息全部收集好了,随后想分析商品价格或信息之类的过程都变得很容易。刚才还在担心代码过长的小伙伴,现在可以放心的使用啦。

 

 

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2021-05-23发表,共计1401字。
新手QQ群:570568346,欢迎进群讨论 Python51学习