current position:Home>Python collects commodity data and understands commodity prices in real time [Sprint Double Eleven Peak Period]

Python collects commodity data and understands commodity prices in real time [Sprint Double Eleven Peak Period]

2022-11-08 07:04:48kaKA-Madoka

前言

双十一还没有过去,虽然现在是某D的场景期,但是出这篇文章也不晚,可以冲刺一下10号的高峰期~

各位朋友,尤其是学Python的直男朋友,看了这篇文章,准备准备给对象购买一下新年礼物吧,哈哈(也可以说是跨年礼物)当然也可以给自己买,投资自己,也是非常不错的

没对象的赶紧找,但是先码住这篇文章也是不错滴

在这里插入图片描述

请添加图片描述

话不多说了,就开始吧

准备工作

驱动安装

实现案例之前,我们要先安装一个谷歌驱动,因为我们是使用selenium 操控谷歌驱动,然后操控浏览器实现自动操作的,模拟人的行为去操作浏览器.

以谷歌浏览器为例,打开浏览器看下我们自己的版本,然后下载跟自己浏览器版本一样或者最相近的版本,下载后解压一下,把解压好的插件放到我们的python环境里面,或者和代码放到一起也可以.

模块使用与介绍

  • selenium pip install selenium
    ,直接输入selenium的话是默认安装最新的,selenium后面加上版本号就是安装对应的的版本;
  • csv 内置模块,不需要安装,把数据保存到Excel表格用的;
  • time 内置模块,不需要安装,时间模块,主要用于延时等待;

流程解析

我们访问一个网站,要输入一个网址,所以代码也是这么写的.

导入模块

源码点击领取即可

from selenium import webdriver

文件名或者包名不要命名为selenium,会导致无法导入.
webdriver可以认为是浏览器的驱动器,要驱动浏览器必须用到webdriver,支持多种浏览器.

实例化浏览器对象 ,我这里用的是谷歌,建议大家用谷歌,方便一点.

driver = webdriver.Chrome()

打开网址

我们用get访问一个网址,自动打开网址.

driver.get('https://***com/')

运行一下

请添加图片描述

打开网址后,以买口红为例.

我们首先要通过你想购买的商品关键字来搜索得到商品信息,用搜索结果去获取信息.

在这里插入图片描述

那我们也要写一个输入,空白处点击右键,选择检查.

选择element 元素面板

请添加图片描述

鼠标点击左边的箭头按钮,去点击搜索框,它就会直接定位到搜索标签.

在这里插入图片描述

在标签上点击右键,选择copy,选择copy selector .

在这里插入图片描述

如果你是xpath ,就copy它的xpath .

然后把我们想要搜索的内容写出来

driver.find_element_by_css_selector('#key').send_keys('口红')

再运行的时候,它就会自动打开浏览器进入目标网址搜索口红.

在这里插入图片描述
同样的方法,找到搜索按钮进行点击.

driver.find_element_by_css_selector('.button').click()

再运行就会自动点击搜索了

页面搜索出来了,那么咱们正常浏览网页是要下拉网页对吧,咱们让它自动下拉就好了.
先导入time模块

import time

执行页面滚动的操作

python学习交流Q群:309488165 ### 源码领取
def drop_down():
    """执行页面滚动的操作"""  # javascript
    for x in range(1, 12, 2):  # for循环下拉次数,取1 3 5 7 9 11, 在你不断的下拉过程中, 页面高度也会变的;
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)  # 执行我们JS代码

循环写好了,然后调用一下.

drop_down()

我们再给它来个延时

driver.implicitly_wait(10)

这是一个隐式等待,等待网页延时,网不好的话加载很慢.

隐式等待不是必须等十秒,在十秒内你的网络加载好后,它随时会加载,十秒后没加载出来的话才会强行加载.

还有另外一种死等的,你写的几秒就等几秒,相对没有那么人性化.

time.sleep(10)

加载完数据后我们需要去找商品数据来源

价格/标题/评价/封面/店铺等等

还是鼠标右键点击检查,在element ,点击小箭头去点击你想查看的数据.

在这里插入图片描述

获取所有的 li 标签内容,还是一样的,直接copy .

在这里插入图片描述
在左下角就有了

在这里插入图片描述

这里表示的是取的第一个,但是我们是要获取所有的标签,所以左边框框里 li 后面的可以删掉不要.

在这里插入图片描述

不要的话,可以看到这里是60个商品数据,一页是60个.

所以我们把剩下的复制过来, 用lis接收一下 .

lis = driver.find_elements_by_css_selector('#J_goodsList ul li')

因为我们是获取所有的标签数据,所以比之前多了一个s

请添加图片描述

打印一下

print(lis)

通过lis返回数据 列表 [] 列表里面的元素 <> 对象

在这里插入图片描述

遍历一下,把所有的元素拿出来.

for li in lis:

    title = li.find_element_by_css_selector('.p-name em').text.replace('\n', '')  # 商品标题 获取标签文本数据
    price = li.find_element_by_css_selector('.p-price strong i').text  # 价格
    commit = li.find_element_by_css_selector('.p-commit strong a').text  # 评论量
    shop_name = li.find_element_by_css_selector('.J_im_icon a').text  # 店铺名字
    href = li.find_element_by_css_selector('.p-img a').get_attribute('href')  # 商品详情页
    icons = li.find_elements_by_css_selector('.p-icons i')
    icon = ','.join([i.text for i in icons])  # 列表推导式  ','.join 以逗号把列表中的元素拼接成一个字符串数据
    dit = {
    
        '商品标题': title,
        '商品价格': price,
        '评论量': commit,
        '店铺名字': shop_name,
        '标签': icon,
        '商品详情页': href,
    }
    csv_writer.writerow(dit)
    print(title, price, commit, href, icon, sep=' | ')

搜索功能

key_world = input('请输入你想要获取商品数据: ')

在这里插入图片描述
要获取的数据 ,获取到后保存CSV

python学习交流Q群:309488165 ### 源码领取
f = open(f'某东{key_world}商品数据.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
    '商品标题',
    '商品价格',
    '评论量',
    '店铺名字',
    '标签',
    '商品详情页',
])
csv_writer.writeheader()

然后再写一个自动翻页

for page in range(1, 11):
    print(f'正在爬取第{page}页的数据内容')
    time.sleep(1)
    drop_down()
    get_shop_info()  # 下载数据
    driver.find_element_by_css_selector('.pn-next').click()  # 点击下一页

请添加图片描述

完整代码

源码点击领取即可

在这里插入图片描述

效果展示

在这里插入图片描述

在这里插入图片描述

视频教程

文章后面写的就没那么详细了

但是有视频教程

需要的朋友可以找我要视频

今天的文章到这里就结束了

对文章有问题的,或者有其他关于python的问题,可以在评论区留言或者私信我哦
觉得我分享的文章不错的话,可以关注一下我,或者给文章点赞(/≧▽≦)/

请添加图片描述

copyright notice
author[kaKA-Madoka],Please bring the original link to reprint, thank you.
https://en.pythonmana.com/2022/312/202211080650173840.html

Random recommended