【电商系列】shopee的数据获取

        在Amazon,Aliexpress之后,又一个海外电商出现在我的视野里——shopee,在东南亚很火的电商平台。

这战略布局都到南美跟欧洲了

        这网站有意思的是啊,每个国家的商品虽然大同小异,但是也能凸显各个国家的风格的,比如印度的shopee,一股阿三的气息。

对味儿了 

一、请求分析: 

        地址:https://xxxxxx.tw/daily_discover?pageNumber=1,这次就以台湾站为例。

        老步骤:清理cookie,打开开发者模式,重新请求:

        查看当前连接的请求,看返回内容的长度可知数据绝对不在这里。

        找这种网站的信息,个人的经验是先去这个链接的请求(一般在DOC)先去碰碰运气,是不是直接的get请求。要是前后端分离的数据,就去XHR或者JS里面去找,有的请求会返回正好的json数据,而有的就是js需要自己去做数据清洗。

        所以只能一个一个往下找,于是找到了这个请求:https://xxxxxx.tw/api/v4/recommend/recommend?bundle=daily_discover_main&item_card=2&limit=60&offset=0

         这个链接返回的是数据的json,新开一个无痕窗口打开发现并不需要cookie就可以直接获取,又是一个简单的get请求。要是需要cookie的话有可能会需要额外处理,但是这个网站正好,不需要。

        (这篇文章我是边看边写的,没想到这个请求还是那么简单。)

        那么下面的任务就是进行请求和数据解析,拿到想要的数据即可。

二、请求

        处理好请求头,设置好代理,直接get请求连接:

def getRes():url = "https://shopee.tw/api/v4/recommend/recommend?bundle=daily_discover_main&item_card=2&limit=60&offset=0"headers = {"authority": "shopee.tw","accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9","user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/100.0.4896.127 Safari/537.36",}res = requests.get(url,headers=headers,proxies=getApiIp())datas = res.json()['data']['sections'][0]['data']['item']for data in datas:print(data)

         这些数据很简单的就获取到了,也没有很复杂。重要的是不要太频繁请求罢了,容易封号封IP。

        那有没有好一点的办法呢?用代理啊!

        ipidea支持全球国家代理,支持api和账密请求,高效高质量,新用户可以白嫖流量!

        地址:http://www.ipidea.net/?utm-source=csdn&utm-keyword=?wb 

三、数据处理 

        本次就获取 链接、商品名、最高价、最低价、图片 这几个字段。

        链接url是由域名+商品名+shopid+itemid组成的,一时间居然没看出来。

datas = res.json()['data']['sections'][0]['data']['item']for data in datas:iteminfo = {}iteminfo['url'] = f"https://shopee.tw/{data['name']}-i.{data['shopid']}.{data['itemid']}"iteminfo['name'] = data['name']iteminfo['price_min'] = data['price_min']iteminfo['price_max'] = data['price_max']imagelist = []for image in data['images']:imagelist.append(f'https://cf.shopee.tw/file/{image}')iteminfo['pic'] = ";".join(imagelist)print(iteminfo)

        处理结果如下:

 四、写在最后

        最近写了一些电商的文章,都是边看边写的,以为会带来点新鲜的。搞了半天请求的部份都是比较简单的,而这次的shopee请求的居然是现成的json。希望这些能给需要获取电商信息的朋友一点点思路。

        最后附上整体的代码:

def getRes():url = "https://shopee.tw/api/v4/recommend/recommend?bundle=daily_discover_main&item_card=2&limit=60&offset=0"headers = {"authority": "shopee.tw","accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9","user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/100.0.4896.127 Safari/537.36",}res = requests.get(url,headers=headers,proxies=getApiIp())datas = res.json()['data']['sections'][0]['data']['item']for data in datas:iteminfo = {}iteminfo['url'] = f"https://shopee.tw/{data['name']}-i.{data['shopid']}.{data['itemid']}"iteminfo['name'] = data['name']iteminfo['price_min'] = data['price_min']iteminfo['price_max'] = data['price_max']imagelist = []for image in data['images']:imagelist.append(f'https://cf.shopee.tw/file/{image}')iteminfo['pic'] = ";".join(imagelist)print(iteminfo)getRes()

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/48471.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

分享4点选品思路,电商大牛都在用

Tiktok选品数据分析是很多跨境电商商家都需要解决的首要问题。如何选品才能提高TikTok变现率?商家选品时需要结合实际数据进行分析,不能一概而论。本文将和大家谈论三个问题。 选品思路 选品方法 选品数据哪里找? 一、选品思路 选品是tiktok小…

电商平台OnBuy选品技巧分享一二

OnBuy是这两年发展较快的蓝海电商平台,是跨境电商人可以选择的一个优质电商平台。今天我们小编就给大家分享一下OnBuy选品技巧以及方法,希望对大家有用。 OnBuy热销类目 1、 健康(防护用品) 2、 美妆护肤 3、 多媒体 4、 玩具 5、 宠物 6、 婴儿用品 …

利用Tushare获取A股所有股票代码

Tusahre注册链接 https://tushare.pro/register?reg365850 import os import tushare as ts import pandas import datetimetoken 自己的 #可以登录文章首的链接注册获取 pro ts.pro_api(token) dateToday datetime.datetime.today().strftime(%Y%m%d)def GetList():try:d…

chatgpt赋能python:Python语言中的语句输入方法

Python语言中的语句输入方法 作为一门广泛应用于科学计算和计算机编程领域的编程语言,Python以其易读易写、简洁明了的语法特点,广受程序员和科学家的喜爱。本文将重点介绍Python中的语句输入方法,包括基本输入方法、文件读取、网络输入和交…

10款爆火且实用的AIGC工具大盘点

大家好。我是不知名设计师 l1m0_,今天分享内容为:10款爆火且实用的AIGC工具。文中我会跟大家针对10款不同功能优势的AI工具向各位朋友进行介绍,对AI创作感兴趣的朋友一定不能错过,一起来看看吧。 人工智能(AI&#xff…

欧洲希望WhatsApp和苹果的iMessage能够开放并共同努力

欧洲将很快迫使苹果、Facebook的Meta和谷歌等消息"守门人",以确保在用户需要时,消息可以与小公司合作。 欧盟一夜之间通过其新的《数字市场法》(DMA)使自己成为世界上最严格的美国科技公司监管机构,欧洲政界…

android message to iphone,这款应用可以将苹果的iMessage带到安卓系统

多年来,我们看到一些开发人员尝试使用各种各样的变通方法给Android设备带来iMessage。今天,另一个尝试将iMessage带到Android的方法已经出现。 weMessage是一款新的Android应用程序,它声称通过使用Mac作为iPhone和Android手机之间的中介&…

苹果的Apple GPT要来了?

据外媒消息,苹果正在内部开发类 ChatGPT 的产品,与微软、OpenAI、谷歌、Meta 等科技巨头在生成式 AI 赛道展开竞争。该消息使得苹果股价上涨了 2%。据苹果工程师透露,苹果在内部构建了代号为“Ajax”的大语言模型开发框架,并构建了…

InstructGPT方法简读

InstructGPT方法简读 引言 仅仅通过增大模型规模和数据规模来训练更大的模型并不能使得大模型更好地理解用户意图。由于数据的噪声极大,并且现在的大多数大型语言模型均为基于深度学习的“黑箱模型”,几乎不具有可解释性和可控性,因此&…

歌评-《Rex Incognito 尘世闲游》-陈致逸

时隔一周时间了,终于又找到了时间来更新我的歌评内容。 虽然身被学校关了起来,但是心里还是在歌曲的梦幻世界中畅游hhh。 今天我们来听的歌曲也是 The Stellar Moments 闪耀的群星OST专辑中的一首,代表了璃月城岩王帝君钟离的一首歌曲《尘世闲…

chatgpt赋能python:Python拍照——提高摄影效果的利器

Python拍照——提高摄影效果的利器 在现代社会中,摄影这门艺术已经成为了大众喜爱的一种娱乐和创造的活动。随着技术的不断进步,拍照的方式也不断地发生着变化。而Python编程语言正是一种帮助我们提高摄影效果的利器。下面就让我们来看看,Py…

GPT-4突然降智,爆料OpenAI重新设计构架,用MOE降本增效,官方辟谣网友却不买账...

编辑:润 Lumnia 【导读】最近众多网友反应GPT-4不好用了,后悔充值了。后来网友爆出OpenAI采用MOE重新设计了构架,导致性能收到影响,但是官方一直没有明确答复。 最近一段时间,很多OpenAI的用户反应,GPT-4变…

chatgpt赋能python:Python怎么装Matplotlib

Python怎么装Matplotlib Matplotlib是针对Python语言的绘图库,用于绘制二维图形和三维图形。这个库提供了多种不同的绘图选项,允许用户自由绘制不同类型的图表。Matplotlib是Python科学计算生态系统中最常用的绘图工具之一。 为什么要使用Matplotlib&a…

chatgpt赋能Python-python模块查看

介绍 Python 是一门非常流行且受欢迎的编程语言,它有许多优秀的特性和功能,使其得到了众多开发人员和企业的认可。其中,Python 的模块是一个非常重要的概念,它们允许我们组织和扩展我们的代码库,并在多个项目中重复使…

chatgpt赋能python:Python为坐标轴命名——让图表更加清晰易懂

Python 为坐标轴命名——让图表更加清晰易懂 在数据可视化中,为坐标轴命名是非常重要的。这不仅可以帮助您向读者传达信息,还可以让图表更加清晰易懂。Python 已成为数据科学领域最受欢迎的编程语言之一,并且其绘图库提供了灵活的选项来为坐…

软件开发计划书

1.引言 1.1背景 汽车作为交通工具,在人们的日常行为生活中发挥着极为重要的作用。近十年来,汽车也越来越普遍,不再是一种奢侈品。而很多人也都把汽车当做了一个小家。而当前汽车室内的管理还不够智能化,人们在使用汽车的时候也会…

私域流量企业团队运营工作规划方案甘特图表格

私域流量企业团队运营工作规划方案甘特图表格 网盘文档下载地址https://pan.baidu.com/s/1WJ5XnWCfarPYe8xagY88Cw?pwdw56h 主要分享其中的三个思维模型,第一,先胜而后战,第二至人而不至于人,第三胜可知不可为,听起来…

如何打造一份it项目计划书

一份专业的IT项目计划书应该包括以下几个部分: 一、项目背景 二、主要任务 三、工作量评估 四、项目计划 五、项目交付件 六、附件 七、价格 八、需求变更管理 一、项目背景 项目的相关介绍。可以从以下几个方面来写: 为什么要做这个项目? 项…

60个项目管理甘特图模板,可编辑,可下载

今天和大伙分享的是60个可编辑的 项目管理甘特图 可更改 可下载 这么多样式 总有一款适合你 ↓↓↓ 项目管理甘特图部分样板查看 项目管理套表 ......

【App设计】互联网+商业计划书

原计划书地址:https://pan.baidu.com/s/1VhlZJhgiC89plJ02yRD_9g 今天我们来谈谈共享图书App的设计 首先该APP的主体功能有借书、还书、社区、社区等。 界面原型如下:(这个界面是我大三做的校园app的界面,比较通用,…