python 爬取图片

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

  • 前言
  • 一、爬虫是什么?
  • 二、编写网络爬虫要用到的python库(常用)
  • 代码实现
    • 导入所需模块:
    • 对网站发起请求并转化为text格式
    • 对网页源码进行解析(数据爬取的难点,代码中占大头的地方):
  • 持久化保存以及关闭request请求:


前言

当我们需要批量的获取某些图片的时候我们可以使用python的爬虫技术进行获取来提高我们的工作效率


一、爬虫是什么?

网络爬虫也叫做网络机器人,可以代替人们自动地在互联网中进行数据信息的采集与整理。在大数据时代,信息的采集是一项重要的工作,如果单纯靠人力进行信息采集,不仅低效繁琐,搜集的成本也会提高。

二、编写网络爬虫要用到的python库(常用)

用于对网页发出请求的python库
requests
用于对获取的页面代码进行数据提取
bs4 ,re

代码实现

首先我们要获取我们要爬取的url:要爬取网站的url

导入所需模块:

import requests
from bs4 import BeautifulSoup

对网站发起请求并转化为text格式

repen = requests.get(url=url)
# 将网页请求转化text格式
repen_t = repen.text

对网页源码进行解析(数据爬取的难点,代码中占大头的地方):

# 指定Beautiful的解析器为“html.parser”
page = BeautifulSoup(repen_t,"html.parser")
# 获取所有为属性class=imgWaper的a值标签
ret = page.find_all("a",attrs={"class":"imgWaper"})
# 获取所有为属性class=lazyload_hk的值img标签
ret1 = page.find_all("img",attrs={"class":"lazyload_hk"})
# 循环遍历
for z in ret1:# 获取img标签中的data-src的值src = "https:"+z.get('data-src')min_ ="https:"+z.get("data-min")

持久化保存以及关闭request请求:

 with open(sr_name,'wb') as f:f.write(repen_2.content)print(sr_name+"  "+"over!")# 关闭请求
repen.close()

最后的运行结果:
在这里插入图片描述
在这里插入图片描述

个人笔记希望对你有帮助,祝我们未来可期

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/32581.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

AotucCrawler 快速爬取图片

AotucCrawler 快速爬取图片 今天介绍一款自动化爬取图片项目。 GitHub: GitHub - YoongiKim/AutoCrawler: Google, Naver multiprocess image web crawler (Selenium) Google, Naver multiprocess image web crawler (Selenium) 关键字 爬虫网站:Google、Naver &…

Python爬取图片

爬取网站 https://image.baidu.com/ 先打开页面 然后点击动物图片 当然选择哪个都可以我这里只是喜欢动物的所以选择这个分类 爬取任何数据 第一步就是先确定数据来源 先打开 f12 来看一下 先点击随便一个图片右键 然后点击检查 就会跳到那个图片所在的位置 如下&#xff1a…

(三)爬取一些网页图片

爬取一些网页图片 1、随机爬取一个网页: import requests# 1、获取图片网页源码 def Get_Source_Page():url https://pic.netbian.com/index.html# 当爬虫程序运行爬网站,若不设置header为任意一个名字,会被有些网站检查出是python爬虫&…

模拟双色球

投注号码由6个红色球号码和1个蓝色球号码组成。红色球号码从1 - 33选择;蓝色球号码从1 - 16中选择。 package com;import java.util.Random; import java.util.Scanner;public class Test {public static void main(String[] args) {// 1.随机一组中奖号码,6个红球号码不重复(1…

年轻人的第一支牙刷,“少年”国风定制,BYCOOMagic电动牙刷体验

刷牙是每个人每天必做的事,普通牙刷由于清洁力度不够,无法做到深层次刷牙清理,加上刷牙时间不足,因此大多数人属于敷衍式刷牙。欲善其事、先利其器,要想科学刷牙,电动牙刷必不可少,最近我就入手…

第三方ipad笔哪个牌子好用?ipad触控笔推荐平价

至于选择苹果原装的电容笔,还是平替的电容笔,要看个人的需求而定,比如画图用的,可以用Apple Pencil;比如学习记笔记用的,可以用平替电容笔,目前的平替电容笔无论是品质还是性能,都非…

咦?智能颈部按摩仪还能语音播报,快搞起来!

一、档位切换实现 1、档位实现原理 按摩仪共设置15个档位,可以控制按摩的力度,通过BOOST升压电路实现。 通过P8口产生PWM波,调节PWM输出的正占空比来实现升压,详细的硬件原理可参考硬件部分关于升压原理的介绍,具体数…

电动牙刷/洗牙器出口欧盟CE认证测试标准EN 60335

电动牙刷/洗牙器在这两年开始被很多厂家看中这块的发展,因为据调查了解到,电动牙刷比普通牙刷更能够清除牙菌减少牙龈,更好的做到了清洁的作用。 在欧美国家几乎所有的人都使用电动牙刷,是一款普遍流行的日用品,因此在…

oh-my-posh - 终端个性化工具 - 美化PowerShell / cmd - 好物分享,真香~

一. 什么是oh-my-posh? Oh My Posh 是一款终端个性化工具,支持 Windows、Linux(WSL)、macOS 系统上的 PowerShell、bash、zsh 等终端,可以配置不同主题达到个性化的效果。 本篇文章,将以PowerShell终端为例&#xff0…

酷科技 | Amabrush电动牙刷:10秒就可以完成刷牙

刷牙是我们每天都要做的事情,虽然整个过程不过两三分钟,但无论是早上急急忙忙的起床,还是晚上困意来袭,忘记刷牙或者随便糊弄一下,已经成为了很多人经常会做的事情。 牙齿的健康很重要,因此刷牙这件事虽小但…

PaddleSpeech 流式语音识别系统 PP-ASR

(以下内容搬运自 PaddleSpeech) PP-ASR 目录 1. 简介2. 特点3. 使用教程 3.1 预训练模型3.2 模型训练3.3 模型推理3.4 服务部署3.5 支持个性化场景部署 4. 快速开始 1. 简介 PP-ASR 是一个 提供 ASR 功能的工具。其提供了多种中文和英文的模型,支持模型的训练&a…

飞利浦 PHILIPS 电动牙刷HX6730 拆解

今日,一直比较喜欢用的电动牙刷,飞利浦HX6730坏掉了,初步感觉考虑飞利浦的保修,但是发现发票找不到了。飞利浦的客服也说,电动牙刷的两年保修依据分别是:1、发票开据日期;2、在无发票的情况下&a…

CES Asia:藏在儿童电动牙刷里的科技

科技巨头苹果公司常常对外表达的观念是,产品的核心是使用者,科技是用来解决问题,让产品设计得能帮助使用者生活得更美好,科技要做的是帮助人们拥有完成原本无法做到的事的能力。苹果公司认为科技应当藏身幕后,而不是走…

两款黑科技、高颜值电动牙刷正面PK,如何选择性价比是关键

随着人们生活水平的提升,近年来,各种黑科技层出不穷,对我们的生活带来了巨大的改变,甚至可以说是“武装到了牙齿”——例如目前不少厂商推出了智能声波电动牙刷(以下简称:电动牙刷),让刷牙也变得极具科技感。 目前市面上的电动牙刷品牌众多、鱼龙混杂,但在性能、质量…

WTV380语音芯片在儿童电动牙刷应用,可降低企业30% BOM成本!

概述:儿童电动牙刷控制的组成,需要一颗丰富资源的MCU芯片,主要起到按键信号采集、压力传感器信号采集、电机控制、音乐/提示功能,而需要实现电动牙刷的这些功能,产品开发设计工程师需要用到一颗IO资源丰富,…

2021年中国电动牙刷销售及发展趋势分析:国产品牌崛起[图]

一、电动牙刷产业链 电动牙刷是利用振动的机芯带动刷头旋转或振动以达到洁牙的效果。电动牙刷产业链随着市场产品的不断推出,产业链生态逐步完善,推动市场稳步发展。电动牙刷上游主要是牙刷丝、塑料外壳材料和电机、电池等,中游各类别电动牙刷…

文华财经数据导出工具

软件用于文华财经数据的格式化导出,通过简单设置文华财经的安装路径即可。当第一次打开工具时,出现文华财经的安装路径设置。请点击浏览并定位到文华财经的安装目录,如:D:\Tools\wh6通用版,确认后进入主程序。 第二次更…

如何用python爬取新浪财经

通过python爬取新浪财经的股票历史成交明细 要求 通过新浪财经爬取历史数据:http://market.finance.sina.com.cn/transHis.php?symbolsz000001&date2021-04-27&page60 要求:输入日期和股票代码后将一天所有的记录存入一个csv文件,…

文华财经期货K线多周期画线技术,多重短线技术共振通道线指标公式——多周期主图自动画线

期货指标公式是通过数学逻辑角度计算而来,仅是期货分析环节中的一个辅助工具。期货市场具有不确定性和不可预测性的,请正常对待和使用指标公式! 期货指标公式信号本身就有滞后性,周期越大,滞后性越久。指标公式不是100%稳赚的工具…