爬虫入门实践 | 利用python爬取彩票中奖信息

系统环境：mac
python版本：3.6.2(anaconda)
库：requests、BeautifulSoup

爬取一些简单的静态网站，一般采取的策略为：选中目标，也就是需要爬取的网站url；观察结构，查看网页结构，联接结构；构思动手，选择Html下载器和解析器，最后存储数据。

今天我们爬取对象是中彩网中3D彩票中奖信息。对应的URL为：http://kaijiang.zhcw.com/zhcw/html/3d/list_1.html。
我们可以发现，其后缀list_()代表的正是第几页，比如list_3就是第三页。
这里写图片描述
我们打开开发者工具查看网页结构，可以发现每一期的彩票信息对应的源代码是一个tr节点，我们可以使用BeautifulSoup库来提取数据信息。

整体流程：爬取所有3D彩票信息248页，一共请求248次网页，使用库提取信息，使用xlrd将数据写入excel。结果如下：

这里写图片描述
代码如下：

import requests
import xlwt
import time
from bs4 import BeautifulSoup# 获取网页内容
def get_html(url):headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36'}response = requests.get(url, headers = headers)if response.status_code == 200:return response.textelse:print('无数据！')return None# 解析网页内容
def parse_html(html):soup = BeautifulSoup(html, 'lxml')i = 0for item in soup.select('tr')[2:-1]:yield{'time':item.select('td')[i].text,'issue':item.select('td')[i+1].text,'digits':item.select('td em')[0].text,'ten_digits':item.select('td em')[1].text,'hundred_digits':item.select('td em')[2].text,'single_selection':item.select('td')[i+3].text,'three_selection':item.select('td')[i+4].text,'six_selection':item.select('td')[i+5].text,'sales':item.select('td')[i+6].text,'return_rates':item.select('td')[i+7].text}# 将数据写入excel表def write_to_excel():f = xlwt.Workbook()sheet1 = f.add_sheet('3D', cell_overwrite_ok=True)row0 = ['开奖日期','期号','个位数','十位数','百位数','单数','组选3','组选6','销售额','反奖比列']# 写入第一行for j in range(0, len(row0)):sheet1.write(0, j, row0[j])# 依次爬取每一个网页,将结果写入exceli = 0for k in range(1, 248):url = 'http://kaijiang.zhcw.com/zhcw/html/3d/list_{}.html'.format(k)html = get_html(url)print('正在保存第{}页......'.format(k))if html != None:        # 写入每一期信息for item in parse_html(html):sheet1.write(i+1, 0, item['time'])sheet1.write(i+1, 1, item['issue'])sheet1.write(i+1, 2, item['digits'])sheet1.write(i+1, 3, item['ten_digits'])sheet1.write(i+1, 4, item['hundred_digits'])sheet1.write(i+1, 5, item['single_selection'])sheet1.write(i+1, 6, item['three_selection'])sheet1.write(i+1, 7, item['six_selection'])sheet1.write(i+1, 8, item['sales'])sheet1.write(i+1, 9, item['return_rates'])i += 1f.save('3D.xls')def main():write_to_excel()if __name__ == '__main__':main()