最近由于工作原因接触到阿里云的服务,我需要实时获取所有的域名信息,用于对其进行扫描,因此写了一个自动化爬取脚本 给需要的人分享。
(阿里云有官方的demo,有兴趣的可以自己看一下,后面也会放链接,我只能说阿里味有点冲)
1.基础准备
代码环境:python3
第三方库:阿里云sdk (pip install alibabacloud_alidns20150109==3.0.10)(无力吐槽的库名)
官方在线调试接口|文档:https://next.api.aliyun.com/api/Alidns/2015-01-09/DescribeDomainRecords
2.获取client
首先你需要获取一个有效的key,指路
控制台 -> RAM 访问控制 ->创建密钥(右上角点击头像->accesskey管理也可以快捷进入),得到key后就可以正式开始编程了
import openpyxl,requests
from alibabacloud_alidns20150109.client import Client as Alidns20150109Client
from alibabacloud_tea_openapi import models as open_api_models
from alibabacloud_alidns20150109 import models as alidns_20150109_models
from alibabacloud_tea_util import models as util_models#创建客户端 返回可用client
def create_client(access_key_id: str,access_key_secret: str,) -> Alidns20150109Client:config = open_api_models.Config(# 必填,您的 AccessKey ID,access_key_id=access_key_id,# 必填,您的 AccessKey Secret,access_key_secret=access_key_secret)config.endpoint = f'alidns.cn-hangzhou.aliyuncs.com'return Alidns20150109Client(config)
创建客户端,这里写的是最简单的方式,如果为了安全可以使用临时key+token的方式或写入配置文件的方式,详见官方文档。
- 函数前的import内容只包含本文后续的所有内容,在此只写一次。
3.获取域名列表
阿里云可以通过接口直接获取域名的列表。
#获取域名列表
#由于查询dns记录的数目可能会超过单次查询的上限 所以最好返回记录数量方便循环
def get_domain_list(client):describe_domains_request = alidns_20150109_models.DescribeDomainsRequest()runtime = util_models.RuntimeOptions()resp = client.describe_domains_with_options(describe_domains_request, runtime)domain_list = []for domain in resp.body.domains.domain:domain_list.append([domain.domain_name,domain.record_count])return domain_list
- 阿里的接口返回的数据都是完全封装好的,所以我们不能直接通过常规的解析json的方式获取数据。
- 这里我们额外返回了一个域名的解析记录数目是因为阿里云的sdk没有next指针之类的机制,需要手动计算数量来实现循环获取全部的解析记录
- 返回的参数单条为[域名,解析记录长度]
- 前三句都是阿里的官方调用模式,不清楚有啥改动方案,照写就行
4.获取指定域名的全部解析记录
#获取指定域名下的dns解析记录
def get_domain_records(client,domain_list):lenth = 0page_size = 500 #500是单条最大查询次数,可以自行调整 不影响输出结果record_list = []while lenth * page_size < domain_list[1] : describe_domain_records_request = alidns_20150109_models.DescribeDomainRecordsRequest(domain_name=domain_list[0],page_number=lenth+1,page_size=page_size )runtime = util_models.RuntimeOptions()resp = client.describe_domain_records_with_options(describe_domain_records_request, runtime)for record in resp.body.domain_records.record:record_list.append([record.rr+'.'+domain_list[0],record.type])lenth += 1#print(len(record_list))return record_list
- 单次查询的最大记录是500条,可以通过调整page_size这个参数来自行设置
- 返回的rr为解析值,type为解析类型
5.获取账号下的全部域名解析记录
#获取所有域名下的全部dns解析记录
def get_all_domain_records(client):domain_list = get_domain_list(client)record_list = [] for domain_name in domain_list:record_list.extend(get_domain_records(client,domain_name))return record_list
6.获取指定的DNS解析记录
record_type = ['A','AAAA',"CNAME"]
#根据想要的dns记录筛选最终数据
def get_dns_records_by_type(dns_records, record_type):final_dns_records =[]for record in dns_records:if record[1] in record_type:final_dns_records.append(record)return final_dns_records
7.测试网站能否正常访问
由于部分cname本身并不是有效域名 只是一个单纯转发,且dns解析上无法判断解析记录是否公网开放,所以需要进行测试。这里提供一个简单的方案 就是直接发起request请求,如果有响应则证明解析有效。
#测试网站是否能访问
def test_web_alive(dns_records):web_list = []dns_list = set()for dns in dns_records:dns_list.add(dns[0])print(len(dns_list))for dns in dns_list:try:response = requests.get("https://"+dns)web_list.append([dns,response.status_code,'aliyun'])except:web_list.append([dns,'cant reach','aliyun'])return web_list #将测试结果存到excel中
def save_dns_to_xlsx(web_list, path):workbook = openpyxl.load_workbook(path)sheet =workbook["Sheet1"] # 默认存到第一页for index,dns in enumerate(web_list):sheet.cell(row=index+2,column=1).value = dns[0]sheet.cell(row=index+2,column=2).value = dns[1]sheet.cell(row=index+2,column=3).value = dns[2]workbook.save(path)
如果有问题,欢迎留言咨询~ 完整的代码也会上传 有兴趣可以自行下载~