主页:醋溜马桶圈-CSDN博客
专栏:计算机网络原理_醋溜马桶圈的博客-CSDN博客
gitee:mnxcc (mnxcc) - Gitee.com
目录
1.应用层协议HTTP
2.认识 URL
2.1 urlencode 和 urldecode
3.HTTP 协议请求与响应格式
3.1 HTTP 请求
3.2 HTTP 响应
3.2.1 基本的应答格式
3.3 HTTP 的方法
3.3.1 GET方法
3.3.2 POST方法
3.3.3 PUT方法
3.3.4 HEAD方法
3.3.4.1 curl -i 显示
3.3.5 DELETE方法
3.3.6 OPTIONS方法
3.4 HTTP 的状态码
3.4.1 HTTP 状态码 301
3.4.2 HTTP 状态码 302
3.5 HTTP 常见 Header
3.5.1 关于 connection 报头
3.5.1.1 核心作用
3.5.1.2 持久连接(长连接)
3.5.1.3 语法格式
4.最简单的 HTTP 服务器
5.HTTP 历史及版本核心技术与时代背景
5.1 HTTP/0.9
5.1.1 核心技术
5.1.2 时代背景
5.2 HTTP/1.0
5.2.1 核心技术
5.2.2 时代背景
5.3 HTTP/1.1
5.3.1 核心技术
5.3.2 时代背景
5.4 HTTP/2.0
5.4.1 核心技术
5.4.2 时代背景
5.5 HTTP/3.0
5.5.1 核心技术
5.5.2 时代背景
6.HTTP Cookie
6.1 定义
6.2 工作原理
6.3 分类
6.4 安全性
6.5 用途
6.6.1 基本格式
6.6.2 完整的 Set-Cookie 示例
6.6.2.1 关于时间解释
6.6.2.2 关于其他可选属性的解释
6.6.2.3 Set-Cookie 头部字段
6.6.2.4 Cookie 的生命周期
7.HTTP Session
7.1 定义
7.2 工作原理
7.3 安全性
7.4 超时和失效
7.5 用途
8.HTTPS 协议原理
8.1 加密
8.1.1 举例
8.1.2 为什么要加密
8.1.3 常见的加密方式
8.1.3.1 对称加密
8.1.3.2 非对称加密
8.1.4 数据摘要 && 数据指纹
8.1.5 数字签名
8.2 HTTPS 的工作过程探究
8.2.1 方案 1 - 只使用对称加密
8.2.2 方案 2 - 只使用非对称加密
8.2.3 方案 3 - 双方都使用非对称加密
8.2.4 方案 4 - 非对称加密 + 对称加密
8.2.5 中间人攻击
8.2.6 引入证书
8.2.6.1 CA 认证
8.2.6.2 数字签名
8.2.7 方案 5 - 非对称加密 + 对称加密 + 证书认证
8.2.7.1 客户端进行认证
8.2.7.2 查看浏览器的受信任证书发布机构
8.3 常见问题
8.3.1 为什么摘要内容在网络传输的时候一定要加密形成签名
8.3.2 为什么签名不直接加密,而是要先 hash 形成摘要?
8.3.3 如何成为中间人
8.4 完整流程
8.5 总结
1.应用层协议HTTP
虽然我们说, 应用层协议是我们程序猿自己定的. 但实际上, 已经有大佬们定义了一些现成的, 又非常好用的应用层协议, 供我们直接参考使用. HTTP(超文本传输协议)就是其中之一
在互联网世界中,HTTP(HyperText Transfer Protocol,超文本传输协议)是一个至关重要的协议。它定义了客户端(如浏览器)与服务器之间如何通信,以交换或传输超文本(如 HTML 文档)
HTTP 协议是客户端与服务器之间通信的基础。客户端通过 HTTP 协议向服务器发送请求,服务器收到请求后处理并返回响应。HTTP 协议是一个无连接、无状态的协议,即每次请求都需要建立新的连接,且服务器不会保存客户端的状态信息
- httpserver的测试代码:lesson41/http · mnxcc/linuxdc - 码云 - 开源中国
2.认识 URL
平时我们俗称的 "网址" 其实就是说的 URL
2.1 urlencode 和 urldecode
像 / ? : 等这样的字符, 已经被 url 当做特殊意义理解了. 因此这些字符不能随意出现
比如, 某个参数中需要带有这些特殊字符, 就必须先对特殊字符进行转义
转义的规则如下:
将需要转码的字符转为 16 进制,然后从右到左,取 4 位(不足 4 位直接处理),每 2 位做一位,前面加上%,编码成%XY 格式
例如:
"+" 被转义成了 "%2B"
urldecode 就是 urlencode 的逆过程;
UrlEncode编码/UrlDecode解码 - 站长工具
3.HTTP 协议请求与响应格式
3.1 HTTP 请求
- 首行: [方法] + [url] + [版本]
- Header: 请求的属性, 冒号分割的键值对;每组属性之间使用\r\n 分隔;遇到空行表示 Header 部分结束
- Body: 空行后面的内容都是 Body. Body 允许为空字符串. 如果 Body 存在, 则在Header 中会有一个 Content-Length 属性来标识 Body 的长度
3.2 HTTP 响应
- 首行: [版本号] + [状态码] + [状态码解释]
- Header: 请求的属性, 冒号分割的键值对;每组属性之间使用\r\n 分隔;遇到空行表示 Header 部分结束
- Body: 空行后面的内容都是 Body. Body 允许为空字符串. 如果 Body 存在, 则在Header 中会有一个 Content-Length 属性来标识 Body 的长度; 如果服务器返回了一个 html 页面, 那么 html 页面内容就是在 body 中
3.2.1 基本的应答格式
3.3 HTTP 的方法
其中最常用的就是 GET 方法和 POST 方法
3.3.1 GET方法
- 用途:用于请求 URL 指定的资源
- 示例:GET /index.html HTTP/1.1
- 特性:指定资源经服务器端解析后返回响应内容
- form 表单:https://www.runoob.com/html/html-forms.html
3.3.2 POST方法
- 用途:用于传输实体的主体,通常用于提交表单数据。
- 示例:POST /submit.cgi HTTP/1.1
- 特性:可以发送大量的数据给服务器,并且数据包含在请求体中。
- form 表单:https://www.runoob.com/html/html-forms.html
3.3.3 PUT方法
- 用途:用于传输文件,将请求报文主体中的文件保存到请求 URL 指定的位置
- 示例:PUT /example.html HTTP/1.1
- 特性:不太常用,但在某些情况下,如 RESTful API 中,用于更新资源
3.3.4 HEAD方法
- 用途:与 GET 方法类似,但不返回报文主体部分,仅返回响应头
- 示例:HEAD /index.html HTTP/1.1
- 特性:用于确认 URL 的有效性及资源更新的日期时间等
3.3.4.1 curl -i 显示
curl -i www.baidu.com
HTTP/1.1 200 OK
Accept-Ranges: bytes
Cache-Control: private, no-cache, no-store, proxy-revalidate, no-transform
Connection: keep-alive
Content-Length: 2381
Content-Type: text/html
Date: Sat, 30 Nov 2024 10:40:07 GMT
Etag: "588604dc-94d"
Last-Modified: Mon, 23 Jan 2017 13:27:56 GMT
Pragma: no-cache
Server: bfe/1.0.8.18
Set-Cookie: BDORZ=27315; max-age=86400; domain=.baidu.com; path=/<!DOCTYPE html>
...
使用 head 方法,只会返回响应头
curl --head www.baidu.com
HTTP/1.1 200 OK
Accept-Ranges: bytes
Cache-Control: private, no-cache, no-store, proxy-revalidate, no-transform
Connection: keep-alive
Content-Length: 277
Content-Type: text/html
Date: Sat, 30 Nov 2024 10:41:33 GMT
Etag: "575e1f71-115"
Last-Modified: Mon, 13 Jun 2016 02:50:25 GMT
Pragma: no-cache
Server: bfe/1.0.8.18
3.3.5 DELETE方法
- 用途:用于删除文件,是 PUT 的相反方法
- 示例:DELETE /example.html HTTP/1.1
- 特性:按请求 URL 删除指定的资源
3.3.6 OPTIONS方法
- 用途:用于查询针对请求 URL 指定的资源支持的方法
- 示例:OPTIONS * HTTP/1.1
- 特性:返回允许的方法,如 GET、POST 等
3.4 HTTP 的状态码
最常见的状态码, 比如 200(OK), 404(Not Found), 403(Forbidden), 302(Redirect, 重定向), 504(Bad Gateway)
以下是仅包含重定向相关状态码的表格
关于重定向的验证,以 301 为代表
HTTP 状态码 301(永久重定向)和 302(临时重定向)都依赖 Location 选项。以下是关于两者依赖 Location 选项的详细说明:
3.4.1 HTTP 状态码 301
(永久重定向):
- 当服务器返回 HTTP 301 状态码时,表示请求的资源已经被永久移动到新的位置
- 在这种情况下,服务器会在响应中添加一个 Location 头部,用于指定资源的新位置。这个 Location 头部包含了新的 URL 地址,浏览器会自动重定向到该地址
- 例如,在 HTTP 响应中,可能会看到类似于以下的头部信息:
HTTP/1.1 301 Moved Permanently\r\n
Location: https://www.new-url.com\r\n
3.4.2 HTTP 状态码 302
(临时重定向):
- 当服务器返回 HTTP 302 状态码时,表示请求的资源临时被移动到新的位置
- 同样地,服务器也会在响应中添加一个 Location 头部来指定资源的新位置。浏览器会暂时使用新的 URL 进行后续的请求,但不会缓存这个重定向
- 例如,在 HTTP 响应中,可能会看到类似于以下的头部信息:
HTTP/1.1 302 Found\r\n
Location: https://www.new-url.com\r\n
总结:无论是 HTTP 301 还是 HTTP 302 重定向,都需要依赖 Location 选项来指定资源的新位置。这个 Location 选项是一个标准的 HTTP 响应头部,用于告诉浏览器应该将请求重定向到哪个新的 URL 地址
3.5 HTTP 常见 Header
- Content-Type: 数据类型(text/html 等)
- Content-Length: Body 的长度
- Host: 客户端告知服务器, 所请求的资源是在哪个主机的哪个端口上
- User-Agent: 声明用户的操作系统和浏览器版本信息
- referer: 当前页面是从哪个页面跳转过来的
- Location: 搭配 3xx 状态码使用, 告诉客户端接下来要去哪里访问
- Cookie: 用于在客户端存储少量信息. 通常用于实现会话(session)的功能
3.5.1 关于 connection 报头
HTTP 中的 Connection 字段是 HTTP 报文头的一部分,它主要用于控制和管理客户端与服务器之间的连接状态
3.5.1.1 核心作用
- 管理持久连接:Connection 字段还用于管理持久连接(也称为长连接)。持久连接允许客户端和服务器在请求/响应完成后不立即关闭 TCP 连接,以便在同一个连接上发送多个请求和接收多个响应。
3.5.1.2 持久连接(长连接)
- HTTP/1.1:在 HTTP/1.1 协议中,默认使用持久连接。当客户端和服务器都不明确指定关闭连接时,连接将保持打开状态,以便后续的请求和响应可以复用同一个连接
- HTTP/1.0:在 HTTP/1.0 协议中,默认连接是非持久的。如果希望在 HTTP/1.0 上实现持久连接,需要在请求头中显式设置 Connection: keep-alive
3.5.1.3 语法格式
- Connection: keep-alive:表示希望保持连接以复用 TCP 连接
- Connection: close:表示请求/响应完成后,应该关闭 TCP 连接
下面附上一张关于 HTTP 常见 header 的表格
4.最简单的 HTTP 服务器
#include <sys/socket.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <unistd.h>
#include <stdio.h>
#include <string.h>
#include <stdlib.h>
void Usage()
{printf("usage: ./server [ip] [port]\n");
}
int main(int argc, char *argv[])
{if (argc != 3){Usage();return 1;}int fd = socket(AF_INET, SOCK_STREAM, 0);if (fd < 0){perror("socket");return 1;}struct sockaddr_in addr;addr.sin_family = AF_INET;addr.sin_addr.s_addr = inet_addr(argv[1]);addr.sin_port = htons(atoi(argv[2]));int ret = bind(fd, (struct sockaddr *)&addr, sizeof(addr));if (ret < 0){perror("bind");return 1;}ret = listen(fd, 10);if (ret < 0){perror("listen");return 1;}for (;;){struct sockaddr_in client_addr;socklen_t len;int client_fd = accept(fd, (struct sockaddr *)&client_addr,&len);if (client_fd < 0){perror("accept");continue;}char input_buf[1024 * 10] = {0}; // 用一个足够大的缓冲区直接把数据读完.ssize_t read_size = read(client_fd, input_buf,sizeof(input_buf) - 1);if (read_size < 0){return 1;}printf("[Request] %s", input_buf);char buf[1024] = {0};const char *hello = "<h1>hello world</h1>";sprintf(buf, "HTTP/1.0 200 OK\nContent-Length:%lu\n\n%s",strlen(hello), hello);write(client_fd, buf, strlen(buf));}return 0;
}
编译, 启动服务. 在浏览器中输入 http://[ip]:[port], 就能看到显示的结果 "Hello World"
备注:
此处我们使用 9090 端口号启动了 HTTP 服务器. 虽然 HTTP 服务器一般使用 80 端口,但这只是一个通用的习惯. 并不是说 HTTP 服务器就不能使用其他的端口号.
使用 chrome 测试我们的服务器时, 可以看到服务器打出的请求中还有一个 GET /favicon.ico HTTP/1.1 这样的请求.
5.HTTP 历史及版本核心技术与时代背景
HTTP(Hypertext Transfer Protocol,超文本传输协议)作为互联网中浏览器和服务器间通信的基石,经历了从简单到复杂、从单一到多样的发展过程。以下将按照时间顺序,介绍 HTTP 的主要版本、核心技术及其对应的时代背景
5.1 HTTP/0.9
5.1.1 核心技术
- 仅支持 GET 请求方法
- 仅支持纯文本传输,主要是 HTML 格式
- 无请求和响应头信息
5.1.2 时代背景
- 1991 年,HTTP/0.9 版本作为 HTTP 协议的最初版本,用于传输基本的超文本HTML 内容
- 当时的互联网还处于起步阶段,网页内容相对简单,主要以文本为主
5.2 HTTP/1.0
5.2.1 核心技术
- 引入 POST 和 HEAD 请求方法
- 请求和响应头信息,支持多种数据格式(MIME)
- 支持缓存(cache)
- 状态码(status code)、多字符集支持等
5.2.2 时代背景
- 1996 年,随着互联网的快速发展,网页内容逐渐丰富,HTTP/1.0 版本应运而生
- 为了满足日益增长的网络应用需求,HTTP/1.0 增加了更多的功能和灵活性
- 然而,HTTP/1.0 的工作方式是每次 TCP 连接只能发送一个请求,性能上存在一定局限
5.3 HTTP/1.1
5.3.1 核心技术
- 引入持久连接(persistent connection),支持管道化(pipelining)
- 允许在单个 TCP 连接上进行多个请求和响应,提高了性能
- 引入分块传输编码(chunked transfer encoding)
- 支持 Host 头,允许在一个 IP 地址上部署多个 Web 站点
5.3.2 时代背景
- 1999 年,随着网页加载的外部资源越来越多,HTTP/1.0 的性能问题愈发突出。
- HTTP/1.1 通过引入持久连接和管道化等技术,有效提高了数据传输效率。
- 同时,互联网应用开始呈现出多元化、复杂化的趋势,HTTP/1.1 的出现满足了这些需求
5.4 HTTP/2.0
5.4.1 核心技术
- 多路复用(multiplexing),一个 TCP 连接允许多个 HTTP 请求
- 二进制帧格式(binary framing),优化数据传输
- 头部压缩(header compression),减少传输开销
- 服务器推送(server push),提前发送资源到客户端
5.4.2 时代背景
- 2015 年,随着移动互联网的兴起和云计算技术的发展,网络应用对性能的要求越来越高
- HTTP/2.0 通过多路复用、二进制帧格式等技术,显著提高了数据传输效率和网络性能
- 同时,HTTP/2.0 还支持加密传输(HTTPS),提高了数据传输的安全性
5.5 HTTP/3.0
5.5.1 核心技术
- 使用 QUIC 协议替代 TCP 协议,基于 UDP 构建的多路复用传输协议
- 减少了 TCP 三次握手及 TLS 握手时间,提高了连接建立速度
- 解决了 TCP 中的线头阻塞问题,提高了数据传输效率
5.5.2 时代背景
- 2022 年,随着 5G、物联网等技术的快速发展,网络应用对实时性、可靠性的要求越来越高
- HTTP/3.0 通过使用 QUIC 协议,提高了连接建立速度和数据传输效率,满足了这些需求
- 同时,HTTP/3.0 还支持加密传输(HTTPS),保证了数据传输的安全性
6.HTTP Cookie
6.1 定义
HTTP Cookie(也称为 Web Cookie、浏览器 Cookie 或简称 Cookie)是服务器发送到用户浏览器并保存在浏览器上的一小块数据,它会在浏览器之后向同一服务器再次发起请求时被携带并发送到服务器上。通常,它用于告知服务端两个请求是否来自同一浏览器,如保持用户的登录状态、记录用户偏好等
6.2 工作原理
- 当用户第一次访问网站时,服务器会在响应的 HTTP 头中设置 Set-Cookie字段,用于发送 Cookie 到用户的浏览器
- 浏览器在接收到 Cookie 后,会将其保存在本地(通常是按照域名进行存储)
- 在之后的请求中,浏览器会自动在 HTTP 请求头中携带 Cookie 字段,将之前保存的 Cookie 信息发送给服务器
6.3 分类
- 会话 Cookie(Session Cookie):在浏览器关闭时失效
- 持久 Cookie(Persistent Cookie):带有明确的过期日期或持续时间,可以跨多个浏览器会话存在
- 如果 cookie 是一个持久性的 cookie,那么它其实就是浏览器相关的,特定目录下的一个文件。但直接查看这些文件可能会看到乱码或无法读取的内容,因为 cookie 文件通常以二进制或 sqlite 格式存储。一般我们查看,直接在浏览器对应的选项中直接查看即可
类似于下面这种方式:
6.4 安全性
由于 Cookie 是存储在客户端的,因此存在被篡改或窃取的风险
6.5 用途
- 用户认证和会话管理(最重要)
- 跟踪用户行为
- 缓存用户偏好等
- 比如在 chrome 浏览器下,可以直接访问:chrome://settings/cookies
- 再edge下可以直接访问:edge://settings/content/cookies
6.6 认识 cookie
- HTTP 存在一个报头选项:Set-Cookie, 可以用来进行给浏览器设置 Cookie 值
- 在 HTTP 响应头中添加,客户端(如浏览器)获取并自行设置并保存Cookie
6.6.1 基本格式
Set-Cookie: <name>=<value>
其中 <name> 是 Cookie 的名称,<value> 是 Cookie 的值。
6.6.2 完整的 Set-Cookie 示例
Set-Cookie: username=peter; expires=Thu, 18 Dec 2024 12:00:00
UTC; path=/; domain=.example.com; secure; HttpOnly
时间格式必须遵守 RFC 1123 标准,具体格式样例:Tue, 01 Jan 2030 12:34:56 GMT 或者 UTC(推荐)
6.6.2.1 关于时间解释
- Tue: 星期二(星期几的缩写)
- ,: 逗号分隔符
- 01: 日期(两位数表示)
- Jan: 一月(月份的缩写)
- 2030: 年份(四位数)
- 12:34:56: 时间(小时、分钟、秒)
- GMT: 格林威治标准时间(时区缩写)
6.6.2.2 关于其他可选属性的解释
- expires=<date>[要验证]:设置 Cookie 的过期日期/时间。如果未指定此属性,则 Cookie 默认为会话 Cookie,即当浏览器关闭时过期
- path=<some_path>[要验证]:限制 Cookie 发送到服务器的哪些路径。默认为设置它的路径
- domain=<domain_name>[了解即可]:指定哪些主机可以接受该 Cookie。默认为设置它的主机
- secure[了解即可]:仅当使用 HTTPS 协议时才发送 Cookie。这有助于防止Cookie 在不安全的 HTTP 连接中被截获
- HttpOnly[了解即可]:标记 Cookie 为 HttpOnly,意味着该 Cookie 不能被客户端脚本(如 JavaScript)访问。这有助于防止跨站脚本攻击(XSS)
6.6.2.3 Set-Cookie 头部字段
注意事项
- 每个 Cookie 属性都以分号(;)和空格( )分隔
- 名称和值之间使用等号(=)分隔
- 如果 Cookie 的名称或值包含特殊字符(如空格、分号、逗号等),则需要进行 URL 编码
6.6.2.4 Cookie 的生命周期
- 如果设置了 expires 属性,则 Cookie 将在指定的日期/时间后过期
- 如果没有设置 expires 属性,则 Cookie 默认为会话 Cookie,即当浏览器关闭时过
6.6.2.5 安全性考虑[了解即可]
- 使用 secure 标志可以确保 Cookie 仅在 HTTPS 连接上发送,从而提高安全性
- 使用 HttpOnly 标志可以防止客户端脚本(如 JavaScript)访问 Cookie,从而防止 XSS 攻击
- 通过合理设置 Set-Cookie 的格式和属性,可以确保 Cookie 的安全性、有效性和可访问性,从而满足 Web 应用程序的需求
单独使用 Cookie,有什么问题?
- 我们写入的是测试数据,如果写入的是用户的私密数据呢?比如,用户名密码,浏览痕迹等
- 本质问题在于这些用户私密数据在浏览器(用户端)保存,非常容易被人盗取,更重要的是,除了被盗取,还有就是用户私密数据也就泄漏了
7.HTTP Session
7.1 定义
HTTP Session 是服务器用来跟踪用户与服务器交互期间用户状态的机制。由于 HTTP协议是无状态的(每个请求都是独立的),因此服务器需要通过 Session 来记住用户的信息
7.2 工作原理
- 当用户首次访问网站时,服务器会为用户创建一个唯一的 Session ID,并通过 Cookie 将其发送到客户端
- 客户端在之后的请求中会携带这个 Session ID,服务器通过 Session ID 来识别用户,从而获取用户的会话信息
- 服务器通常会将 Session 信息存储在内存、数据库或缓存中
7.3 安全性
- 与 Cookie 相似,由于 Session ID 是在客户端和服务器之间传递的,因此也存在被窃取的风险
- 但是一般虽然 Cookie 被盗取了,但是用户只泄漏了一个 Session ID,私密信息暂时没有被泄露的风险
- Session ID 便于服务端进行客户端有效性的管理,比如异地登录
- 可以通过 HTTPS 和设置合适的 Cookie 属性(如 HttpOnly 和 Secure)来增强安全性
7.4 超时和失效
- Session 可以设置超时时间,当超过这个时间后,Session 会自动失效
- 服务器也可以主动使 Session 失效,例如当用户登出时
7.5 用途
- 用户认证和会话管理
- 存储用户的临时数据(如购物车内容)
- 实现分布式系统的会话共享(通过将会话数据存储在共享数据库或缓存中)
HTTP Cookie 和 Session 都是用于在 Web 应用中跟踪用户状态的机制。Cookie 是存储在客户端的,而 Session 是存储在服务器端的。它们各有优缺点,通常在实际应用中会结合使用,以达到最佳的用户体验和安全性
8.HTTPS 协议原理
HTTPS 也是一个应用层协议,是在 HTTP 协议的基础上引入了一个加密层
HTTP 协议内容都是按照文本的方式明文传输的,这就导致在传输过程中出现一些被篡改的情况
8.1 加密
加密就是把 明文 (要传输的信息)进行一系列变换,生成 密文
解密就是把 密文 再进行一系列变换,还原成 明文
在这个加密和解密的过程中,往往需要一个或者多个中间的数据, 辅助进行这个过程,这样的数据称为 密钥
8.1.1 举例
83 版 <<⽕烧圆明园>>,有人要谋反干掉慈禧太后,恭亲王奕䜣给慈禧递的折子,折子内容只是扯一扯家常,套上一张挖了洞的纸就能看到真实要表达的意思
明文: "当心肃顺, 端华, 戴恒" (这几个人都是当时的权臣, 后来被慈禧一锅端).
密文: 奏折全文
密钥: 挖了洞的纸
- 加密解密到如今已经发展成一个独⽴的学科:密码学
- 而密码学的奠基人,也正是计算机科学的祖师爷之一,艾伦·⻨席森·图灵
8.1.2 为什么要加密
臭名昭著的 "运营商劫持"
下载一个 天天动听
- 未被劫持的效果,点击下载按钮,就会弹出天天动听的下载链接
- 已被劫持的效果,点击下载按钮,就会弹出 QQ 浏览器的下载链接
由于我们通过网络传输的任何的数据包都会经过运营商的网络设备(路由器,交换机等),那么运营商的网络设备就可以解析出你传输的数据内容,并进行篡改
点击 "下载按钮",其实就是在给服务器发送了一个 HTTP 请求,获取到的 HTTP 响应其实就包含了该 APP 的下载链接,运营商劫持之后,就发现这个请求是要下载天天动听,那么就自动的把交给用户的响应给篡改成 "QQ 浏览器" 的下载地址了
所以:因为 http 的内容是明文传输的,明文数据会经过路由器、wifi 热点、通信服务运营商、代理服务器等多个物理节点,如果信息在传输过程中被劫持,传输的内容就完全暴露了。劫持者还可以篡改传输的信息且不被双方察觉,这就是 中间人攻击 ,所以我们才需要对信息进行加密
不止运营商可以劫持,其他的 黑客 也可以用类似的手段进行劫持,来窃取用户隐私信息,或者篡改内容
试想一下,如果黑客在用户登陆支付宝的时候获取到用户账户余额,甚至获取到用户的支付密码......
在互联网上,明文传输是比较危险的事情!!!
HTTPS 就是在 HTTP 的基础上进行了加密,进一步的来保证用户的信息安全
8.1.3 常见的加密方式
8.1.3.1 对称加密
- 采用单钥密码系统的加密方法,同一个密钥可以同时用作信息的加密和解密,这种加密方法称为对称加密,也称为单密钥加密,特征:加密和解密所用的密钥是相同的
- 常见对称加密算法(了解):DES、3DES、AES、TDEA、Blowfish、RC2 等
- 特点:算法公开、计算量⼩、加密速度快、加密效率⾼
- 对称加密其实就是通过同一个 "密钥" , 把明文加密成密文, 并且也能把密文解密成明文
一个简单的对称加密:按位异或假设 明文 a = 1234,密钥 key = 8888则加密 a ^ key 得到的密文 b 为 9834然后针对密文 9834 再次进行运算 b ^ key,得到的就是原来的明文 1234(对于字符串的对称加密也是同理,每一个字符都可以表⽰成一个数字)当然,按位异或只是最简单的对称加密,HTTPS 中并不是使用按位异或
8.1.3.2 非对称加密
- 需要两个密钥来进行加密和解密,这两个密钥是公开密钥(public key,简称公钥)和私有密钥(private key,简称私钥)
- 常见非对称加密算法(了解):RSA,DSA,ECDSA
- 特点:算法强度复杂、安全性依赖于算法与密钥但是由于其算法复杂,而使得加密解密速度没有对称加密解密的速度快
非对称加密要用到两个密钥,一个叫做 "公钥",一个叫做 "私钥"
公钥和私钥是配对的,最大的缺点就是运算速度非常慢,比对称加密要慢很多
- 通过公钥对明文加密,变成密文
- 通过私钥对密文解密,变成明文
也可以反着用
- 通过私钥对明文加密,变成密文
- 通过公钥对密文解密,变成明文
非对称加密的数学原理比较复杂,涉及到一些 数论 相关的知识,这里举一个简单的生活上的例子
A 要给 B 一些重要的文件,但是 B 可能不在,于是 A 和 B 提前做出约定:
B 说:我桌子上有个盒子,然后我给你一把锁,你把文件放盒子里用锁锁上,然后我回
头拿着钥匙来开锁取文件
在这个场景中,这把锁就相当于公钥,钥匙就是私钥,公钥给谁都行(不怕泄露), 但是
私钥只有 B 自己持有,持有私钥的人才能解密
8.1.4 数据摘要 && 数据指纹
- 数字指纹(数据摘要),其基本原理是利用单向散列函数(Hash 函数)对信息进行运算,生成一串固定⻓度的数字摘要。数字指纹并不是一种加密机制,但可以用来判断数据有没有被篡改。
- 摘要常见算法:有 MD5、SHA1、SHA256、SHA512 等,算法把无限的映射成有限,因此可能会有碰撞(两个不同的信息,算出的摘要相同,但是概率非常低)
- 摘要特征:和加密算法的区别是,摘要严格意义不是加密,因为没有解密,只不过从摘要很难反推原信息,通常用来进行数据对比
8.1.5 数字签名
- 摘要经过加密,就得到数字签名
8.2 HTTPS 的工作过程探究
既然要保证数据安全,就需要进行 "加密"
网络传输中不再直接传输明文了,而是加密之后的 "密文"
加密的方式有很多,但是整体可以分成两大类:对称加密 和 非对称加密
8.2.1 方案 1 - 只使用对称加密
如果通信双方都各自持有同一个密钥 X,且没有别人知道,这两方的通信安全当然是可以被保证的(除非密钥被破解)
引入对称加密之后,即使数据被截获,由于黑客不知道密钥是啥,因此就无法进行解密,也就不知道请求的真实内容是啥了
但事情没这么简单,服务器同一时刻其实是给很多客户端提供服务的,这么多客户端,每个人用的秘钥都必须是不同的(如果是相同那密钥就太容易扩散了,黑客就也能拿到了)
因此服务器就需要维护每个客户端和每个密钥之间的关联关系,这也是个很⿇烦的事情
比较理想的做法,就是能在客户端和服务器建⽴连接的时候,双方协商确定这次的密钥是啥
但是如果直接把密钥明文传输,那么黑客也就能获得密钥了,此时后续的加密操作就形同虚设了
因此密钥的传输也必须加密传输!
但是要想对密钥进行对称加密,就仍然需要先协商确定一个 "密钥的密钥",这就成了 "先有鸡还是先有蛋" 的问题了,此时密钥的传输再用对称加密就行不通了
8.2.2 方案 2 - 只使用非对称加密
鉴于非对称加密的机制,如果服务器先把公钥以明文方式传输给浏览器,之后浏览器向服务器传数据前都先用这个公钥加密好再传,从客户端到服务器信道似乎是安全的
(有安全问题),因为只有服务器有相应的私钥能解开公钥加密的数据
但是服务器到浏览器的这条路怎么保障安全?
如果服务器用它的私钥加密数据传给浏览器,那么浏览器用公钥可以解密它,而这个公钥是一开始通过明文传输给浏览器的,若这个公钥被中间人劫持到了,那他也能用该公钥解密服务器传来的信息了
8.2.3 方案 3 - 双方都使用非对称加密
- 服务端拥有公钥 S 与对应的私钥 S',客户端拥有公钥 C 与对应的私钥 C'
- 客户和服务端交换公钥
- 客户端给服务端发信息:先用 S 对数据加密,再发送,只能由服务器解密,因为只有服务器有私钥 S'
- 服务端给客户端发信息:先用 C 对数据加密,在发送,只能由客户端解密,因为只有客户端有私钥 C'
这样貌似也行啊,但是
- 效率太低
- 依旧有安全问题
8.2.4 方案 4 - 非对称加密 + 对称加密
先解决效率问题
- 服务端具有非对称公钥 S 和私钥 S'
- 客户端发起 https 请求,获取服务端公钥 S
- 客户端在本地生成对称密钥 C,通过公钥 S 加密,发送给服务器
- 由于中间的网络设备没有私钥,即使截获了数据,也无法还原出内部的原文,也就无法获取到对称密钥
- 服务器通过私钥 S'解密,还原出客户端发送的对称密钥 C,并且使用这个对称密钥加密给客户端返回的响应数据
- 后续客户端和服务器的通信都只用对称加密即可,由于该密钥只有客户端和服务器两个主机知道,其他主机/设备不知道密钥即使截获数据也没有意义
- 由于对称加密的效率比非对称加密⾼很多,因此只是在开始阶段协商密钥的时候使用非对称加密,后续的传输仍然使用对称加密
虽然上面已经比较接近答案了,但是依旧有安全问题
方案 2,方案 3,方案 4 都存在一个问题,如果最开始,中间人就已经开始攻击了呢?
8.2.5 中间人攻击
Man-in-the-MiddleAttack,简称“MITM 攻击”
确实,在方案 2/3/4 中,客户端获取到公钥 S 之后,对客户端形成的对称秘钥 X 用服务端给客户端的公钥 S 进行加密,中间人即使窃取到了数据,此时中间人确实无法解出客户端形成的密钥 X,因为只有服务器有私钥 S'
但是中间人的攻击,如果在最开始握手协商的时候就进行了,那就不一定了,假设 hacker 已经成功成为中间人
- 服务器具有非对称加密算法的公钥 S,私钥 S'
- 中间人具有非对称加密算法的公钥 M,私钥 M'
- 客户端向服务器发起请求,服务器明文传送公钥 S 给客户端
- 中间人劫持数据报文,提取公钥 S 并保存好,然后将被劫持报文中的公钥 S 替换成为自己的公钥 M,并将伪造报文发给客户端
- 客户端收到报文,提取公钥 M(自己当然不知道公钥被更换过了),自己形成对称秘钥 X,用公钥 M 加密 X,形成报文发送给服务器
- 中间人劫持后,直接用自己的私钥 M'进行解密,得到通信秘钥 X,再用曾经保存的服务端公钥 S 加密后,将报文推送给服务器
- 服务器拿到报文,用自己的私钥 S'解密,得到通信秘钥 X
- 双方开始采用 X 进行对称加密,进行通信。但是一切都在中间人的掌握中,劫持数据,进行窃听甚至修改,都是可以的
上面的攻击方案,同样适用于方案 2,方案 3
问题本质出在哪里了呢?客户端无法确定收到的含有公钥的数据报文,就是⽬标服务器发送过来的
8.2.6 引入证书
8.2.6.1 CA 认证
服务端在使用 HTTPS 前,需要向 CA 机构申领一份数字证书,数字证书里含有证书申请者信息、公钥信息等。服务器把证书传输给浏览器,浏览器从证书里获取公钥就行了,证书就如身份证,证明服务端公钥的权威性
基本说明:
https://baike.baidu.com/item/CA%E8%AE%A4%E8%AF%81/6471579?fr=aladdin
这个 证书 可以理解成是一个结构化的字符串, 里面包含了以下信息:
- 证书发布机构
- 证书有效期
- 公钥
- 证书所有者
- 签名
- ......
需要注意的是:申请证书的时候,需要在特定平台生成查,会同时生成一对密钥对,即公钥和私钥。这对密钥对⼉就是用来在网络通信中进行明文加密以及数字签名的
其中公钥会随着 CSR 文件,一起发给 CA 进行权威认证,私钥服务端自己保留,用来后续进行通信(其实主要就是用来交换对称秘钥)
可以使用在线生成 CSR 和私钥:CSR在线生成工具
形成 CSR 之后,后续就是向 CA 进行申请认证,不过一般认证过程很繁琐,网络各种提供证书申请的服务商,一般真的需要,直接找平台解决就行
8.2.6.2 数字签名
签名的形成是基于非对称加密算法的,注意,⽬前暂时和 https 没有关系,不要和 https 中的公钥私钥搞混了
当服务端申请 CA 证书的时候,CA 机构会对该服务端进行审核,并专⻔为该网站形成数字签名,过程如下:
- CA 机构拥有非对称加密的私钥 A 和公钥 A'
- CA 机构对服务端申请的证书明文数据进行 hash,形成数据摘要
- 然后对数据摘要用 CA 私钥 A'加密,得到数字签名 S
服务端申请的证书明文和数字签名 S 共同组成了数字证书,这样一份数字证书就可以颁发给服务端了
8.2.7 方案 5 - 非对称加密 + 对称加密 + 证书认证
在客户端和服务器刚一建⽴连接的时候, 服务器给客户端返回一个 证书,证书包含了之前服务端的公钥, 也包含了网站的身份信息
8.2.7.1 客户端进行认证
当客户端获取到这个证书之后,会对证书进行校验(防止证书是伪造的)
- 判定证书的有效期是否过期
- 判定证书的发布机构是否受信任(操作系统中已内置的受信任的证书发布机构)
验证证书是否被篡改:从系统中拿到该证书发布机构的公钥,对签名解密,得到一个 hash 值(称为数据摘要),设为 hash1,然后计算整个证书的 hash 值,设为 hash2,对比 hash1 和 hash2 是否相等,如果相等,则说明证书是没有被篡改过的
8.2.7.2 查看浏览器的受信任证书发布机构
Chrome 浏览器, 点击右上角的
选择"设置",搜索"证书管理",即可看到以下界面(如果没有,在隐私设置和安全性->安全里面找找)
- 中间人篡改了证书的明文
- 由于他没有 CA 机构的私钥,所以无法 hash 之后用私钥加密形成签名,那么也就没法办法对篡改后的证书形成匹配的签名
- 如果强行篡改,客户端收到该证书后会发现明文和签名解密后的值不一致,则说明证书已被篡改,证书不可信,从而终止向服务器传输信息,防止信息泄露给中间人
中间人整个掉包证书?
- 因为中间人没有 CA 私钥,所以无法制作假的证书
- 所以中间人只能向 CA 申请真证书,然后用自己申请的证书进行掉包
- 这个确实能做到证书的整体掉包,但是别忘记,证书明文中包含了域名等服务端认证信息,如果整体掉包,客户端依旧能够识别出来
- 永远记住:中间人没有 CA 私钥,所以对任何证书都无法进行合法修改,包括自己的
8.3 常见问题
8.3.1 为什么摘要内容在网络传输的时候一定要加密形成签名
常见的摘要算法有:MD5 和 SHA 系列
以 MD5 为例,我们不需要研究具体的计算签名的过程,只需要了解 MD5 的特点:
- 定⻓:无论多⻓的字符串,计算出来的 MD5 值都是固定⻓度 (16 字节版本或者32 字节版本)
- 分散:源字符串只要改变一点点,最终得到的 MD5 值都会差别很大
- 不可逆:通过源字符串生成 MD5 很容易,但是通过 MD5 还原成原串理论上是不可能的
正因为 MD5 有这样的特性,我们可以认为如果两个字符串的 MD5 值相同,则认为这两个字符串相同
理解判定证书篡改的过程: (这个过程就好比判定这个身份证是不是伪造的身份证)
假设我们的证书只是一个简单的字符串 hello,对这个字符串计算 hash 值(比如 md5),结果为 BC4B2A76B9719D91
如果 hello 中有任意的字符被篡改了,比如变成了 hella,那么计算的 md5 值就会变化很大:BDBD6F9CF51F2FD8
然后我们可以把这个字符串 hello 和 哈希值 BC4B2A76B9719D91 从服务器返回给客户端, 此时客户端如何验证 hello 是否是被篡改过?
那么就只要计算 hello 的哈希值,看看是不是 BC4B2A76B9719D91 即可
但是还有个问题,如果黑客把 hello 篡改了,同时也把哈希值重新计算下,客户端就分辨不出来了
所以被传输的哈希值不能传输明文,需要传输密文
所以,对证书明文(这里就是“hello”)hash 形成散列摘要,然后 CA 使用自己的私钥加密形成签名,将 hello 和加密的签名合起来形成 CA 证书,颁发给服务端,当客户端请求的时候,就发送给客户端,中间人截获了,因为没有 CA 私钥,就无法更改或者整体掉包,就能安全的证明,证书的合法性
最后,客户端通过操作系统里已经存的了的证书发布机构的公钥进行解密, 还原出原始的哈希值, 再进行校验
8.3.2 为什么签名不直接加密,而是要先 hash 形成摘要?
- 缩⼩签名密文的⻓度,加快数字签名的验证签名的运算速度
8.3.3 如何成为中间人
- ARP 欺骗:在局域网中,hacker 经过收到 ARP Request⼴播包,能够偷听到其它节点的 (IP, MAC)地址。例, 黑客收到两个主机 A, B 的地址,告诉 B (受害者) ,自己是 A,使得 B 在发送给 A 的数据包都被黑客截取
- ICMP 攻击:由于 ICMP 协议中有重定向的报文类型,那么我们就可以伪造一个ICMP 信息然后发送给局域网中的客户端,并伪装自己是一个更好的路由通路。从而导致⽬标所有的上网流量都会发送到我们指定的接⼝上,达到和 ARP 欺骗同样的效果
- 假 wifi && 假网站等
8.4 完整流程
左侧都是客户端做的事情,右侧都是服务器做的事情
8.5 总结
HTTPS 工作过程中涉及到的密钥有三组
- 第一组(非对称加密):用于校验证书是否被篡改,服务器持有私钥(私钥在形成 CSR 文件与申请证书时获得),客户端持有公钥(操作系统包含了可信任的 CA 认证机构有哪些,同时持有对应的公钥),服务器在客户端请求时,返回携带签名的证书,客户端通过这个公钥进行证书验证, 保证证书的合法性,进一步保证证书中携带的服务端公钥权威性
- 第⼆组(非对称加密):用于协商生成对称加密的密钥,客户端用收到的 CA 证书中的公钥(是可被信任的)给随机生成的对称加密的密钥加密,传输给服务器, 服务器通过私钥解密获取到对称加密密钥
- 第三组(对称加密): 客户端和服务器后续传输的数据都通过这个对称密钥加密解密
其实一切的关键都是围绕这个对称加密的密钥,其他的机制都是辅助这个密钥工作的
第⼆组非对称加密的密钥是为了让客户端把这个对称密钥传给服务器
第一组非对称加密的密钥是为了让客户端拿到第⼆组非对称加密的公钥