Windows远程桌面实现之十四:实现AirPlay接收端,让苹果设备(iOS,iPad等)屏幕镜像到PC端

by fanxiushu 2024-05-04 转载或引用请注明原始作者。

这个课题已经持续了好几年,已经可以说是很长时间了。
实现的程序是 xdisp_virt, 可以去github下载使用:
GitHub - fanxiushu/xdisp_virt: xfsredir file system

一开始是基于测试镜像驱动的目的随便开发的xdisp_virt,到后来只想实现windows远程桌面,
而且是打算自己实现客户端,结果是浏览器的Web客户端代替了自己实现客户端的打算,
再后来移植到各种平台(macOS,linux,iOS),以及各种功能出现,比如直播,推流保存,onvif等等。
反正是整个 xdisp_virt 代码重构了好几遍,越搞越复杂。
实现的功能也与最初只想实现远程控制的目标越来越远。
赤果果的朝着前方的康庄大道奔跑,只是道路越奔越歪了。

这次是在xdisp_virt中实现AirPlay接收端,
之所以有这个打算,起源于上面三篇文章所说的开发模拟鼠标键盘的蓝牙驱动。
开发把电脑模拟成蓝牙鼠标键盘的蓝牙驱动,目的就是为了控制我的iPhone手机,
在开发蓝牙驱动和测试过程中,我需要把iphone手机屏幕投射到电脑上,
然而Windows与Apple天然的隔绝,
windows的AirPlay投屏软件太稀缺了,难找难用;
于是在开发完成bluetooth驱动之后,打算在xdisp_virt集成 AirPlay功能,
并且把模拟蓝牙鼠标键盘的驱动也一起集成进去,真正达到控制各种苹果设备的目的。

首先,我们先大致了解一下什么是 AirPlay。
AirPlay说普通点就是一群通讯协议,把视频和音频在网络中传输的协议。
我们有大量的比如RTSP,RTMP,HTTP, WebRTC,等等公用协议可以用来传输音视频,为何还需要AirPlay。
没办法,这是苹果公司为自家产品(iOS,iPad,macOS)定制的专门的协议。
当然它其实是个协议族,是多个协议混合一起组成了AirPlay, 这点和WebRTC很有像,都是多个协议拼凑在一起的。
AirPlay用来干嘛?
既然是传输音视频的协议,可以在苹果设备上播放的视频镜像出去,或者只把音频镜像出去。
其中一个很重要的用处就是用来把苹果设备的屏幕镜像到网络中的其他地方去。
这就很像我们开发的远程桌面了,只不过不同的是,
AirPlay是苹果系统集成的,苹果设备不需要额外安装程序,
当然没法鼠标键盘控制,也只能在同一个局域网内镜像。而且必须是苹果设备主动连接AirPlay接收端。

与AirPlay同类型的协议比如 Miracast,它可以应用于windows和Android 。
不同的是AirPlay是封闭的,而 Miracast协议是开放的。

不少人经过这么多年对AirPlay协议的努力破解,绝大部分的AirPlay通讯协议细节都已经揭露出来,
而且还有对于的AirPlay实现的开源实现代码,
其中基于linux平台开发的UxPlay的开源代码比较好, xdisp_virt的AirPlay使用了此源码。

实现AirPlay,其实主要说的是实现AirPlay的接收端,
因为发送端已经被苹果公司集成到他们自己的系统中了,包括iOS,macOS等系统。
比如当我们打开iPhone手机的控制中心(右上角向下滑),然后点 ”屏幕镜像“ 的图标,
如下图所示,会看的一堆的AirPlay接收端:



上图就是多台电脑上的xdisp_virt展现出来的AirPlay接收端,
iPhone手机中没有安装任何第三方App,但是却能找到一堆的AirPlay接收端信息,
这看起来很神秘,其实搞清楚了来龙去脉,也没啥神秘的,
在AirPlay接收端的实现中,利用mDNS协议来把自己的信息发布出去,
同样到了iPhone手机端,因为是iOS系统自己集成了AirPlay,
它同样使用mDNS协议查询这些信息,从而查询到了这些AirPlay接收端。
具体其实就是大家都注册到一个组播地址中,组播地址固定为224.0.0.251,固定的端口是 5353,一般使用UDP 协议;
而DNS的端口是53,mDNS端口是5353,这不是巧合,实际上,mDNS协议的格式基本与DNS一样,
所以如果理解了DNS协议,对mDNS的理解就不会差太多,只不过mDNS一般用于局域网的信息发布,发现搜索等。
举个简单例子,A设备进入局域网,加入 mDNS 服务,并向mDNS服务注册一些自己的信息:我是谁,我在干嘛。
B设备同样进入了局域网,也加入了mDNS服务,并且向mDNS服务请求查询在线所有满足一定条件的设备,
于是mDNS服务开始在局域网内查询,最终把查询到的结果告诉B设备。

题外话:组播这玩意不一定都十分靠谱,在理想的局域网环境到没啥问题,
在有些复杂的网络环境就比较难说了,有可能会偶尔出现一些问题。
比如我这网络环境,多个交换机组合,
多个vmware虚拟出来的IP地址,以及VPN软件模拟出来的IP地址,
以及三个多网段组合在一起,至少两个无线路由器凑合在一起。。。
如果突然出现iOS设备搜索不到AirPlay接收端也算正常,
多试几次,把AirPlay功能打开关闭多试几次,
或者把AirPlay的侦听地址固定到某个IP地址,反正我是多次尝试了之后才发现这些。

对于airplay接收端来说,需要向mDNS注册两类服务,
一类airtunes,标记为 _raop._tcp 用于协商音频和视频的传输,
一类airplay,标记为 _airplay._tcp 用于处理传统的流服务。
至于这两类服务的的具体协议格式,可以通过抓包软件来分析。

当iOS,macOS等系统发现了AirPlay接收端,并且主动连上
(比如上图中,iOS手机连上了名为 “xdisp_virt [ mini-PC ]” 的AirPlay接收端)
它使用TCP连接到Airplay接收端,并且使用RTSP协议进行交互,
但是这个RTSP协议,经过苹果公司多次的升级修改,虽然表面上还是RTSP协议格式,
但是实际内容却是改变了很多,因此并不符合RTSP协议标准规范。
但他的协议格式还是尽量保持着RTSP的协议格式,这对于破解分析AirPlay的协议带来了十分的便利。
传输音频采用的基于UDP的RTP协议,编码方式是 AAC-ELD或ALAC,
而传输视频的则是基于TCP,并且固定H264编码。

本文并不打算研究这些协议格式,
因为网上文章有阐述,如果还不明白,
可以使用网络抓包软件分析它的协议格式,或者可以进一步去阅读源码,
比如其中UxPlay的开源代码,等等。

前面说了,xdisp_virt程序集成了UxPlay开源代码,但是还缺少mDNS的实现,
因此xdisp_virt同时也集成了 苹果的 mDNSResponder 开源代码。
当然也有其他mDNS开源可选,比如linux下的avahi 。

这俩货都不是省油的灯,因为我要把他们编译进xdisp_virt程序中,需要做成静态lib库(或者a库)
而 mDNSResponder 项目给出的目录结构确实头大,里边有生成多个项目,
而我却只需要里边的dnssd接口和mDNS服务端,
于是干脆直接另起一个项目工程,把需要的源文件直接加进去,重新生成一个新的静态lib工程,
这是在windows的VS下的做法,到了linux平台,则是自己重新制作Makefile文件,
这个Makefile看起来像下面这样:
## by fanxiushu 2024-04-18

vpath %.c ./mDNSCore
vpath %.h ./mDNSCore
vpath %.c ./mDNSShared
vpath %.h ./mDNSShared
vpath %.c ./mDNSPosix
vpath %.h ./mDNSPosix
vpath %.c ./mDNSMacOSX
vpath %.h ./mDNSMacOSX

C=gcc
CC=g++

LIB_AR = ar cr

objs = \
    DebugServices.o dnssd_clientlib.o dnssd_clientstub.o \
    dnssd_ipc.o GenLinkedList.o \
    ClientRequests.o DNSCommon.o DNSDigest.o dnssd_ipc.o LegacyNATTraversal.o \
    mDNS.o mDNSDebug.o uDNS.o uds_daemon.o mDNSPosix.o PosixDaemon.o PlatformCommon.o mDNSUNP.o

CF = -std=c99 -I./mDNSCore -I./mDNSShared -I./mDNSShared/utilities -I./ -D_GNU_SOURCE \
    -DMDNS_DEBUGMSGS=0 -DNOT_HAVE_SA_LEN -DPEDANTIC -DUSES_NETLINK -DHAVE_LINUX -DTARGET_OS_LINUX \
    -DUSE_TCP_LOOPBACK -DNO_PID_FILE

LF =

############################################
###################################

dnssd:$(objs)
    $(LIB_AR) libdnssd.a  $(objs) $(LF)

%.o:%.c
    $(C)   $(CF) -c $< -o $@

clean:
    -rm *.o
    -rm libdnssd.a

当然还需要修改一些代码,同时增加几个导出函数,主要是mDNS服务端的导出函数。
经过一通折腾之后, mDNSResponder才能以静态库的方式编译进xdisp_virt程序中。

再接下来就是集成UxPlay的问题。
UxPlay 最终编译之后其实是一个程序,显然不能直接用。
UxPlay工程目录的render渲染图像部分,gstreamer解码部分都用不上,
只需要使用UxPlay工程里边的lib目录。
同时另外还需要 libplist 工程,
与mDNSResponder的做法类似,只需要他们的c,cpp等源文件,自己制作工程项目或者Makefile编译成静态库。
同时对UxPlay的代码改的也较多,主要是为了适合xdisp_virt以及兼容Windows,不过本质还是使用的UxPlay开源代码。

做好了AirPlay屏幕镜像,但是却无法使用鼠标键盘控制,感觉是很不爽的。
因此得把蓝牙驱动集成进去,通过蓝牙来控制苹果设备。
这是没办法的选择,因为目前来看,
iOS,iPad这些设备的系统(macOS除外)压根就找不到接口API来进行鼠标键盘的远程控制。
这也是前面三篇文章阐述的内容:把电脑模拟成蓝牙鼠标和蓝牙键盘。

xdisp_virt本身就支持鼠标键盘控制的,只需要把Web端传递来的鼠标键盘信息,
传递给蓝牙驱动,从而让他控制苹果设备。
同时xdisp_virt本身就是跨越局域网限制的,
只要保持苹果设备和xdisp_virt在同一个局域网,
然后运行xdisp_virt的电脑具有公网地址,或者xdisp_virt连接到具有公网地址的xdisp_server,
都可以把苹果设备的屏幕传输到任何地方。

其中macOS平台因为目前并不熟悉蓝牙的开发,所以没有实现电脑模拟蓝牙鼠标键盘的功能。

windows平台则是需要单独安装驱动,
而且正如以前文章阐述的,这个驱动需要做破解,这会造成一些未知的麻烦,
尤其有些windows系统版本可能直接蓝屏死机,虽然我目前测试64位的 win10, 11,win7都运行良好。
但无法百分之百的保证一定不出问题,
因此这次发布新版本的xdisp_virt的时候,并不会公布windows下的蓝牙驱动。

linux下的蓝牙鼠标键盘,则是直接集成到了xdisp_virt程序中,
但是需要自己去配置蓝牙服务,具体需要满足以下一些条件:
1,当然需要有蓝牙设备这个实物。
2,需要安装blueZ,linux系统默认都会安装的。
3,需要xdisp_virt以 root 超级用户方式运行。
4,bluetoothd 以带参数方式运行: bluetoothd -C -P input

下面是xdisp_virt的AirPlay的演示视频,有兴趣可以去github下载新版本自己尝试:
更多的关于xdisp_virt使用和演示,请去github查阅。

演示xdisp_virt的AirPlay功能

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/326361.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【数据库原理及应用】期末复习汇总高校期末真题试卷05

试卷 一、选择题 1.( )是存储在计算机内有结构的数据的集合。 A.数据库系统 B.数据库 C.数据库管理系统 D.数据结构 2.数据库的三级模式结构中&#xff0c;数据库对象—视图是( ) A.外模式 B.内模式 C.存储模式 D.模式 3.在下列关于关系表的陈述中&#xff0c;错误的是(…

idea无法识别加载pom.xml文件

有时idea无法识别加载pom.xml文件&#xff0c;直接打开pom.xml文件&#xff0c;然后添加到maven就行

8种常见的CMD命令

1.怎么打开CMD窗口 步骤1&#xff1a;winr 步骤2&#xff1a;在弹出的窗口输入cmd&#xff0c;然后点击确认&#xff0c;就会出现一个cmd的窗口 2.CMD的8种常见命令 2.1盘符名称冒号 说明&#xff1a;切换盘的路径 打开CMD窗口这里默认的是C盘的Users的27823路径底下&#xf…

容器化Jenkins远程发布java应用(方式一:pipline+ssh)

1.创建pipline工程 2.准备工程Jenkinsfile文件&#xff08;java目录&#xff09; 1.文件脚本内容 env.fileName "planetflix-app.jar" env.configName "planetflix_prod" env.remoteDirectory "/data/project/java" env.sourceFile "/…

vue数据大屏并发请求

并发? 处理并发 因为js是单线程的&#xff0c;所以前端的并发指的是在极短时间内发送多个数据请求&#xff0c;比如说循环中发送 ajax , 轮询定时器中发送 ajax 请求. 然后还没有使用队列, 同时发送 的. 1. Promise.all 可以采用Promise.all处理并发&#xff0c; 当所有pro…

NX二次开发——测量距离(两个对象之间最近、最远距离)

一、概述 最近看到 一些文章比较有趣&#xff0c;所以做个记录&#xff0c;顺便写一下博客&#xff0c;附上全部代码&#xff0c;方便刚从事NX二次开发同僚的理解。本次主要模拟NX自带的测量工具中对两个实体对象进行测量距离。NX系统功能如下所示&#xff1a; 二、代码解析 主…

【MySQL】SQL基本知识点DML(2)

目录 1.DML添加数据 2.DML-修改数据 &#xff08;1&#xff09;改​编辑 &#xff08;2&#xff09;删​编辑​编辑 3.DQL-基本查询 &#xff08;1&#xff09;查询多个字段​编辑​编辑​编辑 &#xff08;2&#xff09;设置别名 &#xff08;3&#xff09;去重操作 4…

【设计模式】JAVA Design Patterns——Abstract-document

&#x1f50d; 目的 使用动态属性&#xff0c;并在保持类型安全的同时实现非类型化语言的灵活性。 &#x1f50d; 解释 抽象文档模式使您能够处理其他非静态属性。 此模式使用特征的概念来实现类型安全&#xff0c;并将不同类的属性分离为一组接口 真实世界例子 考虑由多个部…

百度地图API 快速入门

一、创建一个应用 创建成功可以在应用程序中查看到自己的ak密钥 二、基本使用 2.1 显示地图 在static下创建demo1.html &#xff08;将密钥换成自己的就可以显示地图了&#xff09; 示例&#xff1a; <!DOCTYPE html> <html> <head><meta name"…

[每周一更]-(第96期):Rsync 用法教程:高效同步文件与目录

文章目录 一、引言二、rsync 基本概念三、介绍rsync 是什么&#xff1f;四、安装五、rsync 基本语法常见示例&#xff08;默认ssh协议&#xff09;&#xff1a; 六、常用选项1. -a 或 --archive2. -v 或 --verbose3. -z 或 --compress4. --delete5. --exclude6. --exclude-from…

未来娱乐新地标?气膜球幕影院的多维体验—轻空间

在中国&#xff0c;一座独特的娱乐场所正在崭露头角&#xff1a;气膜球幕影院。这个融合了气膜建筑与激光投影技术的创新场所&#xff0c;不仅令人惊叹&#xff0c;更带来了前所未有的科幻娱乐体验。让我们一起探索这个未来的娱乐空间&#xff0c;感受其中的多维魅力。 现场演出…

Linux-- 重定向缓冲区

目录 0.接上篇文章 1.粗略的见一下这两个问题 2.理解重定向 3.理解缓冲区 0.接上篇文章 Linux--基础IO&#xff08;文件描述符fd&#xff09;-CSDN博客 1.粗略的见一下这两个问题 先来了解几个函数&#xff1a; stat()函数用于获取指定文件或符号链接的元数据。如果文件是…

巩固学习7

正则表达式 就是用来找到符合模式的字符串&#xff0c;这些模式包括&#xff1a;是什么字符&#xff0c;重复多少次&#xff0c;在什么位置&#xff0c;有哪些额外的约束 找某个字符串 import re text身高:178 体重:168 学号:123456 密码:9527 #在Python中&#xff0c;r前缀用…

时间瑾眼中的IT行业现状与未来趋势

文章目录 技术革新与行业应用IT行业的人才培养与教育人工智能与机器学习的演进数据安全与隐私保护可持续发展与绿色技术社会责任与道德规范 随着技术的不断进步&#xff0c;IT行业已成为推动全球经济和社会发展的关键力量。从云计算、大数据、人工智能到物联网、5G通信和区块链…

【Linux 系统】多线程(生产者消费者模型、线程池、STL+智能指针与线程安全、读者写者问题)-- 详解

一、生产者消费者模型&#xff08;重点&#xff09; 如图&#xff0c;在生活中&#xff0c;学生就是消费者角色&#xff0c;工厂是真正的生产者角色&#xff0c;那么超市是什么呢&#xff1f;为什么需要超市&#xff1f;超市是交易场所。我们的家附近不一定有工厂&#xff0c;而…

C++——缺省参数与重载函数

目录 ​前言 一.缺省参数 1.1缺省参数概念 1.2缺省参数分类 注意事项&#xff1a; 二.函数重载 2.1函数重载概念 2.2c支持函数重载原理——命名修饰 前言 本篇文章主要讲述c中有关于缺少参数与函数重载的相关概念与实例&#xff0c;以下是本人拙见&#xff0c;如有错误…

OpenAI之Whisper实时语音分析转文字

1.安装ffmpeg 2.安装python3.11 3.安装whisper pip install whisper conda环境安装whisper conda install whisper 命令行安装openai-whisper pip install openai-whisper 设置环境变量 4.分析语音并输出(默认使用GPU计算&#xff0c;如果没有安装CUDA,请使用CPU) whisper …

centos7.6安装mysql

博客主页&#xff1a;花果山~程序猿-CSDN博客 文章分栏&#xff1a;MySQL之旅_花果山~程序猿的博客-CSDN博客 关注我一起学习&#xff0c;一起进步&#xff0c;一起探索编程的无限可能吧&#xff01;让我们一起努力&#xff0c;一起成长&#xff01; 目录 1.在网页中寻找mysql…

数字水印 | Arnold 变换的 Python 代码实现(灰度图版)

效果 将彩色图转换为灰度图&#xff0c;并进行 A r n o l d \mathsf{Arnold} Arnold 置乱和还原。 代码 import cv2 import numpy as np from matplotlib import pyplot as pltdef arnold(img, shuffle_times, a, b):r, c, d img.shapeimg img[:, :, 0]p np.zeros((r, c),…

【算法刨析】完全背包

完全背包与01背包的区别 01背包对于一个物品只能选择一次&#xff0c;但是完全背包可以选择任意次&#xff1b; 思路 和01背包类似&#xff0c;01背包我们只需要判断选或不选&#xff0c;完全背包也是如此&#xff0c;不同的是&#xff0c;对于这个物品我们在判断选后在增加一…