阅读笔记——SVD本质+计算+应用

摘要:本文讨论了正交相似对角化的方法几何含义;方阵,非方阵的奇异值分解的计算,矫正方法以及与正交相似对角化存在区别;最后讨论了奇异值分解的应用

1.实对称矩阵A的变换是一种线性变换,对应到图像上可以看成一种映射,如图所示将一个个矩形映射成四边形。

 2.从代数角度看,该变换可以分解为A = QSQT的形式,从几何角度看,该变换可以理解为旋转伸缩再旋转回去:

  • 伸缩:可以同步看作S矩阵的作用,其中S为对角矩阵,且值非负,如图所示,对于一个向量x,左乘一个S,S矩阵的含义是将其沿x,y两个方向分别伸缩λ1,λ2倍;
  • 旋转:可以同步看作Q矩阵的作用,其中Q为正交矩阵,对于一个向量x,左乘一个Q,显然Q除了改变方向外,不改变向量相对位置及模长;

3.上述变换方便我们理解相似对角化的含义

  • 对A进行相似对角化的含义:从公式上看,即S=Q^{T}AQ相似体现在S与A是相似的(A和S进行了相似的拉伸),所以是相似变换;对角化指的是将A变换为了对角矩阵;
  • Q我们称为相似变换矩阵,如何理解相似变换?A与A变成的S是相似的,所以是相似变换


4.于是我们得到奇异值分解的定义,即A=PSQ^{T},其中P,Q为正交阵,S是对角矩阵,其对角线上的元素非负且从左上到右下按从大到小排列。

5.奇异值(Singular)的本质含义:代表了各个坐标轴方向独有的伸缩因子。

6.任意矩阵奇异值分解办法:转换为实对称矩阵相似对角化的问题。即对于任意矩阵A=PSQ^{T},构建AA^{T} = PS^{2}P^{T}A^{T}A = QS^{2}Q^{T},但由于后者是前者的必要条件,所以结果要加以矫正,如下所示,以特征值个数为2的矩阵为例,可以看到,P,Q对应位置的特征向量仍需满足如下关系。

7.相似对角化与奇异值分解存在区别。如下图例子所示,可以看出,奇异值分解结果左右的正交矩阵并不存在转置关系,即奇异值分解结果与正交相似对角化结果必然不同。 

8.非方阵奇异值分解办法,S拆解为对角阵与全0矩阵的拼接,按照一般方法实施即可:

9.非方阵奇异值分解矫正方法,以3*2矩阵为例,只需保证满足p1,p2分别与q1,q2限制关系即可,其余无需矫正: 10.奇异值分解可以用来对图像进行近似,如下所示,对图像IM进行奇异值分解,只需取前若干项便可对图像实现近似,并且注意到s1到sn由大到小排列,可知越靠前的项权重越高,在图像描述中起的作用越大:

链接:超详细!彻底搞懂矩阵奇异值分解(SVD)本质+计算+应用!_哔哩哔哩_bilibili

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/482492.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux网络_网络协议_网络传输_网络字节序

一.协议 1.概念 协议(Protocol) 是一组规则和约定,用于定义计算机网络中不同设备之间如何进行通信和数据交换。协议规定了数据的格式、传输方式、传输顺序等详细规则,确保不同设备和系统能够有效地互联互通。 在网络通信中&#…

数据结构 (16)特殊矩阵的压缩存储

前言 特殊矩阵的压缩存储是数据结构中的一个重要概念,它旨在通过找出特殊矩阵中值相同的矩阵元素的分布规律,把那些呈现规律性分布的、值相同的多个矩阵元素压缩存储到一个存储空间中,从而节省存储空间。 一、特殊矩阵的定义 特殊矩阵是指具有…

ehr系统建设方案,人力资源功能模块主要分为哪些,hrm平台实际案例源码,springboot人力资源系统,vue,JAVA语言hr系统(源码)

eHR人力资源管理系统:功能强大的人力资源管理工具 随着企业规模的不断扩大和业务需求的多样化,传统的人力资源管理模式已无法满足现代企业的需求。eHR人力资源管理系统作为一种先进的管理工具,能够为企业提供高效、准确、实时的人力资源管理。…

搭建AD域服务器

搭建AD域服务器 使用深信服HCI搭建AD域服务器 1、新建虚拟机 2、填写参数 3、省略安装过程 4、进入服务器管理器 5、 6、 7、 8、 9、 10、 11、 12、 13、 14、 15、 16、 17、 18、 19、 20、 21、 22、 23、

MOH: MULTI-HEAD ATTENTION AS MIXTURE-OFHEAD ATTENTION

当前的问题 多头注意力使用多个头部可以提高模型的精度。然而,并不是所有的注意力头都具有同样的重要性。一些研究表明,许多注意力头可以被修剪而不影响准确性。 此外,在多头注意中,每个注意头并行操作,最终输出是所…

Spring boot之BeanDefinition介绍

在spring框架中IOC容器进行bean的创建和管理。Bean的创建是一个比较复杂的过程,它并不像我们创建对象一样只是直接new一下就行,虽然有些bean确实就是New一下。但在Spring中可以通过一些途径对bean进行增强扩展。在这个过程中,BeanDefinition作…

Ubuntu 服务器部署 Tomcat 并配置 SSL/TLS 证书

本文目录 准备登陆云服务器安装 Java下载 tomcat 包配置防火墙浏览器访问 Tomcat 默认页面以服务的形式运行 Tomcat创建 Tomcat 用户和组创建 systemd 服务文件启动 tomcat 服务 Tomcat webapps 文件目录部署一个静态网站tomcat 的配置文件 将域名解析到服务器Tomcat 配置 SSL/…

C++小问题

怎么分辨const修饰的是谁 是限定谁不能被改变的? 在C中,const关键字的用途和位置非常关键,它决定了谁不能被修改。const可以修饰变量、指针、引用等不同的对象,并且具体的作用取决于const的修饰位置。理解const的规则能够帮助我们…

PPT不能编辑,按钮都是灰色,怎么办?

PPT文件打开之后,发现无法编辑,再仔细查看发现工具栏中的功能按钮都是灰色的,无法使用,这是什么原因?该如何解决? 原因:无法编辑PPT文件,并且功能按钮都是灰色,这是因为…

相交链表和环形链表

(一)相交链表 相交链表 思路:先分别计算出A列表和B列表的长度,判断它们的尾节点是否相等,如果不相等就不相交,直接返回空。然后让两个列表中的长的列表先走它们的差距步,然后再一起走&#xff…

ARM架构下安装新版docker及docker-compose

一、常见CPU 架构: 二、环境信息 CPU架构操作系统配置HUAWEI Kunpeng 920 5220 aarch64openEuler 22.03 (LTS-SP3)64C128g15T 三、安装docker 3.1 二进制包下载 docker-ce 社区下载地址: wget https://mirrors.nju.edu.cn/docker-ce/linux/static/s…

LeetCode-315. Count of Smaller Numbers After Self

目录 题目描述 解题思路 【C】 【Java】 复杂度分析 LeetCode-315. Count of Smaller Numbers After Selfhttps://leetcode.com/problems/count-of-smaller-numbers-after-self/description/ 题目描述 Given an integer array nums, return an integer array counts whe…

【NLP 4、数学基础】

此去经年,应是良辰美景虚设 —— 24.11.28 一、线性代数 1.标量和向量 ① 标量 Scalar 一个标量就是一个单独的数 ② 向量 Vector 一个向量是一列数 可以把向量看作空间中的点,每个元素是不同坐标轴上的坐标 向量中有几个数,就叫作几维…

VideoBooth: Diffusion-based Video Generation with Image Prompts

VideoBooth: Diffusion-based Video Generation with Image Prompts 概括 文章提出了一个视频生成模型VideoBooth,输入一张图片和一个文本提示词,即可输出保持图片中物体且符合文本提示词要求的视频。 方法 粗-细两阶段设计:1)…

Graphy 是一款终极、易于使用、功能齐全的 FPS 计数器、统计监视器和调试器,适用于您的 Unity 项目。

主要特点: Graph & Text: 图文: FPSMemory 记忆Audio 声音的Advanced device information 高级设备信息Debugging tools 调试工具 GitHub - Tayx94/graphy:Graphy 是适用于 Unity 项目的终极、易于使用、功能丰富的 FPS 计数器、统计监视器和调试…

ASP.NET Core 负载/压力测试

文章目录 一、第三方工具二、使用发布版本进行负载测试和压力测试 负载测试和压力测试对于确保 web 应用的性能和可缩放性非常重要。 尽管负载测试和压力测试的某些测试相似,但它们的目标不同。 负载测试:测试应用是否可以在特定情况下处理指定的用户负…

008静态路由-特定主机路由

按照如上配置,用192.168.0.1 电脑ping 192.168.1.1 发现能够ping通 用192.168.0.1 电脑ping 192.168.2.1 发现不能ping通 这是因为192.168.0.1 和 192.168.1.1 使用的是同一个路由器R1。 192.168.0.1 和 192.168.2.1 通信需要先经过R1,再经过R2 &#xf…

基于yolov4深度学习网络的排队人数统计系统matlab仿真,带GUI界面

目录 1.算法仿真效果 2.算法涉及理论知识概要 3.MATLAB核心程序 4.完整算法代码文件获得 1.算法仿真效果 matlab2022a仿真结果如下(完整代码运行后无水印): 仿真操作步骤可参考程序配套的操作视频。 2.算法涉及理论知识概要 在现代社会…

周鸿祎再次“创业”,盯上百度

周鸿祎特地拍了部短剧来推广的新产品,终于上线了。 11月27日晚间,360正式发布多模态内容创作引擎“纳米搜索”。 作为当前AI应用最红的赛道之一,AI搜索已经有腾讯、秘塔、商汤、抖音等公司入局。传统搜索老大百度也在发力。竞争不妨碍有搜索…

pytorch中一个tensor经过多次softmax会有什么变化?

在 PyTorch 中,一个 Tensor 经过多次 softmax 操作时,其值会逐渐趋向于某种分布,但并不会无限变化。以下是具体的行为与原因分析: 1. Softmax 的作用: Softmax 将输入张量的值转换为一个概率分布,满足以下…