【计算机视觉】Gaussian Splatting源码解读补充(一)

本文旨在补充@gwpscut创作的博文学习笔记之——3D Gaussian Splatting源码解读。

Gaussian Splatting Github地址:https://github.com/graphdeco-inria/gaussian-splatting
论文地址:https://repo-sam.inria.fr/fungraph/3d-gaussian-splatting/3d_gaussian_splatting_high.pdf

目录

  • 一、预备知识:球谐(Spherical Harmonics)
  • 二、高斯场景类:`GaussianModel`
    • 1. `def setup_functions(self)`
    • 2. `def __init__(self, sh_degree : int)`
    • 3. `def create_from_pcd(self, pcd : BasicPointCloud, spatial_lr_scale : float)`
    • 4. `ply`文件相关:`def construct_list_of_attributes(self)`、`def save_ply(self, path)`和`def load_ply(self, path)`
    • 5. 优化器和学习率相关
    • 6. 重置不透明度:`def reset_opacity(self)`
    • 7. Gaussian的删除和新增


一、预备知识:球谐(Spherical Harmonics)

这部分可以参考PlenOctrees论文的附录B。

有时候从不同的角度看同一个物体看到的景象是不一样的(比如激光笔,它只朝一个固定的方向发光),所以需要定义从一个三维单位球体上各点观察一个物体所得的颜色函数。记这样的一个函数为 L ( θ , φ ) L(\theta,\varphi) L(θ,φ),其中 θ ∈ [ 0 , π ] \theta\in[0,\pi] θ[0,π]是纬度, φ ∈ [ 0 , 2 π ) \varphi\in[0,2\pi) φ[0,2π)是经度。任何从 [ 0 , π ] × [ 0 , 2 π ) [0,\pi]\times [0,2\pi) [0,π]×[0,2π)映射到 C \mathbb{C} C的函数都可以经过傅里叶变换表达为一系列函数 Y l m Y^m_l Ylm的线性组合,其中 l ∈ N l\in\mathbb{N} lN称为度数(degree), m ∈ { − l , − l + 1 , ⋯ , 0 , ⋯ , l − 1 , l } m\in\{-l,-l+1,\cdots,0,\cdots,l-1,l\} m{l,l+1,,0,,l1,l}称为阶数(order)。 Y l m Y^m_l Ylm定义为 Y l m ( θ , φ ) = 2 l + 1 4 π ( l − m ) ! ( l + m ) ! P l m ( cos ⁡ θ ) e i m φ Y^m_l(\theta,\varphi)=\sqrt{\frac{2l+1}{4\pi}\frac{(l-m)!}{(l+m)!}} P_l^m(\cos\theta)e^{im\varphi} Ylm(θ,φ)=4π2l+1(l+m)!(lm)! Plm(cosθ)eimφ其中 P l m ( cos ⁡ θ ) e i m φ P_l^m(\cos\theta)e^{im\varphi} Plm(cosθ)eimφ是勒让德多项式。当然这里的 Y l m Y^m_l Ylm是复数,我们可以定义对应的实数版本 Y l m ( θ , φ ) = { 2 ( − 1 ) m Im ⁡ [ Y l ∣ m ∣ ] , m < 0 Y l 0 , m = 0 2 ( − 1 ) m Re ⁡ [ Y l m ] , m > 0 Y^m_l(\theta,\varphi)=\begin{cases}\sqrt{2}(-1)^m\operatorname{Im}[Y_l^{|m|}],&m<0\\ Y_l^0,&m=0\\ \sqrt{2}(-1)^m\operatorname{Re}[Y_l^{m}],&m>0 \end{cases} Ylm(θ,φ)= 2 (1)mIm[Ylm],Yl0,2 (1)mRe[Ylm],m<0m=0m>0任何实的求函数 L : [ 0 , π ] × [ 0 , 2 π ) → R L:[0,\pi]\times [0,2\pi)\to\mathbb{R} L:[0,π]×[0,2π)R都可以用球谐基来表达: L ( θ , φ ) = ∑ l = 0 ∞ ∑ m = − l l k l m Y l m ( θ , φ ) L(\theta,\varphi)=\sum\limits_{l=0}^\infty\sum\limits_{m=-l}^l k_l^m Y_l^m(\theta,\varphi) L(θ,φ)=l=0m=llklmYlm(θ,φ)其中 k l m k_l^m klm是对应的傅里叶系数。特别地,直流分量 Y 0 0 = 1 2 π Y_0^0=\frac{1}{2\sqrt\pi} Y00=2π 1。当然我们不可能真的把 l l l考虑到无穷;一般来说 l l l是有限值就可以了,再高的频率也用不到。如果我们令最高度数为 l m a x l_\mathrm{max} lmax,则一共需要 ∑ l = 0 l m a x ( 2 l + 1 ) = ( l m a x + 1 ) 2 \sum\limits_{l=0}^{l_\mathrm{max}}(2l+1)=(l_\mathrm{max}+1)^2 l=0lmax(2l+1)=(lmax+1)2个系数。

你可能对这个形式感到很陌生,但如果你回忆一下量子力学就会感觉很亲切了。其实 l l l就是角量子数, m m m就是磁量子数, m m m的取值刚好就是 − l -l l l l l

二、高斯场景类:GaussianModel

首先我们当然要看一下GaussianModel类的定义,这个类描述了怎么定义一个包含大量Gaussians的场景。它在scene/gaussian_model.py中被定义。

我们选一些有意义的函数进行分析。

1. def setup_functions(self)

    def setup_functions(self):def build_covariance_from_scaling_rotation(scaling, scaling_modifier, rotation):L = build_scaling_rotation(scaling_modifier * scaling, rotation)actual_covariance = L @ L.transpose(1, 2)symm = strip_symmetric(actual_covariance)return symmself.scaling_activation = torch.expself.scaling_inverse_activation = torch.logself.covariance_activation = build_covariance_from_scaling_rotationself.opacity_activation = torch.sigmoidself.inverse_opacity_activation = inverse_sigmoidself.rotation_activation = torch.nn.functional.normalize

这个方法主要是初始化一些GaussianModel类涉及的函数。将缩放的激活函数设置为指数函数,我猜测其原因可能是缩放必须是正数,而指数函数的返回值一定是正数。用Sigmoid作为不透明度的激活函数是因为不透明度必须在0到1之间。旋转的激活函数是归一化。

协方差的激活函数比较复杂:首先从缩放及其修饰项、旋转参数得到 L L L矩阵,将其与自己的转置相乘得到一个对称矩阵,最后用strip_symmetric函数截取其下三角部分来节省空间(可能吧?)。论文第4节提到,协方差矩阵 Σ = R S S T R T \Sigma=RSS^T R^T Σ=RSSTRT,其中 S S S是缩放矩阵, R R R是旋转矩阵。缩放矩阵用3D向量 s s s表示得到,旋转用四元数 q q q得到。 q q q必须经过归一化,这就是为什么旋转的激活函数是归一化。根据utils/general_utils.pybuild_scaling_rotation函数, S = diag ⁡ ( s ) = diag ⁡ ( s 0 , s 1 , s 2 ) S=\operatorname{diag}(s)=\operatorname{diag}(s_0,s_1,s_2) S=diag(s)=diag(s0,s1,s2) R R R q q q的关系很复杂(见build_rotation函数),其中 q q q是四维向量。

2. def __init__(self, sh_degree : int)

这是类的初始化方法。代码如下:

    def __init__(self, sh_degree : int):self.active_sh_degree = 0 # 目前的球谐阶数,在`oneupSHdegree()`方法中加一# SH = Sphere Harmonicsself.max_sh_degree = sh_degree # 最大可能达到的的球谐阶数self._xyz = torch.empty(0) # 每个Gaussian的中心坐标self._features_dc = torch.empty(0) # 球谐的直流分量(dc = Direct Current)self._features_rest = torch.empty(0) # 球谐的其他高阶特征self._scaling = torch.empty(0) # 缩放参数self._rotation = torch.empty(0) # 旋转参数(一系列四元数)self._opacity = torch.empty(0) # 不透明度(经历sigmoid前的)self.max_radii2D = torch.empty(0) # 在某个相机视野里出现过的(像平面上的)最大2D半径,详见train.py里面gaussians.max_radii2D[visibility_filter] = ...一行self.xyz_gradient_accum = torch.empty(0) # 每个Gaussian的坐标梯度积累,当它太大的时候要对Gaussian进行分裂或复制(见论文5.2节)self.denom = torch.empty(0) # 与累积梯度配合使用,表示统计了多少次累积梯度,算平均梯度时除掉这个(denom = denominator,分母)self.optimizer = None # 优化器(论文中采用Adam,见附录B Algorithm 1的伪代码)self.percent_dense = 0 # 参与控制Gaussian密集程度的超参数self.spatial_lr_scale = 0 # 坐标的学习率要乘上这个,抵消在不同尺度下应用同一个学习率带来的问题self.setup_functions()

其中目前能推断出的变量含义已写在注释中。我们将会更进一步地探讨变量的具体含义。

3. def create_from_pcd(self, pcd : BasicPointCloud, spatial_lr_scale : float)

其中BasicPointCloud的定义如下(utils/graphic_utils.py):

class BasicPointCloud(NamedTuple):points : np.arraycolors : np.arraynormals : np.array

create_from_pcdscene/__init__.pyScene类的构造函数

def __init__(self, args : ModelParams, gaussians : GaussianModel, load_iteration=None, shuffle=True, resolution_scales=[1.0])

中被调用。

  • 首先,如果load_iteration参数不是NoneScene.__init__会在输出文件夹下的point_cloud/文件夹搜索迭代次数最大的iteration_xxx文件夹(例如有iteration_7000iteration_30000的文件夹则选取后者),将最大的迭代次数记录到self.loaded_iter
  • 然后构造函数会判断args.source_path对应的文件夹是COLMAP的输出还是Blender的输出,并从中读取场景信息到变量scene_info
  • 最后,如果self.loaded_iter有值,则直接读取对应的(已经迭代出来的)场景;如果没有,也就意味着load_iteration = None,换言之,模型还没有训练过,此时就调用GaussianModel.create_from_pcdscene_info.point_cloud中建立模型。

我们重点关注scene_info.point_cloud是SfM工具COLMAP输出结果的情形。论文多处提到Gaussian Splatting用COLMAP的稀疏输出来初始化Gaussians的位置。此时,用于加载COLMAP输出的函数是scene.dataset_readers.sceneLoadTypeCallbacks["Colmap"],也就是scene/dataset_readers.py中的readColmapSceneInfo函数。COLMAP的输出中有一个sparse/0文件夹,其中有三个文件:

cameras.binimages.bin分别是相机的内外参,points3D.binCOLMAP产生的稀疏点云,由scene.colmap_loader.read_points3D_binary函数读取,它会返回各点的xyzrgb和意义不明的error。我推测scene_info.point_cloud.points是稀疏点云中各点的3D坐标,scene_info.point_cloud.colors是各点的颜色。

现在我们终于可以回到create_from_pcd方法了。该方法的代码以及我的注释讲解如下(令 N N N为点的个数):

    def create_from_pcd(self, pcd : BasicPointCloud, spatial_lr_scale : float):self.spatial_lr_scale = spatial_lr_scale'''根据scene.Scene.__init__以及scene.dataset_readers.SceneInfo.nerf_normalization,即scene.dataset_readers.getNerfppNorm的代码,这个值似乎是训练相机中离它们的坐标平均值(即中心)最远距离的1.1倍,根据命名推断应该与学习率有关,防止固定的学习率适配不同尺度的场景时出现问题。'''fused_point_cloud = torch.tensor(np.asarray(pcd.points)).float().cuda()'''不清楚这里"fused"(融合)的用意。不过它实际上就是稀疏点云的3D坐标。大小为(N, 3)'''fused_color = RGB2SH(torch.tensor(np.asarray(pcd.colors)).float().cuda())'''应为球谐的直流分量,大小为(N, 3)RGB2SH(x) = (x - 0.5) / 0.28209479177387814看样子pcd.colors的原始范围应该是0到1。0.28209479177387814是1 / (2*sqrt(pi)),是直流分量Y(l=0,m=0)的值。'''features = torch.zeros((fused_color.shape[0], 3, (self.max_sh_degree + 1) ** 2)).float().cuda()features[:, :3, 0 ] = fused_colorfeatures[:, 3:, 1:] = 0.0'''RGB三通道球谐的所有系数,大小为(N, 3, (最大球谐阶数 + 1)²)'''print("Number of points at initialisation : ", fused_point_cloud.shape[0])dist2 = torch.clamp_min(distCUDA2(torch.from_numpy(np.asarray(pcd.points)).float().cuda()), 0.0000001)'''dist2的大小应该是(N,)。首先可以明确的是这句话用来初始化scale,且scale(的平方)不能低于1e-7。我阅读了一下submodules/simple-knn/simple_knn.cu,大致猜出来了这个是什么意思。(cu文件里面一句注释都没有,读起来真折磨!)distCUDA2函数由simple_knn.cu的SimpleKNN::knn函数实现。KNN意思是K-Nearest Neighbor,即求每一点最近的K个点。simple_knn.cu中令k=3,求得每一点最近的三个点距该点的平均距离。算法并没有实现真正的KNN,而是近似KNN。原理是把3D空间中的每个点用莫顿编码(Morton Encoding)转化为一个1D坐标(详见https://www.fwilliams.info/point-cloud-utils/sections/morton_coding/,用到了能够填满空间的Z曲线),然后对1D坐标进行排序,从而确定离每个点最近的三个点。simple_knn.cu实际上还用了一种加速策略,是将点集分为多个大小为1024的块(box),在每个块内确定3个最近邻居和它们的平均距离。用平均距离作为Gaussian的scale。(我的解读不一定准确,如有错误请指正)'''scales = torch.log(torch.sqrt(dist2))[...,None].repeat(1, 3)'''因为scale的激活函数是exp,所以这里存的也不是真的scale,而是ln(scale)。注意dist2其实是距离的平方,所以这里要开根号。repeat(1, 3)标明三个方向上scale的初始值是相等的。scales的大小:(N, 3)'''rots = torch.zeros((fused_point_cloud.shape[0], 4), device="cuda")'''旋转矩阵,大小为(N, 4)'''rots[:, 0] = 1'''初始化表示旋转的四元数为1(第0维为1,其他维为0)'''opacities = inverse_sigmoid(0.1 * torch.ones((fused_point_cloud.shape[0], 1), dtype=torch.float, device="cuda"))'''不透明度在经历sigmoid前的值,大小为(N, 1)inverse_sigmoid是sigmoid的反函数,等于ln(x / (1 - x))。这里把不透明度初始化为0.1(原因不明),但存储的时候要取其经历sigmoid前的值:inverse_sigmoid(0.1) = -2.197'''self._xyz = nn.Parameter(fused_point_cloud.requires_grad_(True))'''作为参数的高斯椭球体中心坐标,(N, 3)'''self._features_dc = nn.Parameter(features[:,:,0:1].transpose(1, 2).contiguous().requires_grad_(True))'''RGB三个通道的直流分量,(N, 3, 1)'''self._features_rest = nn.Parameter(features[:,:,1:].transpose(1, 2).contiguous().requires_grad_(True))'''RGB三个通道的高阶分量,(N, 3, (最大球谐阶数 + 1)² - 1)'''self._scaling = nn.Parameter(scales.requires_grad_(True))'''作为参数的缩放'''self._rotation = nn.Parameter(rots.requires_grad_(True))'''作为参数的旋转四元数,(N, 4)'''self._opacity = nn.Parameter(opacities.requires_grad_(True))'''作为参数的不透明度(经过sigmoid之前),(N, 1)'''self.max_radii2D = torch.zeros((self.get_xyz.shape[0]), device="cuda")'''最大半径?初始化为0,大小为(N,)'''

4. ply文件相关:def construct_list_of_attributes(self)def save_ply(self, path)def load_ply(self, path)

注意到模型被保存到了/point_cloud/iteration_xxx/point_cloud.ply文件中。我测试了一个火车场景并获得了一个这样的ply文件。用plyfile模块打开该文件:

p = PlyData.read('point_cloud.ply')

打印p.elements[0]的属性,得到:

('vertex',(PlyProperty('x', 'float'),PlyProperty('y', 'float'),PlyProperty('z', 'float'),PlyProperty('nx', 'float'),PlyProperty('ny', 'float'),PlyProperty('nz', 'float'),PlyProperty('f_dc_0', 'float'),PlyProperty('f_dc_1', 'float'),PlyProperty('f_dc_2', 'float'),PlyProperty('f_rest_0', 'float'),PlyProperty('f_rest_1', 'float'),PlyProperty('f_rest_2', 'float'),PlyProperty('f_rest_3', 'float'),PlyProperty('f_rest_4', 'float'),PlyProperty('f_rest_5', 'float'),PlyProperty('f_rest_6', 'float'),PlyProperty('f_rest_7', 'float'),PlyProperty('f_rest_8', 'float'),PlyProperty('f_rest_9', 'float'),PlyProperty('f_rest_10', 'float'),PlyProperty('f_rest_11', 'float'),PlyProperty('f_rest_12', 'float'),PlyProperty('f_rest_13', 'float'),PlyProperty('f_rest_14', 'float'),PlyProperty('f_rest_15', 'float'),PlyProperty('f_rest_16', 'float'),PlyProperty('f_rest_17', 'float'),PlyProperty('f_rest_18', 'float'),PlyProperty('f_rest_19', 'float'),PlyProperty('f_rest_20', 'float'),PlyProperty('f_rest_21', 'float'),PlyProperty('f_rest_22', 'float'),PlyProperty('f_rest_23', 'float'),PlyProperty('f_rest_24', 'float'),PlyProperty('f_rest_25', 'float'),PlyProperty('f_rest_26', 'float'),PlyProperty('f_rest_27', 'float'),PlyProperty('f_rest_28', 'float'),PlyProperty('f_rest_29', 'float'),PlyProperty('f_rest_30', 'float'),PlyProperty('f_rest_31', 'float'),PlyProperty('f_rest_32', 'float'),PlyProperty('f_rest_33', 'float'),PlyProperty('f_rest_34', 'float'),PlyProperty('f_rest_35', 'float'),PlyProperty('f_rest_36', 'float'),PlyProperty('f_rest_37', 'float'),PlyProperty('f_rest_38', 'float'),PlyProperty('f_rest_39', 'float'),PlyProperty('f_rest_40', 'float'),PlyProperty('f_rest_41', 'float'),PlyProperty('f_rest_42', 'float'),PlyProperty('f_rest_43', 'float'),PlyProperty('f_rest_44', 'float'),PlyProperty('opacity', 'float'),PlyProperty('scale_0', 'float'),PlyProperty('scale_1', 'float'),PlyProperty('scale_2', 'float'),PlyProperty('rot_0', 'float'),PlyProperty('rot_1', 'float'),PlyProperty('rot_2', 'float'),PlyProperty('rot_3', 'float')))

其中每一项数据的大小应该都是(N,)。我们看到xyz,四个rot,三个scale,以及RGB三个通道的球谐参数:f_dc_x为直流分量,f_rest_xx为其他高阶分量。关于球谐的参数共有48个,每个通道16个,据此得知球谐的最高度数为3。nxnynz打印出来都是全0,我也不知道是干什么的。

这样就不难理解下面的construct_list_of_attributes函数:

    def construct_list_of_attributes(self): # 构建ply文件的键列表l = ['x', 'y', 'z', 'nx', 'ny', 'nz']# All channels except the 3 DCfor i in range(self._features_dc.shape[1]*self._features_dc.shape[2]):l.append('f_dc_{}'.format(i))'''注意self._features_dc: (N, 3, 1)'''for i in range(self._features_rest.shape[1]*self._features_rest.shape[2]):l.append('f_rest_{}'.format(i))'''self._features_rest: (N, 3, (最大球谐阶数 + 1)² - 1)'''l.append('opacity')for i in range(self._scaling.shape[1]): # shape[1]: 3l.append('scale_{}'.format(i))for i in range(self._rotation.shape[1]): # shape[1]: 4l.append('rot_{}'.format(i))return l

以及save_ply函数:

    def save_ply(self, path):mkdir_p(os.path.dirname(path))xyz = self._xyz.detach().cpu().numpy()normals = np.zeros_like(xyz) # nx, ny, nz;全是0,不知何用f_dc = self._features_dc.detach().transpose(1, 2).flatten(start_dim=1).contiguous().cpu().numpy()f_rest = self._features_rest.detach().transpose(1, 2).flatten(start_dim=1).contiguous().cpu().numpy()opacities = self._opacity.detach().cpu().numpy()scale = self._scaling.detach().cpu().numpy()rotation = self._rotation.detach().cpu().numpy()dtype_full = [(attribute, 'f4') for attribute in self.construct_list_of_attributes()]elements = np.empty(xyz.shape[0], dtype=dtype_full)attributes = np.concatenate((xyz, normals, f_dc, f_rest, opacities, scale, rotation), axis=1) # 所有要保存的值合并成一个大数组elements[:] = list(map(tuple, attributes))el = PlyElement.describe(elements, 'vertex')PlyData([el]).write(path)

load_ply函数的作用也就是读取ply文件并把数据转换成torch.nn.Parameter等待优化:

    def load_ply(self, path):plydata = PlyData.read(path)xyz = np.stack((np.asarray(plydata.elements[0]["x"]),np.asarray(plydata.elements[0]["y"]),np.asarray(plydata.elements[0]["z"])),  axis=1)opacities = np.asarray(plydata.elements[0]["opacity"])[..., np.newaxis]features_dc = np.zeros((xyz.shape[0], 3, 1))features_dc[:, 0, 0] = np.asarray(plydata.elements[0]["f_dc_0"])features_dc[:, 1, 0] = np.asarray(plydata.elements[0]["f_dc_1"])features_dc[:, 2, 0] = np.asarray(plydata.elements[0]["f_dc_2"])extra_f_names = [p.name for p in plydata.elements[0].properties if p.name.startswith("f_rest_")]extra_f_names = sorted(extra_f_names, key = lambda x: int(x.split('_')[-1]))assert len(extra_f_names)==3*(self.max_sh_degree + 1) ** 2 - 3features_extra = np.zeros((xyz.shape[0], len(extra_f_names)))for idx, attr_name in enumerate(extra_f_names):features_extra[:, idx] = np.asarray(plydata.elements[0][attr_name])# Reshape (P,F*SH_coeffs) to (P, F, SH_coeffs except DC)features_extra = features_extra.reshape((features_extra.shape[0], 3, (self.max_sh_degree + 1) ** 2 - 1))scale_names = [p.name for p in plydata.elements[0].properties if p.name.startswith("scale_")]scale_names = sorted(scale_names, key = lambda x: int(x.split('_')[-1]))scales = np.zeros((xyz.shape[0], len(scale_names)))for idx, attr_name in enumerate(scale_names):scales[:, idx] = np.asarray(plydata.elements[0][attr_name])rot_names = [p.name for p in plydata.elements[0].properties if p.name.startswith("rot")]rot_names = sorted(rot_names, key = lambda x: int(x.split('_')[-1]))rots = np.zeros((xyz.shape[0], len(rot_names)))for idx, attr_name in enumerate(rot_names):rots[:, idx] = np.asarray(plydata.elements[0][attr_name])self._xyz = nn.Parameter(torch.tensor(xyz, dtype=torch.float, device="cuda").requires_grad_(True))self._features_dc = nn.Parameter(torch.tensor(features_dc, dtype=torch.float, device="cuda").transpose(1, 2).contiguous().requires_grad_(True))self._features_rest = nn.Parameter(torch.tensor(features_extra, dtype=torch.float, device="cuda").transpose(1, 2).contiguous().requires_grad_(True))self._opacity = nn.Parameter(torch.tensor(opacities, dtype=torch.float, device="cuda").requires_grad_(True))self._scaling = nn.Parameter(torch.tensor(scales, dtype=torch.float, device="cuda").requires_grad_(True))self._rotation = nn.Parameter(torch.tensor(rots, dtype=torch.float, device="cuda").requires_grad_(True))self.active_sh_degree = self.max_sh_degree

5. 优化器和学习率相关

    def training_setup(self, training_args): # 初始化训练工作self.percent_dense = training_args.percent_dense # 控制Gaussian的密度,在`densify_and_clone`中被使用self.xyz_gradient_accum = torch.zeros((self.get_xyz.shape[0], 1), device="cuda") # 坐标的累积梯度self.denom = torch.zeros((self.get_xyz.shape[0], 1), device="cuda") # 意义不明l = [ # 设置分别对应于各个参数的学习率{'params': [self._xyz], 'lr': training_args.position_lr_init * self.spatial_lr_scale, "name": "xyz"},{'params': [self._features_dc], 'lr': training_args.feature_lr, "name": "f_dc"},{'params': [self._features_rest], 'lr': training_args.feature_lr / 20.0, "name": "f_rest"},{'params': [self._opacity], 'lr': training_args.opacity_lr, "name": "opacity"},{'params': [self._scaling], 'lr': training_args.scaling_lr, "name": "scaling"},{'params': [self._rotation], 'lr': training_args.rotation_lr, "name": "rotation"}]self.optimizer = torch.optim.Adam(l, lr=0.0, eps=1e-15)self.xyz_scheduler_args = get_expon_lr_func(lr_init=training_args.position_lr_init*self.spatial_lr_scale,lr_final=training_args.position_lr_final*self.spatial_lr_scale,lr_delay_mult=training_args.position_lr_delay_mult,max_steps=training_args.position_lr_max_steps)# 坐标的学习率规划函数def update_learning_rate(self, iteration): # 更新Gaussian坐标的学习率''' Learning rate scheduling per step '''for param_group in self.optimizer.param_groups:if param_group["name"] == "xyz":lr = self.xyz_scheduler_args(iteration)param_group['lr'] = lrreturn lrdef replace_tensor_to_optimizer(self, tensor, name):# 看样子是把优化器保存的某个名为`name`的参数的值强行替换为`tensor`# 这里面需要注意的是修改Adam优化器的状态变量:动量(momentum)和平方动量(second-order momentum)optimizable_tensors = {}for group in self.optimizer.param_groups:if group["name"] == name:stored_state = self.optimizer.state.get(group['params'][0], None)stored_state["exp_avg"] = torch.zeros_like(tensor) # 把动量清零stored_state["exp_avg_sq"] = torch.zeros_like(tensor) # 把平方动量清零del self.optimizer.state[group['params'][0]]group["params"][0] = nn.Parameter(tensor.requires_grad_(True))self.optimizer.state[group['params'][0]] = stored_stateoptimizable_tensors[group["name"]] = group["params"][0]return optimizable_tensorsdef _prune_optimizer(self, mask):# 根据`mask`裁剪一部分参数及其动量和二阶动量optimizable_tensors = {}for group in self.optimizer.param_groups:stored_state = self.optimizer.state.get(group['params'][0], None)if stored_state is not None:stored_state["exp_avg"] = stored_state["exp_avg"][mask]stored_state["exp_avg_sq"] = stored_state["exp_avg_sq"][mask]del self.optimizer.state[group['params'][0]]group["params"][0] = nn.Parameter((group["params"][0][mask].requires_grad_(True)))self.optimizer.state[group['params'][0]] = stored_stateoptimizable_tensors[group["name"]] = group["params"][0]else:group["params"][0] = nn.Parameter(group["params"][0][mask].requires_grad_(True))optimizable_tensors[group["name"]] = group["params"][0]return optimizable_tensorsdef cat_tensors_to_optimizer(self, tensors_dict):# 把新的张量字典添加到优化器optimizable_tensors = {}for group in self.optimizer.param_groups:assert len(group["params"]) == 1extension_tensor = tensors_dict[group["name"]]stored_state = self.optimizer.state.get(group['params'][0], None)if stored_state is not None:stored_state["exp_avg"] = torch.cat((stored_state["exp_avg"], torch.zeros_like(extension_tensor)), dim=0)stored_state["exp_avg_sq"] = torch.cat((stored_state["exp_avg_sq"], torch.zeros_like(extension_tensor)), dim=0)del self.optimizer.state[group['params'][0]]group["params"][0] = nn.Parameter(torch.cat((group["params"][0], extension_tensor), dim=0).requires_grad_(True))self.optimizer.state[group['params'][0]] = stored_stateoptimizable_tensors[group["name"]] = group["params"][0]else:group["params"][0] = nn.Parameter(torch.cat((group["params"][0], extension_tensor), dim=0).requires_grad_(True))optimizable_tensors[group["name"]] = group["params"][0]return optimizable_tensors

6. 重置不透明度:def reset_opacity(self)

    def reset_opacity(self):opacities_new = inverse_sigmoid(torch.min(self.get_opacity, torch.ones_like(self.get_opacity)*0.01))# get_opacity返回了经过exp的不透明度,是真的不透明度# 这句话让所有不透明度都不能超过0.01optimizable_tensors = self.replace_tensor_to_optimizer(opacities_new, "opacity") # 更新优化器中的不透明度self._opacity = optimizable_tensors["opacity"]

7. Gaussian的删除和新增

    def prune_points(self, mask): # 删除Gaussian并移除对应的所有属性valid_points_mask = ~maskoptimizable_tensors = self._prune_optimizer(valid_points_mask)# 重置各个参数self._xyz = optimizable_tensors["xyz"]self._features_dc = optimizable_tensors["f_dc"]self._features_rest = optimizable_tensors["f_rest"]self._opacity = optimizable_tensors["opacity"]self._scaling = optimizable_tensors["scaling"]self._rotation = optimizable_tensors["rotation"]self.xyz_gradient_accum = self.xyz_gradient_accum[valid_points_mask]self.denom = self.denom[valid_points_mask]self.max_radii2D = self.max_radii2D[valid_points_mask]def densification_postfix(self, new_xyz, new_features_dc, new_features_rest, new_opacities, new_scaling, new_rotation):# 新增Gaussian,把新属性添加到优化器中d = {"xyz": new_xyz,"f_dc": new_features_dc,"f_rest": new_features_rest,"opacity": new_opacities,"scaling" : new_scaling,"rotation" : new_rotation}optimizable_tensors = self.cat_tensors_to_optimizer(d)self._xyz = optimizable_tensors["xyz"]self._features_dc = optimizable_tensors["f_dc"]self._features_rest = optimizable_tensors["f_rest"]self._opacity = optimizable_tensors["opacity"]self._scaling = optimizable_tensors["scaling"]self._rotation = optimizable_tensors["rotation"]self.xyz_gradient_accum = torch.zeros((self.get_xyz.shape[0], 1), device="cuda")self.denom = torch.zeros((self.get_xyz.shape[0], 1), device="cuda")self.max_radii2D = torch.zeros((self.get_xyz.shape[0]), device="cuda")def densify_and_split(self, grads, grad_threshold, scene_extent, N=2):n_init_points = self.get_xyz.shape[0]# Extract points that satisfy the gradient conditionpadded_grad = torch.zeros((n_init_points), device="cuda")padded_grad[:grads.shape[0]] = grads.squeeze()selected_pts_mask = torch.where(padded_grad >= grad_threshold, True, False)selected_pts_mask = torch.logical_and(selected_pts_mask,torch.max(self.get_scaling, dim=1).values > self.percent_dense*scene_extent)'''被分裂的Gaussians满足两个条件:1. (平均)梯度过大;2. 在某个方向的最大缩放大于一个阈值。参照论文5.2节“On the other hand...”一段,大Gaussian被分裂成两个小Gaussians,其放缩被除以φ=1.6,且位置是以原先的大Gaussian作为概率密度函数进行采样的。'''stds = self.get_scaling[selected_pts_mask].repeat(N,1)means = torch.zeros((stds.size(0), 3),device="cuda")samples = torch.normal(mean=means, std=stds)rots = build_rotation(self._rotation[selected_pts_mask]).repeat(N,1,1)new_xyz = torch.bmm(rots, samples.unsqueeze(-1)).squeeze(-1) + self.get_xyz[selected_pts_mask].repeat(N, 1)# 算出随机采样出来的新坐标# bmm: batch matrix-matrix productnew_scaling = self.scaling_inverse_activation(self.get_scaling[selected_pts_mask].repeat(N,1) / (0.8*N))new_rotation = self._rotation[selected_pts_mask].repeat(N,1)new_features_dc = self._features_dc[selected_pts_mask].repeat(N,1,1)new_features_rest = self._features_rest[selected_pts_mask].repeat(N,1,1)new_opacity = self._opacity[selected_pts_mask].repeat(N,1)self.densification_postfix(new_xyz, new_features_dc, new_features_rest, new_opacity, new_scaling, new_rotation)prune_filter = torch.cat((selected_pts_mask, torch.zeros(N * selected_pts_mask.sum(), device="cuda", dtype=bool)))self.prune_points(prune_filter)def densify_and_clone(self, grads, grad_threshold, scene_extent):# Extract points that satisfy the gradient conditionselected_pts_mask = torch.where(torch.norm(grads, dim=-1) >= grad_threshold, True, False)selected_pts_mask = torch.logical_and(selected_pts_mask,torch.max(self.get_scaling, dim=1).values <= self.percent_dense*scene_extent)# 提取出大于阈值`grad_threshold`且缩放参数较小(小于self.percent_dense * scene_extent)的Gaussians,在下面进行克隆new_xyz = self._xyz[selected_pts_mask]new_features_dc = self._features_dc[selected_pts_mask]new_features_rest = self._features_rest[selected_pts_mask]new_opacities = self._opacity[selected_pts_mask]new_scaling = self._scaling[selected_pts_mask]new_rotation = self._rotation[selected_pts_mask]self.densification_postfix(new_xyz, new_features_dc, new_features_rest, new_opacities, new_scaling, new_rotation)def densify_and_prune(self, max_grad, min_opacity, extent, max_screen_size):grads = self.xyz_gradient_accum / self.denom # 计算平均梯度grads[grads.isnan()] = 0.0self.densify_and_clone(grads, max_grad, extent) # 通过克隆增加密度self.densify_and_split(grads, max_grad, extent) # 通过分裂增加密度# 接下来移除一些Gaussians,它们满足下列要求中的一个:# 1. 接近透明(不透明度小于min_opacity)# 2. 在某个相机视野里出现过的最大2D半径大于屏幕(像平面)大小# 3. 在某个方向的最大缩放大于0.1 * extent(也就是说很长的长条形也是会被移除的)prune_mask = (self.get_opacity < min_opacity).squeeze()if max_screen_size:big_points_vs = self.max_radii2D > max_screen_size # vs = view space?big_points_ws = self.get_scaling.max(dim=1).values > 0.1 * extentprune_mask = torch.logical_or(torch.logical_or(prune_mask, big_points_vs), big_points_ws) # ws = world space?self.prune_points(prune_mask)torch.cuda.empty_cache()def add_densification_stats(self, viewspace_point_tensor, update_filter):# 统计坐标的累积梯度和均值的分母(即迭代步数?)self.xyz_gradient_accum[update_filter] += torch.norm(viewspace_point_tensor.grad[update_filter,:2], dim=-1, keepdim=True)self.denom[update_filter] += 1

下一部分:【计算机视觉】Gaussian Splatting源码解读补充(二)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/283298.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

物联网数据报表分析

随着物联网技术的迅猛发展&#xff0c;越来越多的企业开始将物联网解决方案应用于各个领域&#xff0c;从提高生产效率到优化用户体验&#xff0c;物联网都发挥着至关重要的作用。然而&#xff0c;如何有效地分析和管理物联网产生的海量数据&#xff0c;成为企业面临的挑战之一…

Linux centos7安装nginx-1.24.0并且实现自启动

1.安装之前的操作 ps -ef|grep nginx 查看是否有运行 如果有就杀掉 kill -9 pid find / -name nginx 查看nginx文件 rm -rf file /usr/local/nginx* 通通删掉删掉 yum remove nginx 限载一下服务 1.2.下载安装包 地址 nginx: download 2.减压文件 tar…

学习笔记Day14:Linux下软件安装

软件安装 Anaconda 所有语言的包(package)、依赖(dependency)和环境(environment)管理器&#xff0c;类似应用商店 Conda < Miniconda < Anaconda&#xff08;有交互界面&#xff09; Linux下Miniconda即可 安装Miniconda 搜索北外/清华miniconda镜像网站&#xff…

【09】进阶JavaScript事件循环Promise

一、事件循环 浏览器的进程模型 何为进程? 程序运行需要有它自己专属的内存空间,可以把这块内存空间简单的理解为进程 每个应用至少有一个进程,进程之间相互独立,即使要通信,也需要双方同意。 何为线程? 有了进程后,就可以运行程序的代码了。 运行代码的「人」称之…

Linux信号处理

Linux信号处理 什么是linux信号 本质是一种通知机制&#xff0c;用户 or 操作系统通过发送一定的信号&#xff0c;通知进程&#xff0c;某些事情已经发生&#xff0c;你可以在后续进行处理。 信号产生是随机的&#xff0c;进程可能正在忙自己的事情&#xff0c;所以&#xf…

目标检测——PP-YOLOE-R算法解读

PP-YOLO系列&#xff0c;均是基于百度自研PaddlePaddle深度学习框架发布的算法&#xff0c;2020年基于YOLOv3改进发布PP-YOLO&#xff0c;2021年发布PP-YOLOv2和移动端检测算法PP-PicoDet&#xff0c;2022年发布PP-YOLOE和PP-YOLOE-R。由于均是一个系列&#xff0c;所以放一起解…

二、阅读器的开发(初始)-- 2、阅读器开发

1、epubjs核心工作原理 1.1 epubjs的核心工作原理解析 epub电子书&#xff0c;会通过epubjs去实例化一个Book对象&#xff0c;Book对象会对电子书进行解析。Book对象可以通过renderTo方法去生成一个Rendition对象&#xff0c;Rendition主要负责电子书的渲染&#xff0c;通过R…

java网络原理(三)----三次握手四次挥手

三次握手 三次握手是建立连接的过程&#xff0c;四次挥手是断开连接的过程&#xff0c;三次握手发生在socket.accept()之前。 客户端和服务器尝试建立连接的时候服务器就会和客户端进行一系列的数据交换称为握手&#xff0c;这个过程建立完了后&#xff0c;连接就好了。 A和B…

python的BBS论坛系统flask-django-nodejs-php

为了更好地发挥本系统的技术优势&#xff0c;根据BBS论坛系统的需求&#xff0c;本文尝试以B/S架构设计模式中的django/flask框架&#xff0c;python语言为基础&#xff0c;通过必要的编码处理、BBS论坛系统整体框架、功能服务多样化和有效性的高级经验和技术实现方法&#xff…

数据挖掘与分析学习笔记

一、Numpy NumPy&#xff08;Numerical Python&#xff09;是一种开源的Python库&#xff0c;专注于数值计算和处理多维数组。它是Python数据科学和机器学习生态系统的基础工具包之一&#xff0c;因为它高效地实现了向量化计算&#xff0c;并提供了对大型多维数组和矩阵的支持…

2024年企业级通用人工智能的关键技术趋势

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗&#xff1f;订阅我们的简报&#xff0c;深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同&#xff0c;从行业内部的深度分析和实用指南中受益。不要错过这个机会&#xff0c;成为AI领…

爬虫(七)

1.批量爬取知网数据 lxml:是 Python 的一个功能强大且易用的 XML 和 HTML 处理库。它提供了简单又轻巧的 API,使得解析、构建和操作 XML 和 HTML 文档变得非常方便。lxml 库通常用于处理 XML 和 HTML 文档,例如解析网页、处理配置文件等。openpyxl:是 Python 中用于操作 Ex…

二、Kubernetes(k8s)中部署项目wordpress(php博客项目,数据库mysql)

前期准备 1、关机顺序 2、开机顺序 (1)、k8s-ha1、k8s-ha2 (2)、master01、master02、master03 (3)、node01、node02 一、集群服务对外提供访问&#xff0c;需要通过Ingress代理发布域名 mast01上传 ingress-nginx.yaml node01、node02 上传 ingress-nginx.tar 、kube-webh…

五、C#归并排序算法

简介 归并排序是一种常见的排序算法&#xff0c;它采用分治法的思想&#xff0c;在排序过程中不断将待排序序列分割成更小的子序列&#xff0c;直到每个子序列中只剩下一个元素&#xff0c;然后将这些子序列两两合并排序&#xff0c;最终得到一个有序的序列。 归并排序实现原…

Android Studio实现内容丰富的安卓校园二手交易平台(带聊天功能)

获取源码请点击文章末尾QQ名片联系&#xff0c;源码不免费&#xff0c;尊重创作&#xff0c;尊重劳动 项目编号083 1.开发环境android stuido jdk1.8 eclipse mysql tomcat 2.功能介绍 安卓端&#xff1a; 1.注册登录 2.查看二手商品列表 3.发布二手商品 4.商品详情 5.聊天功能…

【超全详解】Maven工程配置与常见问题解决指南

Maven工程 目录 Maven工程一、如何检查Maven工程是否配置正确&#xff1f;1、检查路径2、检查基本配置3、其他配置 二、Maven的基本操作基本操作install和package的区别 三、获取别人的Maven工程之后如何修改&#xff1f;四、如何正确写好配置文件&#xff1f;1.寻找配置资源2.…

第六十一回 放冷箭燕青救主 劫法场石秀跳楼-编译安装飞桨paddlepaddle@openKylin+RISCV

卢俊义在水里被张顺抓住&#xff0c;用轿子抬到了梁山。宋江等人下马跪在地上迎接&#xff0c;请他坐第一把交椅。卢俊义宁死不从&#xff0c;大家只好说留他在山寨几天&#xff0c;先让李固带着马车货物回去。吴用对李固说&#xff0c;你的主人已经答应坐第二把交椅了&#xf…

基于python+vue分类信息服务平台移动端的设计与实现flask-django-php-nodejs

分类信息服务平台是在Android操作系统下的应用平台。为防止出现兼容性及稳定性问题&#xff0c;框架选择的是django&#xff0c;Android与后台服务端之间的数据存储主要通过MySQL。用户在使用应用时产生的数据通过 python等语言传递给数据库。通过此方式促进分类信息服务平台信…

51单片机中断信号的种类及应用场景

在嵌入式系统中&#xff0c;中断是一种重要的事件处理机制&#xff0c;它可以在程序执行的任何时候暂停当前任务&#xff0c;转而执行与之相关的特殊任务或事件。51单片机作为一种常见的微控制器&#xff0c;其中断功能在各种应用中起着关键作用。然而&#xff0c;对于初学者和…

【理解机器学习算法】之分类问题的模型评估(ROC-AUC)

ROC曲线&#xff08;接收者操作特性曲线&#xff09;和AUC&#xff08;曲线下面积&#xff09;是在不同阈值设置下&#xff0c;用于分类问题的性能度量工具。下面是它们所代表的含义以及使用方法&#xff1a; ROC曲线 代表含义&#xff1a;ROC曲线是一个图形化的表示&#xf…