篇目 43 · 单篇论文精读

没有位姿、曝光还在逐帧交替:把相机运动吸收进高斯,再用 2D 不变性把尺度搬回世界空间

Mono4DGS-HDR · 手持、单目、每帧曝光都不一样,相机位姿还未知,光度重投影这条优化位姿的常规路直接断了。这篇先在正交相机坐标系里把视频点亮、把位姿绕开,再靠「投影出的 2D 高斯变换前后长得一样」这条不变性把尺度搬回世界空间。合成集测试帧 HDR PSNR 37.64、推理 161 fps

Jinfeng Liu、Lingtong Kong、Dan Xu 等 香港科技大学 / vivo 移动通信 arXiv:2510.18489v2 · ICLR 2026 2026 年 · arXiv 非独占分发(非 CC)
14 章一级章节(按拆解点切)
11 式原文 (1)–(11) 重排
15 张配图(原文 15 / 自绘 0)
8 条边界与反例(独立成节)

图-段配对表 · 本稿 9 张

图角色档归属支撑的论断层次状态
图 1-1E§1输入长什么样、被扩展到 HDR 模式的三家基线长什么样、本文两阶段各长什么样①②③原文 Fig. 1, p.1 · 原样引用
图 3-1E§3框架总览:先验预计算 + 两阶段高斯优化(含四种监督与两处正则)①②③原文 Fig. 2, p.2 · 原样引用
图 5-1E§5视频→世界变换的四步流程,以及去掉遮挡处理、去掉 2D 协方差不变性之后的两种坏结果①②④原文 Fig. 3, p.3 · 原样引用
图 7-1E§7时间亮度正则要解决的问题:不带 TLR 与带 TLR 的 HDR 外观对照①②③原文 Fig. 4, p.5 · 原样引用
图 8-1E§8核心损失曲线:几处突增来自不透明度重置,TLR 损失出现在训练后期①②④原文 Fig. 11, p.18 · 原样引用
图 10-1E§10训练/测试帧上的 HDR 定性对比(含 Ours (full region) 一列)①②③原文 Fig. 5, p.7 · 原样引用
图 11-1E§11不同曝光扰动范围下恢复出的 CRF:扰动越大拟合越差①②④原文 Fig. 13, p.20 · 原样引用
图 11-2E§11五组消融的视觉证据(对应表 11-1 的 (a)–(e))①②③原文 Fig. 6, p.8 · 原样引用
图 12-1E§12补充:更多训练/测试帧的 HDR 定性对比②④原文 Fig. 8, p.14 · 原样引用
图 12-2E§12补充:固定视角、变化时间下的 HDR 定性对比②④原文 Fig. 9, p.16 · 原样引用
图 12-3E§12补充:固定时间、变化视角下的 HDR 定性对比②④原文 Fig. 10, p.17 · 原样引用
图 12-4E§12补充:大幅视角变化下四个场景的渲染结果②④原文 Fig. 12, p.19 · 原样引用
图 12-5E§12顺带得到的 2D 与 3D 跟踪:把动态高斯轨迹投到像平面 / 留在世界空间①②③原文 Fig. 7, p.9 · 原样引用
图 12-6E§12数据集里的挑战场景:(a)(b) 低光、(c)(d) 透明、(e)(f) 反射、(g) 快速运动、(h) 复杂运动②④原文 Fig. 14, p.22 · 原样引用
图 12-7E§12三类典型失败:(a) 光流失准导致动静分离出错、(b) 运动模糊、(c) 非刚体形变②④原文 Fig. 15, p.22 · 原样引用
角色档:本篇 15 张全部登记为 E 类(证据图)——它们承载可核对的读数(对照读数标在页内、或作为某条论断的唯一证据),按 20 号票的裁决 E 类禁止自绘,故一律引用原图。自绘 0 张,S 类配额未动用。
取图口径:15 张按实测包围盒从 PDF 裁取、3.0× 栅格化(约 216 dpi,与交付宽 1200 约为 1:1),未裁切拼接、未加标注、未施滤镜。裁切后逐张做过像素级边沿检查:最外 1px 行/列墨迹占比 0.0%(即没有内容被切在边界上)。
表:8 张数据表不以截图呈现,而是按原文文字层逐格取值后以 HTML 重排(原文表体在文字层里就是文本,可逐格核对);数值未改位数,原始裁图留作核对凭据。另有 2 张参数释义表(式 5-1 的符号、九项权重与全部超参)由本站整理。
许可:原文预印本 arXiv:2510.18489v2 的 arXiv 摘要页标注的是 arXiv 非独占分发许可(licenses/nonexclusive-distrib/1.0,非 CC);PDF 内没有任何许可声明(逐页检索 Copyright / Creative Commons / CC BY / License / All rights reserved 等词,只命中参考文献里的 arXiv 号)。该许可只允许 arXiv 自身分发,因此本站不提供站内 PDF 托管,按分区既有做法逐件登记、逐图署名引用,存在许可残留风险(与篇目 02/03/09–11/13/15/16/18/44 同类)。所有图均原样引用、未修改,逐图署名(图号 + 原文 Figure 号 + 页码 + 未修改声明)。
原文摘要 Abstract, p.0(英文原样引用)

"We introduce Mono4DGS-HDR, the first system for reconstructing renderable 4D high dynamic range (HDR) scenes from unposed monocular low dynamic range (LDR) videos captured with alternating exposures. To tackle such a challenging problem, we present a unified framework with two-stage optimization approach based on Gaussian Splatting. The first stage learns a video HDR Gaussian representation in orthographic camera coordinate space, eliminating the need for camera poses and enabling robust initial HDR video reconstruction. The second stage transforms video Gaussians into world space and jointly refines the world Gaussians with camera poses. Furthermore, we propose a temporal luminance regularization strategy to enhance the temporal consistency of the HDR appearance. Since our task has not been studied before, we construct a new evaluation benchmark using publicly available datasets for HDR video reconstruction. Extensive experiments demonstrate that Mono4DGS-HDR significantly outperforms alternative solutions adapted from state-of-the-art methods in both rendering quality and speed. The project page for this paper is available at https://liujf1226.github.io/Mono4DGS-HDR."

这一篇要讲清的九件事
  • 任务本身是新的:输入是未摆位的单目交替曝光 LDR 视频,两曝光情形下奇数帧用短曝光、偶数帧用长曝光,三曝光可同样扩展;输出是可渲染的 4D HDR 场景加相机参数(原文 §3 开头)。已有的 HDR-HexPlane 碰过动态 HDR,但只在合成场景、已知位姿、多相机的设置上验过(原文 §1、§2)。
  • 三个坑都来自"曝光在交替":2D 先验噪声大又不完整导致初始化粗糙;逐帧亮度变化让光度重投影误差没法用来优化相机位姿;缺直接 HDR 监督导致恢复出的 HDR 外观在时间上不一致、带颜色伪影(原文 §1)。
  • 第一阶段换坐标系来省掉位姿:在正交相机坐标系里学全动态视频 HDR 高斯,把 3DGS 的投影雅可比 J 换成 J_ortho;相机运动和物体运动被统一当成高斯的运动,相机参数被彻底绕开(原文 §3.3.1)。代价是这套表示落在伪 3D 空间,原文原话是它代表不了世界里的真实 3D 几何。
  • 第二阶段最吃工的一步是"尺度":位置用 µʷ_t = R̂_t π⁻¹_K̂(µᵛ_t) + T̂_t、旋转用 Rʷ_t = R̂_t Rᵛ_t 直接搬,不透明度与颜色直接继承;缩放必须按"投影出的 2D 高斯在变换前后形状尺寸一致"这条不变性重新解(式 6-1),用梯度下降解,1000 步以内、1 分钟以内收敛(原文 §3.3.2)。
  • 判动静要带遮挡:对每条视频高斯轨迹统计它落进动态掩膜的出现次数 Nd,同时用一个指示量把「它当时被挡住了」的那些时刻剔除(式 5-1);Nd / Nf 超过阈值 0.1 判为动态。不排除遮挡,静态内容会被误判成动态(原文 §3.3.2、§4.3)。
  • 时间亮度正则管的是"时间"不是"单帧":监督在曝光正常的时刻有效、在过曝欠曝的时刻很弱,动态高斯会在物体表面上方飘;用光流把相邻帧的 HDR 渲染 warp 过来对齐逐像素亮度(式 7-1),用分母归一化消掉辐照度尺度的影响,warp 用的是渲染出的光流图并停掉梯度,而且只在稠密化结束后启用(原文 §3.3.3)。账面上去掉它 PSNR 只差 0.02 dB,HDR-TAE 却从 0.067 退化到 0.082。
  • 训练目标有九项:L = λ_rgb L_rgb + λ_ue L_ue + λ_dep L_dep + λ_track L_track + λ_arap L_arap + λ_vel L_vel + λ_acc L_acc + λ_tlr L_tlr + λ_pr L_pr,权重分别是 1 / 10 / 1 / 0.01 / 0.01 / 10 / 10 / 0.1 / 1(原文 §3.3.3、A.2.3)。
  • 基准是从公开数据集拼出来的 25 个场景:Syn-Exp-3(9 个合成场景、3 个曝光档、有 HDR 真值)、Real-Exp-3(8 个真实场景、3 个曝光档)、Real-Exp-2(8 个真实场景、2 个曝光档);合成集的 LDR 输入是用 HDR-NeRF 那套 CRF 从 HDR 反生成的(原文 §4.1、A.2.1)。另造了一个指标 HDR-TAE 量时间稳定性,HDR 的定量评测在 µ-law 域里做(原文 §4.1、A.2.2)。
  • 三处实读发现:被采用的 Ns=4 在表 11-2 的四个指标列上都低于 Ns=1,两个 HDR-TAE 列上两者持平,作者给的理由是性能与显存的折中;完整模型那一行读数在六张表里逐格一致;GFlow-HDR 的合成集 LDR-OE 30.08 与 HDR 18.70 落差 11.38 dB,而本文是 LDR-OE 35.18 到 HDR 37.97 的反向。

1这个任务难在哪:三个坑都来自「曝光在交替」

篇首块把这篇的产物压成了几句话,这里把它拆开。入口是一段手持拍摄的、没有位姿的单目视频,出口是一个可渲染的 4D HDR 场景,而这段视频里每一帧的曝光时间都不一样。原文在方法章开篇就把输入写成一组交替曝光(alternating exposure)的 LDR 帧 {L₁, L₂, …};考虑 2 曝光的情形,{L₁, L₃, …} 由短曝光时间 Δtₛ 拍到,{L₂, L₄, …} 由长曝光时间 Δtₗ 拍到,原文还补了一条口径:其他曝光模式(例如 3 曝光)可以照此扩展(原文 §3 开头)。同一段里也写定了要交出的东西:借助高斯泼溅(Gaussian Splatting),在相机参数未知的条件下把这段视频还原成可渲染的 4D HDR 场景。输入是未摆位(unposed)这一条很要紧,它意味着相机内外参、相机运动轨迹,全都要在重建过程里一并解出来。

把两边的现有工作摆到一起,空出来的位置就显出来了。高动态范围新视角合成(HDR NVS)这一线盯住的是动态范围:从不同曝光、多个视角的 LDR 图像里重建并渲染 HDR 场景,近年借 NeRF 与 3DGS 已经能做出真实的重建与实时渲染,可这些方法大多是为静态场景设计的(Huang et al., 2022;Cai et al., 2024;Liu et al., 2025a)。HDR-HexPlane(Wu et al., 2024a)是第一个把动态场景的 HDR NVS 拿出来做的,原文在相关工作里把差别写得很直接:它需要已知的相机位姿,验证只在多相机的设置上完成(原文 §2)。另一边的动态重建与未摆位单目 4D 重建盯住的是运动,MoSca(Lei et al., 2025)、SplineGS(Park et al., 2025)、GFlow(Wang et al., 2025b)都拿跟踪、深度、光流这三类 2D 先验给场景做初始化与约束,可它们面向的是亮度不变的标准视频,遇到交替曝光就吃力(原文 §2)。一条线管住了动态范围、把场景当成不动的;另一条线管住了运动、默认亮度不变。把两边拼起来,留下的是这篇要填的空位。

拼起来之后冒出的三处难点,原文按出现顺序列在引言里。先是一条反直觉的观察:作者说他们「意外地发现」,在交替曝光的视频上这些 2D 先验(跟踪、深度、光流)仍然可以被有效提取,证据指向补充视频(原文 §1)。难题出在先验的质量上,它依旧噪声大、不完整,拿它做场景初始化就粗、就不准。更硬的一处是输入帧的亮度在变,于是像 Park et al. (2025) 那样用光度重投影误差(photometric reprojection error)去优化相机位姿这条路走不通,而不牢靠的相机运动又会进一步动摇动态内容的恢复与几何,重建质量随之变差。叠加在上面的是缺少直接的 HDR 监督,恢复出的 HDR 外观可能在时间上不一致,还带颜色伪影(原文 §1)。三处难点指向同一个源头,也就是曝光在交替这件事本身。

Mono4DGS-HDR 的系统总览,以及 Skateboarder 上的 HDR 视觉对照
图 1-1 E 类·证据 · 原文 Figure 1, p.1 · 原样引用 怎么读 ①指认:图分 (a)(b) 两半,(a) Our 4D HDR Reconstruction System 的左侧是交替曝光的单目 LDR 视频帧、右侧是 4D HDR 场景与相机运动,中间的 ⋮ 表示省略;(b) HDR Visual Comparison on Skateboarder 是同一场景下 SplineGS-HDR / MoSca-HDR / GFlow-HDR / LDR GT / Ours (1st stage) / Ours (2nd stage) / Ours 的一列对照。②读法(怎么读):图注原话是本文能从无位姿的单目交替曝光 LDR 视频重建高质量 4D HDR 场景,且相比把 SplineGS、MoSca、GFlow 简单地扩展到 HDR 模式,本文的重建质量明显更好。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 1 · 未修改引用(arXiv 非独占分发许可,非 CC)

这张图放在第 1 章的位置有它的用处。(b) 里排开的那一列,是把「直接把现有 4D 重建方法扩到 HDR 模式」这条最省事的路先走一遍再与本文对照,也就是说,三处难点造成的差距在原文里是有画面侧证据的;而 (a) 把输入与输出并排摆出来,等于给读者交代这套系统吃的是什么、吐的是什么。原文把这两句写进图注,作为整篇的对齐目标。

原文把贡献列在引言末尾。产物侧是 Mono4DGS-HDR 这个系统,作者称它是第一个从「未摆位、交替曝光的单目 LDR 视频」重建 4D HDR 场景的系统。方法侧是一套统一的框架与两阶段优化流程:第一阶段学视频高斯,把高斯转到世界空间,第二阶段把世界高斯与相机位姿一起优化,另配一条时间亮度正则(temporal luminance regularization,TLR)去提升 HDR 的时间稳定性。实验侧是新造的评测基准,用公开数据集拼出动态场景,并显示本文显著优于被改造过的替代方案(原文 §1 末)。三件贡献的排布里藏着这篇的重心,方法与实验都服务于「第一个把这个任务做出来」这个判断。

把账对一遍:三处难点的原文出处是 §1;「先验仍可有效提取」这条观察的证据是补充视频,而「其他曝光模式可同样扩展」的口径写在 §3 开头;Figure 4 要展示的就是第三处难点的后果。第 2 章从这里往下走,先交代这两块地基分别借了谁。

2这篇站在什么上面:底座与运动的参数化

上一章把任务的三处难点定在「曝光在交替」上,这一章交代这篇站着的地基。原文把它们合在 §3.1 的预备知识里,一块是表示,一块是运动,两块都是从别人那里借来的,作者各自只做了一处必要的选择,而这两处选择决定了后面所有设计。

先说表示。HDR 高斯泼溅(Cai et al., 2024;Liu et al., 2025a)用一组各向异性的 3D HDR 高斯来表示一个 HDR 场景,原文说它与 3DGS(Kerbl et al., 2023)只差一处:把取值范围在 [0, 1] 的 LDR 颜色 c 换成取值范围在 [0, +∞) 的 HDR 辐照度(HDR irradiance)e。与之配套的还有一个对数域的色调映射器(tone mapper)φ,它按给定的曝光时间 Δt 把 HDR 辐照度映射成 LDR 颜色,原文写成 c = φ(log(e·Δt))(原文 §3.1)。这一个改动就把「颜色」这个量从有界推到无界,也把曝光时间变成了渲染时必须交代的输入。

3DGS 那套参数的细节,原文放进附录 A.1.1。每个高斯由位置 µ ∈ R³、旋转四元数(quaternion)r ∈ R⁴、缩放 s ∈ R³、不透明度 α ∈ [0, 1] 与颜色 c ∈ [0, 1]³ 参数化;它的空间分布服从 G(x) = exp(−½ (x−µ)ᵀΣ⁻¹(x−µ)),其中协方差矩阵由旋转矩阵 R(或 r)与缩放矩阵 S(或 s)导出,写作 Σ = R S Sᵀ Rᵀ。每个 3D 高斯接着被投影到像平面上,得到一个 2D 高斯,协方差按 Σ′ = [J W Σ Wᵀ Jᵀ]₂ₓ₂ 计算;随后 tile 光栅化器把这些 2D 高斯排序并做 α 混合(α-blending),像素 u 处的颜色按深度序累加。这三件东西在原文里连成一式,也就是本篇的式 2-1。

(1) Σ = R S Sᵀ Rᵀ,G(x) = exp( −½ (x − µ)ᵀ Σ−1 (x − µ) );Σ′ = [ J W Σ Wᵀ Jᵀ ]2×2;C(u) = Σi ci σi Πj=1…i−1 ( 1 − σj ),σi = αi G′i(u) (协方差分解、投影到像平面的 2D 协方差,以及光栅化时的 α 混合)(原文式 4)

这条式对应原文的式 (4)。其中 Σ = R S Sᵀ Rᵀ 来自 3DGS 本身,Σ′ = [J W Σ Wᵀ Jᵀ]₂ₓ₂ 与 C(u) 两项都取自附录 A.1.1,σᵢ = αᵢ G′ᵢ(u) 是 α 混合里第 i 个高斯的权重项。

这三项里的符号原文逐个点清了。J 是投影变换仿射近似的雅可比,W 是视图变换矩阵,[·]₂ₓ₂ 表示去掉第三行第三列,也就是只留像平面上的 2×2 协方差;M 是与查询像素相关的、排好序的 2D 高斯数目。混合那一项的含义可以顺着深度序读:第 i 个高斯贡献的是它的颜色 cᵢ 乘自己的 σᵢ,再乘上前 i−1 个高斯「都没挡住」的概率 Π (1 − σⱼ),而 σᵢ 由不透明度 αᵢ 与该高斯在像素 u 处的取值 G′ᵢ(u) 相乘得到(原文 A.1.1)。第 4 章要把这个 J 换成正交相机模型下的雅可比,第 6 章的尺度重拟合则整条都建立在这条 2D 协方差投影上。

再说运动。原文在这里做了一个明确的选择,也把理由写出来了:那些用形变 MLP 建模时间变化的工作(Wu et al., 2024b;Yang et al., 2024b;Liu et al., 2025b)会拖慢渲染速度,所以本文改走 Park et al. (2025)、Li et al. (2024a) 那条显式轨迹函数的路。这条路有两个好处,原文都写明了:保住 3DGS 的渲染速度;让「视频高斯到世界高斯」的变换可以无缝进行(原文 §3.1)。后一个好处是整篇方法的分岔口所在,若高斯只有一组随时间变的形变参数,第 5、6 两章的属性搬运就无从谈起。显式轨迹还有一个副作用要说清,位置与旋转各自有可读的解析形式后,第 6 章那套「位置和旋转照搬、尺度重算」的搬运才有落点,否则能搬的只有一团说不清归属的网络权重。

具体的参数化分三部分。位置轨迹用三次 Hermite 样条(cubic Hermite spline)表示,一条轨迹上放 Nc 个控制点(control point);旋转四元数用一个三次多项式表示;缩放、不透明度与颜色三项被当作时间不变来处理,原文给的理由原话是 for simplicity(原文 §3.1)。位置这一项写下来就是本篇的式 2-2。

(2) µ(t) = h00(t̃) pk + h10(t̃) (tk+1 − tk) mk + h01(t̃) pk+1 + h11(t̃) (tk+1 − tk) mk+1,t̃ = (t − tk) / (tk+1 − tk),mk = ½ ( (pk+1 − pk) / (tk+1 − tk) + (pk − pk−1) / (tk − tk−1) ) (Nc 个控制点与端点切线定义的位置轨迹;旋转四元数另用三次多项式)(原文式 5)

这条式对应原文的式 (5),写在附录 A.1.2 里。式里的符号需要摊开:t̃ 是时间 t 在区间 [tₖ, tₖ₊₁] 里的归一化位置,mₖ 是控制点 pₖ 处的近似切线,四个 Hermite 基函数分别是 h₀₀(t̃) = 2t̃³ − 3t̃² + 1、h₁₀(t̃) = t̃³ − 2t̃² + t̃、h₀₁(t̃) = −2t̃³ + 3t̃²、h₁₁(t̃) = t̃³ − t̃²。旋转那一项写作 r(t) = a₀ + a₁t + a₂t² + a₃t³,其中 {aⱼ} ∈ R⁴ 是四元数系数。

式里的两个约定决定了这套表示的表达力。控制点的个数 Nc 与它们的时间戳 {tₖ} 决定样条能跟上多快的运动,控制点越密,能表达的运动越细,代价是显存;被采用的取值是控制点采样间隔 Ns = 4,第 11 章会把这组取值与更密的 Ns = 1 摆在一起对账。缩放、不透明度与颜色三项按时间不变处理,是为简化所做的取舍,原文用 for simplicity 三个字带过,而后面所有关于「尺度必须重算」的设计都建立在缩放随时间不变这个约定上。

这两处选择都能回原文核:把颜色换成辐照度、并配一个对数域色调映射器,写在 §3.1 开头;放弃形变 MLP 的理由(拖慢渲染)与改用显式轨迹的两个好处同样在 §3.1,Hermite 样条与四元数多项式的完整写法在附录 A.1.2。第 3 章接着讲这套地基上立起来的骨架,也就是为什么把优化拆成两段。

3两阶段框架:先在没有位姿的空间里把亮度对齐,再回到世界空间

上一章说明表示与运动各自借了谁,这一章讲骨架。整篇方法把优化拆成两段,中间用一次「视频高斯 → 世界高斯」的变换把它们接上。原文在 §3.2 与 §3.3 里把这条流水线摊开,先验预计算是两段共同的入口。

因为是单目 4D 重建,问题本身高度不适定,原文沿用 Park et al. (2025) 与 Lei et al. (2025) 的路子,用视觉基础模型的先验知识来做场景初始化与正则(原文 §3.2)。原文从现成模型里取三样东西:视频深度估计(Hu et al., 2025)、稀疏的长程 2D 像素轨迹(tracklet,Xiao et al., 2024)、以及逐帧的极线误差图(epipolar error map,Liu et al., 2023),后者由稠密光流预测(Teed & Deng, 2020)算出,阈值化之后可以标出动态前景掩膜(dynamic mask)。两处口径必须记住:光流要在同一曝光级别的两帧之间计算,原文用 should 强调过这一点;而深度估计与长程轨迹是把整段序列一起喂进模型(原文 §3.2)。有了这些先验,就能像 MoSca 那样用静态轨迹做光束法平差(bundle adjustment),得到一组初始相机参数。

原文对这批先验的评价没有留余地:即便它们能从交替曝光视频里被有效提取,依旧噪声大、不充分,结果是粗糙的场景初始化(原文 §3.3 开头)。两阶段优化就是为了绕开这个起点而设计的。

第一阶段借 SaV(Sun et al., 2024)的思路,在一个 3D 规范空间里学一组「全动态」的视频 HDR 高斯(video Gaussian),原文同时把这个空间称作正交相机坐标系(orthographic camera coordinate space)(原文 §3.3.1)。这套高斯仍然带着轨迹参数,于是相机运动和物体运动被统一当成高斯自己的运动,相机参数被彻底绕开,训练视频的 HDR 重建因此更容易也更好(原文原话 easier and better)。原文把好处列成两处:重建出的 HDR 视频帧之间亮度一致,光度重投影误差随之变得可靠,可以用来优化相机位姿;这些视频高斯又为后续的世界高斯(world Gaussian)优化提供了一个好的初始化(原文 §1)。

第二阶段把学到的视频高斯搬进世界空间,用的就是光束法平差给出的那组初始相机参数;搬过去之后,相机位姿与世界高斯一起联合优化。原文说,来自视频高斯的初始化加上 HDR 光度重投影损失,能让收敛更快、最终重建质量更好(原文 §1)。

为什么非得分两段,原文没有直接回答,但把三处难点与两个阶段的对应关系摆出来就能读出理由。亮度不一这条在第一阶段被消掉:第一阶段拟合的是 LDR 训练帧,重建出的却是一段亮度一致的 HDR 训练视频,光度重投影误差这才重新可用,第二阶段的联合优化依赖的就有这一点。先验噪声让初始化粗糙这条被视频高斯的属性先验缓解:高斯除了位置,还带着旋转、缩放、不透明度与颜色这些先验,比单靠抬起的轨迹与深度要完整。缺少 HDR 监督、时间上不一致这条,则交给第 7 章的时间亮度正则去处理。三处难点与两段流水线之间的这种对应,是这篇框架真正的骨架(原文 §1、§3.2、§3.3)。

Mono4DGS-HDR 的先验预计算与两阶段高斯优化总览
图 3-1 E 类·证据 · 原文 Figure 2, p.2 · 原样引用 怎么读 ①指认:图分 (a) Prior Precomputing 与 (b) Two-stage Gaussian Optimization (for any Timestamp t) 两半;(a) 里用视觉基础模型从输入视频抽出 Depth / Tracklets / Flow & Epi. Err.,再经 Threshold 得 Dynamic Mask、经 Bundle Adjustment 得 Initial Camera Poses;(b) 上半是 1st Stage w/o Poses 的 Video HDR Gaussians in Ortho. Cam. Space(All Dynamic),下半是 2nd Stage with Poses 的 World HDR Gaussians in World Space(Static 与 Dynamic 并列),中间由 Transform 连接,右侧的监督信号含 LDR/HDR/Depth/Flow Rendering、Gaussian Motion Regularization、Temporal Luminance Regularization 与 (2nd Stage) Photometric Reprojection Loss。②读法(怎么读):图注原话是 (a) 推断视觉基础模型抽出 2D 先验、为场景提供初始化与正则,(b) 提出新的两阶段高斯优化流程,含第一阶段视频高斯训练、第二阶段世界高斯精调与视频→世界高斯变换策略,HDR 高斯由 2D 先验监督、高斯运动正则、时间亮度正则与 HDR 光度重投影损失共同优化。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 2 · 未修改引用(arXiv 非独占分发许可,非 CC)

这张图给出的划分可以当作读后面各章的索引:(a) 是第 3 章这一章讲的那批先验,(b) 上半的第一阶段放到第 4 章展开,(b) 中间的 Transform 由第 5、6 两章拆成动静判别与尺度重拟合两步,(b) 右侧那串监督与正则留到后面的损失章。原文把「任意时间戳 t」这个限定写在 (b) 的标题里,意思是两阶段都以单个查询时刻为单位迭代。

把流程写成伪码之前,先把三条前提摆清楚,后面每一步都依赖它们。

前提 1:输入是未摆位的交替曝光 LDR 帧序列,没有已知的相机内外参可用。

前提 2:2D 先验(深度、轨迹、光流)已预先算好,并且光流只在同一曝光级别的两帧之间计算。

前提 3:第一阶段结束时得到的是正交相机坐标系下的视频高斯,它是伪 3D 空间里的表示,还不是世界空间里的几何。

// 入口:未摆位的交替曝光 LDR 帧 {L₁ … L_Nf}
// 先验预计算(§3.2)
D ← DepthCrafter(Hu et al., 2025),整段序列送入
T ← SpatialTracker(Xiao et al., 2024),整段序列送入
F ← RAFT(Teed & Deng, 2020),只在同一曝光级别的两帧之间算
M ← threshold(极线误差图, 由 F 算出)(Liu et al., 2023)
{K̂, [R̂ₜ | T̂ₜ]} ← bundle adjustment(静态轨迹)(MoSca, Lei et al., 2025)

// 第一阶段:正交相机坐标系下的全动态视频 HDR 高斯(§3.3.1)
初始化 video Gaussians ← lift(T, D)(A.1.3),每条轨迹采 Nc 个控制点
for iter in 1 .. 4K:
 随机取一个查询时刻 t
 渲染 Ĥₜ, D̂ₜ, F̂[t→t′] → 经色调映射与曝光时间得 L̂ₜ
 用 L_rgb / L_dep / L_track / L_ue 与运动正则更新高斯
 前 3K 步稠密化(每 200 步一次)、每 1K 步重置不透明度

// 视频→世界高斯变换(§3.3.2,见第 5、6 章)
动静判别(式 5-1)→ 位置与旋转搬运 → 尺度重拟合(式 6-1)

// 第二阶段:世界空间里的静态/动态世界高斯 + 相机位姿(§3.3.3 开头)
for iter in 1 .. 11K:
 随机取一个查询时刻 t,从静态与动态世界高斯的并集渲染
 联合优化相机位姿与世界高斯(含 L_pr)
 稠密化结束后再启用 L_tlr

三处落点都能核:三样先验的出处与「光流只在同一曝光级之间算」这条口径写在原文 §3.2,两阶段的划分见 §3.3 开头与 §1,而「第一阶段给出亮度一致的 HDR 视频」是第二阶段能优化相机位姿的前提。第 4 章走进第一阶段内部,看它在那个不需要位姿的坐标系里具体做了什么。

4第一阶段:在正交相机坐标系里把视频点亮

上一章把两阶段的骨架与理由交代完,这一章进入第一阶段内部。它要做的事可以一句话说完:把相机运动吸收进高斯,于是不求位姿;把 HDR 监督交给训练视频本身,于是先把亮度对齐。

原文先给坐标系定了名。第一阶段在正交相机坐标系里工作,这个空间里视频的宽、高、深分别对应 X、Y、Z 三个轴(原文 A.1.3)。落成一个 3D 点 pᵥ = [xᵥ, yᵥ, zᵥ],其中 (xᵥ, yᵥ) ∈ [−1, 1]² 是它投影像素位置的归一化坐标,zᵥ 是深度(原文 §3.3.1)。在这套表示下必须用正交相机模型(orthographic camera model)做光栅化,具体做法是把 3DGS 原来那个投影雅可比 J 换成 J_ortho。这一步直接改动了第 2 章式 2-1 里的 J,也就是把透视投影的仿射近似换成正交投影下的对应量;完整的矩阵形式落在附录 A.1.3,J_ortho 是一个 2×3 的矩阵,两行分别是 [w/2, 0, 0] 与 [0, h/2, 0],w 与 h 是图像分辨率。

这套坐标系的好处在于把「相机怎么动」这个问题从待求变量里挪走。原文的表述是,视频高斯表示让人可以把相机运动与物体运动统一当成动态高斯自己的运动,从而彻底不需要相机参数(原文 §3.3.1)。落到实现上,渲染某一时刻的画面时不再需要求解外参矩阵,只要把每条高斯轨迹在该时刻的位置与旋转取出来即可;反过来,相机一帧一帧的运动被折进了高斯的轨迹里,物体自身的运动与相机的运动在这个坐标系里混在同一条样条上,这构成了「没有位姿」这句话的代价与收益。

原文对这一步的收益写得很直接:这样可以更高效地拟合 LDR 训练帧,并恢复出 HDR 训练视频(原文 §3.3.1)。也就是说,第一阶段优化的对象是一整段视频在时间上的一致性,而不止单张画面的亮度;监督仍然来自 LDR 帧与预计算的 2D 先验,这份监督在第 8 章会被摊成九项权重与超参。

初始化的办法是把轨迹与深度先验「抬起来」(lift)成视频高斯。原文的写法是:给一条 2D 轨迹 T = {τₜ | τₜ ∈ R²} 与先验的视频深度 D = {Dₜ},把它抬成相机坐标空间里的一条高斯轨迹 Gᵥ = {µᵛₜ | µᵛₜ = [xᵛₜ, yᵛₜ, zᵛₜ]},其中 (xᵛₜ, yᵛₜ) 是 τₜ 的归一化像素坐标,zᵛₜ = Dₜ(τₜ) 是该像素处的深度值(原文 A.1.3)。一条轨迹对应一个视频高斯,这意味着视频高斯的数量与轨迹的数量绑定在一起,而轨迹是由 SpatialTracker 在整段序列上一次算出来的。

拿到 Gᵥ 之后,从里面采 Nc 个初始控制点,作为这个动态视频高斯样条轨迹的控制点,也就是第 2 章式 2-2 里的 pₖ;旋转四元数的多项式系数则一律初始化成 [1, 0, 0, 0](原文 A.1.3)。这个初始化在原文里被称作把轨迹与深度先验抬起来,它是第一阶段唯一的几何入口,起点里的所有位置信息都来自这段先验,先验的误差也就会原封不动地带进第一阶段。

这一阶段做到了什么,原文的四句话可以按顺序读。做的动作是拟合 LDR 训练帧,拿到的结果是 HDR 训练视频;视频高斯表示让相机运动与物体运动被统一看待,相机参数因此可以完全不出现;得到的 HDR 视频高斯又为后续的世界高斯与相机位姿精调提供可靠基础(原文 §3.3.1)。把它放回第 3 章的对应关系里看,第一阶段的作用是先把亮度这一关过掉,位姿与世界几何都留到第二阶段,这也解释了为什么它的产物被称作「视频」高斯,与第二阶段的世界高斯在命名上就分开了。原文还点出一条容易被略过的因果:第一阶段重建出的是一段亮度一致的 HDR 训练视频,第 3 章说过,光度重投影误差要靠这份一致性才重新可用,第二阶段优化相机位姿用到的便有第一阶段交出来的这段视频。

这一阶段有一条边界必须写明,它是第 12 章边界 4 的伏笔。第一阶段学出来的视频高斯住在伪 3D 空间里,原文自己承认它 cannot represent the actual 3D geometry in the world(原文 §3.3.2)。这句话是作者自陈的让步,读的时候不能把它轻轻放成一个技术细节:第一阶段交出来的是一段亮度已经对齐的 HDR 视频表示,还够不上世界里的真实几何;真实几何与世界高斯只能从第二阶段拿到,而第二阶段又完全依赖第一阶段的结果。

读数都可回原文核对:坐标系与 J_ortho 的替换写在 §3.3.1 与附录 A.1.3,抬起轨迹与深度的写法、Nc 个控制点以及四元数系数 [1, 0, 0, 0] 的初始化同样在 A.1.3;而「不能代表世界里的真实 3D 几何」这句自陈写在 §3.3.2,它把第二阶段钉成了必需项。第 5 章接着讲变换的第一步,也就是一个视频高斯在世界空间里到底算动态还是静态。

5视频→世界(一):一个高斯是动是静,先看它有没有被挡住

第 4 章把第一阶段停在正交相机坐标系里,那一套视频高斯把训练视频的亮度学了出来,可它落在一个伪 3D 空间里,原文原话是它 cannot represent the actual 3D geometry in the world(原文 p.4)。要拿到世界里的真实几何,就得把这组高斯搬进世界空间,原文把这套搬运写成视频→世界高斯变换(video-to-world Gaussian transformation,V2W),四步流程连同五种属性的搬法都摊在图 5-1(a) 上。

搬运的头一件事,是判每条视频高斯在世界空间里算动还是算静。最直接的想法是看它的轨迹有没有落进动态区域,可这样会漏掉一种情形:这条轨迹当时被别的东西挡住了,它落在动态区域里并不能说明它在动。原文因此在计数时多留了一个指示量,把被遮挡的那些时刻从统计里剔出去,写成式 5-1。

(3) Nd = Σt I[ Mt(xvt, yvt) · (1 − ot) = 1 ],t = 1 … Nf;ot = I[ zvt > D̂t(xvt, yvt) ] (统计轨迹落进动态掩膜、且当时没被遮挡的时刻数;Nd / Nf 超过 0.1 判为动态,否则判为静态)(原文式 1)

这条式对应原文的式 (1)。计数按帧累加,Nf 是序列的总帧数,每个时刻的贡献由动态掩膜 Mt 与一个遮挡开关 (1 − ot) 相乘之后再做一次判定给出。动态掩膜 M = {M_t} 由极线误差图(epipolar error map)阈值化得到,Mt 里的 1 表示动态区域、0 表示静态区域。ot 是遮挡指示量,取 1 表示这个高斯在 t 时刻被挡住,原文给的判据是它的深度大于渲染出的深度,写成 zᵛ_t 与 D̂_t(xᵛ_t, yᵛ_t) 的大小关系(原文 p.4)。把 1 减去 ot,得到的就是"这个时刻算不算数"的开关,被挡住的时刻开关归零,那一次落进动态区域的记录不计入 Nd。符号的来路与取值收在表 5-1。

表 5-1 式 5-1 的符号释义 (原文 §3.3.2, p.4 · 释义按原文文字层,逐项未改)

符号含义取值/来源
I[·]指示函数,括号内条件成立取 1、不成立取 0原文 §3.3.2, p.4
Mtt 时刻的动态掩膜,1 表示动态区域、0 表示静态区域由极线误差图阈值化得到,原文 §3.3.2, p.4
ot遮挡指示量,取 1 表示该高斯在 t 时刻被遮挡判据是它的深度大于渲染出的深度,原文 §3.3.2, p.4
Nd一条视频高斯轨迹落进动态区域的出现次数,被遮挡的时刻已剔除原文 §3.3.2, p.4
Nf序列的总帧数原文 §3.1, p.3
Nd / Nf 的判别阈值大于此值判为动态、否则判为静态预先设定的阈值,原文给出的例子是 0.1,原文 §3.3.2, p.4

判别的规则只有一条:Nd 除以 Nf 的结果大于一个预先设定的阈值,就把这条视频高斯在世界空间里判为动态,否则判为静态,原文给的阈值例子是 0.1(原文 p.4)。遮挡这一项为什么不能省,账在表 11-1 的 (b) 行。去掉遮挡处理之后,原文说 some static contents are mistakenly treated as dynamic,账面代价是 PSNR 掉 0.3 dB,表现是背景重建发糊,而发糊集中在被遮挡过的区域上(原文 p.9)。同一行的读数里,Real-Exp-3 的 LDR-OE 是 27.29,完整模型那一行是 27.65;Syn-Exp-3 的 LDR-OE 从 34.75 落到 34.40(原文 Table 3, p.8)。这两处差值的逐项复算留给第 11 章。

视频→世界高斯变换的四步流程与两种去掉处理后的坏结果
图 5-1 E 类·证据 · 原文 Figure 3, p.3 · 原样引用 怎么读 ①指认:(a) 是视频→世界高斯变换的流程图,标签依次为按深度序处理遮挡、动态/静态判别(dynamic/static identification)、相机→世界(Camera-to-world,C2W)变换、属性重拟合,图上另把五种属性的搬法并列写出,位置与旋转走 C2W 变换、缩放走 2D 协方差不变性(2D covariance invariance)、不透明度与颜色直接继承;(b) 是变换后得到的静态与动态世界高斯示例;(c) 与 (d) 分别是去掉遮挡处理(occlusion handling)、去掉 2D 协方差不变性的结果。②读法(怎么读):把它当成本章与第 6 章两条理由的索引,(c) 指向判动静这一节的遮挡项、(d) 指向第 6 章的尺度重拟合,两处的账面定价都在第 11 章的消融里。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 3 · 未修改引用(arXiv 非独占分发许可,非 CC)

位置与旋转的搬法原文给得很短。用 bundle adjustment 得到的初始内参 K̂ 与外参 {[R̂_t | T̂_t]},位置走 µʷ_t = R̂_t π⁻¹_K̂(µᵛ_t) + T̂_t,旋转走 Rʷ_t = R̂_t Rᵛ_t(原文 p.5)。静态高斯只取一个与时间无关的世界位置,把各时刻的世界位置求平均,写成 µʷ = (1/Nf) Σt µʷ_t,旋转取四元数平均 Rʷ = AvgR({Rʷ_t}),AvgR 是 Markley et al. (2007) 给的四元数平均法。动态高斯保留时间维,从世界位置轨迹 {µʷ_t} 里重新采一批控制点做样条初始化,旋转四元数的多项式系数用最小二乘重新拟合(原文 p.5)。这一处拟合的是旋转轨迹的多项式系数,与第 6 章解缩放矩阵的那个最小二乘各管一件事,不要并成一笔。

计数与阈值都可核:判动静的计数写成式 5-1,遮挡项由 zᵛ_t 与渲染深度 D̂_t 的大小关系定义,Nd / Nf 的判别阈值取 0.1;去掉遮挡处理会让部分静态内容被误判成动态,原文给出的账面代价是 PSNR 掉 0.3 dB,表 11-1(b) 上 Real-Exp-3 的 LDR-OE 是 27.29(原文 p.4、p.8、p.9)。

6视频→世界(二):位置和旋转照搬,尺度必须重算

第 5 章把每条高斯判成了动或静,也把位置与旋转搬到了世界空间。剩下三件属性里,不透明度与 HDR 颜色直接继承,静止与动态一视同仁,原文给的理据是 they are intuitively space-invariant(原文 p.5)。不透明度是一个落在 [0, 1] 里的相对量,HDR 颜色记的是辐照度,两者的含义都不随所在坐标系伸缩。缩放不同,它是长度的量纲,相机坐标空间里的一个单位与世界空间里的一个单位未必等长,两个空间之间隔着一段尺度差异,原文说这段差异要小心处理,把视频高斯的缩放直接继承过来会得到不合理的尺度,图 5-1(d) 展示的就是这种情况(原文 p.5)。

原文的解法,是把"投影出来的 2D 高斯在变换前后应该有相同的形状与尺寸"当成约束,据此重拟合(re-fit)世界高斯的缩放,这一步在原文里叫 2D 协方差不变性。要在两个空间里比这团 2D 高斯,先得把它写出来。对时刻 t,视频高斯投到像平面得到的 2D 协方差记作 Σ′ᵛ_t,世界高斯投出来的记作 Σ′ʷ_t,两条定义合成式 6-1。

(4) Σ′vt = [ Jortho Wvt Rvt Sv ( Jortho Wvt Rvt Sv )ᵀ ]2×2,Σ′wt = [ J Wwt Rwt Sw ( J Wwt Rwt Sw )ᵀ ]2×2,Wvt = E,Wwt = R̂t−1 (变换前后投影出的 2D 协方差;令两者相等即可解出世界高斯的缩放 Sw)(原文式 2)

这条式对应原文的式 (2)。两条定义结构相同,都是一个 3×3 矩阵与其转置相乘后取左上 2×2 子块,下标 2×2 表示去掉第三行与第三列,留下来的就是像平面上那团椭圆的形状。差异落在三处:视频高斯的投影雅可比是正交相机模型下的 J_ortho,世界高斯用的是 3DGS 原来那个透视模型的 J;两者的视图变换 Wᵛ_t 与 Wʷ_t 不同;两者的缩放矩阵 Sv 与 Sw 不同。Sv 与 Sw 都注明是各自高斯的时间不变缩放矩阵,也就是一条高斯的三个轴向缩放不随时刻改。视图变换这两个量原文逐个交代过,Wᵛ_t 等于单位矩阵 E,理由是第一阶段本来就取正交坐标系、不存在额外的视图变换;Wʷ_t 等于外参旋转的逆 R̂_t⁻¹(原文 p.5)。

把这条不变性一步接一步落成优化问题,走法是这样的。从"变换前后的 2D 高斯形状尺寸一致"出发,它在每个时刻上就是一个矩阵等式,左边是已知的 Σ′ᵛ_t,右边是要配平的 Σ′ʷ_t。左边之所以已知,是因为第一阶段已经收敛,视频高斯的旋转 Rᵛ_t 与时间不变缩放 Sv 都定下来了,正交相机模型下的投影雅可比 J_ortho 也是给定的(A.1.3 给出它是对角矩阵,两个对角元分别是 w/2 与 h/2,w 与 h 是图像分辨率),视图变换 Wᵛ_t 又取单位矩阵,四项相乘再取 2×2 子块,结果是一串可以直接算出来的常量矩阵。右边里也只剩一个未知量。位置与旋转已经按第 5 章的搬法定下来,世界高斯的旋转是 Rʷ_t = R̂_t Rᵛ_t,世界空间的视图变换是 Wʷ_t = R̂_t⁻¹,投影雅可比换成透视模型的 J,乘起来之后,唯一没定的就是世界高斯的时间不变缩放矩阵 Sw。

到这里有两种走法。让 Sw 逐帧变,等式一般能配上,代价是世界高斯不再是带一份固定尺寸的高斯,第二阶段的属性优化要背上一串随时间变的缩放;原文取的是时间不变的那一版,Sw 只有一份,一个未知量要对上 Nf 个时刻的等式,方程的条数多过未知量的个数,配不平的余量只能交给最小二乘去吸收。把每条等式改成一个残差,令所有时刻残差的平方和最小,就得到最小二乘问题,也就是在 Sw 上最小化 Σt ‖Σ′ᵛ_t − Σ′ʷ_t‖²。解它不需要解析推导,原文用梯度下降直接求,这个解法对静态高斯与动态高斯都施加,1000 次迭代以内、1 分钟以内收敛(原文 p.5)。

变换做完之后进入第二阶段精调。原文对这一段的原话是 due to the appropriate initialization from video Gaussians, the optimization in world space can converge fast and stably(原文 p.5)。这一处口径也要记清:重拟合只改缩放,位置与旋转仍按第 5 章的公式直接搬,所以这一步配平的是投影像,保住的是椭圆在像平面上的形状与大小,世界空间里的绝对尺度并没有一条与世界真值对齐的约束。账面上一旦把"解 Sw"换成"直接继承 Sv",表 11-1(c) 上 Real-Exp-3 的 LDR-OE 是 27.34,对照完整模型的 27.65,差 0.31 dB;Syn-Exp-3 的 LDR-OE 从 34.75 落到 34.31,HDR 从 37.64 落到 37.25(原文 Table 3, p.8)。原文对这处退化的解释是世界高斯在尺寸上没有拿到好的初始化,结果次优(原文 p.9)。

缩放这一步的账只有一笔:世界高斯的缩放由式 6-1 的两条 2D 协方差定义配平之后解一个最小二乘问题得到,求解用梯度下降、1000 步以内、1 分钟以内收敛;把缩放改为直接继承,表 11-1(c) 上 Real-Exp-3 的 LDR-OE 是 27.34,比完整模型的 27.65 低 0.31 dB(原文式 (2), p.5;Table 3, p.8)。

7时间亮度正则:曝光不准的那几帧,靠曝光准的那几帧拉回来

第 6 章把世界高斯的尺度补齐,第二阶段随即开始在世界空间里精调世界高斯与相机位姿。前两章处理的是几何怎么搬,这一章处理第三个坑:缺直接 HDR 监督,恢复出的 HDR 外观在时间上不一致,原文的解法是时间亮度正则(temporal luminance regularization,TLR)。

问题的来路要交代清楚。原文明说外观监督只来自 LDR 帧,这会让 HDR 亮度在时间上不稳,动态场景尤其明显,因为动态高斯倾向于在运动物体的表面周围飘(float)(原文 p.6)。监督是否有效随时刻变,当对应的动态内容曝光正常时它有效,过曝或欠曝时它很弱。前一种情形给出位置正确的动态高斯,后一种情形会在动态物体表面上方留下 floaters,两种情况合起来,动态内容的 HDR 外观在不同时刻可以差得很大,图 7-1 展示的就是这件事(原文 p.6)。

要把这个不均匀补上,先把"监督强弱随时间变"这件事拆到底。监督落在 LDR 渲染图上,而 LDR 图是 HDR 辐照度经曝光时间与色调映射器算出来的,同一块表面在短曝光帧里可能落在合适的位置,在长曝光帧里可能整片压到饱和,反过来也一样。曝光正常的那一帧里,渲染值与观测值之差对辐照度的梯度是有方向的;过曝或欠曝的那一帧里,观测值已经被截断,梯度指向哪里与真实的辐照度关系不大。同一个动态高斯的约束强度,因此随它落在曝光周期的哪一格而强弱交替。

接着问能不能把强时刻的信息挪到弱时刻。可以,依据是 HDR 辐照度本身与曝光时间无关,同一块表面在相邻两帧上的 HDR 辐照度应当一致。要比较就得先对上像素,而表面在两帧之间动了,所以对齐的动作是用光流把 t−1 时刻的 HDR 渲染搬到 t 时刻来,得到 Ĥ_t−1→t,再让它与 t 时刻的渲染 Ĥ_t 逐像素对上亮度。

对齐之后为什么不能直接相减。HDR 辐照度的取值范围是 [0, +∞),量级跨度大,直接相减会让亮像素主导整个残差;而且训练早期这个辐照度的整体尺度还带着一个自由的比例因子,它不影响两帧之间的相对关系,却会把绝对残差整体抬高。把差用两者之和 (Ĥ_t−1→t + Ĥ_t) 一除,残差就变成相对亮度差,整体尺度被约掉,亮暗像素的贡献也被拉到同一量级。原文对这一步的说法是用它 eliminate the influence of HDR irradiance scale,消掉 HDR 辐照度尺度的影响(原文 p.6)。

还有一张掩膜要说明来路。对齐用的是光流,两帧之间被遮住的像素上光流不可靠,这些错的对应关系会把噪声带进对齐,原文因此加一张由深度序导出的有效掩膜 Vt→t−1,把被遮挡的像素排除在外(原文 p.6)。四步合起来就是式 7-1。

(5) Ltlr = ‖ Vt→t−1 ⊙ ( Ĥt−1→t − Ĥt ) / ( Ĥt−1→t + Ĥt ) ‖1 (V 是由深度序导出的有效掩膜;分母归一化消掉 HDR 辐照度的尺度;查询时刻 t 同时用 t−1 与 t+1 两个方向)(原文式 3)

这条式对应原文的式 (3)。掩膜 Vt→t−1 由深度序导出,作用是把被遮挡的像素排除;分母用两幅 HDR 渲染之和做归一化,作用是把 HDR 辐照度的尺度影响消掉;在查询时刻 t,原文把 t−1 与 t+1 两个方向都当作目的地来算这条损失(原文 p.6)。有一处实现细节要单记,因为拿不到"相邻但曝光不同"的两帧之间的光流先验,warping 用的是渲染出来的光流图 F̂_t→t−1 与 F̂_t→t+1,并且停掉梯度(stop gradients);为了让光流渲染可靠,TLR 只在稠密化结束之后才启用(原文 p.6、p.19)。

不带 TLR 与带 TLR 的 HDR 外观对照
图 7-1 E 类·证据 · 原文 Figure 4, p.5 · 原样引用 怎么读 ①指认:图分上下两路,一路标 w/o TLR、一路标 with TLR,两路都从标着 Lt−1 与 Lt 的 LDR 帧起手,帧上另标出 weak supervision 与 effective supervision 两档监督强度,中间经过光流 F̂_t→t−1 的 warping、有效掩膜与 warp 得到的 Ĥ_t−1→t,最终由 L_tlr 约束 Ĥ_t−1 与 Ĥ_t 对齐。②读法(怎么读):它把本章的因果链摆在一张图上,上路的 inconsistent 与下路的对齐结果互为对照,画面本身无法从文字层核对,正文不从这里读数,账面定价见第 11 章表 11-1(e)。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 4 · 未修改引用(arXiv 非独占分发许可,非 CC)

原文对效果的措辞是,在监督良好的时刻学到的动态内容可以传播到监督差的时刻,从而得到时间上一致的 HDR 外观(原文 p.6)。账面上的定价落在表 11-1(e):把 L_tlr 去掉之后,Real-Exp-3 的 LDR-OE 是 27.63,对照完整模型的 27.65,只差 0.02 dB,几乎不动;同一个"去掉"落在 HDR-TAE 这一列上是 0.082 对 0.067,Syn-Exp-3 上从 0.057 退化到 0.071(原文 Table 3, p.8)。原文据此下的判断是 L_tlr 在稳定跨帧外观变化上起关键作用,Fig. 6(e) 显示去掉它之后动态区域出现明显的伪影与噪点(原文 p.9)。

收益落在时间稳定性上:时间亮度正则把相邻两帧的 HDR 渲染用光流对齐,损失写成式 7-1,掩膜由深度序导出以排除被遮挡像素,分母归一化消掉辐照度尺度的影响,两个方向都算;去掉它之后 PSNR 只差 0.02 dB,HDR-TAE 却从 0.067 退化到 0.082(原文式 (3), p.6;Table 3, p.8)。

8损失与优化:九个权重项、两阶段迭代、损失曲线长什么样

第 7 章把时间亮度正则交代完,它在总目标里排在第八项。这一章把训练目标摊平,九个损失项各自对上前面某一章的设计,再交代迭代节奏与损失曲线。

第一阶段从全动态视频高斯渲染,第二阶段从静态与动态世界高斯的并集渲染;每次迭代随机采样一个查询时间戳 t(1 到 Nf)。t 时刻渲染三个量,HDR 图 Ĥ_t、深度图 D̂_t 与光流/轨迹图 F̂_t→t′,后者由所有高斯在相机空间里从 t 到 t′ 的 3D 位移光栅化后投影到像平面。HDR 渲染再经色调映射 MLP 与曝光时间转成 LDR 图 L̂_t,色调映射沿用 GaussHDR 的两步 2D 做法,先渲染 HDR 图再映射成 LDR 图(原文 p.5、p.18)。

总目标写成九项加权和,权重一律记作 λ:λ_rgb·L_rgb + λ_ue·L_ue + λ_dep·L_dep + λ_track·L_track + λ_arap·L_arap + λ_vel·L_vel + λ_acc·L_acc + λ_tlr·L_tlr + λ_pr·L_pr(原文 p.6)。四个 2D 先验项里,L_rgb 沿用 3DGS 的做法,用 DSSIM 与 L1 监督 LDR 渲染,L_rgb = λd·DSSIM(L̂_t, Lt) + (1 − λd)·‖L̂_t − Lt‖₁,λd 取 0.2;L_dep 量与先验深度图的差,L_dep = ‖D̂_t − Dt‖₁;L_track 把 2D 先验里的运动蒸馏给 3D 高斯,L_track = Vt→t′ ⊙ ‖F̂_t→t′ − Ft→t′‖₁,Vt→t′ 是有效光流或轨迹掩膜,每次迭代随机选光流或轨迹,光流监督时 t′ 取 t ± Ne(Ne 是曝光档数),轨迹监督时 t′ 从整段序列里随机取(t 除外);L_ue 沿用 HDR-NeRF 的单位曝光损失,L_ue = ‖φ(0) − C₀‖²₂,把 HDR 辐照度尺度固定住,C₀ 在真实场景取 0.5、合成场景取 0.73(由 GT CRF 推出)。四项里只有光流受曝光周期约束,它只在同一曝光级别的两帧之间提取(原文 p.15)。

三项运动正则作用在动态高斯上。刚体约束 L_arap 是 as-rigid-as-possible(尽可能刚体)损失,压在动态高斯与 k 近邻之间,写成式 8-1。

(6) Larap = ‖ dist( µt, Nk(µt) ) − dist( µt′, Nk(µt′) ) ‖22 (动态高斯与其 k 近邻之间的保距约束,实验取 k = 5)(原文式 6)

这条式对应原文的式 (6)。dist(·, ·) 量欧氏距离,Nk(µt) 是 µt 的 k 近邻集合,损失是同一组距离在两时刻上之差平方后取 L2 模,k = 5(原文 p.15)。速度平滑 L_vel 与加速度平滑 L_acc 沿用 MoSca 的写法,落在式 8-2 上。

(7) Lvel = Σt ( ‖µt+1 − µt‖2 + ‖log( Rt Rt+1−1 )‖F ),t = 1 … Nf−1;Lacc = Σt ( ‖µt − 2µt+1 + µt+2‖2 + | ‖log(RtRt+1−1)‖F − ‖log(Rt+1Rt+2−1)‖F | ),t = 1 … Nf−2 (速度与加速度平滑;‖log(·)‖F 是旋转对数的 Frobenius 范数)(原文式 7)

这条式对应原文的式 (7)。两项按帧累加,L_vel 加相邻两帧的位置差与旋转对数之差,L_acc 加二阶位置差与相邻两段旋转对数之差;‖log(·)‖_F 是旋转对数的 Frobenius 范数,即旋转的轴角(原文 p.15)。

HDR 光度重投影损失(photometric reprojection loss)是第二阶段单拿出来的一条重监督。原文把它的来路写在 §3.3.3,像 SplineGS 那样在单目视频里用 L_pr 一起优化深度与相机位姿,不适合交替曝光的输入,第一阶段恢复出的 HDR 训练视频让这条路重新可用(原文 p.6、p.16)。它先把查询像素 ut 在参考时刻 t′ 的对应像素 ut→t′ 算出来,写成式 8-3。

(8) ut→t′ = πK̂( R̂t′ R̂t−1 ( π−1K̂( ut, Dt(ut) ) − T̂t ) + T̂t′ ) (查询像素在参考时刻的对应像素;π 与 π−1 是投影与反投影,K̂ 来自 bundle adjustment)(原文式 8)

这条式对应原文的式 (8)。πK̂(·) 与 π⁻¹_K̂(·) 是带内参 K̂ 的投影与反投影函数,[R̂_t | T̂_t] 与 [R̂_t′ | T̂_t′] 是两时刻的相机外参,Dt(ut) 是像素 ut 处的深度。拿到对应像素后在参考帧上双线性插值取 HDR 颜色,得到 warp 图 Ĥ_t′→t,损失写成式 8-4。

(9) Lpr = ‖ ( 1 − Mt ) ⊙ ( Ĥt′→t − Ĥt ) / ( Ĥt′→t + Ĥt ) ‖1 (与时间亮度正则同形,但这里乘的是 1 − Mt,把动态区域排除在光度重投影之外)(原文式 9)

这条式对应原文的式 (9)。它用的掩膜是 (1 − Mt),把动态区域排除,与第 7 章的 Vt→t−1 分工不同,那边管被遮挡的像素,这边管动态像素。分母 Ĥ_t′→t + Ĥ_t 与式 7-1 里一样,消掉 HDR 值的尺度影响。实验里 t′ 从 {t ± 1, t ± 2} 采样,用第一阶段恢复出的 HDR 训练帧并停掉其梯度(原文 p.16)。九项权重与全部超参收在表 8-1。

表 8-1 九项权重与全部超参的释义 (原文 A.1.4/A.1.5/A.1.6/A.2.3 · 取值逐项照抄,位数未改)

符号含义取值出处
λ_rgbLDR RGB 损失权重1原文 A.2.3, p.18
λ_ue单位曝光损失权重10原文 A.2.3, p.18
λ_dep深度损失权重1原文 A.2.3, p.18
λ_track光流/轨迹损失权重0.01原文 A.2.3, p.18
λ_arap刚体约束损失权重0.01原文 A.2.3, p.18
λ_vel速度平滑损失权重10原文 A.2.3, p.18
λ_acc加速度平滑损失权重10原文 A.2.3, p.18
λ_tlr时间亮度正则损失权重0.1原文 A.2.3, p.18
λ_prHDR 光度重投影损失权重1原文 A.2.3, p.18
λdDSSIM 项所占比重0.2原文 A.1.4, p.15
kARAP 近邻个数5原文 A.1.5, p.15
C₀单位曝光损失目标值真实 0.5;合成 0.73原文 A.1.4, p.15
Ne光流监督时 t′ 的间隔等于曝光档数原文 A.1.4, p.15
t′ 采样L_pr 的参考时刻{t ± 1, t ± 2}原文 A.1.6, p.16
Ns样条控制点采样间隔每 4 帧原文 A.2.3, p.18
分辨率处理分辨率864 × 480原文 A.2.3, p.18
极线误差阈值动态掩膜阈值0.00001原文 A.2.3, p.18
颜色特征HDR 颜色特征维度36 维(不用球谐)原文 A.2.3, p.18
MLP 通道数颜色/色调映射 MLP 隐含层36/128原文 A.2.3, p.18
色调映射 MLPRGB 三通道分别建模3 个原文 A.2.3, p.18
第一阶段迭代与稠密化4K 迭代、3K 稠密化;每 200 步稠密化、每 1K 步重置不透明度原文 A.2.3, p.18–p.19
第二阶段迭代与稠密化11K 迭代、8K 稠密化;静态高斯每 400 步稠密化、每 2K 步重置不透明度原文 A.2.3, p.19
动态高斯维护稠密化与剔除每 200 步稠密化、每 2K 步重置不透明度、每 2K 步剔除误稠化高斯原文 A.2.3, p.19
L_tlr 启用启用条件两阶段都在稠密化结束后施加原文 A.2.3, p.19
高斯属性学习率静态同 3DGS、动态与相机同 MoSca沿用原值原文 A.2.3, p.19
MLP 学习率色调映射与颜色 MLP0.0005原文 A.2.3, p.19
训练环境优化器/框架/硬件Adam、PyTorch、单张 RTX 3090原文 A.2.3, p.19

两阶段迭代与稠密化节奏也列在表 8-1,合计 15K 迭代。两阶段都在稠密化结束后才施加 L_tlr,稠密化阶段还会按第 5 章的判别方法把动态高斯轨迹投影回相机坐标系过滤,剔除误稠化高斯(原文 p.6、p.19)。

两个场景的核心损失曲线
图 8-1 E 类·证据 · 原文 Figure 11, p.18 · 原样引用 怎么读 ①指认:上下两栏分别是 (a) Waving Hands 与 (b) Cars 两个场景的核心损失曲线。②读法(怎么读):把它当成多损失是否协同收敛的检查图,两栏曲线按原文的两条说明来读,曲线形状无法从文字层核对,正文只引原文的结论。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 11 · 未修改引用(arXiv 非独占分发许可,非 CC)

曲线有两处形状可解释:不透明度重置会让 RGB、深度与轨迹损失在重置的迭代上突然上升;TLR 损失只在稠密化结束后启用,所以出现在训练后期(原文 p.19)。原文判断损失项虽多,它们协同工作并有效收敛,稳定性归给预计算 2D 先验的初始化与约束,以及两阶段策略配合视频高斯初始化(原文 p.19)。

训练目标可以摊平数:总目标由九项加权组成,权重依次为 1、10、1、0.01、0.01、10、10、0.1 与 1;刚体约束取 k = 5,单位曝光损失目标值取 0.5 与 0.73(真实/合成场景),分辨率 864 × 480,极线误差阈值 0.00001,HDR 颜色存 36 维、颜色与色调映射 MLP 通道数 36 与 128,色调映射与颜色 MLP 的学习率是 0.0005,两阶段合计 15K 迭代,硬件单张 RTX 3090(原文 A.1.4/A.1.5/A.2.3, p.15、p.18、p.19)。

9数据与指标:25 个场景,和一个新指标 HDR-TAE

第 8 章把九项损失的权重、两阶段的迭代与稠密化节奏摆平,也交代了损失曲线上那两处突增的来由。目标函数定妥之后,紧接着的问题是怎么证明它有效:这项任务此前没人做过,评测集与量时间稳定性的指标都得自己造,所以本章读的是数据与指标这两样东西。

原文 §4.1(p.6)把造基准的理由写在段首,因为该任务从未被探索过,作者基于公开的 HDR 视频重建数据集新建了一套评测基准。拼进去的是四份公开数据集(Kronander et al., 2014;Froehlich et al., 2014;Kalantari et al., 2013;Chen et al., 2021),合计 25 个动态场景,每个场景是一段 50–100 帧的交替曝光视频片段。三类划分照原文原话落地:Syn-Exp-3 是 9 个合成场景,带 3 个曝光档与 HDR 真值;Real-Exp-3 是 8 个真实场景,3 个曝光档;Real-Exp-2 是 8 个真实场景,2 个曝光档。三类的数目加起来正好是 25,9 加 8 再加 8,与原文那个 25 对得上。

三类的处理口径并不一样,这直接决定后面每一栏读数该怎么读(原文 A.2.1,p.16–p.17)。Syn-Exp-3 每段约 100 帧、分辨率 864 × 480,用隔帧采样策略划分,奇数帧训练、偶数帧测试,训练与测试各占 50%;测试帧只用于定量评测、不参与训练,它们在视角与时间上都属于插值出来的新样本。合成集握有 GT HDR 视频,LDR 输入因此可以由 HDR 帧反生成,用的是 HDR-NeRF 那套预定义 CRF,写作式 9-1。

(10) L = f(H·Δt) = ( H·Δt / ( H·Δt + 1 ) )1/2.2 (合成集用它从 HDR 真值反生成 LDR 输入;单位曝光损失的 GT 是 C0 = f(1) = 0.73)(原文式 10)

这条式对应原文的式 (10)。由它可以推出单位曝光损失的 GT 是 C₀ = f(1) = 0.73。这样生成的训练用 LDR 有 3 个观测曝光档,也就是 LDR-OE;测试帧另外造 2 个曝光档做新曝光评测,也就是 LDR-NE。这一对缩写要记牢,第 10 章表 10-1 里它们各占三列。

LDR-OE 与 LDR-NE 检验的是两件事:前者检验模型在训练时见过的那些曝光档上重现 LDR 外观的能力,后者检验它外推到没见过的曝光档的能力。这层差别在表结构上直接可见,Syn-Exp-3 同时给出两类读数,Real-Exp-3 只有 LDR-OE,Real-Exp-2 也只有 LDR-OE,外推这一维因此只在合成集上被量到。这是本站对三张表结构的读法,原文没有把这层含义单独写出来。

Real-Exp-3 每段约 50–60 帧、864 × 480,LDR 输入直接取自原始序列,训练与测试的划分沿用同一套隔帧策略,测试帧只能在观测曝光上评测,因此只有 LDR-OE 这一栏。Real-Exp-2 同样约 50–60 帧、864 × 480,但只有 2 个曝光档,隔帧划分不方便,所以整段序列直接用于训练,并在全部训练帧的观测曝光上评测。到这里三套数据的账各有各的记法:Syn-Exp-3 能同时给出观测曝光与新曝光两类读数,Real-Exp-3 只给观测曝光,Real-Exp-2 连划分都不做,读数落在训练帧上。原文另交代了训练与测试帧之间的一处衔接,模型第一阶段跑 4K 迭代、第二阶段跑 11K 迭代,测试帧的相机位姿由相邻训练帧插值而来(原文 p.7)。

单帧质量这一侧沿用 PSNR↑、SSIM↑ 与 LPIPS↓(Zhang et al., 2018)三个指标;跟着 HDR-NeRF 的做法,HDR 结果在 µ-law 域(Kalantari & Ramamoorthi, 2017)里做定量评测,定性展示 HDR 结果用 Photomatix Pro(原文 p.7)。这三项都只看单帧,量不了时间稳定性,作者于是另提 HDR-TAE(HDR 时间对齐误差,HDR Temporal Alignment Error),越低越好,它类比的是视频深度评估里的时间对齐误差 TAE(Yang et al., 2025)(原文 p.18)。

(11) HDR-TAE = ( 1 / ( 2 (Nf − 1) ) ) Σt ( ‖ Vt→t+1 ⊙ (Ĥt+1→t − Ĥt) / (Ĥt+1→t + Ĥt) ‖1 + ‖ Vt+1→t ⊙ (Ĥt→t+1 − Ĥt+1) / (Ĥt→t+1 + Ĥt+1) ‖1 ),t = 1 … Nf−1;Ĥt+1→t = W(Ĥt+1, Ft→t+1),Ĥt→t+1 = W(Ĥt, Ft+1→t) (两个 warp 方向的逐像素相对亮度差取平均,W(·,·) 是反向 warp)(原文式 11)

这条式对应原文的式 (11)。它把相邻两帧之间两个方向的相对亮度差都算进去再取平均;其中 W(·, ·) 表示反向 warp,光流 {F} 与可见性掩膜 {V} 是在相邻的 HDR 帧之间用 RAFT(Teed & Deng, 2020)提取的。原文原话是,更低的 HDR-TAE 表示更好的时间一致性。

式 9-2 与第 7 章的式 7-1 共用同一套相对亮度差的形状,用途不同。式 7-1 是训练损失,它用的有效掩膜 V 由深度序导出,用来把被遮挡的像素排除在外;式 9-2 是评测指标,两个方向相加、再按相邻帧对数的两倍归一化,掩膜来自 RAFT 光流。一个是拿去反向传播的目标,一个是事后算出来的分数,两处不能互相替代着读。还有一层差别在数据来源上:真实场景的 HDR-TAE 用渲染出的 HDR 帧算,合成场景直接用 GT HDR 帧算,同一列数字在两类场景上的含义并不相同。

HDR-TAE 的形式里还有一处可以顺带读清楚。分母出现的 Nf − 1 是相邻帧对的个数,乘上二之后与两个 warp 方向对齐,所以这个指标算的是每一对相邻帧、每一个方向上的平均相对亮度差,t 到 t+1 与 t+1 到 t 两个方向被同等计入。这一层是本站按式体读出来的,原文只给了式子本身。

评测集与指标都能回原文核:评测集由 25 个动态场景构成,按 Syn-Exp-3 / Real-Exp-3 / Real-Exp-2 分成 9 / 8 / 8 三类(原文 p.6),三套口径决定每张表哪一栏是测试帧、哪一栏是训练帧;HDR-TAE 的定义式与其中反向 warp 的写法同在原文式 (11)(原文 p.18),合成集的单位曝光真值 C₀ = f(1) = 0.73 写在原文式 (10) 之后(原文 p.16)。

10主结果:两套账、以及六张表里那一行

第 9 章把 25 个场景与 HDR-TAE 立好,本章把总账摊开。原文把合成集与真实集分开报,读数绝大部分落在测试帧口径上(Real-Exp-2 那一栏除外);读出这些数之前,得先说清比的是谁、对手被改造过什么。

对手分两组(原文 §4.2,p.7)。第一组是 HDR 新视角合成方法,GaussHDR(Liu et al., 2025a)面向静态场景,HDR-HexPlane(Wu et al., 2024a)面向动态场景但在多相机设置下;第二组是标准的未摆位单目 4D 重建方法,MoSca(Lei et al., 2025)、SplineGS(Park et al., 2025)与 GFlow(Wang et al., 2025b)。两组对手的毛病各自清楚:第一组缺的是动态或单目这两项能力里的一项,第二组缺的是 HDR 这一维。

比较口径有两条,它们限定了赢了谁该怎么读。第二组被扩展到 HDR 模式以求公平比较,做法是用 HDR 颜色并施加与本文相同的色调映射 MLP,表里标 ‡;第一组需要已知相机位姿,本文把自己由 bundle adjustment 得到的初始相机参数给它们当输入,表里标 †。两个标记的含义要在首现处说清:† 说的是对手的相机输入由本文提供,‡ 说的是对手的 HDR 能力由本文补上,也就是说这两组对手都不是原样出场的。标记之外还有两条口径:所有对手都训练与本文相同的 15K 迭代,GFlow 不支持高斯的时间插值,所以只能在训练帧上评它。这条限制在第 12 章的表 12-1 里会再出现一次。

合成集上的读数在表 10-1。本文 HDR 侧 37.64 / 0.959 / 0.042,HDR-TAE 0.057;LDR-OE 34.75 / 0.904 / 0.086;LDR-NE 34.54 / 0.915 / 0.081;训练 1.5h、161 fps。次好的一行是 MoSca-HDR‡ 的 36.89 / 0.952 / 0.053,它的 HDR-TAE 是 0.059。再往下是 GaussHDR† 的 31.25 / 0.891 / 0.105,HDR-HexPlane† 的 29.60 / 0.839 / 0.120,最弱的一行是 SplineGS-HDR‡ 的 17.82 / 0.677 / 0.447,它的 HDR-TAE 到 1.188,比本文的 0.057 高一个量级。原文的表注另给了一条读数口径,FPS 是在 864 × 480 分辨率上测的(原文 p.6)。这里还有一处不占优势的地方要指出:本文训练耗时 1.5h,比第一组的 1h 长,速度上的优势来自推理而不是训练。

把差距算出来更直观。本文与次好的 MoSca-HDR‡ 在 HDR PSNR 上差 0.75 dB,37.64 对 36.89;在 LDR-OE 上差 0.67 dB,34.75 对 34.08;与第一组里较好的 GaussHDR† 比,HDR 侧拉开 6.39 dB。这些差值是本站按表 10-1 相减得到的,原文只说本文以较大幅度优于所有对手(原文 p.7)。训练时间那一列另有一层信息:第二组三家都跑 1.5h,第一组两家只跑 1h,而读数上占优的是花更久的那一组,多出的那半小时没有替第一组换来更好的结果,这一层也是本站并排两列读出来的。HDR-TAE 那一列的队形和 PSNR 不同,本文 0.057 与 MoSca-HDR‡ 的 0.059 挨得很近,掉队的是 HDR-HexPlane† 的 0.155 与 SplineGS-HDR‡ 的 1.188,时间稳定性这一项上真正被甩开的只有这两行。

表 10-1 Syn-Exp-3 测试帧上的定量对比 (原文 Table 1, p.6 · 数值取原文文字层,逐格未改)

MethodLDR-OE PSNR↑LDR-OE SSIM↑LDR-OE LPIPS↓LDR-NE PSNR↑LDR-NE SSIM↑LDR-NE LPIPS↓HDR PSNR↑HDR SSIM↑HDR LPIPS↓HDR TAE↓Training timeFPS
GaussHDR†29.510.8580.16728.960.8630.16531.250.8910.1050.0891h51
HDR-HexPlane†29.260.8060.18628.720.8120.18929.600.8390.1200.1551h1
SplineGS-HDR‡17.590.6610.49516.600.6460.51717.820.6770.4471.1881.5h79
MoSca-HDR‡34.080.8980.09833.920.9100.09236.890.9520.0530.0591.5h82
Mono4DGS-HDR (Ours)34.750.9040.08634.540.9150.08137.640.9590.0420.0571.5h161

表 10-1 里 LDR 那两组读数还藏着一处一致的模式。本文的 LDR-NE PSNR 34.54 低于 LDR-OE 的 34.75,差 0.21 dB,可它的 SSIM 与 LPIPS 反而更好,0.915 对 0.904、0.081 对 0.086;MoSca-HDR‡ 是同一个形状,33.92 对 34.08、0.910 对 0.898。换到没见过的曝光档上之后,像素级的 PSNR 掉一点、结构相似度与感知指标反而抬起来,这个形状在两行上同时成立。

真实集上是两栏拼在一张表里,左半是 Real-Exp-2 的训练帧,右半是 Real-Exp-3 的测试帧(表 10-2)。这张表里没有 HDR 三列,真实集上能给的是 LDR-OE 与 HDR-TAE 两类读数,HDR 侧的比较只在合成集上做。本文在 Real-Exp-2 训练帧上 31.82 / 0.928 / 0.052、HDR-TAE 0.046;在 Real-Exp-3 测试帧上 27.65 / 0.876 / 0.081、HDR-TAE 0.067。这里有一处落差要单独看:HDR-HexPlane† 在 Real-Exp-2 上 LDR-OE 是 29.30,换到 Real-Exp-3 只剩 18.49,两栏差 10.81 dB,HDR-TAE 从 0.154 掉到 0.705。原文没有单独解释这个落差,本篇只并列这两个读数;可以提示的两件事是该方法的相机输入来自本文的初始参数,而 Real-Exp-3 是 3 个曝光档。另外三家的两栏落差要小得多:GaussHDR† 是 24.77 与 24.98,MoSca-HDR‡ 是 30.28 与 27.23,SplineGS-HDR‡ 是 21.46 与 13.64。GFlow-HDR‡ 在 Real-Exp-3 一栏是「-」,原文在 Baselines 段给了理由,它不支持高斯的时间插值,所以这一栏没有数,不读成该方法失败。

表 10-2 Real-Exp-2 训练帧与 Real-Exp-3 测试帧上的定量对比 (原文 Table 2, p.7 · 数值取原文文字层,逐格未改)

MethodReal-Exp-2 LDR-OE PSNR↑Real-Exp-2 LDR-OE SSIM↑Real-Exp-2 LDR-OE LPIPS↓Real-Exp-2 HDR-TAE↓Real-Exp-3 LDR-OE PSNR↑Real-Exp-3 LDR-OE SSIM↑Real-Exp-3 LDR-OE LPIPS↓Real-Exp-3 HDR-TAE↓
GaussHDR†24.770.8950.1060.07324.980.8580.1170.096
HDR-HexPlane†29.300.9000.1060.15418.490.6270.2410.705
GFlow-HDR‡27.710.9080.0940.426----
SplineGS-HDR‡21.460.7210.3341.28213.640.5060.5050.707
MoSca-HDR‡30.280.9150.0740.05427.230.8720.0840.076
Mono4DGS-HDR (Ours)31.820.9280.0520.04627.650.8760.0810.067

作者对这批落差的归因要原样带上(原文 p.7–p.8):GaussHDR 表现差,因为它处理不了动态场景;HDR-HexPlane 表现差,因为它处理不了单目视频;GFlow 恢复不出 HDR 场景,因为它逐帧独立地优化高斯、过拟合了 LDR 观测;SplineGS 最差,因为它严重依赖光度重投影损失来恢复相机运动,这在交替曝光的 LDR 帧下不可行;MoSca 靠它的全局高斯融合能力拿到第二好,仍不及本文。口径上还要补一句,左半那一栏是训练帧,本文 31.82 与 MoSca-HDR‡ 的 30.28 之间那 1.54 dB 不能与右半的测试帧差直接比。

速度这一项原文只给了绝对读数,没给倍数,倍数得自己算。按表 10-1 的 FPS 一栏现算:161 / 1 = 161×,对 HDR-HexPlane;161 / 51 = 3.16×,对 GaussHDR;161 / 79 = 2.04×,对 SplineGS-HDR;161 / 82 = 1.96×,对 MoSca-HDR。这四组倍数是本站按表 10-1 现算的,原文的说法只是本文在渲染质量与速度两方面都优于所有对手(原文 p.9 结论段),没有写出任何具体倍数。换一头看这组数,161× 的差距来自 HDR-HexPlane 的 1 fps,而本文真正接近的那一行是 MoSca-HDR‡ 的 82 fps,两者只差 1.96×,速度优势在不同对手身上相差几十倍。

还有一段核对要单独写出来。完整模型那一行的读数在六张表里重复出现,分别是表 10-1、表 11-1 的 (f) 行、表 11-2 的 Ns=4 行、表 11-3、表 11-4 与表 11-5 的 Ours 行。本站逐格比过,Syn-Exp-3 的 LDR-OE 34.75、LDR-NE 34.54、HDR 37.64 与 HDR-TAE 0.057 在这六张表里完全一致;Real-Exp-3 的 LDR-OE 27.65 与 HDR-TAE 0.067 在带这两栏的表 11-1(f) 与表 11-2 里也一致。这一条是本站对表格做的一致性检查,原文没有这样的说法。要分开放的是表 12-1,它评训练帧,Ours 行是 35.18 与 37.97,与这六张表的测试帧口径不同,不可混用。

训练帧与测试帧上的 HDR 视觉对比
图 10-1 E 类·证据 · 原文 Figure 5, p.7 · 原样引用 怎么读 ①指认:一组 HDR 渲染对照网格,栏内标签为 Ours (full region)、GaussHDR、HDR-HexPlane、MoSca-HDR、Ours 与 HDR/LDR GT。②读法(怎么读):把这张图与表 10-1、表 10-2 的 HDR 侧读数并排看,图注只给本文质量更好这一句结论;画面本身不可文本核对,正文不描述画面细节,也不从图上读数。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 5 · 未修改引用(arXiv 非独占分发许可,非 CC)

原文对这张图的说明只有两句,HDR 视觉对比是在训练帧与测试帧上一并给的,本文取得了更好的质量。更多定性对比放在附录的 Fig. 8,固定视角变化时间与固定时间变化视角两类放在附录的 Fig. 9 与 Fig. 10,这三张留给第 12 章(原文 p.8、p.14–p.17)。

两套账要分开说:合成集测试帧上本文 HDR 侧 37.64 / 0.959 / 0.042、HDR-TAE 0.057,真实集 Real-Exp-3 测试帧上 27.65 / 0.876 / 0.081、HDR-TAE 0.067(原文表 1、表 2,p.6–p.7);推理 161 fps 对 HDR-HexPlane 的 1 fps 是 161×,这一倍数是本站现算的;对手读数都受 † 与 ‡ 两条口径限定,完整模型那一行在六张表里逐格一致。

11消融与敏感性:五个设计各自的定价

第 10 章把总账摊开,本章把部件逐个拆下来定价。原文 §4.3 起(p.8)的消融都训练 15K 迭代,评在 Real-Exp-3 与 Syn-Exp-3 的测试帧上;表题下的表注另有一句要交代,V2W 指 video-to-world Gaussian transformation,除 HDR-TAE 外各项指标都是 PSNR。

第一组拆的是视频高斯初始化,做法是去掉视频高斯阶段、直接在世界空间训练高斯,世界高斯用先验轨迹与深度信息初始化。原文写的是 PSNR 掉超过 1 dB,并配了可见的视觉退化(原文 p.8)。本站按表 11-1 的 (a) 行复算:Real-Exp-3 的 LDR-OE 从 27.65 掉到 26.47,差 1.18 dB;Syn-Exp-3 的 LDR-OE 从 34.75 掉到 33.62,差 1.13 dB,它的 LDR-NE 也从 34.54 落到 33.38。作者的解释是,相比把轨迹与深度抬起来用,视频高斯提供的不只是准确的位置先验,还有有意义的旋转、缩放、不透明度与颜色先验,这些先验大幅便利了后续的世界高斯优化。

后面四组各回答一个问题。遮挡处理那一组,去掉之后一些静态内容被误判成动态,原文给的价格是 PSNR 掉 0.3 dB,并且在被遮挡过的区域上背景重建发糊;本站按表 11-1(b) 复算是 27.65 掉到 27.29,差 0.36 dB。2D 协方差不变性那一组,去掉之后世界高斯的尺寸初始化不好、结果次优,本站按表 11-1(c) 复算 27.65 掉到 27.34,差 0.31 dB。HDR 光度重投影那一组是在第二阶段把损失去掉,本站按表 11-1(d) 复算 Real-Exp-3 的 LDR-OE 27.65 掉到 27.26,差 0.39 dB,Syn-Exp-3 的 HDR 37.64 掉到 37.33,差 0.31 dB;作者原话是,来自光度重投影损失的稠密监督有利于精调相机位姿与场景几何。时间亮度正则那一组的价格落在另一个指标上:去掉它,Real-Exp-3 的 LDR-OE 从 27.65 只掉到 27.63,差 0.02 dB,Syn-Exp-3 的 HDR 从 37.64 掉到 37.58,差 0.06 dB,而 HDR-TAE 从 0.067 退到 0.082、从 0.057 退到 0.071;作者原话是 L_tlr 在稳定跨帧外观变化上起关键作用,原文另说去掉之后动态区域出现明显伪影与噪点。这五组的读数分别回应第 3 章到第 7 章的设计,价格最高的那一项恰好也是整篇的入口设计。表 11-1 里 (b) 与 (c) 两行还有一个共同点,它们的 HDR-TAE 与完整模型的 0.057 相比最多只动到 0.059,说明这两项设计管的是几何与尺寸的初始化,代价几乎全落在 PSNR 上。

表 11-1 Real-Exp-3 与 Syn-Exp-3 测试帧上的定量消融 (原文 Table 3, p.8 · 数值取原文文字层,逐格未改)

MethodReal-Exp-3 LDR-OEReal-Exp-3 HDR-TAESyn-Exp-3 LDR-OESyn-Exp-3 LDR-NESyn-Exp-3 HDRSyn-Exp-3 HDR-TAE
(a) w/o Video Gaussian Initialization26.470.06833.6233.3836.070.057
(b) w/o Occlusion Handling in V2W27.290.06934.4034.1737.220.059
(c) w/o 2D Covariance Invariance in V2W27.340.06834.3134.2137.250.057
(d) w/o HDR Photometric Reprojection Loss27.260.07034.3834.1737.330.059
(e) w/o Temporal Luminance Regularization27.630.08234.7134.4937.580.071
(f) Mono4DGS-HDR (Full model)27.650.06734.7534.5437.640.057

控制点采样间隔那一组换了个问法。因为不同场景的视频长度不同,原文改用采样间隔 Ns 来考察,Ns = 1 / 2 / 4 / 8 / 16 五行都列在表 11-2 里。这里有一处必须如实写出来的实读发现。作者的结论原话是,Ns 大于 4 之后性能开始退化(原文 p.9),而被采用的 Ns=4 在四个指标列上都低于 Ns=1,两个 HDR-TAE 列上两者持平:Real-Exp-3 的 LDR-OE 27.73 对 27.65、HDR-TAE 两行同为 0.067;Syn-Exp-3 的 LDR-OE 34.86 对 34.75、LDR-NE 34.65 对 34.54、HDR 37.70 对 37.64,HDR-TAE 两行同为 0.057。Ns=2 在 Syn-Exp-3 的这三列上也高于 Ns=4,读数是 34.82 / 34.60 / 37.66。往另一头走则明显变差,Ns=8 的三列是 34.16 / 33.95 / 37.03,Ns=16 是 33.67 / 33.47 / 36.34。作者给的选值理由是原话,这是性能与存储显存之间的折中,因为更小的 Ns 意味着更多控制点、也就意味着更高的显存开销。Ns=4 因此是按显存折中选出来的,它并不是读数最优的那一个。这一段只并列读数与作者理由,本篇不替作者改选值,也不用它否定 Ns=4 之下的任何结论。

表 11-2 三次 Hermite 样条控制点采样间隔的消融 (原文 Table 4, p.9 · 数值取原文文字层,逐格未改)

Sample every Ns framesReal-Exp-3 LDR-OEReal-Exp-3 HDR-TAESyn-Exp-3 LDR-OESyn-Exp-3 LDR-NESyn-Exp-3 HDRSyn-Exp-3 HDR-TAE
Ns=127.730.06734.8634.6537.700.057
Ns=227.580.06734.8234.6037.660.058
Ns=4 (Ours)27.650.06734.7534.5437.640.057
Ns=827.260.06834.1633.9537.030.058
Ns=1626.750.06833.6733.4736.340.058

曝光时序那一组换的是输入端。原文用 random 3-exposure schedule 与 random exposure values 两种替代时序来对照,训练用的 LDR 帧是从 Syn-Exp-3 的 HDR 真值重新生成的,评测仍用原来的曝光值(原文 p.21)。表 11-3 里本文在三个域上都最好:LDR-OE 34.75 对 34.71 与 34.59,LDR-NE 34.54 对 34.52 与 34.44,HDR 37.64 对 37.37 与 37.42。两种替代时序彼此之间挨得很近,HDR 只差 0.05 dB,37.42 对 37.37。原文对这批数另有一段观察要带上:这两种替代时序下 PSNR 与 SSIM 只轻微下降,LPIPS 的下降更明显,作者把它归因于在不同曝光的两帧上算光流不准;尽管光流模型在预训练时做过亮度增强、对曝光变化有一定鲁棒性,面对很大的曝光差仍会遇到困难,光流先验因此更差,LPIPS 结果也就更差(原文 p.21)。

表 11-3 其他曝光时序的消融 (原文 Table 6, p.19 · 数值取原文文字层,逐格未改)

MethodLDR-OE PSNR↑LDR-OE SSIM↑LDR-OE LPIPS↓LDR-NE PSNR↑LDR-NE SSIM↑LDR-NE LPIPS↓HDR PSNR↑HDR SSIM↑HDR LPIPS↓HDR TAE↓
random 3-exposure schedule34.710.9020.09334.520.9140.08737.370.9560.0520.057
random exposure values34.590.9020.09434.440.9130.08837.420.9550.0530.057
Ours34.750.9040.08634.540.9150.08137.640.9590.0420.057

曝光值本身有多准,是另一组敏感性。原文在训练时随机扰动输入的曝光值,表 11-4 按扰动范围分行:小扰动只带来轻微下降,更大的扰动导致更明显的退化。本站按 HDR PSNR 复算这一段的落差,[−0.25, 0.25] EV 是 37.28,[−0.5, 0.5] EV 是 35.55,[−0.75, 0.75] EV 是 34.32,最大与最小两行差 2.96 dB。扰动越大,恢复出来的 CRF 也拟合得越差(原文 p.21)。三档扰动的 HDR-TAE 分别是 0.060、0.058 与 0.058,都高于完整模型的 0.057,曝光值不准会同时啃掉一点时间稳定性;这也是本站按表 11-4 并排两列读出来的。作者同时强调,真实应用里曝光值通常可以从相机元数据里准确读到,这一条支撑了方法的实用性。

不同随机曝光扰动范围下恢复出的 CRF
图 11-1 E 类·证据 · 原文 Figure 13, p.20 · 原样引用 怎么读 ①指认:一张多栏曲线图,栏内标签有 Bridge、Cars、Hallway 与 Ours,列按 −0.25, 0.25 EV、−0.5, 0.5 EV、−0.75, 0.75 EV 三档扰动范围排。②读法(怎么读):这是曲线图,形状无法从文字层核对,正文只引原文的定性结论,即扰动越大恢复出的 CRF 拟合越差,不从图上读任何数值。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 13 · 未修改引用(arXiv 非独占分发许可,非 CC)

余下的一组把三个 2D 先验的监督拆开。原文表题与表注说明,这是深度损失与光流/轨迹损失的消融,评在 Syn-Exp-3 的测试帧上。去掉深度损失,HDR PSNR 是 35.56;去掉光流/轨迹损失,是 35.05;对完整模型的 37.64,两行分别差 2.08 dB 与 2.59 dB。作者的原话是,性能在没有这些损失时掉得很多,这说明这些先验对高质量重建很重要。表 11-5 还显示,去掉这两项监督后 LDR-NE 那一列也跟着往下走,从 34.54 落到 33.55 与 33.23。

表 11-4 不同随机曝光扰动范围的消融 (原文 Table 7, p.21 · 数值取原文文字层,逐格未改)

Random PerturbationLDR-OE PSNR↑LDR-OE SSIM↑LDR-OE LPIPS↓LDR-NE PSNR↑LDR-NE SSIM↑LDR-NE LPIPS↓HDR PSNR↑HDR SSIM↑HDR LPIPS↓HDR TAE↓
[−0.75, 0.75] EV31.370.8960.09431.320.9080.08934.320.9530.0480.060
[−0.5, 0.5] EV33.310.9010.09133.210.9120.08635.550.9570.0460.058
[−0.25, 0.25] EV34.270.9020.08334.130.9130.08337.280.9580.0440.058
Ours34.750.9040.08634.540.9150.08137.640.9590.0420.057

表 11-5 深度损失与光流/轨迹损失的消融 (原文 Table 8, p.21 · 数值取原文文字层,逐格未改)

MethodLDR-OE PSNR↑LDR-OE SSIM↑LDR-OE LPIPS↓LDR-NE PSNR↑LDR-NE SSIM↑LDR-NE LPIPS↓HDR PSNR↑HDR SSIM↑HDR LPIPS↓HDR TAE↓
w/o depth loss33.630.8970.09533.550.9080.09035.560.9530.0540.058
w/o track/flow loss33.430.8960.09733.230.9090.09235.050.9520.0520.058
Ours34.750.9040.08634.540.9150.08137.640.9590.0420.057

数值之外还有一张定性对照。表 11-1 的六行各有对应的画面,图 11-2 把它们并排摆出来,六个分栏的标签与表 11-1 的 (a) 至 (f) 行一一对应,末栏是完整模型。原文的说明是,去掉 L_tlr 之后动态区域出现明显伪影与噪点,去掉 2D 协方差不变性之后世界高斯的尺寸初始化不好(原文 p.8)。画面本身不可文本核对,正文只引这两条文字结论。

定性消融结果
图 11-2 E 类·证据 · 原文 Figure 6, p.8 · 原样引用 怎么读 ①指认:一张六分栏对照网格,分栏标签为 (a) w/o Video Gaussian Init.、(b) w/o Occlusion Handling in V2W、(c) w/o 2D Covariance Invariance in V2W、(d) w/o HDR Photometric Reproj. Loss、(e) w/o Temporal Luminance Reg.、(f) Mono4DGS-HDR (Full model)。②读法(怎么读):分栏与表 11-1 的六行一一对应,读它要看的是哪一组缺件的视觉退化最重,与本章那五组 dB 差配着看;画面内容不可文本核对,正文只引原文写出的结论。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 6 · 未修改引用(arXiv 非独占分发许可,非 CC)

五个设计的定价并排摆开:五组设计的价格分别是 1.18 dB、0.36 dB、0.31 dB 与 0.39 dB(表 11-1,原文 p.8–p.9),时间亮度正则那一组的价格落在 HDR-TAE 上,Real-Exp-3 从 0.067 退到 0.082、Syn-Exp-3 从 0.057 退到 0.071,而它的 PSNR 只差 0.02 dB;被采用的 Ns=4 在表 11-2 的四个指标列上都低于 Ns=1、两个 HDR-TAE 列上持平,作者给出的理由是性能与显存的折中;先验那一组的价格是 2.08 dB 与 2.59 dB。

12补充结果、诱导跟踪与边界

第 11 章把部件逐个定了价,本章收三样东西:附录里与 GFlow 的对比、顺带得到的跟踪能力,以及作者自陈的挑战场景与失败案例,末了收到八条边界。

附录 A.3.1(p.15)补上的是与 GFlow 在训练帧上的对比,对应表 12-1。GFlow-HDR‡ 在 Real-Exp-3 训练帧上 LDR-OE 24.88 / 0.894 / 0.139、HDR-TAE 0.770,在 Syn-Exp-3 训练帧上 LDR-OE 30.08 / 0.912 / 0.115、HDR-TAE 0.815,而同一口径下它的 HDR 只有 18.70 / 0.674 / 0.206。本文同口径的读数高一截:Syn-Exp-3 训练帧的 LDR-OE 35.18 / 0.908 / 0.082、HDR 37.97 / 0.960 / 0.040、HDR-TAE 0.057。

表 12-1 与 GFlow 在训练帧上的定量对比 (原文 Table 5, p.15 · 数值取原文文字层,逐格未改)

MethodReal-Exp-3 LDR-OE PSNR↑Real-Exp-3 LDR-OE SSIM↑Real-Exp-3 LDR-OE LPIPS↓Real-Exp-3 HDR-TAE↓Syn-Exp-3 LDR-OE PSNR↑Syn-Exp-3 LDR-OE SSIM↑Syn-Exp-3 LDR-OE LPIPS↓Syn-Exp-3 HDR PSNR↑Syn-Exp-3 HDR SSIM↑Syn-Exp-3 HDR LPIPS↓Syn-Exp-3 HDR-TAE↓
GFlow-HDR‡24.880.8940.1390.77030.080.9120.11518.700.6740.2060.815
Mono4DGS-HDR (Ours)30.090.9130.0670.06735.180.9080.08237.970.9600.0400.057

这张表里有两处实读要写明白。一处是 GFlow-HDR 的 Syn-Exp-3 内部落差,LDR-OE 30.08 对 HDR 18.70,差 11.38 dB;本文在同一栏是反向的,LDR-OE 35.18 低于 HDR 37.97,HDR 反而高出 2.79 dB。它可与第 10 章那句 GFlow 过拟合 LDR 观测、恢复不出 HDR 场景对上,是账面证据不是本站的推断。另一处是口径,表 12-1 评训练帧,表 10-1 评测试帧,两处读数不可混用(原文 p.15、p.7)。

附录另有三批定性结果:图 12-1 是更多训练帧与测试帧上的 HDR 对比,图 12-2 固定视角、让时间走,图 12-3 固定时间、让视角走,后两张栏内只有 MoSca-HDR 与 Ours。原文对这三批的结论一致,本文的渲染细节更细、伪影更少(原文 p.8、p.15)。

更多训练帧与测试帧上的 HDR 对比
图 12-1 E 类·证据 · 原文 Figure 8, p.14 · 原样引用 怎么读 ①指认:一组 HDR 渲染对照网格,栏内标签为 Ours (full region)、GaussHDR、HDR-HexPlane、MoSca-HDR、Ours 与 HDR/LDR GT。②读法(怎么读):图 10-1 的扩充批,栏内标签同构。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 8 · 未修改引用(arXiv 非独占分发许可,非 CC)

前一张把训练帧与测试帧混在一起看,这一张开始把两条轴拆开。固定视角、只让时间往前走,考的是同一机位下 HDR 外观随时间的稳定性,与第 7 章那条时间亮度正则针对的是同一件事,所以这一张可以当作那条正则的画面旁证,而不是单帧质量的对照。栏内只留 MoSca-HDR 与 Ours 两列,对照比前面那批更集中(原文 p.16)。

固定视角变化时间
图 12-2 E 类·证据 · 原文 Figure 9, p.16 · 原样引用 怎么读 ①指认:两行对照,分别是 MoSca-HDR 与 Ours,按 t₁、t₂、t₃ 排。②读法(怎么读):视角固定、只让时间变,与表 10-1 的 HDR-TAE 列配着看。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 9 · 未修改引用(arXiv 非独占分发许可,非 CC)

另一头把时刻钉住、只让视角走:模型要在没见过的机位上给出同样的 HDR 外观。两张图合起来,把时间与视角各自单独考了一遍,与图 12-1 那批混着看的对照互为补充;栏内构成与上一张相同,同样只有 MoSca-HDR 与 Ours 两列(原文 p.16–p.17)。

固定时间变化视角
图 12-3 E 类·证据 · 原文 Figure 10, p.17 · 原样引用 怎么读 ①指认:两行对照,同样是 MoSca-HDR 与 Ours,横向按 view1、view2、view3 排。②读法(怎么读):与图 12-2 配对,一个沿时间轴、一个沿视角轴。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 10 · 未修改引用(arXiv 非独占分发许可,非 CC)

大幅视角变化另成一批,在原文 A.3.3(p.19),四个场景 Bridge2、Welding、Fishing 与 Worker 各占一栏,对应图 12-4。口径要原样带:没有大幅视角变化下的 HDR/LDR 真值,作者无法做定量评测,只给视觉结果;结果里虽然有一些伪影,方法在这种视角变化下维持了合理的几何与光度一致性。

宽视角变化下的渲染
图 12-4 E 类·证据 · 原文 Figure 12, p.19 · 原样引用 怎么读 ①指认:四个场景 Bridge2、Welding、Fishing 与 Worker 各占一栏的渲染结果。②读法(怎么读):没有可算数的真值,只作视觉证据。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 12 · 未修改引用(arXiv 非独占分发许可,非 CC)

顺带得到的跟踪能力在原文 §4.4(p.9)。2D 跟踪把动态高斯的轨迹投影到像平面得到,3D 跟踪直接取自世界空间里的动态高斯轨迹;原文原话是这些结果说明本文方法还能顺带给出场景里动态物体准确的 2D/3D 跟踪(更多结果见补充视频)。

诱导出的 2D/3D 跟踪
图 12-5 E 类·证据 · 原文 Figure 7, p.9 · 原样引用 怎么读 ①指认:两组各四栏的对照,组内标签是 Tracking in 2D image 与 Tracking in 3D world。②读法(怎么读):2D 靠投影、3D 直接来自世界空间轨迹。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 7 · 未修改引用(arXiv 非独占分发许可,非 CC)

挑战场景由原文 A.4(p.19–p.22)交代,数据集涵盖低光、非朗伯表面(反射与透明)与快速或复杂运动,对应图 12-6 的 (a) 至 (h)。作者有一处自陈不许美化:方法是为一般性的、从变化曝光的 LDR 帧做 HDR 重建而设计的,并没有专门针对这些困难条件,在这些条件下仍给出了合理结果。四条加强路径原文逐个点名:低光场景可在 RAW 域里操作(引 RawNeRF 与 LE3D);透明与反射表面可接入 GaussianShader 与 TransparentGS 那样的反射/折射建模;快速运动场景里 LDR 帧带运动模糊,模糊区域会因像素级光度监督给出同样糊的重建,去模糊不是重点,Deblur4DGS 这类技术可接进来;复杂运动场景 Skateboarder 的成功被归给动态高斯表示与视频高斯初始化。

挑战条件
图 12-6 E 类·证据 · 原文 Figure 14, p.22 · 原样引用 怎么读 ①指认:八个分栏,(a) Low-light, Outdoor、(b) Low-light, Indoor、(c) 与 (d) Transparent Glass、(e) Reflective Glass、(f) Reflective Lake Surface、(g) Fast Motion、(h) Complex Motion。②读法(怎么读):分栏标签就是上面那四类困难条件。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 14 · 未修改引用(arXiv 非独占分发许可,非 CC)

失败案例由原文 A.5(p.23)给出,对应图 12-7 的三栏:光流估计不准会让动态/静态分离出错,快速相机或物体运动会造成运动模糊,燃烧的火焰则来自 ARAP 约束下不建模非刚体形变。原文的收尾态度照引:这些限制存在,却减损不了本文的核心贡献,也就是 Mono4DGS-HDR 本身,它们也为后续研究提供了方向。

典型失败案例
图 12-7 E 类·证据 · 原文 Figure 15, p.22 · 原样引用 怎么读 ①指认:三个分栏,(a) 是 Inaccurate Optical Flow on Textureless Regions Causing Erroneous Dynamic/Static Separation,(b) 是 Motion Blur,(c) 是 Non-rigid Motion。②读法(怎么读):三栏就是下面边界 1 至边界 3 的画面出处。 来源:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos(ICLR 2026 · arXiv:2510.18489v2)· 图 15 · 未修改引用(arXiv 非独占分发许可,非 CC)

这张表的核对点有两处:表 12-1 里 GFlow-HDR 的 Syn-Exp-3 LDR-OE 30.08 与 HDR 18.70 落差 11.38 dB,而本文反向高出 2.79 dB(原文 p.15);这张表按训练帧口径评,与表 10-1 的测试帧口径不可混用。

边界 1: 方法的天花板压在 2D 先验上。不准的深度先验会导致错误的场景几何,不准的光流/轨迹先验会把动态高斯的运动带偏,由光流先验导出的动态掩膜也不完美,会影响静态与动态世界高斯的分离(原文 A.5,p.23)。表 11-5 是这条的定价:去掉深度损失或光流/轨迹损失,HDR PSNR 分别掉 2.08 dB 与 2.59 dB。

边界 2: 快速运动造成的模糊解不了。相机或物体快速运动时采集到的 LDR 帧本身就带运动模糊,模糊区域会因像素级光度监督给出同样模糊的重建(原文 A.4、A.5),图 12-7 的 (b) 是例子;去模糊不是本文的重点,作者指出可接入 Deblur4DGS 这类技术。

边界 3: 刚体假设挡掉了非刚体形变。ARAP 约束下不建模动态物体的非刚体形变(原文 A.5 第三条),图 12-7 里燃烧的火焰就是失败样例。

边界 4: 不需要位姿这件事是靠换坐标系换来的。第一阶段用的是正交相机坐标系下的伪 3D 空间,原文原话是它无法表示世界里的真实 3D 几何;真实几何与世界高斯只能从第二阶段拿到,而第二阶段完全依赖第一阶段的结果(原文 §3.3.1、§3.3.2)。

边界 5: 对手是被改造过之后才比得上的。GaussHDR 与 HDR-HexPlane 需要已知相机位姿,本文把自己 bundle adjustment 得到的初始相机参数给它们当输入;MoSca、SplineGS 与 GFlow 被扩展到 HDR 模式;GFlow 不支持高斯时间插值,只能在训练帧上评(原文 §4.2)。

边界 6: 三套数据集的口径不一样,不能混着算。Syn-Exp-3 的 LDR 输入是用 HDR-NeRF 那套预定义 CRF 从 HDR 真值反生成的,测试帧另造了 2 个曝光档做 LDR-NE;Real-Exp-3 只能在观测曝光上评;Real-Exp-2 只有 2 个曝光档,整段序列都用于训练、并在训练帧上评测(原文 A.2.1)。表 10-2 里 Real-Exp-2 那一栏是训练帧读数,与 Real-Exp-3 的测试帧读数归不到一类账上。

边界 7: 被采用的控制点采样间隔不是读数最优的那个。Ns=4 是性能与显存的折中,更小的 Ns 意味着更多控制点、更多显存,而表 11-2 里 Ns=1 在四个指标列上都更高、两个 HDR-TAE 列上持平(原文 §4.3 只说 Ns 大于 4 后性能开始退化,未解释为何不选 1)。

边界 8: 代码与数据尚未公开,伦理与写作辅助口径要如实标出。原文 Reproducibility Statement 写的是录用后公开代码与处理后的数据,摘要末给了项目页地址;伦理声明称本研究不涉及伦理问题、没有人类受试者;LLM(GPT-4)只用于润色写作(原文 A.6/A.7/A.8,p.23)。

13贡献块

这一篇的贡献(精读视角)

贡献块

这一篇的贡献可以按「把任务立起来」与「把两阶段的每一段做实」两条线收。

第一条是任务。作者把场景设定在一个前人没有认真碰过的组合上:相机位姿未知、只有一台手持相机、视频帧的曝光一帧一变。已有的 HDR 新视角合成方法默认场景不动,已有的动态重建方法默认整段视频亮度一致;唯一碰过动态 HDR 的 HDR-HexPlane(Wu et al., 2024a)只在合成场景、已知位姿、多相机的设置上验证过。于是这篇要立的事是:从一段未摆位的、交替曝光的单目 LDR 视频里,恢复出可渲染的 4D HDR 场景与相机参数。与之配套的是一个从公开数据集拼起来的基准,25 个动态场景分三类:Syn-Exp-3(9 个合成场景、3 个曝光档、有 HDR 真值)、Real-Exp-3(8 个真实场景、3 个曝光档)、Real-Exp-2(8 个真实场景、2 个曝光档),每段 50 至 100 帧。

第二条是两阶段各自的做实。第一阶段在正交相机坐标系里学全动态视频 HDR 高斯,把相机运动和物体运动统一收进高斯的轨迹里,相机位姿这一步被彻底绕开,训练视频的亮度先对齐。第二阶段把这组高斯搬到世界空间,与相机位姿一起精调。搬的过程有两处硬骨头:判动静这一步不能只看高斯有没有落进动态区域,还要用指示量把它当时被挡住的那些时刻剔除,再按 Nd / Nf 是否超过 0.1 投票(式 5-1);尺度这一步不能继承,要按「投影出的 2D 高斯在变换前后形状尺寸一致」这条不变性重解一个最小二乘(式 6-1),作者的做法是用梯度下降,1000 步以内、1 分钟以内收敛。

第三条是训练上的两件补齐。一件是时间亮度正则(式 7-1):监督在曝光正常的时刻有效、在过曝或欠曝的时刻很弱,动态高斯于是会在运动物体的表面上方留下飘点;用光流把相邻帧的 HDR 渲染互相 warp 过来对齐逐像素亮度,分母的归一化把辐照度尺度的影响消掉,warp 用渲染出的光流图并停掉梯度,只在稠密化结束后启用。另一件是HDR 光度重投影损失(式 8-3、式 8-4):像 SplineGS 那样在单目视频里用光度重投影一起优化深度与位姿,原本不适合交替曝光的输入;第一阶段恢复出的 HDR 训练视频让这条路重新可用,于是第二阶段的相机位姿与世界高斯可以联合精调。

账面上的收束分两处,不能合并说。合成集测试帧上本文 HDR 侧是 PSNR 37.64 / SSIM 0.959 / LPIPS 0.042、HDR-TAE 0.057,五行的对手里最好的是 MoSca-HDR 的 36.89 / 0.952 / 0.053。真实集上本文在 Real-Exp-2 训练帧是 31.82 / 0.928 / 0.052、HDR-TAE 0.046,在 Real-Exp-3 测试帧是 27.65 / 0.876 / 0.081、HDR-TAE 0.067。效率侧也在这里:表 10-1 的 FPS 一栏本文 161,对手分别是 GaussHDR 的 51、HDR-HexPlane 的 1、SplineGS-HDR 的 79、MoSca-HDR 的 82 —— 对最慢的那一家是 161 倍。

本站在文里额外做了三件事,都属于精读该做的核对,没有替作者下判断。第一,把八张表按文字层逐格取出来重排(tables-md.md),并核了跨表一致性:完整模型那一行读数在六张表里重复出现,Syn-Exp-3 的 34.75 / 34.54 / 37.64 / 0.057 与 Real-Exp-3 的 27.65 / 0.067 逐格一致。第二,把加速倍数自己算了一遍:161 除以 1 是 161 倍,对 GaussHDR 是 3.16 倍,对 SplineGS-HDR 是 2.04 倍,对 MoSca-HDR 是 1.96 倍,原文只说渲染质量与速度都超过对手,没有给倍数。第三,把控制点采样间隔那组消融的读数与作者的理由并列摆出:Ns=4 是显存折中,而表 11-2 里 Ns=1 在每一列上更高。

14原文出处块

原文出处

标题:Mono4DGS-HDR: High Dynamic Range 4D Gaussian Splatting from Alternating-exposure Monocular Videos

作者:Jinfeng Liu、Lingtong Kong、Mi Zhou、Jinwei Chen、Dan Xu。单位分别是香港科技大学(Jinfeng Liu 与 Dan Xu,Dan Xu 为通讯作者,jliugk@cse.ust.hk 与 danxu@cse.ust.hk)与 vivo 移动通信(Lingtong Kong、Mi Zhou、Jinwei Chen)。

发表:ICLR 2026(The Fourteenth International Conference on Learning Representations)会议论文。预印本 arXiv:2510.18489v2 [cs.CV],v2 日期 2026-03-01。原文 24 页,Letter 开本双栏;正文含 11 个编号公式、15 张图、8 张表,另有 4 页参考文献与 11 页附录(A.1 方法细节、A.2 实验设置、A.3 附加实验结果、A.4 挑战场景、A.5 限制、A.6 伦理声明、A.7 可复现性声明、A.8 大语言模型用法)。

授权:arXiv 非独占分发许可(licenses/nonexclusive-distrib/1.0)。原文 PDF 内没有任何许可声明(逐页检索 Copyright、Creative Commons、CC BY、License、All rights reserved 等词,只命中参考文献里的 arXiv 号);本页所据的许可来自 arXiv 摘要页的 License 链接。按该许可,arXiv 自身可以分发该预印本,本站不提供站内 PDF 托管,只在文末给出 arXiv 的 canonical 链接,并对每一张原图逐图署名。

附材料:原文摘要末尾给出项目页 https://liujf1226.github.io/Mono4DGS-HDR;同一篇的 Reproducibility Statement 写的是「本文建立在 3DGS、MoSca、SaV、GaussHDR、SpatialTracker、DepthCrafter 与 RAFT 这些公开代码库之上,若本工作被录用,将公开代码与处理后的数据」。两处口径并列,本站不对该项目的仓库内容、可用性作任何描述或推断。

原文全文:arXiv:2510.18489(canonical 版本)

原文预印本采用 arXiv 非独占分发许可(licenses/nonexclusive-distrib/1.0,非 CC),该许可只允许 arXiv 自身分发,因此本站不提供站内 PDF 托管;逐图署名与残留风险已登记在出处块。

使用说明:本页是论文精读,未做全文翻译,也不代表原作者的观点汇总。正文里的方法描述、数值与结论均标注了原文出处(页码口径 [p.N],从 0 起);15 张图按实测包围盒从原文 PDF 裁取原样引用,未裁切拼接、未加标注、未施滤镜,逐图署名;8 张表按原文文字层逐格取值后以 HTML 重排,数值未改位数。本页的作者主张与本站的核对发现是分开写的:凡属作者主张(例如 GaussHDR 因处理不了动态场景而表现差、GFlow 因逐帧独立优化而恢复不出 HDR、Ns=4 是性能与显存的折中)均标明是原文的判断;凡属本站核对(表格逐格取值、跨表一致性、加速倍数复算、Ns 那一组的逐列对比)均标为实读发现。文中所有数据以原文为准;若原文后续版本有修订,以 arXiv 最新版为准。