谷神星求解器:对非线性最小二乘法使用平滑近似

Ceres Solver : using smooth approximations for non-linear least squares

本文关键字:小二 平滑 非线性      更新时间:2023-10-16

我们正在使用Google ceres求解器来解决计算机视觉应用程序中出现的优化问题。我们使用 AutoDiffCostFunction 来评估残差,密集的 QR 求解器能够优化函数并找到一个不错的最小值。但我想知道使用像 fmax、fmin 和 relu 这样的非平滑函数(或残差中的 if/else(是否被认为是一种不好的做法。

我们的残差包含一些非平滑操作:

// compute the area of intersection rectangle
T interArea = fmax(T(0.0), xB - xA) * fmax(T(0.0), yB - yA);

另一个在零处不可微分的片段:

// Generalized Intersection over Union 
T g_iou = (a_c > T(0.0)) ? (iou - (a_c - u) / a_c) : T(0.0);

例如,我们可以用平滑近似替换 fmax:

(1) fmax(x, y; k) = log( exp(kx) + exp(ky) ) / k

问题是,即使密集的QR按预期工作,我们是否应该系统地去除任何不平滑的残差?

线性求解器的选择与目标函数的平滑度无关。如果它有效,你很好,但一个平滑的目标是谷神星求解器理论上假设的。不光滑是轻微的或不是非常广泛地存在,那么你很可能没事。也就是说,人们(包括我(经常有你在目标函数中使用的那种条件。