在C++中安全地重新缩放和向下投射浮点数

Rescaling and downcasting a float safely in C++

本文关键字：浮点数 缩放 安全 C++ 新缩放      更新时间：2023-10-16

我正在尝试R装箱一个浮点数，我想以无符号的 8 位整数格式获取其权重wt：

float R;
float edgeVal = rintf(R); // round to the nearest edge
float dR = R - edgeVal + 0.5f; // distance to the edge with a half-pixel offset
unsigned char wt = static_cast<unsigned char>( dR*256.f )); // allowed range [0; 255]

在dR == 0.f的区间边缘，我们将得到wt=0，但在dR == 1.f的另一个边，我们将得到wt = 256，它将环绕到0，而在这种情况下我们真的很想得到wt = 255。实现它的正确代码是什么？

下面是变量范围的 2 位示例：

wt = |0|1|2|3|
^       ^
|       |
dR = 0       1

如果只有1.0f的确切值是问题所在，您可能希望首先避免为dR获取此值。我建议对你的逻辑进行微小的改变，用floor替换rintf，其行为在所有情况下都很容易预测，而不受任何外部因素的影响：

float Radj = R + 0.5f;
float edgeVal = floor(R); // now Radj - 1 < edgeVal <= Radj
float dR = Radj - edgeVal; // 0 <= dR < 1

现在原来的

static_cast<unsigned char>( dR*256.f ));

永远不会溢出到 0。

对于一些测试值，原始代码给出了

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     0       1       0
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128

而对于floor，edgeVal和wt的值是一致的(以调整前者为代价)：

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     1       0       0       // note the change here
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128
相关文章：