C++ 双重比较的奇怪行为

C++ Strange behavior with double comparaison

本文关键字：比较 C++      更新时间：2023-10-16

我正在为我的应用程序开发一个单元测试，但我面临着一个我不明白的奇怪问题。

代码为：

double res = BytesTool::convertSize(1, BytesTool::Byte, BytesTool::KiloByte);
double tmp = pow((double)1000, -1);
QVERIFY(res == tmp);

我正在从Linux机器（主机64位）编译Linux 64位与gcc（主机64位），并使用Linux的mingw32编译器交叉编译Windows 32bits。

该程序在调试和发布模式下运行良好（断言成功），Linux 编译。对于 Windows 版本，它在调试版本中工作正常，但在发布版本中则不然;断言失败。

奇怪的是，如果我插入跟踪，测试在 Windows 中工作：

double res = BytesTool::convertSize(1, BytesTool::Byte, BytesTool::KiloByte);
printf("test");
double tmp = pow((double)1000, -1);
QVERIFY(res == tmp); // Is TRUE when printf("test") is present, FALSE otherwise
我

迷路了，我真的不明白发生了什么。为什么printf让它工作？

感谢您的帮助。

printf 将导致它工作，因为浮点数将从内部 FPU 80 位表示形式（假设 x86"旧式"数学）转换为保存在双精度中的 64 位。

这样做的原因是，当您调用另一个函数时，寄存器值必须移动到堆栈中（同样，假设 x86 旧式 FPU 调用约定），这将导致它四舍五入到 64 位精度。

您的其他编译很可能有效，因为它们使用的是具有本机 64 位浮点类型的 SSE2+ 数学。

==测试浮点数是否相同，这几乎从来都不是浮点数的正确做法。

在这种情况下，不是因为内部 CPU 表示形式与存储在双精度中的表示形式不同。

比较浮点数时，请始终检查它们是否彼此足够接近而不是相等。

#include <math.h>
QVERIFY( fabs(res-tmp) < DBL_EPSILON )
相关文章：