使用双精度的程序的意外行为

Unexpected behaviour of a program using doubles

本文关键字：意外程序双精度更新时间：2023-10-16

可能的重复：
为什么Visual Studio 2008告诉我.9 - .8999999999999995 = 0.0000000000000000055511151231257827？
为什么像 1.82 这样的简单双精度最终会变成 1.8199999999645634565360？

当我编译和运行以下程序时，我得到了一个非常奇怪的行为：

#include <iostream>
#define DIV 10000ll
long long gcd(long long a, long long b) {
if(b==0) return a;
else return gcd(b, a % b);
}
int main() {
int t;
std::cin >> t;
while(t--) {
double n1;
std::cin >> n1;
long long inum=(long long)(n1*DIV);
std::cout << inum << std::endl;
if(inum==0) { std::cout << 1 << std::endl; }
else std::cout << DIV/gcd(inum,DIV) << std::endl;
}
return 0;
}

当我输入时：

1
0.0006

我得到作为输出

5
2000

这意味着：(long long)0.0006*10000等于 5 而不是 6。为什么会这样？

> 0.0006 不能完全表示为双精度。存储的实际结果很可能是 0.00059999999...当此值乘以 10000 时，它给出的数字略小于 6。将其转换为整数类型会将其截断(向下舍入)为 5。

这不是奇怪的行为。这就是浮点运算的工作原理。如果要获取值 6，则应舍入到最接近的整数，而不是截断。