/fp:strict 和 /fp:precise 之间的区别

Difference between /fp:strict and /fp:precise?

本文关键字:fp 区别 之间 strict precise      更新时间:2023-10-16

你什么时候使用fp:strict而不是fp:precision?如果我想要"更精确"的计算并避免舍入误差,使用前者是否更好?使用两者背后的启发式是什么?

标准 IEEE 754 指定了一种用于浮点计算和在内存中存储浮点值的方法。

使用fp:strict意味着遵守 IEEE 754 的所有规则。 fp:strict用于维护不同编译器和平台之间的按位兼容性。

fp:precise削弱了一些规则,但它保证计算的精度不会丢失。

fp:fast 允许编译器对包含浮点计算的表达式进行特定于编译器的优化和转换。这是最快的方法,但结果在不同的编译器和平台之间会有所不同。