以 GDB 为单位指定浮点精度

Specify floating point precision in GDB

本文关键字:精度 GDB 为单位      更新时间:2023-10-16

我正在调试一个C++应用程序,当我在 GDB 中显示双精度浮点数时,我得到的结果如下:.035449094393

如何显示更多小数位?理想情况下,我将能够指定精度并获得如下结果:.0354490943927692

基本上,我试图找到 2 个变量之间非常微小差异的原因。如果我将 printf 与格式说明符一起使用,例如%1.20f我可以看到变量的差异,但不使用 GDB。

默认情况下,GDB 的p/f <variable>精度有限。

您可以使用printf显示更多小数位:

(gdb) printf "%1.20fn", <variable>

但是,此时您很可能会开始遇到数据类型的限制(可能存在舍入误差和其他与预期值的小偏差(。

您可以在gdb中执行call printf("%.10fn", d),它将以所需的格式以stdout打印。