以 GDB 为单位指定浮点精度
Specify floating point precision in GDB
我正在调试一个C++应用程序,当我在 GDB 中显示双精度浮点数时,我得到的结果如下:.035449094393
如何显示更多小数位?理想情况下,我将能够指定精度并获得如下结果:.0354490943927692
基本上,我试图找到 2 个变量之间非常微小差异的原因。如果我将 printf 与格式说明符一起使用,例如%1.20f
我可以看到变量的差异,但不使用 GDB。
默认情况下,GDB 的p/f <variable>
精度有限。
您可以使用printf
显示更多小数位:
(gdb) printf "%1.20fn", <variable>
但是,此时您很可能会开始遇到数据类型的限制(可能存在舍入误差和其他与预期值的小偏差(。
您可以在gdb
中执行call printf("%.10fn", d)
,它将以所需的格式以stdout
打印。
相关文章:
- 从"int*"强制转换为"unsigned int"会丢失精度错误
- 当在带有Eigen的C++中使用GDB时,我如何才能看到更多的大矩阵
- 如何找出GDB的SIGTRAP核心转储的根本原因
- 如何防止 c++ 在从浮点型转换为双精度型(不适用于 IO)时添加额外的小数?
- 正在将csv文件读取为双精度矢量
- 如何理解将半精度指针转换为无符号长指针和相关的内存对齐
- 我可以信任表示整数的浮点或双精度来保持精度吗
- 如何在C++中的同一函数中使用字符串和双精度
- 特征::矩阵<双精度,1,3> 结构类型函数中的返回类型函数
- 如何使用gdb制作一个可以漂亮地打印每个对象的C++函数
- 当使用比格式支持的精度更高的精度来显示数字时,会写出什么数据
- 如何计算具有指定类型的表达式的相对精度和绝对精度
- 如何打印boost多精度128位无符号整数
- 检查是否以特定精度给出双精度
- gdb错误:Backtrace已停止:上一帧与此帧相同(堆栈已损坏?)
- 使用vscode调试时,GDB意外退出
- 转换函数,将 std::数组的双精度作为参数或双精度作为参数单独转换
- C 字符串返回字符串的整数/双精度/长整型值
- 为什么将双精度转换为 int 似乎在第 16 位数字之后将其四舍五入?
- 以 GDB 为单位指定浮点精度