为什么DWORDLONG mem = 2048 * 1024 * 1024;获取最大值
Why does DWORDLONG mem = 2048 *1024 * 1024; get maximum value?
DWORDLONG在Visual Studio中被定义为ULONGLONG。
乌龙龙的类型定义为__int64。
mem 在调试时会18446744073709551615。
这是DWORDLONG的最大值。
它必须有2147483648。
我的代码有什么问题?
编辑)DWORDLONG mem = 2048 * 1024 * 1024L也有同样的问题。那么,我该如何解决它?
在2048 * 1024 * 1024
中,所有的常量都有类型int
,所以乘积被计算为int
。如int
,乘积是一个有符号算术溢出,理论上未定义的行为,在实践中产生-231。这个数字 -231 是转换为要分配给mem
的类型DWORDLONG
目标类型是 64 位无符号类型,因此将(相对较小的)量级的负值转换为接近该类型最大值的值。与 -1 转换为 DWORDLONG
时产生值 264-1 的方式相同,转换为 DWORDLONG
的值 -231 产生值 264-231
您可以通过将第一个操作数转换为DWORDLONG
来确保整个操作链在 DWORDLONG
中完成,从而产生正确的结果:
DWORDLONG mem = ((DWORDLONG)2048) * 1024 * 1024;
乘积被计算为 32 位整数,并溢出。将 L 添加到其中一个因子。
相关文章:
- C++为构建时间获取QDateTime的可靠方法
- lambda参数转换为constexpr技巧,然后获取带链接的数组
- 如何使用 < 和 > 命令获取 c++ 中的输入和输出?
- 使用指针从C++中的数组中获取最大值
- 如何获取std::result_of函数的返回类型
- 如何在openssl-ecc中获取十六进制格式的私钥
- 使用Unreal C++获取VR耳机的世界位置/方向
- 获取日期异步信号安全吗?如果在信号处理程序中使用,它会导致死锁吗
- 从C字符串中获取奇怪的字符串长度
- 为什么我的for循环不能正确获取argv
- 从python中调用C++函数并获取返回值
- 如何获取一个数字的前3位
- 获取字符串的长度并将其分配给数组
- 无法获取菜单选择以运行函数.C++
- 数组长度,为什么从命令行获取时不能使用它?
- Boost Spirit,获取迭代器内部语义动作
- 尝试通过OCI例程从Oracle获取blob数据,但出现错误:ORA-01008:并非所有变量都绑定
- 具有默认值的引用获取函数
- xmake总是报告:错误:无法获取cxx的程序,为什么
- 为什么DWORDLONG mem = 2048 * 1024 * 1024;获取最大值