64位溢出数学转换

64-bit overflow math conversion

本文关键字:转换 溢出 64位      更新时间:2023-10-16

我正在尝试执行一个转换:

uint64_t factor = 2345345345; // Actually calculated at runtime, but roughly this magnitude
uint64_t Convert(uint64_t num)
{
    return num * 1000ULL / factor;
}

对于最大的num值,在除以factor之前进行乘法运算。将顺序更改为num / factor * 1000UL会丢失一些不可接受的精度。

我想重写Convert()来处理所有可能的num值:

uint64_t Convert(uint64_t num)
{
    if(num > MAX_UINT64/1000ULL)       // pseudo code
    {
        // Not sure what to put here
    }
    else
    {
        return num * 1000ULL / factor;
    }
}

我们考虑过使用128位数学,但如果可能的话,我们希望避免使用它。

实现Convert()的最有效方法是什么,以便它能够理想地处理尽可能大的num并仍然产生正确的结果?

有点老派数学,可以使用%计算剩余:

uint64_t Convert(uint64_t num)
{
    uint64_t m = 1000;
    uint64_t a = num / factor;
    uint64_t t = num % factor;
    uint64_t h = m * t / factor;
    return a * m + h;
}

示例:

uint64_t Convert2(uint64_t num)
{
    return num * 1000ULL / factor;
}
uint64_t Convert3(uint64_t num)
{
    return num / factor * 1000ULL;
}

int main()
{
    cout << Convert(std::numeric_limits<uint64_t>::max()) << endl;
    cout << Convert2(std::numeric_limits<uint64_t>::max()) << endl;
    cout << Convert3(std::numeric_limits<uint64_t>::max()) << endl;
}

输出:

7865257077400  <--- // The correct one //
7865257077     <--- // Value wrapped before multiplication // 
7865257077000  <--- // Low accuracy, loses remaining //

分解您的部门:

r = 1000*(n/factor) + ((n%factor)*1000)/Factor

如果余数溢出(因子很大),您仍然可能遇到问题,但如果因子小于MAX_UINT64/1000,则可以。