堆步行在发布模式下无法按预期工作

HeapWalk not working as expected in Release mode

本文关键字:工作 模式 布模式      更新时间:2023-10-16

所以我使用这个 HeapWalk 函数的例子来实现它到我的应用程序中。我玩了一下,当我添加时看到

HANDLE d = HeapAlloc(hHeap, 0, sizeof(int));
int* f = new(d) int;

创建堆后,将记录一些新的输出:

Allocated block  Data portion begins at: 0X037307E0
  Size: 4 bytes
  Overhead: 28 bytes
  Region index: 0

所以看到这个,我想我可以检查Entry.wFlags,看看它是否设置为PROCESS_HEAP_ENTRY_BUSY,以跟踪我在堆上使用的分配内存量。所以我有:

HeapLock(heap);
int totalUsedSpace = 0, totalSize = 0, largestFreeSpace = 0, largestCounter = 0;
PROCESS_HEAP_ENTRY entry;
entry.lpData = NULL;
while (HeapWalk(heap, &entry) != FALSE)
{
    int entrySize = entry.cbData + entry.cbOverhead;
    if ((entry.wFlags & PROCESS_HEAP_ENTRY_BUSY) != 0)
    {
        // We have allocated memory in this block
        totalUsedSpace += entrySize;
        largestCounter = 0;
    }
    else
    {
        // We do not have allocated memory in this block
        largestCounter += entrySize;
        if (largestCounter > largestFreeSpace)
        {
            // Save this value as we've found a bigger space
            largestFreeSpace = largestCounter;
        }
    }
    // Keep a track of the total size of this heap
    totalSize += entrySize;
}
HeapUnlock(heap);

当内置在调试模式下时,这似乎有效(totalSizetotalUsedSpace是不同的值(。但是,当我在发布模式下运行时,totalUsedSpace始终为 0。

我在发布模式下使用调试器逐步完成它,对于每个堆,它循环三次,entry.wFlags调用HeapWalk时,我得到了以下标志:

1 (PROCESS_HEAP_REGION)
0
2 (PROCESS_HEAP_UNCOMMITTED_RANGE)

然后它退出while循环,GetLastError(( 按预期返回ERROR_NO_MORE_ITEMS

从这里我发现 0 的标志值是"免费的已提交块,即未分配或未用作控制结构"。

有谁知道为什么它在发布模式下构建时无法按预期工作?我对计算机如何处理内存没有太多经验,所以我不确定错误可能来自哪里。在谷歌上搜索没有想出任何东西,所以希望这里有人知道。

更新:我自己仍在研究这个问题,如果我使用 vmmap 监控应用程序,我可以看到该进程有 9 个堆,但是当调用GetProcessHeaps时,它会返回有 22 个堆。此外,没有一个堆处理它返回与返回值 GetProcessHeap()_get_heap_handle() 匹配项。似乎GetProcessHeaps的行为不符合预期。以下是获取堆列表的代码:

// Count how many heaps there are and allocate enough space for them
DWORD numHeaps = GetProcessHeaps(0, NULL);
HANDLE* handles = new HANDLE[numHeaps];
// Get a handle to known heaps for us to compare against
HANDLE defaultHeap = GetProcessHeap();
HANDLE crtHeap = (HANDLE)_get_heap_handle();
// Get a list of handles to all the heaps
DWORD retVal = GetProcessHeaps(numHeaps, handles);

retVal的值与 numHeaps 相同,表示没有错误。

应用程序验证程序之前已设置为对我的可执行文件进行整页堆验证,并且干扰了GetProcessHeaps返回的堆。我忘记了它是几天前针对不同问题进行的设置,然后在没有清除测试的情况下关闭。调试版本中没有发生这种情况,因为应用程序生成到调试版本的不同文件名。

我们通过添加断点并查看线程的调用堆栈来设法检测到这一点。我们可以看到AV DLL已被注入,这让我们知道在哪里查找。