为什么当我尝试重写指向 Direct3D 设备的"EndScene"函数的指针时没有任何反应?

Why does nothing occur when I try to rewrite the pointer to Direct3D device's `EndScene` function?

本文关键字:指针 EndScene 函数 任何反 重写 Direct3D 为什么      更新时间:2023-10-16

我尝试挂接一个DirectX 9应用程序以从中获取屏幕截图。这就是我所做的:

  1. 我向我的 DLL 注入了CreateRemoteThreadLoadLibraryW地址 作为参数传递。我假设目标应用程序已经 此刻奔跑。
  2. 在 DLL 的DllMain中,我CreateThread在哪里创建一个临时的 Direct3D 设备来获取它的 VMT:

    auto pID3D9 = Direct3DCreate9(D3D_SDK_VERSION); D3DPRESENT_PARAMETERS pp = { }; IDirect3DDevice9 *pID3DDevice = NULL; auto hr = pID3D9->CreateDevice(D3DADAPTER_DEFAULT, D3DDEVTYPE_NULLREF, NULL, D3DCREATE_SOFTWARE_VERTEXPROCESSING, &pp, &pID3DDevice); auto pID3DDevicevt = *reinterpret_cast(pID3DDevice);
  3. 当我尝试重写指向 Direct3D 的指针时没有任何反应 设备的EndScene功能:

    这里 '42' 是 VMT 内部的 EndScene 索引,哈哈 pID3DDevicevt[42] = my_EndScene;

    注意:我在重写之前VirtualProtect该指针,并且VirtualProtect之后,我只是省略了该代码。

  4. 最终得到了"经典"钩子:我重写了 6 个字节的原始字节 函数,所以它无条件地跳转到我的函数。然后我恢复 原始字节,做我自己的事情,调用原始函数并重新挂钩 再次函数。它有效。

为什么当我尝试重写指向 Direct3D 设备的EndScene函数的指针时没有任何反应?

我搜索并看到了一些信息,即 VMT 钩子必须足够早地放置才能使其工作。这是原因吗?

您的问题可能与我的问题(http://stackoverflow.com/questions/14224747/win7-8-dwm-draw-hooking)非常相似,但我使用ID3D10Device1。似乎 Direct3D 包含某种保护,可以定期还原某些方法的原始 vtable 指针。

我还没有找到这个问题的正确解决方案。解决方法是执行定期重新修补 vtable 的后台线程。但它消耗 100% 的 CPU,并且不会捕获所有情况(由于竞争条件)。不能将 Yield/Sleep 放入此线程中,因为它会错过一些函数调用。

顺便说一句,什么是"经典"钩子"?我已经阅读了一些关于它的内容,但我不确定如何将它用于 x64 进程(添加 jmp 指令、读取正确的参数、跳回原始函数等......

解决方案是不做 vtable 钩子。 最好的解决方案是用虚拟设备做你正在做的事情,抓住vtable,获取EndScene的索引,取消引用它以获取实际函数的地址,然后执行蹦床钩子。

我最近的其他答案中提供了完整的解决方案,包括蹦床钩的代码 D3D9 钩子(EndScene + DrawIndexedPrimitive)