程序在函数返回后被终止

Program was killed after function returning

本文关键字：终止 返回 函数 程序      更新时间：2023-10-16

当函数"dbmSetIndex"返回时，我的程序被杀死了。 您可以在下面看到被杀的位置。(=>部分) 你能解释一下发生了什么吗？ (x86 英特尔)

0x0000000000420723 <+83>:    mov    rdi,r14
0x0000000000420726 <+86>:    call   0x405260 <dbmSetIndex@plt>
0x000000000042072b <+91>:    test   eax,eax
0x000000000042072d <+93>:    mov    ebp,eax
=> 0x000000000042072f <+95>:    mov    DWORD PTR [r12],eax
0x0000000000420733 <+99>:    jne    0x4207d0 <FnDBBase::SelectSecurity(s_oms_security*, char*)+256>
0x0000000000420739 <+105>:   lea    rsi,[rip+0x4197d]        # 0x4620bd

下面是 dbmSetIndex 代码。 我找不到此代码的哪一部分导致了此问题。

int dbmSetIndex ( dbmHandle* aHandle, const char* aTable, const char* aIndexName )
{
dbmInternalHandle* pHandle = NULL;
_TRY
{   
pHandle = (dbmInternalHandle*)aHandle->mHandle;
// Water Mark가 다르면 걍 리턴해라.
if ( unlikely ( aHandle->mMark != DBM_HANDLE_MARK ) ) 
{   
DBM_ERR ( "invalide magic number (%ld)", aHandle->mMark );
_THROW( ERR_DBM_INVALID_HANDLE );
}   
if( pHandle->mRemote != NULL )
{   
if( pHandle->mRemote->mSockFd > 0 ) 
{
_CALL( dbmRemoteSetIndex( aHandle, aTable, aIndexName ) );
_RETURN;
}
}   
/****************************************
* DataObject 맵핑.
****************************************/
memset_s( &pHandle->mData, 0x00, sizeof( pHandle->mData ) );
memcpy_s ( pHandle->mData.mTableName, aTable, strlen_s ( aTable ) + 1 );
pHandle->mData.mTransType = DBM_SET_INDEX;
pHandle->mData.mUserData  = (char*)aIndexName;
/****************************************
* mAct 호출.
****************************************/
_CALL( pHandle->mTrans->mAct ( pHandle ) );
}   
_CATCH
{   
_CATCH_ERR;
}   
_FINALLY
_END
}

您提供了一些反汇编，这表明对您提供的函数的调用已经返回。崩溃没有发生在函数中，但之后：

函数调用：

0x0000000000420726 <+86>:    call   0x405260 <dbmSetIndex@plt>

在这里你已经回来了：

0x000000000042072b <+91>:    test   eax,eax

关键行是对存储在寄存器 r12 中的地址的存储器访问(写入)：

0x000000000042072f <+95>:    mov    DWORD PTR [r12],eax

让调试器显示寄存器并查看 r12 的内容。它很可能是0x0000000000000000或一个小值，因此是一个空指针(或空引用)，但它也可能包含一个无效的地址(未初始化的指针！

不过，从您提供的信息中，没有什么可看的了。你必须查看调用函数的代码位置 - 它必须在函数FnDBBase::SelectSecurity(s_oms_security*, char*)内，因为你跳转(jne)到这个函数内的偏移量([...] + 256)。应该涉及一个if(test + jne 指令)，可能还有一些指针分配。可能是这样的：

SomeClass* s = [...];
s->someMember = dbmSetIndex([...]); // (*)
if(*s->someMember)

(*)：故障位置，在功能完成后的分配过程中发生错误。不要 100% 指望找到这样的赋值，它也可能是对内联 setter 函数的调用。

在这里，我们也看到了为什么 r12 不一定是 0：它将包含预先计算的someMember在SomeClass内的偏移量，即 &(s->someMember)，如果 s 为 0，则很可能是 0，例如 16、28、...准确地说，当时包含的值等于offsetof(SomeClass, somemember).

相关文章：