C/C++与汇编混合编程

1. C/C++调用汇编

C/C++想调用汇编代码必须要注意名称修饰的问题

名称修饰(name decoration): 一种标准的C/C++编译技术, 通过添加字符来修改函数名, 添加的字符指明了每个函数参数的确切类型。主要是为了支持函数重载, 但对于汇编来说其问题在于, C/C++编译器让链接器去找被修饰过的名称而非原始名称

名称修饰说白了就是C/C++源代码经过编译器编译后, 函数和变量名称发生了变化, 链接器会去找变化后的名字而非源码中定义的名字。
影响名称修饰的主要因素如下:

编程语言, 比如C和C++名称修饰就不同
调用约定, 比如C和STDCALL的名称修饰不同

举个例子, C和C++之间的名称修饰就是不同

a. C语言中的名称修饰格式以及C与汇编混合编程

源码如下:
在这里插入图片描述
看一下其生成obj文件:

发现经过VS的C编译器编译后main和Add名称前多了下划线。由于C语言默认的函数调用约定是C调用约定。所以这就是C语言使用C调用约定下的名称修饰。

_name

接下去将Add的调用约定改成STDCALL
在这里插入图片描述
再来查看一下生成的obj文件, 发现其名称修饰方式发生了改变:

所以C语言STDCALL调用约定下的名称修饰方式是:

_name@n

这里的n代表压入栈帧参数的大小, 由于Add参数参别是2个int类型, 在x86下也就是8字节大小, 所以经过C编译器名称修饰后就变成了

_Add@8

总结一下, C编译器编译C源码时, 默认情况下函数使用C调用约定, 除非强制指定其他调用约定, 其编译后生成的obj文件中, 名称修饰的方法如下:

C stdcall: _name@n
C cdecl: _name

接下来看一下汇编语言, 首先使用C调用约定, 经过汇编生成obj文件。
在这里插入图片描述
查看winhex发现:

不出乎意料, FindMax和main函数都使用了C调用方式的名称修饰, 但是ExitProcess却使用了STDCALL的名称修饰规则, 这很正常, 因为微软的API都使用STDCALL。
由于C语言和汇编生成的obj目标文件中的名称修饰都是相同的, 所以可以得出结论:

C可以直接调用使用C调用约定下的汇编代码, 无需任何改变

下面实验一下:
这是汇编源码:
在这里插入图片描述
将汇编生成的obj文件包含到项目内, 测试发现C语言调用C调用约定下的汇编没有问题:

如果说汇编使用STDCALL调用约定汇编生成对应的obj文件, 然后让C来进行调用, 结果就会发现这个熟悉的链接错误:

这个原因已经很明显了, 因为C语言默认使用C调用约定, 编译后生成的是_name格式的函数名, 当汇编使用STDCALL调用约定时, 生成的是_name@n格式的函数名, 当链接时自然就无法找到名称了。
所以可以得出结论:

C可以直接调用使用STDCALL调用约定下的汇编代码, 会出现无法解析外部符号的链接错误

b. C++中的名称修饰格式以及C++与汇编混合编程

使用C++编写一个程序, C++默认也使用C调用约定:
在这里插入图片描述
查看其生成的obj目标文件

可以发现经过C++编译器编译后, C调用约定下Add函数生成了一种非常奇怪的形式, 这主要是为了实现重载而做的。而main函数永远是C调用约定不会被C++编译器改变。

这也就意味着C和C++其实也使不可以互相调用的

因为如果你要用C++调用C代码。假设都使用C调用约定, C代码经C编译器生成了obj文件, 里面的名称修饰是:

_name

而C++编译器编译代码生成的obj里面使用的名称修饰是:

?Add@@YAHHH@Z

当链接时, C++去找**?Add@@YAHHH@Z**结果只有_Add, 这是肯定不可能找到的。

下面把Add函数变成STDCALL函数调用约定试试看:
在这里插入图片描述
可以发现其名称修饰变成了如下:

?Add@@YGHHH@Z // stdcall
?Add@@YAHHH@Z // C

得出结论:

C++下C和STDCALL调用约定有区别, 但是区别不大, 把A变成了G

如果想要在C++下调用汇编代码, 只要把C++的名称修饰转换成C的就可以了。
所以只要C++能调用C, 也就意味着C++可以调用汇编, 事实上也确实如此, 在C++源文件中, 函数添加extern "C"即可让C++函数使用C的名称修饰方法
在这里插入图片描述
C++源码生成obj, 放入winhex内便可发现, C++使用了C的名称修饰方式, 不管是什么调用约定, extern "C"都会让C++使用C的调用约定。

使用同样的方法就可以实现C++调用汇编代码了。

2. C/C++调用汇编的另一种方式: 内联汇编

这种方式只能在x86下进行, 并没有什么特别的地方:
在这里插入图片描述
这里给一个例子, 是一个对称xor加密的小例子:

#include <iostream>
#include <windows.h>
#include <tchar.h>#define FILEBLK		(0x1000)using namespace std;VOID CryptoBlock(PBYTE pbBuf, DWORD dwBufSize, UCHAR bKey)
{__asm{mov esi, pbBufmov ecx, dwBufSize mov bl, bKeyL0:xor BYTE PTR [esi], blinc esi loop L0}return;
}BOOLEAN SymFileCrypto(LPCSTR pcszFilePathName, UCHAR bKey)
{HANDLE hFile = INVALID_HANDLE_VALUE;HANDLE hNewFile = INVALID_HANDLE_VALUE;BOOLEAN fOk = FALSE;LARGE_INTEGER liFileSize = { 0 };int iTotalBlk = 0;BYTE bBuf[FILEBLK] = { 0 };char szTmpFileName[] = "TmpFile";DWORD dwReaded = 0;DWORD dwWritten = 0;__asm{// 参数检测mov esi, pcszFilePathNametest esi, esijz Ending// 打开文件push NULLpush FILE_ATTRIBUTE_NORMALpush OPEN_EXISTINGpush NULLpush 0push FILE_ALL_ACCESSpush esicall CreateFile// 文件句柄检查cmp eax, -1jne Next1 jmp Ending Next1:// 保存文件句柄mov hFile, eax// 获取文件大小lea eax, liFileSizepush eaxpush hFilecall GetFileSizeEx// 计算总块数mov eax, liFileSize.LowPartmov edx, liFileSize.HighPartmov ebx, FILEBLKdiv ebxtest edx, edx jz Next2inc eax Next2:mov iTotalBlk, eax// 创建新文件push NULLpush FILE_ATTRIBUTE_NORMALpush CREATE_ALWAYSpush NULLpush 0push FILE_ALL_ACCESSlea eax, szTmpFileNamepush eaxcall CreateFile// 文件句柄检查cmp eax, -1jne Next3jmp EndingNext3:mov hNewFile, eax Crypto:// 读取文件内容push NULL lea eax, dwReadedpush eax mov eax, FILEBLKpush eax lea eax, bBuf push eaxpush hFile call ReadFile test eax, eax jz Ending // 加解密xor eax, eax mov al, bKey push eax push dwReaded lea eax, bBufpush eaxcall CryptoBlock// 写入文件内容push NULLlea eax, dwWritten push eax push dwReaded lea eax, bBuf push eaxpush hNewFile call WriteFiletest eax, eax jz Ending mov ecx, iTotalBlkdec ecx mov iTotalBlk, ecxtest ecx, ecx jnz Cryptomov fOk, TRUE}Ending:__asm{cmp hNewFile, -1jz Next4 push hNewFile call CloseHandle mov hNewFile, NULLNext4:cmp hFile, -1jz Next5push hFile call CloseHandle mov hFile, NULLNext5:xor eax, eax mov al, fOktest eax, eax jz Next6// 删除源文件mov eax, pcszFilePathNamepush eaxcall DeleteFile // 改名mov eax, pcszFilePathNamepush eax lea eax, szTmpFileNamepush eax call MoveFile Next6:mov esp, ebppop ebp ret }
}int main(int argc, char **argv)
{if (argc != 3){printf("usage: %s file key\r\n", argv[0]);return(-1);}if (SymFileCrypto(argv[1], argv[2][0])){printf("成功\r\n");}else{printf("失败\r\n");}return(0);
}