如何更快地判断算术运算有没有溢出?

1,091 阅读3分钟

在编写代码的过程中,算术溢出是一件让人十分头疼的事。因此在代码中检测是否溢出是一件很有必要的事,那么该如何检测算术运算中的溢出呢?

以C语言中的算术乘法为例,可以使用以下的代码检测是否有溢出:

//判断a与b的乘积是否溢出,是返回-1,否返回0
int overflow(int a,int b)
{
    int temp=a*b;
    temp/=b;
    return temp==a?0:-1;
}

在函数中,首先计算a与b的乘积temp,然后再计算temp除以b。如果得到的结果是a的话,那么就没有溢出,否则运算过程中发生了溢出。诚然,该函数可以有效地检测算术乘法是否溢出,但是对于CPU来说,除法的开销相对于加法、移位等操作来说是非常大的,因此我们应该尝试避免。

在这里,我们尝试使用汇编语言来判断算术运算中的溢出。

首先,让我们来了解一些背景知识。

  • CPU中维护着一组条件码,描述了最近的算术运算或逻辑运算的属性。常见的有:
    • CF(carry flag) 进位标志。最近的操作使最高位产生了进位。
    • ZF(zero flag)零标志。最近的操作得到的结果为0。
    • SF(sign flag)符号标志。最近操作得到的结果为负数。
    • OF(overflow flag)溢出标志。最近操作得到的结果导致一个补码溢出。
  • 汇编语言中SET指令根据条件码的组合,将一个字节设置为0或1。
指令 同义指令 效果 设置条件
sete D setz D ← ZF Equal / zero
setne D setnz D ← ~ZF Not equal / not zero
sets D D ← SF Negative
setns D D ← ~SF Nonnegative
setg D setnle D ← ~(SF ^ OF) & ~ZF Greater (signed >)
setge D setnl D ← ~(SF ^ OF) Greater or equal (signed >=)
setl D setnge D ← SF ^ OF Less (signed <)
setle D setng D ← (SF ^ OF) | ZF Less or equal (signed <=)
seta D setnbe D ← ~CF & ~ZF Above (unsigned >)
setae D setnb D ← ~CF Above or equal (unsigned >=)
setb D setnae D ← CF Below (unsigned <)
setbe D setna D ← CF | ZF Below or equal (unsigned <=)

在这里,我们的目标是读取到OF这个标志位。但是在上表中,并不能单独地把OF标志位存到寄存器中。仔细观察后可以发现,上表中可以设置SF^OF(setl)和SF(sets)这两个标志位,而(SF^OF)^SF=OF!因此,我们只需要将使用setl和sets指令设置两个寄存器的值,然后再将这两个寄存器中的值异或就可以得到OF标志位的值。

话不多说,让我们开始吧! 首先编写SignedOverflow.c文件:

int SignedOverflow(int a,int b)
{
	return a*b;
}

使用gcc -Og -S SignedOverflow.c命令产生的汇编文件如下:

	.file	"SignedOverflow.c"
	.text
	.globl	SignedOverflow
	.def	SignedOverflow;	.scl	2;	.type	32;	.endef
	.seh_proc	SignedOverflow
SignedOverflow:
	.seh_endprologue
	movl	%ecx, %eax
	imull	%edx, %eax
	ret
	.seh_endproc
	.ident	"GCC: (x86_64-posix-seh-rev0, Built by MinGW-W64 project) 7.3.0"

然后我们在此基础上实现检测溢出的函数:

	.file	"SignedOverflow.c"
	.text
	.globl	SignedOverflow
	.def	SignedOverflow;	.scl	2;	.type	32;	.endef
	.seh_proc	SignedOverflow
SignedOverflow:
	.seh_endprologue
	movl	%ecx, %eax
	imull	%edx, %eax          ;计算%edx与%ecx的乘积
	sets	%r10b               ;设置%r10b寄存器的值为SF
	setl	%r11b               ;设置%r11b寄存器的值为SF^OF
	xorb	%r10b, %r11b        ;异或%r10b与%r11b,得到OF,结果存在%r11b中
	movl	$0,   %eax          ;将返回值置为0
	movl	$-1,   %r10d         ;将%r10d的值置为-1
	testb 	%r11b,  %r11b       ;测试%r11b(OF)
	cmovne	%r10d, %eax         ;如果%r11b不为0,将返回值置为-1
	ret                         ;函数返回
	.seh_endproc
	.ident	"GCC: (x86_64-posix-seh-rev0, Built by MinGW-W64 project) 7.3.0"

编写完成后,使用gcc -Og -c SignedOverflow.s生成SignedOverflow.o目标文件。

再编写测试函数main.c:

#include <stdio.h>

//判断a与b的乘积是否溢出,是返回-1,否返回0
int SignedOverflow(int a,int b);

int main()
{
	int a=0x7FFFFFFF,b=2,ans;
	ans=SignedOverflow(a,b);            //预期结果为溢出
	printf("%d\n",ans);
	a=0x3FFFFFFF,b=2;
	ans=SignedOverflow(a,b);            //预期结果为不溢出
	printf("%d\n",ans);
	return 0;
}

使用gcc -Og main.c SignedOverflow.o得到可执行文件a.exe。执行a.exe得到结果:

-1
0

大功告成!