x86逆向 - 三目运算符

2019-09-26

之前的笔记搬运

0x1 什么是三目运算符

三目运算符是一个条件分支语句, 根据表达式1的结果来决定执行表达式2还是表达式3

如:
表达式1 ? 表达式2:表达式3
表达式1为真时执行表达式2, 反之执行表达式3

0x2 三目运算符的优化

1
2
3

三目运算符优化也是有条件的, 必须当表达式2和表达式3都为常量时, 才有被优化的可能性, 当表达式2和3都为常量,或其中一个为常量时, 这时候会被编译成一个条件分支语句, 而当表达式为1为常量时, 在编译时就会得到答案, 将不会生成分支语句

在说优化之前说一下什么是简单和复杂比较, 因为表达式1的条件语句决定执行表达式2或3, 所以肯定牵扯到比较, 而简单比较就是指 == ,而复杂比较是指:  <=   >=

三目运算符的优化方案:

方案1: 表达式1为简单比较, 而表达式2和3两者差值等于1

printf("%d", argc == 5 ? 5 : 6);

;清空eax
00E91003 33 C0                xor         eax,eax  

;表达式1的比较
00E91005 83 7D 08 05          cmp         dword ptr [argc],5  

;setxx系列指令和jxx指令一样, xx代表条件ne代表不等于l代表小于等等, set指令只能操作低8位, 所以使用前需要把寄存器清0
;这里setne表示不等于, 检查ZF标志位, ZF==1时al为0,反之al为1
00E91009 0F 95 C0             setne       al  

;在这个时候,eax值不是为1就是为0, 与之相加实现了无分支求条件值
00E9100C 83 C0 05             add         eax,5

方案2: 表达式1为简单比较, 而表达式2和3两者差值大于1

在VS2013下被优化成如下代码:
printf("%d", argc == 5 ? 4 : 10);

;表达式1比较,影响的标志位和最下面cmove想对应
00851003 83 7D 08 05          cmp         dword ptr [argc],5  

;把表达式2给ecx
00851007 B9 04 00 00 00       mov         ecx,4  

把表达式3给eax
0085100C B8 0A 00 00 00       mov         eax,0Ah  

;cmove等于时转移, 和上面cmp想对应,
;如果表达式1成立, 不执行赋予指令,  eax为表达式2
;如果表达式1成立, 执行赋予指令,  eax为表达式3
00851011 0F 44 C1             cmove       eax,ecx  


在VC6下被优化成如下代码:
mov eax,  dword ptr [argc]
;表达式1的准备
sub eax, 5

;neg eax指令等于0 - eax, 所以只有当eax等于0才不会影响CF标志位
neg eax

;自身-自身一定等于0,  由于是带进位减法等与多减一个CF位
;执行完此句, eax取值不是0就是-1
sbb eax,eax

;如果eax为0 与上任何数还是0, 而-1与上任何数等于任何数
;这里就是与上 表达式3 - 表达式2的值
and eax, 6
;加上表达式2, 也可以做到无分支求条件值
add eax, 4

方案3: 表达式1为复杂比较, 而表达式2和3两者差值大于1

在VS2013下被优化成如下代码:
printf("%d", argc <= 5 ? 4 : 10);
00101003 83 7D 08 05          cmp         dword ptr [argc],5  
00101007 B9 04 00 00 00       mov         ecx,4  
0010100C B8 0A 00 00 00       mov         eax,0Ah  
;之前的代码与方案2一致
;唯一不同的是cmovle 小于等于时转移
00101011 0F 4E C1             cmovle      eax,ecx

在VC下被优化的代码:
xor eax, eax
;表达式1比较
cmp dword ptr [argc],  5

;这里setg表示大于, 大于al为1, 反之al为0
setg al

;这里对eax-1操作, 结果只会是0或-1
dec eax

;如果eax为0 与上任何数还是0, 而-1与上任何数等于任何数
;这里就是与上 表达式2  - 表达式3的值
;需要注意的是 这里与上al, 说明表达式2 < 表达式3, 这里的FA是当初负数形式存在的, 还原计算时需要补上符号位, 如:0A + 0FFFFFFFA;
and al, 0FA
;加上表达式3, 也可以做到无分支求条件值
add eax, 0A

方案3的优化代码更像是方案1和方案2的结合



当
         setxx al        //还原时xx条件需要取反
         dec eax
         and al(eax),xx1 //xx2 + xx1 = 表达式2
  add eax,xx2  //这里的数值xx2是表达式3

当
    neg eax
    sbb eax,eax
    and al(eax), xx1 //xx2 + xx1 = 表达式3
    add eax, xx2 //xx2 表达式2