新闻  |   论坛  |   博客  |   在线研讨会
一次编译器优化的陷阱
天翼云开发者 | 2025-11-26 13:39:19    阅读:68   发布文章

本文分享自天翼云开发者社区《一次编译器优化的陷阱》.作者:郑****颖

某次问题排查,最终隐掉完所有业务逻辑后, 化简为如下的简单代码:

来看一下,这个的bcount is zero 会打印吗?

#include <time.h> #include <stdio.h> #include <stdlib.h> #include <cstring> #include <string.h> #include <unistd.h> int main(void) {   int bcount = 2;   while (bcount < 1296005092) {      if (bcount < 1296005092) {        printf("b %lld (%d)%x is <  than %lld\n",bcount,bcount, bcount,1296005092);      } else {        printf("b %lld (%d)%x is >= than %lld\n",bcount,bcount,bcount, 1296005092);      }      sleep(1);      if (bcount == 0) {       printf("bcount is zero\r\n");        return -1;      }      bcount *= 2;   }   return 0; }

 

这个demo代码的逻辑为:

while循环中比较bcount与1296005092的大小,当bcount >=1296005092或者 bcount为0,结束循环。

使用gcc  -O2优化编译后,查看demo程序的输出如下,可以看到,会导致一直在while死循环, 原因是bcount为int 。 然后待比较的那个数 刚好卡

在一个区间,具体如下:当bcount ==0x80000000时候,bcount最高位为1, 这样该数为负数,小于待比较的数1296005092,注意:

上一次循环中,由于上一个值0x40000000的时候刚好比1296005092小,然后此次循环结果为负数,而下一个循环这个int溢出结果为0 ,所以一直

卡在这里。那么问题就变成了:其中的bcount==0 不会生效??

 

使用-O1编译后,查看demo代码的输出如下, 可以看到while循环中可以判断到bcount为0.

 

结论

简化代码,对比两者汇编代码的区别如下,

可以看到在gcc的O2优化等级上,如果是乘2运算,优化后的代码认为结果不应该为0。

到此为止,这里如果将代码中的bcount乘2运算,替换为左移一位,在O2模式下编译,while循环也可以正常退出。

这里应该是gcc的O2等级以上优化逻辑有bug,在整数乘法运算下,编译器认为不可能出现结果为0,将代码中与0的判断优化掉,导致优化后的代码

逻辑不符合预期。


*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。

参与讨论
登录后参与讨论
天翼云提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
推荐文章
最近访客