关于两数相乘大于32767溢出的问题

l3226681
1 ℃
2020-01-06

整理文档很辛苦，赏杯茶钱您下走！

还剩 ... 页未读，继续阅读 >>

免费阅读已结束，点击下载阅读编辑剩下 ... 页

阅读已结束，您可以下载文档离线阅读编辑

资源描述

两数相乘，无论返回值用Long或Double，只要两数相乘大于32767就会溢出。解决方法：将两数其中任何一数先转为Long或Double。举例：错误的方法：longc;shorta,b;a=0xFF;b=0xFF;c=a*b;结果溢出，因为a*b32767正确的方法：longc;shorta,b;a=0xFF;b=0xFF;c=（long）a*b;