华为云云数据库rds为什么有时候用浮点数做等值比较查不到数据_云淘科技

原因分析

浮点数的等值比较问题是一种常见的浮点数问题。因为在计算机中,浮点数存储的是近似值而不是精确值,所以等值比较、数学运算等场景很容易出现预期外的情况。

MySQL中涉及浮点数的类型有float和double。如下示例中遇到的问题:

解决方案

使用精度的方法处理,使用字段与数值的差值的绝对值小于可接受的精度的方法。示例:

使用定点数类型(DECIMAL)取代浮点数类型,示例:

父主题: SQL类

同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851)

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家