将float转换为int时如何避免浮点错误。例如,下面的代码打印出来:0.5499999999999972当我受伤时,期望它打印出来0.55。
0.5499999999999972
0.55
package main import "fmt" func main() { x := 100.55 fmt.Println(x - float64(int(x))) } Output: 0.5499999999999972
您需要了解一些内容:100.55是一个十进制数字(以十进制基数表示)。100.55十进制中的是一个有限数字,正好是:100.55。
100.55
通常,计算机以二进制表示形式存储数字。该数字100.55不能用有限的二进制数表示:100.55是以二进制表示的 无限 数(同样的原因为什么1/3不能用有限的十进制数表示,它是一个无穷的序列:)0.333333333....。
1/3
0.333333333....
但是Go(像其他语言一样)float64使用IEEE-754标准存储类型,IEEE-754标准是一种有限的 二进制 表示形式。甲float64值使用64个比特在存储器来描述的53位被用于描述数字和11位被用于指数的数量,。
float64
现在,当您“说”这一点时:
x := 100.55
这是一个简短的变量声明,它将创建一个名为的新变量,x并从右侧表达式(其为浮点文字)推断类型,因此Go spec x的类型为float64。为了使用64位(由所指定的规则IEEE-754)表示,浮点字面量必须进行“转换” 。并且由于100.55将要求无限位以二进制基数精确地表示,因此仅使用64位(数字为53)将不会(不能)准确100.55(而是最接近IEEE-754格式的64位二进制数) ),即:
x
IEEE-754
x := 100.55 fmt.Printf("%.50f\n", x) 100.54999999999999715782905695959925651550292968750000
因此,您已经开始没有数字了100.55。
您100从中减去(float64(int(x))将完全是100.0):
100
float64(int(x))
100.0
x = x - float64(int(x)) fmt.Printf("%.50f\n", x) 0.54999999999999715782905695959925651550292968750000
你能为这个做什么?真的没什么。您期望的结果(0.55)也是二进制表示形式的无限数,因此0.55类型type的变量中不能有确切的数目float64。
您可以正常使用数字,但是在打印时,将其四舍五入到您选择的小数位。最简单的方法是使用fmt.Printf(),并使用%f包括精度的动词指定格式字符串:
fmt.Printf()
%f
fmt.Printf("%.2f\n", x)
结果:
另一种选择是避免使用浮点数。例如,如果要表示美元金额,则可以将所有值“乘以”,100并将金额表示为美分(1 $ * 100),这是整数。仅当您需要将结果打印为美元时,才可以打印类似
cents := 10055 fmt.Printf("%d.%d $", cents/100, cents%100)
输出:
100.55 $