一尘不染

Golang将float64转换为int错误

go

将float转换为int时如何避免浮点错误。例如,下面的代码打印出来:0.5499999999999972当我受伤时,期望它打印出来0.55

package main

import "fmt"

func main() {
    x := 100.55
    fmt.Println(x - float64(int(x)))    
}

Output:
0.5499999999999972

阅读 874

收藏
2020-07-02

共1个答案

一尘不染

您需要了解一些内容:100.55是一个十进制数字(以十进制基数表示)。100.55十进制中的是一个有限数字,正好是:100.55

通常,计算机以二进制表示形式存储数字。该数字100.55不能用有限的二进制数表示:100.55是以二进制表示的 无限
数(同样的原因为什么1/3不能用有限的十进制数表示,它是一个无穷的序列:)0.333333333....

但是Go(像其他语言一样)float64使用IEEE-754标准存储类型,IEEE-754标准是一种有限的
二进制 表示形式。甲float64值使用64个比特在存储器来描述的53位被用于描述数字和11位被用于指数的数量,。

现在,当您“说”这一点时:

x := 100.55

这是一个简短的变量声明,它将创建一个名为的新变量,x并从右侧表达式(其为浮点文字)推断类型,因此Go
spec x的类型为float64。为了使用64位(由所指定的规则IEEE-754)表示,浮点字面量必须进行“转换”
。并且由于100.55将要求无限位以二进制基数精确地表示,因此仅使用64位(数字为53)将不会(不能)准确100.55(而是最接近IEEE-754格式的64位二进制数)
),即:

x := 100.55
fmt.Printf("%.50f\n", x)

100.54999999999999715782905695959925651550292968750000

因此,您已经开始没有数字了100.55

100从中减去(float64(int(x))将完全是100.0):

x = x - float64(int(x))
fmt.Printf("%.50f\n", x)

0.54999999999999715782905695959925651550292968750000

你能为这个做什么?真的没什么。您期望的结果(0.55)也是二进制表示形式的无限数,因此0.55类型type的变量中不能有确切的数目float64

您可以正常使用数字,但是在打印时,将其四舍五入到您选择的小数位。最简单的方法是使用fmt.Printf(),并使用%f包括精度的动词指定格式字符串:

fmt.Printf("%.2f\n", x)

结果:

0.55

另一种选择是避免使用浮点数。例如,如果要表示美元金额,则可以将所有值“乘以”,100并将金额表示为美分(1 $ * 100),这是整数。仅当您需要将结果打印为美元时,才可以打印类似

cents := 10055
fmt.Printf("%d.%d $", cents/100, cents%100)

输出:

100.55 $
2020-07-02