一尘不染

什么时候应该使用双精度而不是十进制?

c#

我可以列举使用double(或float)代替的三个优点decimal

  1. 使用更少的内存。
  2. 更快,因为处理器原生支持浮点数学运算。
  3. 可以代表更大范围的数字。

但是这些优点似乎仅适用于计算密集型操作,例如建模软件中的操作。当然,当需要精确度(例如财务计算)时,不应使用双精度。那么,有没有任何实际的理由选择double(或float)而不是decimal“常规”应用程序?

编辑添加:感谢所有出色的答复,我从中了解到。

还有一个问题:少数人指出加倍可以更精确地表示实数。声明后,我认为它们通常也可以更准确地表示它们。但是,是否确实有这样的说法:执行浮点运算时精度可能会降低(有时会大大降低)?


阅读 403

收藏
2020-05-19

共1个答案

一尘不染

我认为您已经很好地总结了优点。但是,您缺少一点。该decimal类型仅能更准确地表示以 10基数的
数字(例如,用于货币/金融计算的数字)。通常,该 double类型将至少提供相同的精度(如果我错了,请纠正我),并且对于任意实数绝对可以提高速度。一个简单的结论是:在考虑使用哪个时,double除非需要base 10精确性,否则请始终使用decimal

编辑:

关于操作后浮点数精度降低的其他问题,这是一个较微妙的问题。确实,执行每个操作后,精度(在此我将术语互换使用以表示精度)将稳步下降。这是由于两个原因:

  1. 某些数字(最明显的是小数)不能真正以浮点数形式表示的事实
  2. 发生舍入错误,就像您是手工进行计算一样。这些错误是否足够重要以至于值得我们深思,这在很大程度上取决于上下文(您正在执行多少操作)。

在所有情况下,如果要比较两个在理论上应该等效的浮点数(但是是使用不同的计算得出的),则需要允许一定程度的公差(相差多少,但通常很小) 。

有关可以引入准确性错误的特殊情况的更详细概述,请参阅Wikipedia文章的Accuracy部分。最后,如果您想在机器级别上对浮点数/运算进行认真的深入(和数学)讨论,请尝试阅读常被引用的文章
《每个计算机科学家应该了解的浮点算术》

2020-05-19