当前位置：首页 > 资讯 > 技术文档

浅谈c# 浮点数计算

时间：2021-09-14 02:22 编辑：来源：阅读：
扫一扫，手机访问

摘要：浅谈c# 浮点数计算

给大家看个计算题，看看大家的算术能力。 0.1 +0.1 +0.1 - 0.3 等于几？大家可能会说这么简单的问题，是不是看不起我？肯定等于0啊。如果大家直接算的是没有问题的，但是如果用计算机呢？见证奇迹的时刻到了，看代码：

void Main()
{
  var f = 0.1 +0.1 +0.1 -0.3;
  Console.WriteLine("f=={0}",f);
}

运行结果： [img]http://files.jb51.net/file_images/article/201709/201709241536111.png[/img] 这是因为计算机的精度的问题，在计算机的内部存储和运算的精度缺失等问题，我解释的可能不太明白，不过，大家可以用下面的方案进行解决：

void Main()
{
  //var f = 0.1 +0.1 +0.1 -0.3;
  //Console.WriteLine("f=={0}",f);
  
  var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
  Console.WriteLine("f1 == {0}",f1);
}

运行结果： [img]http://files.jb51.net/file_images/article/201709/201709241536112.png[/img] 这样就是正常的运算结果了。啦啦啦！！！！

全部评论(0)

上一篇：详解C#中的string与String
下一篇：C#删除文件目录或文件的解决方法

资讯排行榜
更多>>