注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

郁夫的博客

我爱你们,只是你们不知道!

 
 
 

日志

 
 
 
 

SQL Server中浮点类型数据四舍五入问题 - 转  

2011-03-21 16:32:34|  分类: 数据库 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
在此次报表中,发现报表计算的结果同客户原始报表的数据存在些差异,因对方对数据的精度要求较严格,所以不赶马虎,经多次对比,发现原始报表计算使用4位精度,而现报价计算采用float数据类型。15位精度,在结果上产生了部分差异,后经商量,决定同客户原始系统一致,采用4位精度计算,在SQL Server中,对float数据类型的四舍五入可以采用round()函数,由于结果是采用计算表达式,结果中产生了无限循环小数,直接使用round()函数并不能进行四舍五入操作,需先进行数据类型的转换,将float类型的结果先行转换为numeric数据类型,再进行round()四舍五入操作,才能得到正确结果。看来在SQL Server中采用float数据类型时得再多层考虑
select gld,round(convert(numeric(6,3),ejgyjfbz),2),round(convert(numeric(6,3),sjgyjfbz),2) from gld
  评论这张
 
阅读(320)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017