sql server中除法运算结果总是为0(无小数精度)

偶尔发现SQL Server中除法运算结果总是为0的现象,之所以称为现象,而不称为BUG,是因为实际上的运算结果并不是错误的。

来看一个具体的例子:

SELECT 500/520; -- 0

通过这个例子可以看出来,语句的执行结果是0。这是因为SQL Server会自动根据除数与被除数的最大精度去对运算结果取精度,这里的除数和被除数都是整数,所以得到的结果也是整数。

来验证一下这个结论:

SELECT 500.0/520; -- 0.961538
SELECT 500/520.0; -- 0.961538

通过上面的验证可以看出来,只要除数与被除数之中有一个是小数,得到的结果也会是小数。

这样的话,在SQL Server中除法运算中如果出现结果总是为0的现象,不用慌,只要知道了原因,就可以简单通过以下技巧来解决:

SELECT (500 + 0.0)/520; -- 0.961538

技巧就是给除数或被除数加上一个0的小数,结果就有精度了,也就不会总是为0了。

"死亡就像是水消失在水里,几乎不引起一丝波澜。"

猜你喜欢

转载自www.cnblogs.com/yanggb/p/11841895.html