以文本方式查看主题

-  Fortran中文网  (http://fortran.cn/bbs/index.asp)
--  Fortran语言使用经验交流  (http://fortran.cn/bbs/list.asp?boardid=2)
----  小变量做分母出错~请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~  (http://fortran.cn/bbs/dispbbs.asp?boardid=2&id=2757)

--  作者:cicely525
--  发布时间:2012/9/6 11:34:06

--  小变量做分母出错~请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~
请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~
--  作者:大胆想
--  发布时间:2012/9/6 18:17:42

--  
用双精度
--  作者:cicely525
--  发布时间:2012/9/7 10:35:18

--  
用了,还是不行~
--  作者:大胆想
--  发布时间:2012/9/7 18:11:26

--  

先用一句除10次方的,

再用一句乘3次方。


京ICP备05056801号