以文本方式查看主题 - Fortran中文网 (http://fortran.cn/bbs/index.asp) -- Fortran语言使用经验交流 (http://fortran.cn/bbs/list.asp?boardid=2) ---- 小变量做分母出错~请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~ (http://fortran.cn/bbs/dispbbs.asp?boardid=2&id=2757) |
-- 作者:cicely525 -- 发布时间:2012/9/6 11:34:06 -- 小变量做分母出错~请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~ 请问,我在用一个传递来的变量dt (大约是10的负7次方左右)做分母时总会溢出,但是若是我将分母中的dt改成10的负10次方都没有出现溢出~请问有可能是什么问题呢~ |
-- 作者:大胆想 -- 发布时间:2012/9/6 18:17:42 -- 用双精度 |
-- 作者:cicely525 -- 发布时间:2012/9/7 10:35:18 -- 用了,还是不行~ |
-- 作者:大胆想 -- 发布时间:2012/9/7 18:11:26 -- 先用一句除10次方的, 再用一句乘3次方。 |