摘要 本节探讨 MATLAB 中 附近数的正割函数与 附近数的余割函数的计算精度问题。
例1. 已知
计算
直接贴图吧:
另外,16位的正确值分别为 0.4105556037464873e9、0.3670813182326778e13、-0.2549029285657875e8 与 -0.1248777628817462e12(ISRealsoft 提供)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有10位、15位、8位及13位错误数字;有效数字的错误率分别为 10/16 = 62.5% , 15/16 = 93.75% , 8/16 = 50% , 13/16 = 81.25% .
注:可参考计算机的错误计算(七十一)与(七十三)。