精度类型
误差
误差
误差
误差
单精度
3.42E−08
2.15E−07
4.54E−08
1.96E−07
双精度
3.17E−16
1.13E−15
5.35E−16
2.62E−15
| 精度类型 |
|
| ||
|
|
|
|
| |
| 单精度 | 3.42E−08 | 2.15E−07 | 4.54E−08 | 1.96E−07 |
| 双精度 | 3.17E−16 | 1.13E−15 | 5.35E−16 | 2.62E−15 |