|
|||||
|
|
| 小数精确修约子程序 | |
| 引用本文： | 赵其明,王淑珍.小数精确修约子程序[J].中国计量,1998(9):45-45. |
| 作者姓名： | 赵其明 王淑珍 |
| 作者单位： | 河北科技大学（中校区）(赵其明)，河北省技术监督局(王淑珍) |
| 摘 要： | 看了在今年第五期刊登的《小数修约子程序》一文后，笔者深受启发，但仔细研究该子程序，发现存在以下问题：门）保留位数后面数字为“499”时，累进连续修约。如程序中变量A值为“下如””，保留1位小数（N＝10）时，程序运行结果为“76”，而正确结果应为“75（2）只考虑保留位数后面3位数字，当保留位数后面超过3位数字时，程序运行结果不尽正确。如程序中变量A值为“1．25001”，保留1位小数（N＝10）时，程序运行结果为“1．2’，而正确结果应为“1丁’（3）不能确保显示保留位数。如程序中变量A值为“1．796”，保留2位小数（N＝10… |
| 关 键 词： | 小数 精确修约 子程序 测量精度 |
| 本文献已被 CNKI 维普 等数据库收录！ | |
