admin管理员组

文章数量:1794759

计算机，计算器二进制小数计算如何避免进制转换造成的误差

计算机，计算器二进制小数计算如何避免进制转换造成的误差

1，转换为整数进行计算。 2，采用BCD（Binary Coded Decimal）方法。 3，想办法忽略，如计算时不用==，而用相减<0.00001,符号进行大小判断。 总之，整数计算是不会出错的 总之，数字是可以变换的，整数小数可以转换（上面说的前两种方法），正数负数可以转换（如EXCESS系统）。

本文标签： 小数误差计算器计算机

版权声明：本文标题：计算机，计算器二进制小数计算如何避免进制转换造成的误差 内容由林淑君副主任自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.xiehuijuan.com/baike/1686579589a84007.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。