选择字号

通用高精度快速乘法程序

分享到: 分享到QQ空间

<正> 微型计算机所能处理的实数的有效数字位数和数值范围都是有限的,当用它进行乘法运算时,若结果的有效位数超过一定限度,则按科学计数法输出,多余的位数将被丢失,而且当结果超过某一上下限范围时,会产生溢出错误。不同的程序设计语言对实数运算所能保留的最多有效数字位数虽有差别,但一般都不超过20位,不能满足更高的精度要求。 目前已有一些高精度乘法运算程序发表于报刊,但一般都存在以下不足: (1)只能进行正整数运算,或只能对按常规计数(本文共计2页)       [继续阅读本文]

下载阅读本文     订阅本刊   

相关文章推荐

电脑编程技巧与维护杂志1996年第03期
电脑编程技巧与维护
主办:信息产业商会
出版:电脑编程技巧与维护杂志编辑部
出版周期:月刊
出版地:北京市

本期目录