[计算机软件及应用]高精度计算

本文档由 shengxiadeni 分享于2013-10-14 20:17

[计算机软件及应用]高精度计算高精度计算 高精度计算的由来与含义在fb中,整型/长长整型数的长度只有4字节/8字节。整型 的取值范围分别为-2147483648~ 2147483647。longint 数的长度为19位。 如果需要获得超过这个精度的运算结果(如大整数相加、 相乘、实数运算要求有多位小数等),只有靠程序来实现 了——也称为“大整数运算”; 在通过程序获得更高的精度的做法中,通常是利用数组, 把每一位数字存放在一个元素..
文档格式:
.ppt
文档大小:
282.06K
文档页数:
44
顶 /踩数:
0 0
收藏人数:
2
评论次数:
0
文档热度:
文档分类:
IT计算机  —  计算机应用/办公自动化
添加到豆单
文档标签:
高精度 计算机软件 计数字 存入 str 数组
系统标签:
高精度 计算机软件 计数字 存入 str 数组
下载文档
收藏
打印

扫扫二维码,随身浏览文档

手机或平板扫扫即可继续访问

推荐豆丁书房APP  

获取二维码

分享文档

将文档分享至:
分享完整地址
文档地址: 复制
粘贴到BBS或博客
flash地址: 复制

支持嵌入FLASH地址的网站使用

html代码: 复制

默认尺寸450px*300px480px*400px650px*490px

支持嵌入HTML代码的网站使用

分享到