2020-09-24 22:00:03

数值型数据 免费编辑 添加义项名

B 添加义项
?
义项指多义词的不同概念,如李娜的义项:网球运动员、歌手等;非诚勿扰的义项:冯小刚执导电影、江苏卫视交友节目等。 查看详细规范>>
所属类别 :
其他数学相关
其他数学相关
编辑分类

数值型数据(metric data)是按数字尺度测量的观察值,其结果表现为具体的数值。现实中所处理的大多数都是数值型数据。

基本信息

  • 中文名称

    数值型数据

  • 外文名称

    numeric data 

  • 性质

    数据

  • 属性

    数值型

  • 数值精度达

    16位

折叠 编辑本段 算术含义

如收入300元、年龄2岁、考试分数100分、重量3公斤等,这些数值就是数值性数值。对数值型数值,我们就可直接用算术方法进行汇总和分析,而对其他类型的数值则需特殊方法来处理。

折叠 编辑本段 编程中的含义

数值型数据是表示数量、可以进行数值运算的数据类型。数值型数据由数字、小数点、正负号和表示乘幂的字母E组成,数值精度达16位。在VF系统中,按存储、表示形式与取值范围不同,数值型数据又分为4种不同类型。

(1)数值型

数值型(Numeric)数据由数字、小数点、正负号和字母E组成,用字母N表示。数值型数据的取值范围是:-0.9999999999E+19+到0.9999999999E+20,包括正负号、小数点和字母E在内,其长度最大20位。通常用于表示实数。

(2)浮点型

浮点型(FLOAT)数据是数值型数据的一种,用字母F表示。它与数值型数据完全等价,只是在存储形式上用浮点格式,主要是为了得到较高的计算精度。

(3)双精度型

双精度型(DOUBLE)数据是具有更高精度的一种数据型数据,用字母B表示。它采用固定长充浮点格式存储,占用8个字节.

(4)整型

整型(INTEGER)数据是不包含小数部分的数值型数据,用字母I表示。整型数据只用来表示整数,以二进制形式存储,占用4个字节。

折叠 编辑本段 数据库的含义

Microsoft Excel软件中的数值型数据往往表示某些数据类型的数量,例如日期、时间、阿拉伯数字、长度、高度、重量等。在Excel2003中,数值型数字最大正数可达9.9*10的307次方,最小负数可达-9.9*10的307次方,不过其精度只能精确到15位数字。当Excel2003单元格中的数字超过15位时,第15位以后的数字将使用数字0代替。这个限制即使在Excel2007中也未被突破。因此当用户需要保留15以上的精确数字时(例如输入18位的身份证号码或超过15位的银行卡卡号),需要将单元格数据类型设置为"文本"格式。

而在规划求解工具SOLVER中,最终出来的Answer Report即运算结果报告中,型数值的含义是最后求解的当行中单元格值(即所达到所有要求和目标的变量值),与该变量的极限(可以适上限或者下限)的差值。举例来说,如果该变量的值达到了所给极限的最大值或者最小值,那么这个变量的型数值就是0,如果达到要求的变量是1000而条件所给的极限是2500,那么该变量的型数值就是1500。

阅读全文

热点资讯