/** * 实现3位有效数字 * @param data * @return */ public String YXSZ(String data){ String rlt=data; double oriData=0; try { oriData=Double.valueOf(data); } catch(Exception e) { return rlt; } if(oriData==0) { rlt="0.00"; } else if (oriData<10){ DecimalFormat df=new DecimalFormat("0.00"); rlt=df.format(oriData); } else if (oriData<100){ DecimalFormat df=new DecimalFormat("0.0"); rlt=df.format(oriData); if(Double.parseDouble(rlt) == 100) { rlt = "100"; } } else if (oriData<1000){ DecimalFormat df=new DecimalFormat("0"); rlt=df.format(oriData); } else if (oriData<10000){ String str=data.substring(0, 3)+"0"; int d=Integer.valueOf(str); if (oriData-d<5) { rlt=str; } else { rlt=String.valueOf(d+10); } } else if (oriData<100000000){ String str=String.valueOf(oriData).substring(0, 3)+"00"; int d=Integer.valueOf(str); if (oriData-d<50) { rlt=str; } else { rlt=String.valueOf(d+100); } }; return rlt; }
相关推荐
三位有效数字的阻值色标表示方法: 标称值第1位有效数字 标称值第2位有效数字 标称值第3位有效数字 标称值有效数字后零的个数 允许偏差 该电阻器的阻值为24*10^3(±5%)=24KΩ(±5%) 第二款:五色环...
设计一个电路简洁、精度高及测量范围宽的电容表,将待测电容的电容值显示到数码管,可显示 三位数字 工作量 适中 工作计划 3月8日 查资料,分析原理 3月9日 画原理图,列元器件表 3月11日 购买元器件 3月12日 ...
三位数字电容表原理图,multisim仿真 亲测有效
a与b都是三位有效数字,但是,a+b的精确结果为3.744,是四位有效数字,对于该浮点格式只有三位精度,a+b的结果无法精确表示,只能近似表示,具体运算结果取决
6. (15分) 设序列满足递推关系,若(三位有效数字),计算到时的绝对误差限是多少?这个计算过程稳定吗? 7. (10分) 选用更好的方法计算 8. (5分) 求方程的最小正根,使它至少具有4位有效数字(取)
基于51单片机的超强科学计算器,用LCD1602显示, 键盘6X6共36个键,可以实现一般科学计算器的大部分功能,具体指标如下: ...2、7位有效数字 3、精确到小数后六位 4、操作出错提醒 5、用户可很方便的自行DIY增加功能
在vtk中将三维模型的文件格式保存为obj文件格式
0.0112 是三位有效数字,位数最少,它的相对误差最大,所以应以 0.0112 的位数为准,即: 13.9×0.0112×1.97 = 0.307 3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。 4.检验结果的写法应与...
考试科目:《量子力学》(B 卷) 学年学期:2014 学年第 3 学期 姓 名: 学 院/系:物理科学与工程技术学院 学 号: 考试方式:闭卷 年级专业: ...(3)求电子的德布罗意波长(保留3位有效数字); (4)*讨论分析。
spa_sf 将数字四舍五入到某些有效数字 N = spa_sf(X,SF) 是 X 与指定有效数字 SF 的四舍五入数。 X 可以是标量或向量; 但是,SF 必须是标量。 示例 1) X = 3.14159265359; SF = 3; N = spa_sf(X,SF) > N = 3.1400...
然后根据对应点分别计算图B到图A的单应变换矩阵(要求以矩阵形式清晰打印出来并截图,精度保留3位有效数字,出3张图) 根据计算的单应矩阵把第二张图变换到第一张图的坐标系下,与原图通过线性加权的方式融合(权重...
举例,用上述规则对下列数据保留3位有效数字: 9.8249=9.82, 9.82671=9.83 9.8350=9.84, 9.83501=9.84 9.8250=9.82, 9.82501=9.83 从统计学的角度,“四舍六入五成双”比“四舍五入”要科学,在大量运算时,它使...
3.2 测量频率范围:分三档: 1Hz~999Hz 0.01kHz~9.99kHz 0.1kHz~99.9kHz 3.3 测量周期范围:1ms~1s...测量精度:显示3位有效数字(要求分析1Hz、1kHz和999kHz的测量误差)。 3.6当被测信号的频率超出测量范围时,报警.
1、背景 对浮点数保存指定位小数。比如, 1.123456. 要保存1位小数,,调用.../* 函数参数:float src:待求精度数 int bits:精度(0表示保留小数点后0位小数,1表示保留1位小数,2:表示保留2位小数) /* 函数返回值
1、掌握 ADC 有效位数的测量方法。 2、掌握 Quartus II 和 Matlab 的使用。 3、掌握 ADC 电路的设计方法。 4、掌握数字前端调理电路设计方法。
首先争取对水印信息分存,然后根据分存值序列,分成三元组序列,对数据库中有效位数较多的数值型字段值,修改其最低有效位的值。该算法隐蔽性好,可基于部分内容恢复水印信息;可嵌入信息量大,每个字段值可以插入3 ...
3.使用 cast(@num as decimal(18,2)) 实现转换,其中参数 2 表示 保留两位有效数字。 print cast(13.145 as decimal(18,2)) 结果为:13.15。 ---CAST与CONVERT比较 1.CAST与CONVERT相同点: .........
/*传入金额字符串返回... * 2、金额需在万亿以下,即整数部分只识别13位有效数字。 * 3、小数只保留2位即‘角’和‘分’,非四舍五入,小于分的单位舍掉。 * 例子: 传入:¥100,200.01 返回:¥壹拾万零贰佰元壹分*/
对下列数据保留3位有效数字: (1) 34.965=_____,(2) 7.965=_____。2. 求计算结果:1325.3+434.2+22.342+9.7457=_____。3. 测量相对误差越小,则测量的精度越 _____。4. 若某一测量系统中存在着测量误差,且没有办法修正...
三位有效数的小数位上是5的时候;5后面的所有小数位上没有任何有效数值。5前面的数位上的数字是奇数:小数位的结果是向上进1;否则结果是直接舍掉