`
弦上的福音
  • 浏览: 20579 次
  • 性别: Icon_minigender_1
  • 来自: 南京
社区版块
存档分类
最新评论

3位有效数字

    博客分类:
  • java
阅读更多
/**
	 * 实现3位有效数字
	 * @param data 
	 * @return
	 */
	public  String YXSZ(String data){
		String rlt=data;
		double oriData=0;
		try {
			oriData=Double.valueOf(data);
		} catch(Exception e) {
			return rlt;
		}
		
		if(oriData==0) {
			rlt="0.00";
		}
		else if (oriData<10){
			DecimalFormat df=new DecimalFormat("0.00");
			rlt=df.format(oriData);
		}
		else if (oriData<100){
			DecimalFormat df=new DecimalFormat("0.0");
			rlt=df.format(oriData);
			if(Double.parseDouble(rlt) == 100)
			{
				rlt = "100";
			}
		}
		else if (oriData<1000){
			DecimalFormat df=new DecimalFormat("0");
			rlt=df.format(oriData);
		}
		else if (oriData<10000){
			String str=data.substring(0, 3)+"0";
			int d=Integer.valueOf(str);
			if (oriData-d<5) {
				rlt=str;
			}
			else {
				rlt=String.valueOf(d+10);
			}
		}
		else if (oriData<100000000){
			String str=String.valueOf(oriData).substring(0, 3)+"00";
			int d=Integer.valueOf(str);
			if (oriData-d<50) {
				rlt=str;
			}
			else {
				rlt=String.valueOf(d+100);
			}
		};
		return rlt;
	}
	

 

分享到:
评论

相关推荐

    色环电阻的色标表示方法和口诀

    三位有效数字的阻值色标表示方法: 标称值第1位有效数字 标称值第2位有效数字 标称值第3位有效数字 标称值有效数字后零的个数 允许偏差 该电阻器的阻值为24*10^3(±5%)=24KΩ(±5%) 第二款:五色环...

    三位数字电容表说明书

    设计一个电路简洁、精度高及测量范围宽的电容表,将待测电容的电容值显示到数码管,可显示 三位数字 工作量 适中 工作计划 3月8日 查资料,分析原理 3月9日 画原理图,列元器件表 3月11日 购买元器件 3月12日 ...

    三位数字电容表原理图

    三位数字电容表原理图,multisim仿真 亲测有效

    JS 能表示的最大数值及JS Number类型数字位数及IEEE754标准1

    a与b都是三位有效数字,但是,a+b的精确结果为3.744,是四位有效数字,对于该浮点格式只有三位精度,a+b的结果无法精确表示,只能近似表示,具体运算结果取决

    2017级数值分析第一次作业.doc

    6. (15分) 设序列满足递推关系,若(三位有效数字),计算到时的绝对误差限是多少?这个计算过程稳定吗? 7. (10分) 选用更好的方法计算 8. (5分) 求方程的最小正根,使它至少具有4位有效数字(取)

    基于51单片机的超强科学计算器(数字可处理10e-38~10e38,7位有效数字,精确到小数后六位)

    基于51单片机的超强科学计算器,用LCD1602显示, 键盘6X6共36个键,可以实现一般科学计算器的大部分功能,具体指标如下: ...2、7位有效数字 3、精确到小数后六位 4、操作出错提醒 5、用户可很方便的自行DIY增加功能

    在vtk中保存为obj文件格式

    在vtk中将三维模型的文件格式保存为obj文件格式

    化验员基础培训教程.pdf

    0.0112 是三位有效数字,位数最少,它的相对误差最大,所以应以 0.0112 的位数为准,即: 13.9×0.0112×1.97 = 0.307 3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。 4.检验结果的写法应与...

    中山大学本科生期末考试 考试科目:《量子力学》 试卷和题目

    考试科目:《量子力学》(B 卷) 学年学期:2014 学年第 3 学期 姓 名: 学 院/系:物理科学与工程技术学院 学 号: 考试方式:闭卷 年级专业: ...(3)求电子的德布罗意波长(保留3位有效数字); (4)*讨论分析。

    将数字四舍五入到指定的有效数字:使用两个简单/强大的 MATLAB 函数将数字四舍五入到指定的有效数字。-matlab开发

    spa_sf 将数字四舍五入到某些有效数字 N = spa_sf(X,SF) 是 X 与指定有效数字 SF 的四舍五入数。 X 可以是标量或向量; 但是,SF 必须是标量。 示例 1) X = 3.14159265359; SF = 3; N = spa_sf(X,SF) &gt; N = 3.1400...

    SIFT、SURF、ORB特征匹配+RANSAC滤除离群点+图像拼接的matlab实现

    然后根据对应点分别计算图B到图A的单应变换矩阵(要求以矩阵形式清晰打印出来并截图,精度保留3位有效数字,出3张图) 根据计算的单应矩阵把第二张图变换到第一张图的坐标系下,与原图通过线性加权的方式融合(权重...

    sqlserver四舍六入函数

    举例,用上述规则对下列数据保留3位有效数字: 9.8249=9.82, 9.82671=9.83 9.8350=9.84, 9.83501=9.84 9.8250=9.82, 9.82501=9.83 从统计学的角度,“四舍六入五成双”比“四舍五入”要科学,在大量运算时,它使...

    数字式频率计设计

    3.2 测量频率范围:分三档: 1Hz~999Hz 0.01kHz~9.99kHz 0.1kHz~99.9kHz 3.3 测量周期范围:1ms~1s...测量精度:显示3位有效数字(要求分析1Hz、1kHz和999kHz的测量误差)。 3.6当被测信号的频率超出测量范围时,报警.

    C++数据精度问题(对浮点数保存指定位小数)

    1、背景 对浮点数保存指定位小数。比如, 1.123456. 要保存1位小数,,调用.../* 函数参数:float src:待求精度数 int bits:精度(0表示保留小数点后0位小数,1表示保留1位小数,2:表示保留2位小数) /* 函数返回值

    ADC有效位数的测量

    1、掌握 ADC 有效位数的测量方法。 2、掌握 Quartus II 和 Matlab 的使用。 3、掌握 ADC 电路的设计方法。 4、掌握数字前端调理电路设计方法。

    论文研究-基于密钥分存的关系数据库数字水印技术.pdf

    首先争取对水印信息分存,然后根据分存值序列,分成三元组序列,对数据库中有效位数较多的数值型字段值,修改其最低有效位的值。该算法隐蔽性好,可基于部分内容恢复水印信息;可嵌入信息量大,每个字段值可以插入3 ...

    sql小数点取值转换整理

    3.使用 cast(@num as decimal(18,2)) 实现转换,其中参数 2 表示 保留两位有效数字。 print cast(13.145 as decimal(18,2)) 结果为:13.15。 ---CAST与CONVERT比较 1.CAST与CONVERT相同点: .........

    java版数字生成大写金额

    /*传入金额字符串返回... * 2、金额需在万亿以下,即整数部分只识别13位有效数字。 * 3、小数只保留2位即‘角’和‘分’,非四舍五入,小于分的单位舍掉。 * 例子: 传入:¥100,200.01 返回:¥壹拾万零贰佰元壹分*/

    《误差理论与数据处理A》期末考试

    对下列数据保留3位有效数字: (1) 34.965=_____,(2) 7.965=_____。2. 求计算结果:1325.3+434.2+22.342+9.7457=_____。3. 测量相对误差越小,则测量的精度越 _____。4. 若某一测量系统中存在着测量误差,且没有办法修正...

    三位有效数4舍6入5单双

    三位有效数的小数位上是5的时候;5后面的所有小数位上没有任何有效数值。5前面的数位上的数字是奇数:小数位的结果是向上进1;否则结果是直接舍掉

Global site tag (gtag.js) - Google Analytics