首页 有效数字修约

有效数字修约

举报
开通vip

有效数字修约有效数字修约与计算培训人:陈志华培训日期:2011年10月一、培训目的 规范有效数字的取舍制度,以保证检验结果的准确性。二、范围 适用于分析检测中的各种实得和计算而来的数值三、有效数字基本概念 有效数字系指在药检工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 有效数字=可靠数字+欠准数字可靠数字:可以实际读出的数据。欠准数字:可以上下差一个单位。三、有效数字基本概念 比如滴定管、天平等使用存在可靠读数和欠准读数。 如12.50mL0.1234...

有效数字修约
有效数字修约与计算 培训 焊锡培训资料ppt免费下载焊接培训教程 ppt 下载特设培训下载班长管理培训下载培训时间表下载 人:陈志华培训日期:2011年10月一、培训目的 规范 编程规范下载gsp规范下载钢格栅规范下载警徽规范下载建设厅规范下载 有效数字的取舍 制度 关于办公室下班关闭电源制度矿山事故隐患举报和奖励制度制度下载人事管理制度doc盘点制度下载 ,以保证检验结果的准确性。二、范围 适用于分析检测中的各种实得和计算而来的数值三、有效数字基本概念 有效数字系指在药检工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 有效数字=可靠数字+欠准数字可靠数字:可以实际读出的数据。欠准数字:可以上下差一个单位。三、有效数字基本概念 比如滴定管、天平等使用存在可靠读数和欠准读数。 如12.50mL0.1234g前三位都是可靠的准确的,后一位是估计的不甚准确的,但它不是臆造的,记录时应保留该读数。这四位数字统称为有效数字。由此我们可以看出有效数字实际上是可以测的,最后一位为估读数字。四、有效数字位数 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零的数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。如:35000 若有两个无效零,则为三位有效位数,应写成350×102; 若有三个无效零,则为两位有效数,应写成35×103。四、有效数字位数 在其他十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。 例如: 3.2、0.32、0.032、0.0032均为两位有效位数,0.0320为三位有效位数。 10.00为四位有效数字 10.001为五位有效数字四、有效数字位数 非连续型数值(如分数、倍数、名义浓度或标示量)是没有不确定数字的,其有效位数可视为无限多位,常数π,e和系数等数值的有效位数也可视为是无限多位。四、有效数字位数 有效数字的首位数字为8或9时,其有效位数可以多计一位。如: 85%与115%都可以看成是三位有效位数; 99.0%与101.0%都可以看成是四位有效位数。五、数字修约及其进舍规则 数值修约是指对拟修约数值中超出需要保留位数时的舍弃,根据舍去数决定最后一位数。 修约间隔是确定修约保留位数的一种方式。 确定修约位数的表达方式: 指定位数 指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。五、数字修约及其进舍规则 指定修约间隔为1,或指明将数值修约到个位数。 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到"十"、"百"、"千"……数位。 指定将数值修约成n位有效位数(n为正整数)。五、数字修约及其进舍规则 进舍规则 进舍规则口诀 四舍六入五考虑,五后非零则进一五后全零看五前,五前偶舍奇进一不论数字多少位,都要一次修约成五、数字修约及其进舍规则 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 将12.1498修约到1位小数,得12.1。 将12.1498修约成2位有效位数,得12。 拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。 将1268修约到百数位,得13×102 将1268修约到三位有效位数,得127×10 将10.502修约到个数位,得11五、数字修约及其进舍规则 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所要保留的末位数为奇数,则进一;为偶数,则舍弃。 将下列数字修约成两位有效位数 拟修约数值修约值 0.03250.032 3150032×103五、数字修约及其进舍规则 不许连续修约 例:修约15.4546修约间隔为1 正确的做法是:15.4546→15;错误的做法是:15.4546→15.455→15.46→15.5→16 在相对 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 偏差(RSD)中采取“只进不舍”的规则,如0.162%,0.52%修约时应修约成0.17%,0.6% 在抽样时根据取样规则确定取样件数时采取“只进不舍”规则如总件数10件取5件。六、运算规则 许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即不确定数字的位数最大)的数值为准,确定其他数值在运算中保留的位数和决定计算结果的有效位数 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。六、运算规则 例13.65+0.00823+1.633=? 本例是数值相加减,在三个数值中,13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位,即 0.00823→0.008,1.633不变,进行运算:13.65+0.008+1.633=15.291 最后对计算结果进行修约,应只保留至百分位,而修约成15.29六、运算规则 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大,因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其他数值在运算中保留的位数和决定计算结果的有效位数。六、运算规则 例14.131×0.07654÷0.78=? 本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。 14.131×0.07654÷0.78=14.1×0.0765÷0.78=1.08÷0.78=1.38=1.4七、 注意事项 软件开发合同注意事项软件销售合同注意事项电梯维保合同注意事项软件销售合同注意事项员工离职注意事项 正确记录检测所得的数值。应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数,检测值必须与测量的准确度相符合,记录全部准确数字和一位不确定数字。 由量具的精度确定有效数字:比如滴定管、10mL移液管0.05mL、10ml大肚吸管0.02mL.七、注意事项 由取样量确定量具的选择。 “精密称定”系指称重要准确到所取重量的0.1%,可选用分析天平或半微量分析天平;“精密量取”应选用符合国家标准的移液管,必要时应加校正值。 取样量为"约XX"时,系指取用量不超过规定量的(100±10)%。 取样量的精度未作特殊规定时,应根据其数值的有效位数选用与之相应的量具;如规定量取5ml、5.0ml、5.00ml时,则应分别选用5—10ml的量筒5—10ml的刻度吸管或5ml的移液管进行量取。七、注意事项 由标准中限度确定有效数字。 如质量标准≤0.5%检测结果0.008%记为0.008%有效数字一致。如果检测结果为0.54%,先复测如果复测结果为0.54%以下则报告为0.5%,如果为0.55%以上则记为0.6% 判定产品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并将计算结果修约到标准中所规定的有效位数,而后进行判定。
本文档为【有效数字修约】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑, 图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
该文档来自用户分享,如有侵权行为请发邮件ishare@vip.sina.com联系网站客服,我们会及时删除。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。
本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。
网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
下载需要: 免费 已有0 人下载
最新资料
资料动态
专题动态
个人认证用户
xxj7584
暂无简介~
格式:ppt
大小:60KB
软件:PowerPoint
页数:0
分类:建造师考试
上传时间:2020-03-19
浏览量:7