化学分析实验室有效数字运用指南DB51／T 2157-2016.pdf

ICS 03.120.10 A 00 DB51 四川省地方标准 DB51/T 21572016 化学分析实验室有效数字运用指南 2016-05-18发布 2016-10-01实施四川省质量技术监督局 发布 DB51/T 21572016 I 目 次 前 言.II 引 言.III 1 范围.1 2 规范性引用文件.1 3 术语和定义.1 4 有效数字位数确定规则.2 5 数据修约规则及近似数计算规则.3 附录 A（资料性附录）统计计数中有效数字位数确定.5 附录 B（资料性附录）标准溶液浓度有效数字位数确定.7 参考文献.9 DB51/T 21572016 II 前 言 本标准为实验室质量管理和技术运作系列标准。建议实验室将该标准和下列实验室质量管理和技术运作相关系列标准结合起来使用。组织实验室间比对指南 实验室安全管理指南 实验室通风柜使用指南 实验室人力资源管理指南 实验室设施和环境条件监测指南 实验室服务和供应品采购管理指南 实验室检测仪器设备维护保养指南 实验室检测仪器设备和标准物质期间核查指南 实验室样品记录及检测记录管理指南 化学分析实验室测量不确定度运用指南 化学分析实验室标准物质及标准溶液管理指南 化学分析实验室安全标志使用指南 化学分析实验室废弃物处置指南 本标准附录为资料性附录。本标准按照 GB/T 1.1-2009 给出的规则进行起草。本标准由四川省产品质量监督检验检测院提出并归口。本标准由四川省质量技术监督局批准。本标准由四川省产品质量监督检验检测院负责解释 本标准起草单位：四川省产品质量监督检验检测院，四川省食品药品检验检测院 本标准主要起草人：郑卫东，王 颖，胡丹，李澍才，钟红霞，成桂红 DB51/T 21572016 III 引 言 GB/T 27025检测和校准实验室能力的通用要求、国家认证认可监督管理委员会（CNCA）发布的检验检测机构质认定评审准则和其他有关准则、规范中没有专门提到关于有效数字的运用要求。然而，实验室数字的读取、记录、计算和最终表达，无不涉及有效数字。特别是在涉及将检测结果与标准或规范要求中的限量数值进行比较，并给出合格评定的结论时，更是与有效数字关系密切。GB/T 8170-2008数字修约规则与极限数值的表示和判定给出了详细的数值修约规则、极限数值的表示和判定规则。但是实验室在运用此标准时，还存在理解和操作上的难度。特别是化学分析实验室，由于存在较多的间接测量，对于确定检测过程中间数据有效数字位数和最终结果表达的有效数字位数，尤为困惑。为此，本标准提出了化学分析实验室有效数字确定和修约指南。本标准主要由术语和定义、有效数字位数确定规则、数据修约规则、近似数计算规则和2个附录组成。数据修约规则和近似数计算规则是对 GB/T 8170-2008 必要的补充。DB51/T 21572016 1 化学分析实验室有效数字运用指南 1 范围 本标准提出了化学分析有效数字运用的指南。本标准适用于化学分析实验室有效数字运用，并满足 GB/T 27025检测和校准实验室能力的通用要求(idt ISO/IEC 17025)、国家认证认可监督管理委员会检验检测机构资质认定评审准则对检测结果的要求。本标准不适用于物理分析实验室。然而，物理分析实验室可将本标准的部分内容作为参考。2 规范性引用文件 下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件，仅所注日期的版本适用于本文件。凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T 8170-2008 数字修约规则与极限数值的表示和判定 3 术语和定义 GB/T 19000-2000 界定的以及下列术语和定义适用于本标准。3.1 有效数字 significant figure 一个数，由所有准确的数字和其后的不确定数字组成。注：一般情况下，不确定数字位于数字最后，且为1位,特殊情况下为2位。3.2 直接测量 direct measurement 直接从测量仪表读数获取被测量量值的方法。注：直接测量的特点是不需要对被测量与其他实测的量进行函数关系的辅助运算。3.3 间接测量 indirect measurement 待测量是1个或多个直接测量的量，通过函数计算得到。3.4 准确数 accurate number 一个数，能表示原来物体或事件的实际数量。3.5 DB51/T 21572016 2 近似数 approximate number 一个与准确数相近的数。4 有效数字位数确定规则 4.1 有效数字为无限位数的情形 4.1.1 化学反应基本单元的系数(如12H2SO4 中的12,16K2Cr2 O7中的16)、化学元素和原子团的化合价(或所带电荷数)等。4.1.2 我国法定计量单位,由法定计量单位构成的组合单位,由词头和以上单位所构成的十进倍数和分数单位。原子量、分子量(含原子团,如HCO3、NH4+等)以及化学反应基本单元的摩尔质量,阿佛加德罗常数值等。4.1.3 用优级纯试剂、高纯试剂、基准试剂、标准物质等配制标准溶液时,其纯度的有效数字位数；计量基准器具、高一级的计量标准器具所给出的量值如国家标准物质给出的量值等；标准中规定的限值等。4.1.4 常数和某些倍数、分数以及其他不连续物理量的数目，包含以下几种情形：a)纯净单质和纯净化合物的化学组成的化学计量单元数,如单质Fe中的原子数目1和H2SO4中的原子数目 2,1,4 等；b)单标线量器、容器,如单标线移液管、移液器、容量瓶等的量值；c)数学中的常数、e,各种计算公式中的系数,测定次数、统计数据的个数 n,数理统计中的自由度 f、各种临界值以及其他取自手册上的数据等；4.1.5 其他没罗列到的情形，实验室可与上述条款以及后文中的情形对应比较，以确定是否为无限位数。4.2 有效数字为有限位数的情形 4.2.1 连续物理量，对具有连续分度的计量器具（如滴定管）,在读取和记录测量值时,应比其最小分度值再多估读和记录一位有效数字,或者说,测量值的有效数字位数必须达到其最小分度值的后一位,即必须保留、也只能保留一位可疑(不确定)数字。当最小分度值为次小分度值的 0.1或 0.2 单位时,读数的有效数字位数应达到次小分度值的百分位；当最小分度值为次小分度值的 0.5单位时,读数的有效数字位数应达到次小分度值的十分位。4.2.2 统计计算量，统计计算中，以多次重复检测结果的平均值x作为最终的结果。其有效数字位数决定于用平均值的标准偏差计算的测量不确定度的有效数字位数。一般情况下，测量不确定度有效数字取 1 位，最多为 2 位。应把测量不确定度影响到的那 l 位数定为平均值的有效数字最后 1 位。注：本标准附录A给出了统计计算量有效数字位数确定的方法，供参考。4.2.3 间接测量，间接测量中仪器显示的原始数据，如色谱仪显示的峰面积或峰高、ICP显示的谱线强度、原子吸收光谱仪显示的吸光度等，其有效数字位数应按附录 A给出的方法确定。4.2.4 乘方和开方，当对一个数进行乘方或开方时,计算结果的有效数字位数与此数的有效数字位数相同。4.2.5 乘方和开方,当对一个数进行乘方或开方时,计算结果的有效数字位数与此数的有效数字位数相同。DB51/T 21572016 3 4.2.6 对数和反对数，对数计算中,所取对数的小数点位数(不包括首数)应与真数的有效数字位数相同；反对数计算中,所取反对数的有效数字位数应与真数的小数部分的位数相同。示例：pH=12.25 和Hc+=5.610-3 mol/L都是2位有效数字（带下划线的数）。4.2.7 单位换算，如需通过系数将一个量值转换成单位不同的新量值，系数应视为无限有效数字位数，转换后量值的精度不能高于原量值。示例：将照射量率 X=8.501106 R.s-1换算为以法定计量单位 c.kg-1.s-1表示的量值。该物理量量值的换算系数为R.s-1=2.58l0-4 c.kg-1.s-1。该系数为准确值,此处虽然只给出了3位数字,但其有效位数可任选。根据转换前X的相对精度,转换后X应为2.193103 c.kg-1.s-1,而不能记作2.1932103 c.kg-1.s-1，因为后者的相对精度高出了原量值。4.2.8 标准溶液，标准溶液的有效数字，可根据前述原则确定。本标准附录 B 给出了确定示例。4.2.9 0 的情形，数字中“0”可以是有效数字，也可以只起定位作用而不是有效数字。整数部分前面的“0”为有效数字，小数部分的末位“0”为有效数字，夹在数字中间的“0”为有效数字，小数点前无整数部分时，自然数前的“0”不是有效数字。4.2.10 科学计数法，对包含无效零的数,应采用科学记数法,即记成a 10n,其中 1a 10,n是整数。示例：用架盘天平称取某物质1.8 g,可以写成1.8103 mg,而不能写成1800 mg；用万分之一天平称取某物质0.0045 g,可写成4.5 mg 或4.5103 g 或4.510-3g,而不能写成4500 g。5 数据修约规则及近似数计算规则 5.1 数据修约 按照GB/T 8170-2008第3章的要求进行。5.2 近似数据计算规则 5.2.1 总则 a)计算结果必须保留、也只能保留 1位可疑数字。b)计算结果的表达应尽可能少的无效零,按 4.2.9的要求，采用科学记数法。5.2.2 加法和减法 a)几个近似值相加减时,其和或差的有效数字位数决定于绝对误差最大的数值,即最后结果的有效数字自左起只达到参加计算的近似值中第一个出现的可疑数字。在小数的加减计算中,保留的位数可比各数值中小数点后位数与各近似值中小数点后位数最少者相同。b)在中间运算过程中,保留的位数可比各数值中小数点后位数最少者多保留 1 位小数,而计算结果则按数值修约规则处理。c)当两个很接近的近似数值相减时,其差的有效数字位数会有损失,因此,应注意组织好计算程序,尽量避免这种损失。5.2.3 乘法和除法 a)近似值相乘除时,所得积或商的有效数字位数，决定于参与计算的数中相对误差最大的那个数的有效位数,即最后结果的有效数字与各近似值中有效数字位数最少者相同。b)在实际运算中,先将各近似值修约到比有效数字位数最少者多保留 1 位有效数字,再将计算结果按上述规则处理。c)使用计算机计算时,可在运算过程中适当保留较多的位数,对中间结果不进行修约,只将最后结果修约到所需位数。DB51/T 21572016 4 d)对于第 1 位是 9 或8 的近似值,在乘除计算中有效数字位数可多计 1 位。5.2.4 其他情形 a)近似数乘方或开方计算应符合 4.2.4 的规定。b)近似数对数和反对数计算应符合 4.2.5 的规定。DB51/T 21572016 5 A A 附 录 A（资料性附录）统计计数中有效数字位数确定 A.1 前言 使用ICP-AES检测茶叶中Cu的含量。独立重复称取6个样品，微波消解定溶后在324.8 nm处检测。读取仪器谱线强度为：9.102，9.032，9.002，9.211，9.102,9.041。确定谱线强度的有效数字位数。A.2 计算平均值x 按式A.1计算平均值 x。x=12.nxxxn+.(A.1)式中：x-重复检测结果的平均值；ix-第i次检测结果，i=1,2,3，.,n;n-重复检测次数。本例中：x=9.0817 A.3 计算标准偏差及测量不确定度 标准偏差s按式A.2计算。s=21()1niix xn=.(A.2)式中符号意义同式A.1。本例中：s=0.0683 平均值的标准偏差xs=sn。本例中：DB51/T 21572016 6 xs=0.0279 取置信概率为95，=0.05（也可取置信概率为99，=0.01以及其他置信水平），自由度f=n-1，查本附录给出的表A.1 t检验的临界值表（双侧检验情形），得到t（f）。本例中f=5，t（f）=2.57。扩展测量不确定度U=xst（f）本例中：U=0.0716 根据JJF1059-2012测量不确定度的评定与表示中5.3.8的要求。将扩展不确定度修约到1位有效数字，即0.07，平均值的有效数字位数的确定：该数小数点后的位数应与测量不确定度相同，即9.08。故确认该方法中，从ICP-AES读取的谱线强度有效数字位数应为3位。注：如果样本容量n比较大（10）,而精密度又比较好,即平均值的标准差xs 的值较小,那么报告结果时平均值的有效数字,也可以比原测量的有效数字多保留一位”。表A.1 t检验的临界值（双侧检验）置信水平（%）置信水平（%）自由度 90 95 99 99.9 自由度 90 95 99 99.9 1 6.31 12.7 63.7 63.7 21 1.72 2.08 2.83 3.82 2 2.92 4.30 9.92 31.6 22 1.72 2.07 2.82 3.79 3 2.35 3.18 5.84 12.9 23 1.71 2.07 2.81 3.77 4 2.13 2.78 4.60 8.61 24 1.71 2.06 2.80 3.75 5 2.01 2.57 4.03 6.86 25 1.71 2.06 2.79 3.73 6 1.94 2.45 3.71 5.96 26 1.71 2.06 2.78 3.71 7 1.89 2.36 3.50 5.41 27 1.70 2.05 2.77 3.69 8 1.86 2.31 3.36 5.04 28 1.70 2.05 2.76 3.67 9 1.83 2.26 3.25 4.78 29 1.70 2.05 2.76 3.66 10 1.81 2.23 3.17 4.59 30 1.70 2.04 2.75 3.65 11 1.80 2.20 3.11 4.44 35 1.69 2.03 2.72 3.59 12 1.78 2.18 3.05 4.32 40 1.68 2.02 2.70 3.55 13 1.77 2.16 3.01 4.22 45 1.68 2.01 2.69 3.52 14 1.76 2.14 2.98 4.14 50 1.68 2.01 2.68 3.50 15 1.75 2.13 2.95 4.07 55 1.67 2.00 2.67 3.48 16 1.75 2.12 2.92 4.02 60 1.67 2.00 2.66 3.46 17 1.74 2.11 2.90 3.97 37 1.67 1.99 2.64 3.42 18 1.73 2.10 2.88 3.92 38 1.66 1.98 2.63 3.39 19 1.73 2.09 2.86 3.88 39 1.66 1.98 2.62 3.37 20 1.72 2.09 2.85 3.85 40 1.64 1.96 2.58 3.29 DB51/T 21572016 7 B B 附 录 B（资料性附录）标准溶液浓度有效数字位数确定 B.1 称量中天平的选取 根据称量的误差要求和天平的示值误差要求，决定最小称样量。例：万分之一分析天平，其绝对示值误差为0.0001g，为了使称量的相对误差在0.1%以下，试问样品称取量最小应为多少克才能达到上述要求？最小称样量按式B.1计算如下：m=Ree.(B.1)式中：m-称样量；e-天平的绝对示值误差；Re-要求称量的相对误差。本例中：m=0.1 g 由此可知，样品称取的质量不能低于0.1 g，如果称取样品质量在1 g以上时，选用千分之一分析天平进行称量，准确度也可以达到0.1%的要求。B.2 标准滴定溶液的有效数字位数 基准物质称量不能少于0.2 g。标定时称取的基准物质,取样量要位于消耗待标定溶液20-40mL之间。质量数值0.5 g时,按精确至0.0l mg称量,质量数值0.5 g时,按精确至0.l mg 称量。其有效数字位数取决于滴定管的有效数字位数，运算过程保留五位有效数字,浓度值报告四位有效数字。B.3 标准储备溶液的有效数字 金属元素、食品添加剂、农药、兽药、维生素等标准储备溶液，当使用有证标准物质溶解或稀释，在其过程中使用单标线移液管、容量瓶，其有效数字位数可视为无限。B.4 标准使用溶液的有效数字位数 标准使用溶液的有效数字位数,由标准储备溶液的有效数字位数和稀释用的量器决定。如果使用单标线量器，使用液的有效数字位数取决于标准储备液的有效数字位数。B.5 校准曲线中a和b的有效数字位数 在间接测量中，进样器的有效数字位数可视为无限。校准曲线的参数a、b 的有效位数可根据附录A中仪器显示的数据有效位数确定。DB51/T 21572016 8 例：附录A中，通过标准偏差的有效位数确定了谱线强度为3位有效数字，由于标准溶液浓度视为无限位数，故回归方程计算结果的有效位数应为3位。那么，a、b 的有效位数也应确定为3位。DB51/T 21572016 9 参 考 文 献 1 王中平,环境监测测量结果有效数字位数应用中常见问题的探讨,中国环境监测,Vol.16.No.6,P34-38 2 李学良,有效数字位数的编辑加工,编辑学报1996年第8卷第4期,P198-200 3 王若燕等,卫生理化检验中的有效数字及整理原则,中国卫生检验杂志,004年10月第14卷第5期.P632-634 4 陈建梅等，于有效数字的过去、现状和建议(之一)，技信息，007 年 第 30 期.P153-154 _ DB51/T 21572016