Free考研资料 - 免费考研论坛

 找回密码
 注册
打印 上一主题 下一主题

化学计算中的有效数字问题

[复制链接]
跳转到指定楼层
楼主
mengling95 发表于 08-6-7 10:13:11 | 显示全部楼层 回帖奖励 |倒序浏览 |阅读模式
一、有效数字的修约规则  
规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。
  例:将下列数字修约为4位有效数字。
  修约前     修约后
  0.526647--------0.5266
  0.36266112------0.3627
  10.23500--------10.24
  250.65000-------250.6
  18.085002--------18.09
  3517.46--------3517
二、有效数字运算规则
  由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。
1. 加减法
  先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
  例:计算50.1+1.45+0.5812=?
  先
  修约为:50.1+1.4+0.6=52.1
  先修约,结果相同而计算简捷。
  例:计算 12.43+5.765+132.812=?
  修约为:12.43+5.76+132.81=151.00
  注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。
2. 乘除法
  先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
  例:计算0.0121×25.64×1.05782=?
  修约为:0.0121×25.6×1.06=?
  计算后结果为:0.3283456,结果仍保留为三位有效数字。
  记录为:0.0121×25.6×1.06=0.328
  注意:用计算器计算结果后,要按照运算规则对结果进行修约
  例:计算2.5046×2.005×1.52=?
  修约为:2.50×2.00×1.52=?
  计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。
  2.50×2.00×1.52=7.60
沙发
 楼主| mengling95 发表于 08-6-7 19:58:00 | 显示全部楼层
这不仅是分析要用的,物化的计算也要用的
您需要登录后才可以回帖 登录 | 注册

本版积分规则

联系我们|Free考研资料 ( 苏ICP备05011575号 )

GMT+8, 25-8-23 10:26 , Processed in 1.143783 second(s), 11 queries , Gzip On, Xcache On.

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表