阿伏伽德罗常数是 602,214,076,000,000,000,000,000,元电荷是 0.0000000000000000001602176634 C。这样写出来,很容易数错 0 的个数。因此科学和工程中把数的大小单独写成10 的幂。本指南介绍科学计数法与工程计数法、SI 词头、在计算器中输入指数的方法以及有效数字规则。
1. 科学计数法 (SCI)
把数写成 a × 10ⁿ 的形式,其中 1 ≤ |a| < 10。
- 6.02214076 × 10²³(阿伏伽德罗常数)
- 1.602176634 × 10⁻¹⁹ C(元电荷)
- 0.00047 = 4.7 × 10⁻⁴
好处有两个:数量级(n)一目了然;有效数字的位数(a 的位数)不会产生歧义。
2. 工程计数法 (ENG)
把指数限定为 3 的倍数,并使 1 ≤ |a| < 1000。
- 0.000047 → 47 × 10⁻⁶(= 47 μ)
- 123456789 → 123.456789 × 10⁶(= 123.456789 M)
- 3386.28 → 3.38628 × 10³(= 3.38628 k)
指数以 3 为步长,就能直接读出 SI 词头:47×10⁻⁶ F 就是 47 μF,3.38628×10³ Ω 就是 3.38628 kΩ。这正是电路计算偏爱工程计数法的原因。
3. SI 词头对照表
| 词头 | 符号 | 10 的幂 | 示例 |
|---|---|---|---|
| 太 | T | 10¹² | 1 TB 硬盘 |
| 吉 | G | 10⁹ | 2.4 GHz |
| 兆 | M | 10⁶ | 1 MΩ |
| 千 | k | 10³ | 4.7 kΩ |
| (无) | 10⁰ | ||
| 毫 | m | 10⁻³ | 20 mA |
| 微 | μ | 10⁻⁶ | 47 μF |
| 纳 | n | 10⁻⁹ | 100 nF |
| 皮 | p | 10⁻¹² | 22 pF |
| 飞 | f | 10⁻¹⁵ | 1 fs 激光脉冲 |
千是小写 k,兆是大写 M。m(毫)和 M(兆)相差 10⁹ 倍,所以大小写很重要。
4. 在计算器中输入指数:E 记法
在 SciKey 中,紧跟在数字后面的 E(或 e)加上一个整数表示 × 10ⁿ。
6.02E23= 6.02 × 10²³1.6e-19= 1.6 × 10⁻¹⁹47E-6= 0.000047
6.02E23 与 6.02×10^23 数值相同,但 E 记法被当作一个数处理。所以 1/6.02E23 正确地表示 1/(6.02×10²³),而 1/6.02×10^23 因为乘除同级、从左到右计算,结果是 (1/6.02)×10²³ = 1.66×10²²。请养成用 E 输入指数的习惯。
有一个陷阱:像 2e 这样后面没有整数时,表示 2 × e(自然常数 2.71828…)= 5.43656365692。使用 E 记法时,E 后面一定要写数字。
5. 例题:运用计数法计算
例 1:验证法拉第常数。 F = N_A × e。NA×qe → 96485.3321233(C/mol),SCI 下为 9.64853321233×10⁴。
例 2:容抗。 频率 1 kHz、电容 47 nF 时,X = 1/(2πfC):
1/(2π×1E3×47E-9) → 3386.27538493 Ω
ENG 下为 3.38627538493×10³,约 3.39 kΩ。注意整个分母要加括号。1/2π×1E3×47E-9 会从左到右计算,得到完全不同的结果(7.38×10⁻⁵)。
例 3:切换显示格式。 结果为 0.000000512 时:
- NORM:0.000000512(在 1e−9 以上且小于 1e12,所以用普通记法)
- SCI:5.12 × 10⁻⁷
- ENG:512 × 10⁻⁹(= 512 n)
例 4:1 光年等于多少米。 1 光年是光在一个儒略年(365.25 天)内传播的距离:c0×365.25×86400 → 9.46073047258×10¹⁵ m。它超过 10¹²,所以 NORM 下也显示为科学计数法。指数 15 本身就是 3 的倍数,ENG 下显示相同;用词头表示约为 9.46 Pm(拍米)。
例 5:9 g 水中的分子数。 取水的摩尔质量为 18.015 g/mol,9/18.015×NA → 3.00856324396×10²³ 个。乘除从左到右计算,所以正如所愿地得到 (9/18.015)×N_A。
6. 有效数字规则
测量值的位数表示测量的精确程度。2.50 cm 精确到 0.01 cm,而 2.5 cm 只精确到 0.1 cm。
哪些数字是有效数字
- 所有非零数字都有效:123 → 3 位
- 非零数字之间的 0 有效:1.005 → 4 位
- 前导 0 无效:0.0047 → 2 位
- 小数点后末尾的 0 有效:2.50 → 3 位
- 没有小数点的整数末尾的 0 有歧义:1200 → 2~4 位。用科学计数法可以消除歧义:1.2 × 10³(2 位)或 1.20 × 10³(3 位)。
计算结果的位数
- 乘除法: 与有效数字位数最少的数一致。2.50 × 3.1 = 7.75 → 2 位 → 7.8
- 加减法: 与小数位数最少的数一致。12.0 + 0.345 = 12.345 → 保留一位小数 → 12.3
只在最后舍入一次
每一步都舍入会累积误差。把中间值保存在 Ans 或变量中,只对最终答案舍入。SciKey 的 round(x, n) 可舍入到 n 位小数,例如 round(3.14159, 2) = 3.14。
7. 与计算器“有效位数”设置的区别
SciKey 的显示位数设置(6~15,默认 12)只决定屏幕上显示多少位,并不会套用有效数字规则。计算 2.50 × 3.1,计算器显示 7.75;决定报告 7.8 是您自己的工作。设置的最小值是 6 位,而每道题需要的精度不同,所以设置不妨放宽一些,由自己对最终答案进行舍入。
8. 常见错误
- 把
10E5读成 10⁵。10E5是 10 × 10⁵ = 10⁶,10⁵ 应写成1E5。 - 在分母后不加括号地接上
×10^n。请使用 E 记法或加括号。 - 混淆 μ(10⁻⁶)和 m(10⁻³),两者相差 1,000 倍。
- 把显示的 12 位全部抄进答案。三位有效数字的测量值,得到的答案大致也是三位。