아보가드로 수는 602,214,076,000,000,000,000,000이고 전자의 전하는 0.0000000000000000001602176634 C다. 이렇게 쓰면 0의 개수를 세다가 실수하기 쉽다. 그래서 과학과 공학에서는 10의 거듭제곱으로 크기를 따로 떼어 쓴다. 이 글에서는 과학적 표기와 공학 표기, SI 접두어, 계산기에서 지수를 입력하는 방법, 유효숫자 규칙을 정리한다.
1. 과학적 표기 (SCI)
수를 a × 10ⁿ 꼴로 쓰되 1 ≤ |a| < 10으로 맞춘다.
- 6.02214076 × 10²³ (아보가드로 수)
- 1.602176634 × 10⁻¹⁹ C (기본 전하)
- 0.00047 = 4.7 × 10⁻⁴
장점은 두 가지다. 크기(n)가 한눈에 보이고, 유효숫자(a의 자릿수)가 분명하다.
2. 공학 표기 (ENG)
지수를 3의 배수로 제한하고 1 ≤ |a| < 1000으로 맞춘다.
- 0.000047 → 47 × 10⁻⁶ (= 47 μ)
- 123456789 → 123.456789 × 10⁶ (= 123.456789 M)
- 3386.28 → 3.38628 × 10³ (= 3.38628 k)
지수가 3의 배수이면 SI 접두어로 바로 읽을 수 있다. 47×10⁻⁶ F는 47 μF, 3.38628×10³ Ω은 3.38628 kΩ이다. 회로 계산에서 공학 표기를 선호하는 이유다.
3. SI 접두어 대응표
| 접두어 | 기호 | 10의 거듭제곱 | 예 |
|---|---|---|---|
| 테라 | T | 10¹² | 1 TB 저장장치 |
| 기가 | G | 10⁹ | 2.4 GHz |
| 메가 | M | 10⁶ | 1 MΩ |
| 킬로 | k | 10³ | 4.7 kΩ |
| (없음) | 10⁰ | ||
| 밀리 | m | 10⁻³ | 20 mA |
| 마이크로 | μ | 10⁻⁶ | 47 μF |
| 나노 | n | 10⁻⁹ | 100 nF |
| 피코 | p | 10⁻¹² | 22 pF |
| 펨토 | f | 10⁻¹⁵ | 1 fs 레이저 펄스 |
킬로의 k는 소문자, 메가의 M은 대문자다. m(밀리)과 M(메가)은 10⁹배 차이이므로 대소문자를 바꿔 쓰면 안 된다.
4. 계산기에서 지수 입력하기: E 표기
SciKey에서는 숫자 바로 뒤에 E(또는 e)와 정수를 붙이면 × 10ⁿ으로 해석한다.
6.02E23= 6.02 × 10²³1.6e-19= 1.6 × 10⁻¹⁹47E-6= 0.000047
6.02E23 은 6.02×10^23 과 값이 같지만, E 표기는 한 덩어리의 숫자로 취급된다는 점이 다르다. 그래서 1/6.02E23 은 1/(6.02×10²³)으로 정확히 계산된다. 반면 1/6.02×10^23 은 왼쪽부터 계산해 (1/6.02)×10²³ = 1.66×10²²가 된다. 곱셈과 나눗셈이 같은 우선순위라서 생기는 차이다. 지수 표기 숫자는 E로 입력하는 습관을 들이자.
주의할 점: 2e 처럼 e 뒤에 정수가 없으면 2 × e(자연상수 2.71828…) = 5.43656365692로 해석된다. 지수 표기를 쓰려면 반드시 뒤에 숫자를 붙인다.
5. 예제: 표기법을 활용한 계산
예제 1: 패러데이 상수 확인. F = N_A × e. NA×qe → 96485.3321233 (C/mol). SCI 표시로는 9.64853321233×10⁴이다.
예제 2: 축전기의 리액턴스. 주파수 1 kHz, 용량 47 nF일 때 X = 1/(2πfC).
1/(2π×1E3×47E-9) → 3386.27538493 Ω
ENG 표시로 바꾸면 3.38627538493×10³, 즉 약 3.39 kΩ이다. 분모 전체를 괄호로 감싼 점에 주목하자. 1/2π×1E3×47E-9 로 쓰면 왼쪽부터 계산되어 전혀 다른 값(7.38×10⁻⁵)이 나온다.
예제 3: 표시 형식 바꿔 보기. 결과가 0.000000512일 때
- NORM: 0.000000512 (1e−9 이상 1e12 미만이므로 일반 표기)
- SCI: 5.12 × 10⁻⁷
- ENG: 512 × 10⁻⁹ (= 512 n)
예제 4: 광년을 미터로. 1광년은 빛이 율리우스년(365.25일) 동안 가는 거리다. c0×365.25×86400 → 9.46073047258×10¹⁵ m. 크기가 10¹²을 넘으므로 NORM에서도 과학적 표기로 표시된다. 지수 15가 3의 배수라서 ENG 표시도 같고, 접두어로 읽으면 약 9.46 Pm(페타미터)다.
예제 5: 물 9 g 속 분자 수. 물의 몰질량을 18.015 g/mol로 두면 9/18.015×NA → 3.00856324396×10²³개. 곱셈과 나눗셈이 왼쪽부터 계산되므로 (9/18.015)×N_A로 의도대로 계산된다. 물 분자 수처럼 결과가 10²³ 규모면 NORM에서도 자동으로 과학적 표기가 된다.
6. 유효숫자 규칙
측정값의 자릿수는 얼마나 정확히 쟀는지를 나타낸다. 2.50 cm는 0.01 cm 단위까지 잰 값이고 2.5 cm는 0.1 cm 단위까지 잰 값이다.
어떤 숫자가 유효한가
- 0이 아닌 숫자는 모두 유효하다: 123 → 3개
- 0이 아닌 숫자 사이의 0은 유효하다: 1.005 → 4개
- 앞자리 0은 유효하지 않다: 0.0047 → 2개
- 소수점 뒤 끝자리 0은 유효하다: 2.50 → 3개
- 소수점 없는 정수 끝의 0은 모호하다: 1200 → 2~4개. 1.2 × 10³(2개), 1.20 × 10³(3개)처럼 과학적 표기로 쓰면 분명해진다.
계산 결과의 자릿수
- 곱셈·나눗셈: 유효숫자가 가장 적은 값에 맞춘다. 2.50 × 3.1 = 7.75 → 유효숫자 2개 → 7.8
- 덧셈·뺄셈: 소수 자릿수가 가장 적은 값에 맞춘다. 12.0 + 0.345 = 12.345 → 소수 첫째 자리 → 12.3
반올림은 마지막에 한 번
중간 단계마다 반올림하면 오차가 쌓인다. 중간값은 Ans나 STO 변수에 그대로 두고, 최종 결과만 필요한 자릿수로 반올림하자. SciKey의 round(x, n) 은 소수 n자리로 반올림한다. 예: round(3.14159, 2) = 3.14.
7. 계산기의 "유효자릿수 설정"과의 차이
SciKey의 표시 유효자릿수(6~15, 기본 12)는 화면에 몇 자리까지 보여 줄지를 정할 뿐, 측정값의 유효숫자 규칙을 적용해 주지 않는다. 2.50 × 3.1을 계산하면 계산기는 7.75를 보여 준다. 답을 7.8로 적는 판단은 사람이 해야 한다. 표시 자릿수를 3으로 낮추면 편해 보이지만 최소값이 6이고, 문제마다 필요한 자릿수가 다르므로 설정은 넉넉히 두고 최종 답을 직접 반올림하는 편이 안전하다.
8. 흔한 실수
10E5를 10⁵로 착각한다.10E5는 10 × 10⁵ = 10⁶이다. 10⁵는1E5다.- 나눗셈 분모에
×10^n을 붙이고 괄호를 빠뜨린다. E 표기를 쓰거나 괄호로 감싼다. - μ(10⁻⁶)와 m(10⁻³)을 혼동한다. 1,000배 차이다.
- 계산기가 보여 준 12자리를 그대로 답으로 적는다. 측정값이 3자리면 답도 3자리 안팎이다.