Число Авогадро равно 602 214 076 000 000 000 000 000, а элементарный заряд — 0,0000000000000000001602176634 Кл. В такой записи легко ошибиться в количестве нулей. Поэтому в науке и технике порядок величины выносят в степень десяти. В этом руководстве разобраны научная и инженерная запись, приставки СИ, ввод показателей степени на калькуляторе и правила значащих цифр.
1. Научная запись, или стандартный вид (SCI)
Число записывается как a × 10ⁿ, где 1 ≤ |a| < 10.
- 6,02214076 × 10²³ (число Авогадро)
- 1,602176634 × 10⁻¹⁹ Кл (элементарный заряд)
- 0,00047 = 4,7 × 10⁻⁴
Два преимущества: порядок величины (n) виден сразу, а количество значащих цифр (цифры в a) однозначно.
2. Инженерная запись (ENG)
Показатель ограничивается кратными 3, а 1 ≤ |a| < 1000.
- 0,000047 → 47 × 10⁻⁶ (= 47 мк)
- 123456789 → 123,456789 × 10⁶ (= 123,456789 М)
- 3386,28 → 3,38628 × 10³ (= 3,38628 к)
Когда показатели идут с шагом три, приставку СИ можно прочитать сразу: 47×10⁻⁶ Ф — это 47 мкФ, а 3,38628×10³ Ом — 3,38628 кОм. Поэтому в схемотехнике предпочитают инженерную запись.
3. Таблица приставок СИ
| Приставка | Обозначение | Степень десяти | Пример |
|---|---|---|---|
| тера | Т (T) | 10¹² | Диск на 1 ТБ |
| гига | Г (G) | 10⁹ | 2,4 ГГц |
| мега | М (M) | 10⁶ | 1 МОм |
| кило | к (k) | 10³ | 4,7 кОм |
| (нет) | 10⁰ | ||
| милли | м (m) | 10⁻³ | 20 мА |
| микро | мк (μ) | 10⁻⁶ | 47 мкФ |
| нано | н (n) | 10⁻⁹ | 100 нФ |
| пико | п (p) | 10⁻¹² | 22 пФ |
| фемто | ф (f) | 10⁻¹⁵ | Лазерный импульс 1 фс |
Кило обозначается строчной к (k), а мега — прописной М (M). м (милли) и М (мега) отличаются в 10⁹ раз, так что регистр важен.
4. Ввод показателей: E-нотация
В SciKey E (или e) с целым числом, написанные сразу после числа, означают × 10ⁿ.
6.02E23= 6,02 × 10²³1.6e-19= 1,6 × 10⁻¹⁹47E-6= 0,000047
6.02E23 имеет то же значение, что и 6.02×10^23, но E-нотация воспринимается как одно число. Поэтому 1/6.02E23 правильно означает 1/(6,02×10²³), а 1/6.02×10^23 вычисляется слева направо как (1/6,02)×10²³ = 1,66×10²², поскольку умножение и деление имеют одинаковый приоритет. Возьмите за привычку вводить показатели через E.
Одна тонкость: если целое число не следует, как в 2e, это означает 2 × e (число Эйлера, 2,71828…) = 5,43656365692. В E-нотации всегда пишите цифры после E.
5. Примеры расчётов
Пример 1: проверка постоянной Фарадея. F = N_A × e. NA×qe → 96485,3321233 (Кл/моль), в SCI — 9,64853321233×10⁴.
Пример 2: ёмкостное сопротивление. При 1 кГц и 47 нФ X = 1/(2πfC):
1/(2π×1E3×47E-9) → 3386,27538493 Ом
В ENG это 3,38627538493×10³, то есть около 3,39 кОм. Обратите внимание на скобки вокруг всего знаменателя. 1/2π×1E3×47E-9 вычисляется слева направо и даёт совсем другое (7,38×10⁻⁵).
Пример 3: смена формата вывода. Для результата 0,000000512:
- NORM: 0,000000512 (не меньше 1e−9 и меньше 1e12, поэтому обычная запись)
- SCI: 5,12 × 10⁻⁷
- ENG: 512 × 10⁻⁹ (= 512 н)
Пример 4: световой год в метрах. Световой год — расстояние, которое свет проходит за юлианский год (365,25 суток): c0×365.25×86400 → 9,46073047258×10¹⁵ м. Поскольку значение больше 10¹², NORM тоже показывает его в научной форме. Показатель 15 уже кратен 3, поэтому ENG выглядит так же; с приставкой это примерно 9,46 Пм (петаметра).
Пример 5: число молекул в 9 г воды. Приняв молярную массу воды 18,015 г/моль, 9/18.015×NA → 3,00856324396×10²³ молекул. Умножение и деление выполняются слева направо, поэтому получается (9/18,015)×N_A, как и задумано.
6. Значащие цифры
Цифры измеренного значения показывают, с какой точностью оно измерено. 2,50 см измерено с точностью до 0,01 см, а 2,5 см — только до 0,1 см.
Какие цифры значащие
- Все ненулевые цифры значащие: 123 → 3
- Нули между ненулевыми цифрами значащие: 1,005 → 4
- Нули в начале не значащие: 0,0047 → 2
- Нули в конце после запятой значащие: 2,50 → 3
- Нули в конце целого числа без запятой неоднозначны: 1200 → от 2 до 4. Стандартный вид снимает сомнения: 1,2 × 10³ (2) или 1,20 × 10³ (3).
Сколько цифр в результате
- Умножение и деление: ориентируйтесь на значение с наименьшим числом значащих цифр. 2,50 × 3,1 = 7,75 → 2 значащие цифры → 7,8
- Сложение и вычитание: ориентируйтесь на значение с наименьшим числом знаков после запятой. 12,0 + 0,345 = 12,345 → один знак после запятой → 12,3
Округляйте один раз, в конце
Округление на каждом шаге накапливает погрешность. Храните промежуточные значения в Ans или переменных и округляйте только окончательный ответ. Функция round(x, n) в SciKey округляет до n знаков после запятой, например round(3.14159, 2) = 3,14.
7. Чем это отличается от настройки разрядности калькулятора
Настройка числа выводимых цифр в SciKey (от 6 до 15, по умолчанию 12) управляет только тем, сколько цифр видно на экране; правила значащих цифр она не применяет. Вычислите 2,50 × 3,1 — калькулятор покажет 7,75. Решение записать 7,8 — за вами. Поскольку минимум настройки — 6, а каждая задача требует своей точности, оставляйте настройку с запасом и округляйте окончательный ответ сами.
8. Типичные ошибки
- Читать
10E5как 10⁵.10E5— это 10 × 10⁵ = 10⁶; 10⁵ — это1E5. - Приписывать
×10^nк знаменателю без скобок. Используйте E-нотацию или скобки. - Путать мк (10⁻⁶) и м (10⁻³) — разница в 1000 раз.
- Переписывать в ответ все 12 показанных цифр. Трёхзначные измерения дают примерно трёхзначный ответ.