Представление аналитических данных. Значащие цифры

Самое слабое звено во всей цепи операций любого анализа – то измерение, которое выполняется с наименьшей точностью. Бессмысленно стремиться проводить другие измерения с большей точностью, чем лимитриующее. Число значащих цифр, необходимое для представления результата измерения с соответствующей точностью, называется числом значащих цифр. Поскольку неопределенность (неточность) любого измерения составляет по меньшей мере ±1 в последней значащей цифре, следует оставлять все цифры, которые известны точно, плюс одну нелостоверную. Последняя цифра результата измерения имеет неопределенное значение. Не следует писать после нее дополнительный цифры.

Правила округления

Если за первой недостоверной цифрой следует цифра меньше 5, округляемую цифру оставляют без изменения (округление с уменьшением), а если больше 5, округляемую цифру увеличивают на единицу (округление с увеличением).

Несколько сложнее правила округления, когда за последней округляемой цифрой стоит 5. Если за этой цифрой 5 нет более никаких цифр, то округляют до четной цифры.

Если за цифрой 5 имеется еще какая–либо отличная от нуля цифра, то округляют с увеличением, однако если 5 получено уже в результате округления, то округляют с уменьшением, т.е. 5 просто отбрасывают.

Обращение с нулями. Нуль в числах может быть значим и незначим. Нули, стоящие в начале числа, всегда незначимы и служат лишь для указания места запятой в десятичной дроби. Например, число 0,01 содержит лишь одну значащую цифру. Нули, стоящие между цифрами, всегда значимы. Например, в числе 0,508 три значащие цифры. Нули в конце числа могут быть значимы и незначимы. Нули, стоящие после запятой в десятичной дроби, считаются значимыми. Например, в числе 200,0 четыре значащие цифры.

Нули же в конце целого числа могут означать значащую цифру, а могут просто указывать порядок величины. Например, в числе 200 значащих цифр может быть: одна (2), две (2 и 0), три (2, 0 и 0). Чтобы избежать неопределенности, рекомендуется в таких случаях представить число в виде произведения числа, содержащего только значащие цифры, на 10ⁿ. Например, если в числе 200 одна значащая цифра, то следует изобразить его как 2·10², если две значащие цифры — 2,0·10², если три значащие цифры — 2,00·10².

Пример. Укажите, сколько значащих цифр содержат числа, записанные в приведенной ниже форме. Укажите нули, являющиеся значащими.

0,216; 90,7; 800,0; 0,0670

Решение:

0,216……три значащие цифры

90,7; ……три значащие цифры, нуль значащий

800,0; …..четыре значащие цифры, все нули значащие

0,0670…..три значащие цифры, только последний нуль является значащим.

Сложение и вычитание. Значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков. Например, при сложении чисел 50,1 + 2 + 0,55 значимость определяется недостоверностью числа 2 и, следовательно, сумму чисел 52,65 следует округлить до 53.

Если при сложении и вычитании используют числа, содержащие положительные или отрицательные показатели степени, то эти числа следует преобразовывать таким образом, чтобы показатели степени у всех них были одинаковы.

Например, при сложении чисел 4·10^-5, 3,00·10^-2 и 1,5·10^-4 нужно представить их следующим образом: 0,004·10^-2, 3,00·10^-2 и 0,015·10^-2. Пользуясь правилом значимости суммы, получаем 3,02·10^-2, поскольку значимость суммы определяется значимостью числа 3,00·10^-2, имеющего наименьшее число десятичных знаков.

Пример. Приведите результаты вычисления молярной массы HNO₃ по значениям относительных атомных масс, представленных в таблице 1.1, представив только значащие цифры, и укажите, какой из участников арифметических действий лимитирует точность результата.

Решение:

а) М(HNO₃) = 1,00797 + 14,0067 +47,9982 = 63,01287 г/моль.

значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков; в данном примере точность лимитирует число 14,0067 (число десятичных знаков четыре), поэтому результат следует записывать 4-мя знаками после запятой: 63,0129.

Умножение и деление. Для оценки значимости произведения (или частного) часто пользуются следующим правилом: значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 1,5 и 2,35 дает произведение, содержащее две значащие цифры, т.е. 3,5.

Пример. Приведите результат вычисления молярной концентрации раствора HNO₃, имеющего плотность ρ=1,413 (кг/дм³), если массовая доля раствора в процентах составляет ω=70 % с наибольшим возможным числом значащих цифр и укажите, какой из участников арифметических действий лимитирует точность результата.

Решение:

Значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр; в данном примере точность лимитирует число 0,70 (две значащие цифры, т.к. нуль в начале цифры не является значимым), поэтому результат записываем двумя значащими цифрами. Ответ: c(HNO)₃ =16 моль/дм³.

Более строгий подход основан на сравнении относительных недостоверностей сомножителей и произведения (или частного). Относительная недостоверность равна отношению абсолютной недостоверности числа к самому числу. Относительная недостоверность произведения (или частного) равна сумме относительных недостоверностей сомножителей. Например, нужно найти частное 98: 87,25. Относительные недостоверности составляют (приближенно): 1:98 = 1·10^-2 и 0,01:87,25 = 1·10^-4. Следовательно, относительная недостоверность частного 0,01 +0,0001 = 1·10^-2. При делении чисел с помощью калькулятора получаем число 1,1232... Поскольку недостоверна вторая цифра после запятой, частное следует округлить до 1,12.

Возведение в степень. При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается.

Извлечение квадратного корня. Относительная недостоверность результата извлечения корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается.

Например, = 1,000, так как относительная недостоверность числа 1,00 равна 1·10^-2, а результат извлечения корня 0,005, т. е. неопределенность заключена в третьем знаке после запятой.

Логарифмирование. При логарифмировании число цифр мантиссы логарифма равночислу значащих цифр исходной величины (мантисса - дробная часть логарифма).

Пример. Чему равно значение рН для раствора 1,9·10^{-2 М раствора} HNO₃?

рН = -lg[H⁺] = -lg[1,9·10^-2] = 1,7212 = 1,72

При вычисление антилогарифмов число значащих цифр результата равно числу десятичных цифр мантиссы исходной величины

Пример. Чему равна концентрация Н⁺ для раствора с рН 4,75?

[H⁺] = 10-4,75 = 1,7782·10^-5 ≈1,8·10^-5 моль/дм³

 

Контрольное задание №3

Приведите результаты вычислений молярной массы (М) соединения (Х) и молярной концентрацию его раствора с наибольшим возможным числом значащих цифр и укажите какой из участников арифметических действий лимитирует точность результата. Плотность раствора ρ (кг/дм³), массовая доля раствора в процентах (ω) приведены в таблице 2.

Таблица 2 - Относительные атомные массы элементов, рассматриваемых в контрольном задании № 3

Название	Символ	Относительная атомная масса
Азот	N	14,0067
Барий	Ba	137,34
Бром	Br	79,909
Водород	H	1,00797
Железо	Fe	55,847
Иод	J	126,9044
Калий	K	39,102
Кальций	Ca	40,08
Кислород	O	15,9994
Магний	Mg	24,312
Марганец	Ma	54,9381
Медь	Cu	63,54
Натрий	Na	22,98977
Сера	S	32,064
Хлор	Cl	35,453
Углерод	С	12,011

Таблица 3 - Исходные данные по контрольному заданию № 3

Вариант №	Химическая формула соединения Х	Значение ρ, кг/дм3	Значение ω, %
	HNO3	1,385	63,72
	HCl	1,035	7,464
	H2SO4	1,065	9,843
	Na2CO3	1,090	8,82
	NaOH	1,210	19,16
	KOH	1,09	9,96
	HClO4	1,190	28,05
	HNO3	1,110	19,19
	HCl	1,075	15,48
	H2SO4	1,025	4,000
	HNO3	1,025	4,883
	HCl	1,030	6,433
	H2SO4	1,005	0,9856
	Na2CO3	1,085	8,35
	NaOH	1,19	17,34
	KOH	1,005	0,743
	HClO4	1,120	18,88
	HNO3	1,385	63,72
	HCl	1,080	16,47
	H2SO4	1,835	95,72
	NH3	0,906	25,33
	NH3	0,998	0,0465
	CH3COOH	1,005	4,64
	CH3COOH	1,065	61,4
	HBr	1,486	46,85