МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

УКРАЇНСЬКИЙ ДЕРЖАВНИЙ ХІМІКО-ТЕХНОЛОГІЧНИЙ

УНІВЕРСИТЕТ

МЕТОДИЧНІ ВКАЗІВКИ

для математичної та статистичної обробки експериментальних даних при вивченні курсу «Фізична хімія» студентами-технологами денної форми навчання

Дніпропетровськ УДХТУ 2006

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

УКРАЇНСЬКИЙ ДЕРЖАВНИЙ ХІМІКО-ТЕХНОЛОГІЧНИЙ

УНІВЕРСИТЕТ

МЕТОДИЧНІ ВКАЗІВКИ

для математичної та статистичної обробки експериментальних даних при вивченні курсу «Фізична хімія» студентами-технологами денної форми навчання

Затверджено на засіданні кафедри фізичної хімії.

Протокол №4 від 20.06.06.

Дніпропетровськ УДХТУ 2006

Методичні вказівки для математичної та статистичної обробки експериментальних даних при вивченні курсу «Фізична хімія» студентами-технологами денної форми навчання / Укл. Ф.Й. Данилов, Д.В. Гіренко, О.А. Бєляновська, Д.А. Головко. – Дніпропетровськ: УДХТУ, 2006. – 30 с.

Укладачі: Ф.Й. Данилов, доктор хім. наук

Д.В. Гіренко, кандидат хім. наук

О.А. Бєляновська, кандидат техн. наук

Д.А. Головко, кандидат хім. наук

Відповідальний за випуск Ф.Й. Данилов, доктор хім. наук

Навчальне видання

Методичні вказівки для математичної та статистичної обробки експериментальних даних при вивченні

курсу «Фізична хімія»

студентами-технологами денної форми навчання

Укладачі: Данилов Фелікс Йосипович

Гіренко Дмитро Вадимович

Бєляновська Олена Анатоліївна

Головко Дмитро Аркадійович

Редактор Л.М. Тонкошкур

Коректор Л.Я. Гоцуцова

Підписано до друку 13.11.03. Формат 60х84 1/16. Папір ксерокс. Друк різограф. Умов.-друк. акр. 2,0. Облік.-вид. акр. 2,0. Тираж 50 прим. Зам. № 182. Свідоцтво ДК №303 від 27.12.2000.________________________________________

УДХТУ, 49005, м. Дніпропетровськ-5, просп. Гагаріна, 8._____________________

Видавничо-поліграфічний комплекс ІнКомЦентру

ЗМІСТ

1. Методи наближених обчислювань 4

1. Абсолютна та відносна похибки.

2. Значущі цифри 5

3. Правила округлення чисел 5

4. Похибка суми, різниці, добутку, частки, степеня, кореня. 5

1. Побудова графиків. 8

2. Визначення коефіцієнтів рівняння прямої графічним шляхом. 15

3. Метод найменьших квадратів. 20

4. Надійний інтервал. 23

5. Інтерполювання функцій. 25

6. Чисельне диференціювання. 27

Список літератури 30

1. Методи наближених обчислювань

При обробці експериментальних даних звичайно оперують наближеними значеннями тих чи інших величин (наближеними числами). Наближеним називають число, яке незначно відрізняється від точного та замінює його в обчисленнях. при використовуванні наближених чисел необхідно знання їх точності, тобто їх похибки.

1.1.Абсолютна та відносна похибки

Абсолютною Δ похибкою наближеного числа а називають абсолютну величину різниці між точним значенням х та його наближеним значенням а:

Δ = |x - a| (1)

Відносна похибка – відношення абсолютної похибки до модуля величини, яку вимірюють:

(2)

Приклад 1.1. Визначіть абсолютну й відносну похибки вимірюваного тиску насиченої пари води при 95°С 630 мм рт. ст., якщо його точне значення 633,99 мм рт. ст.

Абсолютну похибку обчислюємо за формулою (1)

Δ = |633,99 - 630| = 3,99 мм. рт. ст.,

а відносну – за формулою (2)

δ = 3,99/633,99 = 0,0063

Обчислити абсолютні та відносні похибки за формулами (1) і (2) частіш всього неможливо, оскільки точне значення х, як правило, невідомо. Тому вводять поняття граничної абсолютної та граничної відносної похибок.

Гранична абсолютна похибка – позитивне число, яке напевно перевищує абсолютну похибку (або в крайньому разі, дорівнює їй). Наприклад, при вимірюванні температури розчину ми можемо судити о точності значення, яке зафіксоване, лише оцінюючи точність вимірювання. Якщо ми впевнені, що похибка при вимірованні температури не перевищує 1°С, то можна вважати, що абсолютна похибка не більш за 1°С. Отже, гранична абсолютна похибка Δ_а = 1°С.

Гранична відносна похибка δ_а дорівнює відношенню граничної абсолютної похибки до модуля точного (або наближеного) числа.

Її величину можна розрахувати по числу значущих цифр:

(3)

де α₁ – перша значуща цифра наближеного числа, n – кількість значущих цифр.

На практиці граничну абсолютну та граничну відносну похибки часто називають просто абсолютною і відносною похибками, оскільки з їх вірними значеннями, як правило, не припадає мати справу.

1.2. Значущі цифри

В наведених нижче прикладах число значущіх цифр для кожної величини наведено у дужках.

1.	10,250 г (5)	5.	53022 мл (5)	9.	0,010 М (2)
2.	12,53 г (4)	6.	220 мл (2)	10.	3,00 М (3)
3.	20 г (1)	7.	500 мл (1)	11.	2,55 М (3)
4.	0,00623 М (3)	8.	100,00 мл (5)	12.	50620 мл (4)

1.3. Правила округлення чисел

Щоб округлити число, точне чи наближене, до n значущіх цифр, відкидають усі цифри, які стоять справа від n-й значущої цифри або при необхідності збереження розрядів замінюють їх нулями. При цьому дотримуються наступних правил:

1. якщо перша з цифр, що відкидаються, більш ніж 5, то останню з залишившихся цифр збільшують на 1 (наприклад, округлив число 57,8876 до сотих часток, одержимо 57,89);

2. якщо перша з цифр, котрі відкидаються, дорівнює 5, а посеред наступних за нею цифр наявні відмінні від нуля, то останню з залишившихся цифр збільшують на 1 (так, округлив число 67,8506 до десятих часток, одержимо 67,9);

3. якщо перша з цифр, які відкидаються, дорівнює 5, а за нею йдуть нулі, то остання з залишившихся цифр залишається незмінною, якщо вона парна, та збільшується на 1, коли непарна (наприклад, при округлінні до десятих часток чисел 5,6500 та 12,5500 одержимо 5,6 та 12,6 відповідно);

4. якщо перша з цифр, що відкидаються, менш, ніж 5, то цифри, які залишаються, не змінюються (так, округлив число 100,26313321 до тисячних часток, одержимо 100,263).

При додержуванні цих правил абсолютна похибка вимірювання складає не більш половини одиниці розряду, який визначає остання значуща цифра.

1.4. Похибка суми, різниці, добутку, частки, степеня, кореня

Загальні формули для розрахунку абсолютних та відносних похибок суми, різниці, добутку, частки, степеня, кореня наведені в таблиці 1.1.

Таблиця 1.1

Загальні формули для розрахунку абсолютних та відносних похибок суми, різниці, добутку, частки, степеня та кореня

Результат	Граничні похибки
	абсолютна	відносна
Сума: X = ∑Yi	ΔX = ∑ΔYi (4)	(5)
Різниця: Х = Y1 – Y2	ΔX = ΔY1 + ΔY2 (6)
Добуток: Х = Пzi	ΔХ = |X| · δХ (7)	δХ = Σδzi (8)
Частка: Х = z1/z2		δХ = δz1 + δz2 (9)
Степень: Х = zn *		δХ = n · δz (10)
Корень: *		δХ = δz/n (11)

* n – натуральне число.

Складання, віднімання, множення та ділення чисел з різною кількістю вірних значущих цифр рекомендується здійснювати наступним чином:

1. виділити числа з найменшою кількістю знаків після коми, тобто які мають найбільшу абсолютну похибку, й залишити їх без зміни;

2. решту чисел округлити таким чином, щоб зберегти в них на один знак більше, ніж в числах, котрі виділені;

3. здійснити додавання, віднімання, множення або ділення даних чисел, враховуючи всі збережені знаки;

4. отриманий результат округлити на один знак.

При возведенні наближеного числа в степінь або при добуванні кореня n-го степеня в результаті слід залишити стільки ж значущих цифр, що й в основі степеня або в підкореневому числі.

Приклад 1.2. Тепловий ефект розчинення 1 моля безводного сульфата літія дорівнює -26,7 кДж, а кристалогідрата Li₂SO₄·H₂O складає -14,31 кДж. Обчислите тепловий ефект реакції гідратоутворення та визначіть похибку розрахунку.

Рішення.

Тепловий ефект реакції гідратоутворення визначаємо по закону Гесса. Реакцію розчинення безводного сульфата літія

Li₂SO₄ + хН₂О = Li⁺_(aq.) + SO₄^2-_(aq) + ΔН₁ (А)

представимо двома стадіями

Li₂SO₄ + Н₂О = Li₂SO₄·H₂O + ΔН_гидр (Б)

Li₂SO₄·H₂O + (х-1)Н₂О = Li⁺_(aq.) + SO₄^2-_(aq) + ΔН₂ (В)

Додавши стадії (Б) та (В), одержимо наступне рівняння

Li₂SO₄ + хН₂О = Li⁺_(aq.) + SO₄^2-_(aq) + (ΔН_гидр + ΔН₂) (Г)

Отже,

ΔН₁ = ΔН_гидр + ΔН₂.

Тоді,

ΔН_гидр = ΔН₁ - ΔН₂

При розрахунку ΔН₁ = -26,7 кДж, як менш точне, та ΔН₂ = -14,31 кДж, оскільки в ньому на один знак більше, ніж у ΔН₁, залишаємо без змін. Здійснюємо розрахунок зі врахуванням усіх збережених знаків: -26,7 - (-14,31) = -12,39 кДж. Одержаний результат округляємо до 0,1. Отже, ΔН_гидр = -12,4 кДж.

Для оцінки похибки цього результата, обчислимо:

• суму граничних абсолютних похибок вихідних даних

Δ₁ = 0,1 + 0,01 = 0,11 кДж;

• абсолютну похибку округлення

Δ₂ = |-14,31 – (-14,31)| = 0 кДж;

• заключну похибку округлення результата:

Δ₃ = |-12,4 – (-12,39)| = 0,01 кДж.

Тоді, похибка результата

Δ = Δ₁ + Δ₂ + Δ₃ = 0,11 + 0 + 0,01 = 0,12 кДж, тобто Δ < 0,2 кДж.

Таким чином,

ΔН_гидр = -12,4 ± 0,2 кДж.

Приклад 1.3. Розрахуйте тепловий ефект реакції взаємодії 0,0100 моль HCl та 0,0300 моль NaOH, якщо стала прилада 1250,5 Дж/К, а стрибок температури 0,435 К. Оцінить похибку одержаного результата.

Рішення

Обчислюємо тепловий ефект реакції нейтралізації:

Q = К·ΔТ = 1250,5·0,435 = 544 Дж.

Визначаємо граничну відносну похибку розрахунку. Для цього визначаємо відносні похибки множників, користуючись формулою (3):

Тоді, гранична відносна похибка згідно з формулою (8)

δ = δ₁ + δ₂ = 0,0001 + 0,0025 = 0,0026 ≈ 0,003

Отже, гранична абсолютна похибка

Δ_Q = |544| · 0,003 ≈ 2 Дж.

Тоді,

Q = 544 ± 2 Дж.

Приклад 1.4. Обчислите тепловий ефект реакції нейтралізації (приклад 1.3) при утворенні 1 моля продукта. Оцінить похибку результата.

Рішення

ΔН_нейтр. = -Q/n = -544/0,0100 = -54,4 · 10³ Дж/моль = -54,4 кДж/моль.

Гранична відносна похибка δ_Q = 0,003, та δ_n = (1·10^3-1)^-1 = 0,01. Отже, гранична відносна похибка результата складає δ = 0,003 + 0,01 ≈ 0,01. Тоді гранична абсолютна похибка дорівнює

Δ_ΔН = |-54,4 · 10³| · 0,01 ≈ 0,5 · 10³ Дж.