5.3 Правила округлення результатів вимірювань

Оцінювання похибок результатів вимірювань здійснюють за допомогою ймовірнісно-статистичного оброблення результатів спостережень процесів вимірювань з врахуванням наведених в нормативно-технічних документах на ЗВТ норм значень їх метрологічних характеристик і умов виконання вимірювального експерименту. Оброблення результатів спостережень вимагає правильного виконання всіх проміжних обчислень, збереження необхідної кількості цифр і правильного округлення результатів та похибок вимірювань.

Похибка результату вимірювань дозволяє визначити ті цифри результату, які є достовірними. Недоцільно зберігати у значенні фізичної величини велику кількість цифр, тому що цифри молодших розрядів можуть бути недостовірними. Знання і виконання правил округлення результатів дозволяє суттєво економити пам'ять мікропроцесорних засобів вимірювань.

Похибку проміжних обчислень виражають не більше ніж трьома цифрами, яких у результатах проміжних обчислень має бути на одну або дві більше, ніж у числовому значенні результату вимірювання. За такої умови похибки обчислень не спотворять числового значення результату вимірювання більше, ніж на половину одиниці найменшого розряду.

Результати вимірювань округлюють за такими правилами:

1. У значенні похибки зберігається не більше двох значущих цифр, причому остання цифра округляється до нуля або п'яти. Дві цифри необхідно зберігати і в тому випадку, коли цифра старшого розряду менша 3.

2. Числове значення результатів вимірювань повинне закінчуватися цифрою того ж розряду, що і значення похибки. Наприклад, 235,732±0,15 округляється до 235,73±0,15, але не до 235,7±0,15; значення 53,0138 при числовому значенні похибки 0,05 округлюється до 53,01.

3. Якщо перша цифра (рахуючи зліва направо), що замінюється нулями (цілі числа) або вилучається (десятковий дріб), менша 5, то цифри, які залишаються, не змінюються. Наприклад, якщо треба зберегти три значущих цифри, то 123429 округлюється до 123∙10³, а 12,3429 – до 12,3; 442,749 ±0,4 округляється до 442,7 ±0,4.

4. Якщо перша цифра, що вилучається, більша або рівна 5, то остання цифра, яка залишається, збільшується на одиницю. Наприклад, якщо треба зберегти три значущих цифри, то 12560 округлюється до 126∙10². а 30,651 – до 30,7.

5. Округлення необхідно виконати до потрібної кількості значущих цифр. Поетапне округлення може призвести до помилок. Наприклад, поетапне округлення результату вимірювання 220,46±4 дає на першому етапі 220,5±4 і на другому 221±4, в той час коли правильний результат округлення 220±4.

5.4 Похибка округлення

У процесі округлення виникає похибка. В залежності від ситуації похибка округлення може бути систематичною, якщо число до округлення відомо, і випадковою, якщо число до округлення невідомо.

Розглянемо випадок, коли округлення призводить до систематичної похибки. Припустимо, що під час визначення результату опосередкованих вимірювань використовується трансцендентне число. Під час округлення значення , тобто при його заміні наближеним значенням , виникає відносна похибка

.