Правила и примеры округления результатов измерений

Обработка результатов измерений

Измерение силы электрического тока в цепи (прибором Щ4313)

Измерить ЭДС источника питания прибором Щ4313

а) Подготовка мультиметра Щ4313 к измерению напряжения. Включить «Сеть» прибора Щ4313, выбрать род работы «U», выставить “грубую” шкалу.

б) Подключить Щ4313 к источнику питания (рис.14), выбрать шкалу и измерить ЭДС. Записать измеренное значение и конечное значение шкалы вольтметра.

Для мультиметра Щ4313 класс точности рассчитать по формуле:

, a и b определить из таблицы (см. паспорт прибора).

.

Установить на источнике питания рекомендованное значение напряжения E,

2.4.1.1. Результаты измерений выражаются числом, содержащим значащие цифры. Значащими считаются все цифры в числовом результате, в том числе и нуль, если он находится в середине или в конце числа.

Пример. Результаты измерения напряжений 121В и 0,00121В содержат три, а 126,05В и 12500В – пять значащих цифр.

В конечной записи результатов измерений следует соблюдать следующие правила округления.

2.4.1.2 В выражении погрешности удерживается не более двух значащих цифр, причём последняя округляется до нуля или пяти.

Пример. а) Погрешность измерения тока составляет 0,125А. Удерживая одну значащую цифру, значение погрешности округляется до ±0,1А

б) Погрешность измерения напряжения составляет 0,152В. Удерживая две значащие цифру, значение погрешности округляется до ±0,15В.

2.4.1.3 Числовое значение результата измерений должно оканчиваться цифрой или нулем того же десятичного знака, что и значение погрешности.

Пример. 125,832 ± 0,15 записывается 125,83 ± 0,15.

2.4.1.4 Если первая отбрасываемая цифра меньше пяти, то последняя удерживаемая цифра не изменяется.

Пример. (125,721 ± 0,2)В округляется до (125,7 ± 0,2)В.

2.4.1.5 Если первая отбрасываемая цифра больше пяти или равна пяти, то последняя удерживаемая цифра увеличивается на единицу.

Пример. 25,268 ± 0,4 округляется до 25,3 ± 0,4;

25,253 ± 0,3 округляется до 25,3 ± 0,3.

2.4.1.6 Если первая отбрасываемая цифра равна пяти и за ней не следует значащих цифр (или следуют только нули), то округление производится до ближайшего четного.

Пример. 10,650 ± 0,3 округляется до 10,6 ± 0,3;

10,550 ± 0,3 округляется до 10,6 ± 0,3.

Дата добавления: 2014-12-24; Просмотров: 993; Нарушение авторских прав?; Мы поможем в написании вашей работы!