Студопедия Главная Случайная страница Обратная связь

Разделы: Автомобили Астрономия Биология География Дом и сад Другие языки Другое Информатика История Культура Литература Логика Математика Медицина Металлургия Механика Образование Охрана труда Педагогика Политика Право Психология Религия Риторика Социология Спорт Строительство Технология Туризм Физика Философия Финансы Химия Черчение Экология Экономика Электроника

Округление результатов





Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК. Иногда можно увидеть, как магически действует на многих студентов после вычислений длинный ряд цифр после запятой. Однако легко видеть, например, что запись бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если допустить ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления:

1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.

Примеры: 8.27 ≈ 9; 0.237 ≈ 0.3;

0.0862 ≈ 0.09; 0.00035 ≈ 0.0004;

857.3 ≈ 900; 43.5 ≈ 50.

2. Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.

Примеры: 243.871 ± 0.026 ≈ 243.87 ± 0.03;

243.871 ± 2.6 ≈ 244 ± 3;

1053 ± 47 ≈ 1050 ± 50.

3. Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.

Примеры: 8.337 (округлить до десятых) ≈ 8.3;

833.438 (округлить до целых) ≈ 833;

0.27375 (округлить до сотых) ≈ 0.27.

4. Если первая из отбрасываемых цифр больше или равна 5, (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.

Примеры: 8.3351 (округлить дл сотых) ≈ 8.34;

0.2510 (округлить до десятых) ≈ 0.3;

271.515 (округлить до целых) ≈ 272.

5. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.

Примеры: 0.875 (округлить до сотых) ≈ 0.88;

0.5450 (округлить до сотых) ≈ 0.54;

275.500 (округлить до целых) ≈ 276;

276.500 (округлить до целых) ≈ 276.







Дата добавления: 2014-11-10; просмотров: 836. Нарушение авторских прав; Мы поможем в написании вашей работы!




Функция спроса населения на данный товар Функция спроса населения на данный товар: Qd=7-Р. Функция предложения: Qs= -5+2Р,где...


Аальтернативная стоимость. Кривая производственных возможностей В экономике Буридании есть 100 ед. труда с производительностью 4 м ткани или 2 кг мяса...


Вычисление основной дактилоскопической формулы Вычислением основной дактоформулы обычно занимается следователь. Для этого все десять пальцев разбиваются на пять пар...


Расчетные и графические задания Равновесный объем - это объем, определяемый равенством спроса и предложения...

Тема 5. Анализ количественного и качественного состава персонала Персонал является одним из важнейших факторов в организации. Его состояние и эффективное использование прямо влияет на конечные результаты хозяйственной деятельности организации.

Билет №7 (1 вопрос) Язык как средство общения и форма существования национальной культуры. Русский литературный язык как нормированная и обработанная форма общенародного языка Важнейшая функция языка - коммуникативная функция, т.е. функция общения Язык представлен в двух своих разновидностях...

Патристика и схоластика как этап в средневековой философии Основной задачей теологии является толкование Священного писания, доказательство существования Бога и формулировка догматов Церкви...

Репродуктивное здоровье, как составляющая часть здоровья человека и общества   Репродуктивное здоровье – это состояние полного физического, умственного и социального благополучия при отсутствии заболеваний репродуктивной системы на всех этапах жизни человека...

Случайной величины Плотностью распределения вероятностей непрерывной случайной величины Х называют функцию f(x) – первую производную от функции распределения F(x): Понятие плотность распределения вероятностей случайной величины Х для дискретной величины неприменима...

Схема рефлекторной дуги условного слюноотделительного рефлекса При неоднократном сочетании действия предупреждающего сигнала и безусловного пищевого раздражителя формируются...

Studopedia.info - Студопедия - 2014-2025 год . (0.013 сек.) русская версия | украинская версия