Студопедия Главная Случайная страница Обратная связь

Разделы: Автомобили Астрономия Биология География Дом и сад Другие языки Другое Информатика История Культура Литература Логика Математика Медицина Металлургия Механика Образование Охрана труда Педагогика Политика Право Психология Религия Риторика Социология Спорт Строительство Технология Туризм Физика Философия Финансы Химия Черчение Экология Экономика Электроника

Округление результатов





Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК. Иногда можно увидеть, как магически действует на многих студентов после вычислений длинный ряд цифр после запятой. Однако легко видеть, например, что запись бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если допустить ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления:

1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.

Примеры: 8.27 ≈ 9; 0.237 ≈ 0.3;

0.0862 ≈ 0.09; 0.00035 ≈ 0.0004;

857.3 ≈ 900; 43.5 ≈ 50.

2. Результаты измерения округляют с точностью «до погрешности», т.е. последняя значащая цифра в результате должна находиться в том же разряде, что и в погрешности.

Примеры: 243.871 ± 0.026 ≈ 243.87 ± 0.03;

243.871 ± 2.6 ≈ 244 ± 3;

1053 ± 47 ≈ 1050 ± 50.

3. Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.

Примеры: 8.337 (округлить до десятых) ≈ 8.3;

833.438 (округлить до целых) ≈ 833;

0.27375 (округлить до сотых) ≈ 0.27.

4. Если первая из отбрасываемых цифр больше или равна 5, (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.

Примеры: 8.3351 (округлить дл сотых) ≈ 8.34;

0.2510 (округлить до десятых) ≈ 0.3;

271.515 (округлить до целых) ≈ 272.

5. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.

Примеры: 0.875 (округлить до сотых) ≈ 0.88;

0.5450 (округлить до сотых) ≈ 0.54;

275.500 (округлить до целых) ≈ 276;

276.500 (округлить до целых) ≈ 276.







Дата добавления: 2014-11-10; просмотров: 836. Нарушение авторских прав; Мы поможем в написании вашей работы!




Шрифт зодчего Шрифт зодчего состоит из прописных (заглавных), строчных букв и цифр...


Картограммы и картодиаграммы Картограммы и картодиаграммы применяются для изображения географической характеристики изучаемых явлений...


Практические расчеты на срез и смятие При изучении темы обратите внимание на основные расчетные предпосылки и условности расчета...


Функция спроса населения на данный товар Функция спроса населения на данный товар: Qd=7-Р. Функция предложения: Qs= -5+2Р,где...

Законы Генри, Дальтона, Сеченова. Применение этих законов при лечении кессонной болезни, лечении в барокамере и исследовании электролитного состава крови Закон Генри: Количество газа, растворенного при данной температуре в определенном объеме жидкости, при равновесии прямо пропорциональны давлению газа...

Ганглиоблокаторы. Классификация. Механизм действия. Фармакодинамика. Применение.Побочные эфффекты Никотинчувствительные холинорецепторы (н-холинорецепторы) в основном локализованы на постсинаптических мембранах в синапсах скелетной мускулатуры...

Шов первичный, первично отсроченный, вторичный (показания) В зависимости от времени и условий наложения выделяют швы: 1) первичные...

Вопрос 1. Коллективные средства защиты: вентиляция, освещение, защита от шума и вибрации Коллективные средства защиты: вентиляция, освещение, защита от шума и вибрации К коллективным средствам защиты относятся: вентиляция, отопление, освещение, защита от шума и вибрации...

Задержки и неисправности пистолета Макарова 1.Что может произойти при стрельбе из пистолета, если загрязнятся пазы на рамке...

Вопрос. Отличие деятельности человека от поведения животных главные отличия деятельности человека от активности животных сводятся к следующему: 1...

Studopedia.info - Студопедия - 2014-2026 год . (0.011 сек.) русская версия | украинская версия