Форумы ANCHEM.RU: Округление результатов измерений.

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 1. Аналитический форум ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 46
  Страница: 1 2 3 4 5
  «« назад || далее »»

[ Ответ на тему ]

ТВК
Пользователь
Ранг: 601

07.04.2019 // 19:20:52

Rey пишет:
Погрешность также округляется до тех единиц, которые указаны.

Нет. Это не так.

Во-первых, приведена цитата: "Результат измерений округляют с точностью: при содержании взвешенных и/или прокаленных взвешенных веществ ... св. 100 до 50000 мг/дм3 включ. - до 10 мг/дм3".
И трактовать её в своих интересах нельзя. Вчитайтесь, пожалуйста: РЕЗУЛЬТАТ округляют, но не погрешность.

Во-вторых, в приведённом примере (170+/-20) 20 составляют не приписанные 9%, а 11,8%, что существенно больше.
Представьте ситуацию с учётом погрешности при экологических расчётах, например. Там каждый миллиграмм бывает критичен.

ANCHEM.RU
Администрация
Ранг: 246

Rey
Пользователь
Ранг: 755

07.04.2019 // 21:37:32

ТВК пишет:
Во-вторых, в приведённом примере (170+/-20) 20 составляют не приписанные 9%, а 11,8%, что существенно больше.
Представьте ситуацию с учётом погрешности при экологических расчётах, например. Там каждый миллиграмм бывает критичен.

Если бы это было актуально для данного НД, то фраза об округлении до 10 мг/л для данного диапазона не была бы приведена.

ТВК пишет:
Вчитайтесь, пожалуйста: РЕЗУЛЬТАТ округляют, но не погрешность.

Погрешность округляется до того же разряда, что и результат.

phl-zuevs
Пользователь
Ранг: 3

08.04.2019 // 8:48:14

vmu пишет:

Раздела "Оформление результатов" в методике нет? Метрологические характеристики в методике указаны? Какая погрешность у методики (в том или ином диапазоне)? Округляйте результаты до того разряда, в котором находится первая или вторая значащая цифра (абсолютной) погрешности.

Раздела "Оформление результатов" в методике нет.
Погрешности методики:
От 0,5 до 1 включ. - 30%
св.1 до 5 включ. - 24%
св.5 до 16 включ. - 20%

ТВК
Пользователь
Ранг: 601

08.04.2019 // 10:04:45

Редактировано 2 раз(а)

Rey пишет:

ТВК пишет:
Во-вторых, в приведённом примере (170+/-20) 20 составляют не приписанные 9%, а 11,8%, что существенно больше.
Представьте ситуацию с учётом погрешности при экологических расчётах, например. Там каждый миллиграмм бывает критичен.
Если бы это было актуально для данного НД, то фраза об округлении до 10 мг/л для данного диапазона не была бы приведена.

Придумывать (думать за разработчиков) не надо. Даже если они ошиблись, читать надо так, как написано (пока не удалось доказать ошибку).
Привожу цитату:
"Результат измерений округляют с точностью:
при содержании взвешенных ... веществ
от 0,5 до 1,0 мг/дм3 включ. - до 0,01 мг/дм3;
св. 1,0 до 10,0 мг/дм3 включ. - до 0,1 мг/дм3;
св. 10 до 100 мг/дм3 включ. - до 1 мг/дм3;
св. 100 до 50000 мг/дм3 включ. - до 10 мг/дм3."
Речь идёт об округлении РЕЗУЛЬТАТА, которому уже затем приписывается погрешность соответствующего диапазона. и про её округление НИЧЕГО не говорится.

ТВК пишет:
Вчитайтесь, пожалуйста: РЕЗУЛЬТАТ округляют, но не погрешность.

Ещё раз, вчитайтесь, пожалуйста: результат округляется до того же разряда, что и погрешность, но не наоборот. Погрешность же должна содержать не более 2-х значащих цифр.

Rey
Пользователь
Ранг: 755

08.04.2019 // 13:22:24

ТВК пишет:
Придумывать (думать за разработчиков) не надо. Даже если они ошиблись, читать надо так, как написано (пока не удалось доказать ошибку).

Тогда зачем ты этим занимаешься?: 1. додумываешь 2. читаешь не так, как написано.
Напиши письмо разработчику, выясни, ошибся ли он, когда указал значение погрешности и округление, противоречащее данной погрешности, а потом уже делай выводы.

ТВК пишет:
Ещё раз, вчитайтесь, пожалуйста: результат округляется до того же разряда, что и погрешность, но не наоборот. Погрешность же должна содержать не более 2-х значащих цифр.

Да. Тогда если, результат округляется до 10, и поскольку округление результата идентично округлению погрешности, то следовательно погрешность округляется до 10. По мне это простая математическая очевидность.

Каталог ANCHEM.RU
Администрация
Ранг: 246

Аналитик Йена АГ (Analytik Jena AG)
Аналитик Йена АГ - немецкая компания, специализирующаяся в области производства аналитического оборудования для проведения физико-химических исследований в научных и производственных лабораториях. Основные линейки выпускаемого оборудования: УФ-Вид спектрофотометры, атомно-абсорбционные спектрометры, элементные анализаторы, анализаторы суммарных параметров и антиоксидантов, системы пробоподготовки.

Ed
VIP Member
Ранг: 3330

08.04.2019 // 14:01:56

ТВК пишет:
Ещё раз, вчитайтесь, пожалуйста: результат округляется до того же разряда, что и погрешность, но не наоборот. Погрешность же должна содержать не более 2-х значащих цифр.

Да, обычно округляют вначале погрешность, а потом результат:

Но здесь речь идет по-видимому о ПНД Ф 14.1:2:4.254-09. Тогда нужно следовать указанию разработчика (та же РОСА):

ТВК
Пользователь
Ранг: 601

08.04.2019 // 15:15:27

Rey пишет:

ТВК пишет:
Придумывать (думать за разработчиков) не надо. Даже если они ошиблись, читать надо так, как написано (пока не удалось доказать ошибку).
Тогда зачем ты этим занимаешься?: 1. додумываешь 2. читаешь не так, как написано.
Напиши письмо разработчику, выясни, ошибся ли он, когда указал значение погрешности и округление, противоречащее данной погрешности, а потом уже делай выводы.

ТВК пишет:
Ещё раз, вчитайтесь, пожалуйста: результат округляется до того же разряда, что и погрешность, но не наоборот. Погрешность же должна содержать не более 2-х значащих цифр.
Да. Тогда если, результат округляется до 10, и поскольку округление результата идентично округлению погрешности, то следовательно погрешность округляется до 10. По мне это простая математическая очевидность.

Предлагаю вести диалог, а не хамить.

Во-первых, я не считаю, что в данном случае разработчики ошиблись.

Во-вторых, по Вашей логике Вы уже писали "письмо разработчику", выяснили, не "ошибся ли он, когда указал значение погрешности и округление, противоречащее данной погрешности", т.к. уже делаете выводы.
Можно с текстом ответа разработчиков познакомиться?

Rey пишет:
и поскольку округление результата идентично округлению погрешности, то следовательно погрешность округляется до 10. По мне это простая математическая очевидность.

По мне это путаница в голове, не больше.
Вы следствие с причиной перепутали, "поскольку округление результата идентично округлению погрешности", НЕ ОЗНАЧАЕТ, что "погрешность округляется до 10".

ТВК
Пользователь
Ранг: 601

08.04.2019 // 15:31:25

Редактировано 2 раз(а)

Ed пишет:

Что касается примера из МР 18.
Сколько значащих цифр в числе 0,0250600?
Правильно, 6. Но не 4.
Не учитываются "0" ДО "реальных" цифр (0,0), но учитываются "0", указанные ПОСЛЕ "реальных" цифр. В итоге - значащие: 2,5,0,6,0,0.
Почему же в числе 500 (п.Д) одна (1) значащая цифра?
Правильная запись должна выглядеть так:
д) (47+-5)*10 в квадрате;
е) (87+-39)*10;
ж) (9+-4)*10 в квадрате.

ТВК
Пользователь
Ранг: 601

08.04.2019 // 17:39:17

Ed пишет:
Но здесь речь идет по-видимому о ПНД Ф 14.1:2:4.254-09. Тогда нужно следовать указанию разработчика (та же РОСА):

Уважаемый Ed, есть более свежая редакция этой методики - издание 2017 года. Расширился диапазон до 50 000 (вкл.) и изменилась метрология.

vmu
Пользователь
Ранг: 1236

08.04.2019 // 23:50:08

Редактировано 1 раз(а)

ТВК пишет:
Вчитайтесь, пожалуйста: РЕЗУЛЬТАТ округляют, но не погрешность.

ТВК пишет:
Речь идёт об округлении РЕЗУЛЬТАТА, которому уже затем приписывается погрешность соответствующего диапазона. и про её округление НИЧЕГО не говорится.

Имеем: неокругленный результат - 167 мг/л (0.167 г/л), неокругленная погрешность - 0.167 × 0.09 = 0.01503 г/л. Округляем результат до 10 мг/л, т.е. до 0.01 г/л и получаем 0.17 г/л. Про округление погрешности НИЧЕГО не говорится.
Итог: 0.17 ± 0.01503 г/л. Бред.
или
Имеем: неокругленный результат - 167 мг/л (0.167 г/л). Округляем результат до 10 мг/л, т.е. до 0.01 г/л и получаем 0.17 г/л. Далее приписываем погрешность: 0.17 × 0.09 = 0.0153 г/л. Про округление погрешности НИЧЕГО не говорится.
Итог: 0.17 ± 0.0153 г/л. Бред.

ТВК пишет:
Ещё раз, вчитайтесь, пожалуйста: результат округляется до того же разряда, что и погрешность, но не наоборот. Погрешность же должна содержать не более 2-х значащих цифр.

Имеем: неокругленный результат - 167 мг/л (0.167 г/л), неокругленная погрешность - 0.167 × 0.09 = 0.01503 г/л. Округляем результат до 10 мг/л, т.е. до 0.01 г/л и получаем 0.17 г/л. Округляем погрешность до того же разряда и получаем ± 0.02 г/л.
Итог: 0.17 ± 0.02 г/л.
Или оставим в погрешности 2 значащие цифры.
Итог: 0.17 ± 0.015 г/л. Бред.
Если в этом примере оставлять в погрешности 2 значащие цифры (т.е. округлять ее до 0.001 г/л), то и результат надо округлять до 0.001 г/л, т.е. 0.167 ± 0.015 г/л.
Либо существует некий тайный смысл цепляться за тысячные г/л в погрешности, но спокойно пренебрегать ими в самом результате и выдавать в качестве итога запись "0.170 ± 0.015 г/л".


Ответов в этой теме: 46 Страница: 1 2 3 4 5 «« назад \|\| далее »»	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты