Форумы ANCHEM.RU: Округление и предоставление результатов измерений

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 3. Метрология, ВЛК ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление и предоставление результатов измерений >>>

Ответов в этой теме: 8

[ Ответ на тему ]

Автор

Тема: Округление и предоставление результатов измерений

Марьяна
Пользователь
Ранг: 168

16.04.2021 // 10:41:29

Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано, то ссылаемся на внутреннюю инструкцию, в которой прописали: численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Данное округление подходит, если показатель точности задан в относительных единицах (в %), а если в абсолютных, то в некоторых МИ (ГОСТах) указана погрешность, например, 0,05 град. жесткости или 2 мг/куб.дм. Имеем ли мы право ссылаться на внутреннюю инструкцию и округлять как прописано там, то есть округление по погрешности до 2 значащих цифр или должны округлять по погрешности как в МИ? Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?

ANCHEM.RU
Администрация
Ранг: 246

voodensky
Пользователь
Ранг: 550

16.04.2021 // 11:54:23

Марьяна пишет:
численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?

Я не увидел разницы в округлениях.
Погрешность 0,05, поэтому пишем +-0,05. разряд значения показателя точности методики - второй знак после запятой.
делаем две значащие цифры, из 0,196 получаем 0,20. Итого, получается 0,20 +-0,05 и по МИ прописано 0,20+-0,05.

Марьяна
Пользователь
Ранг: 168

16.04.2021 // 12:04:48

voodensky пишет:

Марьяна пишет:
численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?
Я не увидел разницы в округлениях.
Погрешность 0,05, поэтому пишем +-0,05. разряд значения показателя точности методики - второй знак после запятой.
делаем две значащие цифры, из 0,196 получаем 0,20. Итого, получается 0,20 +-0,05 и по МИ прописано 0,20+-0,05.

Результат измерения округляем по погрешности, если в погрешности оставляем 2 знака после запятой, то и в результате измерений тоже 2 знака после запятой. Но в погрешности получается 1 значащая цифра, а в результате 2.
Поняла, что если в МИ прописано погрешность 0,05, то и приписываем 0,05, а не 0,050

voodensky
Пользователь
Ранг: 550

16.04.2021 // 12:34:15

Марьяна пишет:
Но в погрешности получается 1 значащая цифра, а в результате 2.

Опять же, по моему мнению, это классический вариант. Число значащих цифр в результате не может быть равным числу значащих цифр в погрешности. А для погрешности одна значащая цифра - это стандартный вариант.

voodensky
Пользователь
Ранг: 550

16.04.2021 // 12:36:52

Марьяна пишет:
Результат измерения округляем по погрешности, если в погрешности оставляем 2 знака после запятой, то и в результате измерений тоже 2 знака после запятой.

Количество знаков после запятой и количество значащих цифр - это разные понятия.

tag
Пользователь
Ранг: 813

16.04.2021 // 20:14:04

Редактировано 1 раз(а)

Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,

Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»

Каталог ANCHEM.RU
Администрация
Ранг: 246

Испытательный центр ФГУ «Балтийская дирекция по техническому обеспечению надзора на море»
Федеральное государственное учреждение «Балтийская дирекция по техническому обеспечению надзора на море» создано в соответствии с распоряжением Правительства Российской Федерации и осуществляет свою деятельность на территории Российской Федерации, во внутренних морских водах, территориальном море, в исключительной экономической зоне и на континентальном шельфе Российской Федерации.

voodensky
Пользователь
Ранг: 550

18.04.2021 // 8:57:36

tag пишет:

Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,
Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»

voodensky
Пользователь
Ранг: 550

18.04.2021 // 8:58:43

voodensky пишет:

tag пишет:

Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,
Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»

Подозреваю, что фраза из внутренней документации скопирована из подобного документа.

tag
Пользователь
Ранг: 813

19.04.2021 // 4:02:08

voodensky пишет:

voodensky пишет:
Подозреваю, что фраза из внутренней документации скопирована из подобного документа.

Правильно, фраза скопирована из учебного пособия "Внутрилабораторный контроль качества результатов химического анализа". В указанном пункте разбирается на, что надо ориентироваться при представлении результатов анализа в протоколах (приводятся примеры верного и неверного представления) и что есть методики с особыми правилами округления результата и представления характеристики погрешности - чему и посвящена данная тема.


Ответов в этой теме: 8	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты