Российский химико-аналитический портал  химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов  
карта портала ::: расширенный поиск              
 


ANCHEM.RU » Форумы » 3. Метрология, ВЛК ...
  3. Метрология, ВЛК | Список форумов | Войти в систему | Регистрация | Помощь | Последние темы | Поиск

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление и предоставление результатов измерений >>>

  Ответов в этой теме: 8

[ Ответ на тему ]


Автор Тема: Округление и предоставление результатов измерений
Марьяна
Пользователь
Ранг: 168

16.04.2021 // 10:41:29     
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано, то ссылаемся на внутреннюю инструкцию, в которой прописали: численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Данное округление подходит, если показатель точности задан в относительных единицах (в %), а если в абсолютных, то в некоторых МИ (ГОСТах) указана погрешность, например, 0,05 град. жесткости или 2 мг/куб.дм. Имеем ли мы право ссылаться на внутреннюю инструкцию и округлять как прописано там, то есть округление по погрешности до 2 значащих цифр или должны округлять по погрешности как в МИ? Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?
ANCHEM.RU
Администрация
Ранг: 246
voodensky
Пользователь
Ранг: 528


16.04.2021 // 11:54:23     

Марьяна пишет:
численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?
Я не увидел разницы в округлениях.
Погрешность 0,05, поэтому пишем +-0,05. разряд значения показателя точности методики - второй знак после запятой.
делаем две значащие цифры, из 0,196 получаем 0,20. Итого, получается 0,20 +-0,05 и по МИ прописано 0,20+-0,05.
Марьяна
Пользователь
Ранг: 168


16.04.2021 // 12:04:48     

voodensky пишет:

Марьяна пишет:
численное значение результата измерения оканчивается цифрой того же разряда, что и значение показателя точности методики измерения с числом значащих цифр не более 2. Например: в МИ погрешность 0,05, округляем до 0,20+-0,05 или допустимо округлять до 0,196+-0,050? Будет ли это являться несоответствием?
Я не увидел разницы в округлениях.
Погрешность 0,05, поэтому пишем +-0,05. разряд значения показателя точности методики - второй знак после запятой.
делаем две значащие цифры, из 0,196 получаем 0,20. Итого, получается 0,20 +-0,05 и по МИ прописано 0,20+-0,05.

Результат измерения округляем по погрешности, если в погрешности оставляем 2 знака после запятой, то и в результате измерений тоже 2 знака после запятой. Но в погрешности получается 1 значащая цифра, а в результате 2.
Поняла, что если в МИ прописано погрешность 0,05, то и приписываем 0,05, а не 0,050
voodensky
Пользователь
Ранг: 528


16.04.2021 // 12:34:15     

Марьяна пишет:
Но в погрешности получается 1 значащая цифра, а в результате 2.

Опять же, по моему мнению, это классический вариант. Число значащих цифр в результате не может быть равным числу значащих цифр в погрешности. А для погрешности одна значащая цифра - это стандартный вариант.
voodensky
Пользователь
Ранг: 528


16.04.2021 // 12:36:52     

Марьяна пишет:
Результат измерения округляем по погрешности, если в погрешности оставляем 2 знака после запятой, то и в результате измерений тоже 2 знака после запятой.

Количество знаков после запятой и количество значащих цифр - это разные понятия.
tag
Пользователь
Ранг: 800


16.04.2021 // 20:14:04     
Редактировано 1 раз(а)


Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,
Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»
Каталог ANCHEM.RU
Администрация
Ранг: 246
УФ-Вид спектрофотометр Varian CARY 50 УФ-Вид спектрофотометр Varian CARY 50
Недорогой прибор для рутинных измерений с широкими возможностями по расширению за счет большого выбора различных приставок и аксессуаров для анализа как жидких, так и твердых образцов
[ Информация из каталога оборудования ANCHEM.RU ]
voodensky
Пользователь
Ранг: 528


18.04.2021 // 8:57:36     

tag пишет:

Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,
Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»

voodensky
Пользователь
Ранг: 528


18.04.2021 // 8:58:43     

voodensky пишет:

tag пишет:

Марьяна пишет:
Возник вопрос по округлению и предоставлению результатов измерений в протоколе измерений. Округление результатов измерений округляем так, как прописано в МИ. Если не прописано,
Есть же ПМГ 96-2009 – формы представления результатов измерений, есть учебные пособия, например, earchive.tpu.ru/handle/11683/64168 стр 74 «2.5.3. Представление результатов анализа в протоколах»


Подозреваю, что фраза из внутренней документации скопирована из подобного документа.
tag
Пользователь
Ранг: 800


19.04.2021 // 4:02:08     

voodensky пишет:

voodensky пишет:

Подозреваю, что фраза из внутренней документации скопирована из подобного документа.

Правильно, фраза скопирована из учебного пособия "Внутрилабораторный контроль качества результатов химического анализа". В указанном пункте разбирается на, что надо ориентироваться при представлении результатов анализа в протоколах (приводятся примеры верного и неверного представления) и что есть методики с особыми правилами округления результата и представления характеристики погрешности - чему и посвящена данная тема.

  Ответов в этой теме: 8

Ответ на тему


ААС, ИСП-АЭС, ИСП-МС - прямые поставки в 2022 году

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU:      [ Все новости ]


ЖУРНАЛ ЛАБОРАТОРИИ ЛИТЕРАТУРА ОБОРУДОВАНИЕ РАБОТА КАЛЕНДАРЬ ФОРУМ

Copyright © 2002-2022
«Аналитика-Мир профессионалов»

Размещение рекламы / Контакты