Форумы ANCHEM.RU: Округление до 0,01%

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 1. Аналитический форум ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление до 0,01% >>>

  Ответов в этой теме: 17
  Страница: 1 2
  «« назад || далее »»

[ Ответ на тему ]

Ed
VIP Member
Ранг: 3355

26.09.2007 // 12:03:08

mikle1983 пишет:
А не могли бы вы показать на примере:
результаты 2,263 И 0,0328
их округлить до 0,01 % и до 0,1 %.
Заранее спасибо.

Что-то я с таким требованием никогда не сталкивался!

По-видимому результаты измерений выдаются в процентах. Тогда никаких проблем!
2,263% округляется до 2,26% или до 2,3%
0,0328% округляется до 0,03% или до 0%

ANCHEM.RU
Администрация
Ранг: 246

mikle1983
Пользователь
Ранг: 88

26.09.2007 // 12:59:03

Редактировано 1 раз(а)

Ааа...
ГОСТ 33-2000
определение кинематической вязкости...
Пункт 13. Выражение результатов
....
Результаты определения кинематической и динамической вязкости округляют до 0,01 % измереной или расчетной величины соответственно.
Кинематическая вязкость измеряется в мм2 на с.

aversun
Пользователь
Ранг: 133

26.09.2007 // 16:22:01

Если у вас не в процентах данные, ну так посчитайте от них эти несчастные 0,01%, 2,263х0,0001=0,0002263 это и есть ваш 0,01%-придел. Практически это значит, что вам ничего округлять не надо, вы еще, в данном случае, не достигли такой точности измерений. Если бы у вас было 2,263587, вот тогда бы вы , если бы четвертая цифра была меньше 0,0002263, отбросили все цифра после 3-ей, округлив 3-ю, а если была бы больше округлили бы 4-ую, удалив все цифры после четвертой. Если вы разберетесь, в том, что я сейчас написал, вы гигант мысли.

mikle1983
Пользователь
Ранг: 88

26.09.2007 // 17:23:41

Редактировано 1 раз(а)

Пользователь удалил свое сообщение

mikle1983
Пользователь
Ранг: 88

26.09.2007 // 17:24:44

Теперь понятно! Спасибо. Что то приходило мне такое в голову, но эту мысль я отбросил.

Каталог ANCHEM.RU
Администрация
Ранг: 246

Учебный центр «МЕТРОН»
Учебный центр ФГУП «УНИИМ». Повышение квалификации специалистов предприятий по вопросам метрологии, метрологического обеспечения, сертификации, аккредитации в различных сферах деятельности.

knoxchem
Пользователь
Ранг: 515

26.09.2007 // 19:10:50

Если Вы так будете бросаться мыслями они от Вас скоро сбегут

Igor Sit
Пользователь
Ранг: 150

26.09.2007 // 20:04:43

Есть хорошее понятие - "количество значащих цифр". Но какой-то пенёк решил свести это к процентам.
Получается - если первая значащая цифирь 5 или больше - оруглить до 4 цифирей (пример - 6,224), если меньше 5 - округлить до 5 (пример - 0, 0037845)


Ответов в этой теме: 17 Страница: 1 2 «« назад \|\| далее »»	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты