Правильное округление результатов вычисления
Здравствуйте!
Необходимо округлить результаты вычисления. Изучила имеющиеся методички, информацию в интернете, но все равно имеются некие трудности.
Подскажите, правильно ли я округляю.
Считаю баллистическую постоянную гальванометра по этой формуле: B = (C*U)/(n)
Подставляю имеющиеся данные: B = (0.750 * 1.00)/(2.625) = 0,28571
Начинаю думать, как округлять.
В 0,750 три значащих цифры: 7, 5, 0.
В 1.00 три значащих цифры: 1, 0, 0.
В 2,625 четыре значащих цифры: 2, 6, 2, 5.
При умножении и делении сохраняют столько значащих цифр, сколько их в приближенном числе с наименьшим количеством этих цифр.
Т.е. надо сохранить 3 числа. Округленное значение равно 0,286.
Я верно все понимаю?
Личное сообщение
#24922 nippers :Здравствуйте!
Я верно все понимаю?
Нет не верно.
Результат округляется после округления абсолютной погрешности. А её у Вас нет.
Поэтому округлять нечего.
\(0.29 \pm 0.01\)
#24926 Count_May :\(0.29 \pm 0.01\)
Но в методичке и интернете находила следующую информацию:
в среднем значении абсолютной погрешности оставляют одну ненулевую значащую цифру (или две, если первая цифра единица)
Раз первая цифра единица, разве не должны оставлять 0,011?
Правила округления:
Вначале округляется абсолютная погрешность до первой значащей цифры и должна содержать одну значащую цифру.
Затем округляется среднее значение результата по правилу - последняя значащая цифра результата должна находится в том же числовом разряде, в котором находится округлённая цифра абсолютной погрешности.
При округлении цифры < 4 просто выбрасывают, а цифры > 4 при отбрасывании дают единичку предшествующему разряду.