Правильное округление результатов вычисления

Округление результатов
Автор
Сообщение
nippers
#24922 2017-10-22 19:07 GMT

Здравствуйте!

Необходимо округлить результаты вычисления. Изучила имеющиеся методички, информацию в интернете, но все равно имеются некие трудности.

Подскажите, правильно ли я округляю.

Считаю баллистическую постоянную гальванометра по этой формуле: B = (C*U)/(n)

Подставляю имеющиеся данные: B = (0.750 * 1.00)/(2.625) = 0,28571

Начинаю думать, как округлять.

В 0,750 три значащих цифры: 7, 5, 0.

В 1.00 три значащих цифры: 1, 0, 0.

В 2,625 четыре значащих цифры: 2, 6, 2, 5.

При умножении и делении сохраняют столько значащих цифр, сколько их в приближенном числе с наименьшим количеством этих цифр.

Т.е. надо сохранить 3 числа. Округленное значение равно 0,286.

Я верно все понимаю?

Count_May
#24924 2017-10-23 12:54 GMT

#24922 nippers :

Здравствуйте!

Я верно все понимаю?

Нет не верно.

Результат округляется после округления абсолютной погрешности. А её у Вас нет.

Поэтому округлять нечего.

nippers
#24925 2017-10-23 16:42 GMT

#24924 Count_May :

#24922 nippers :

Здравствуйте!

Я верно все понимаю?

Нет не верно.

Результат округляется после округления абсолютной погрешности. А её у Вас нет.

Поэтому округлять нечего.

абсолютная погрешность равна 0,011

т.е. округляем до 0,286?

Count_May
#24926 2017-10-23 16:54 GMT

\(0.29 \pm 0.01\)

nippers
#24927 2017-10-23 16:59 GMT

#24926 Count_May :

\(0.29 \pm 0.01\)

Но в методичке и интернете находила следующую информацию:

в среднем значении абсолютной погрешности оставляют одну ненулевую значащую цифру (или две, если первая цифра единица)

Раз первая цифра единица, разве не должны оставлять 0,011?

Count_May
#24928 2017-10-23 17:09 GMT

Правила округления:

Вначале округляется абсолютная погрешность до первой значащей цифры и должна содержать одну значащую цифру.

Затем округляется среднее значение результата по правилу - последняя значащая цифра результата должна находится в том же числовом разряде, в котором находится округлённая цифра абсолютной погрешности.

При округлении цифры < 4 просто выбрасывают, а цифры > 4 при отбрасывании дают единичку предшествующему разряду.