Помилки округлення в цифрових шкалах

Ця стаття не має на меті бути авторитетом у галузі статистики, а лише поясненням того, чому ми рекомендуємо купувати "зайвий десятковий знак", коли це можливо. Помилки округлення - це рідко обговорюваний, але постійно присутній фактор у масштабній галузі, і те, про що споживач повинен бути більш обізнаним.

цифрових

Усі ваги мають відображувану роздільну здатність, будь то 1 фунт або 0,0001 г. Відображена роздільна здатність - це наскільки "точна" шкала. По суті, це компроміс між реальністю та бюджетом. Дозволь пояснити.

Я буду використовувати приклад ваги тіла людини. Припустимо, що я важу 175 фунтів. Насправді, припустимо, що технічно кажучи, я важу 174,937678540283 фунтів.

Щоб проілюструвати, як шкала (загалом) відображатиме, скільки я важу, ось список, що ілюструє, як ваги вирішують між конкуруючими роздільними здатностями, які є "точними" на основі відображуваної роздільної здатності ваги.

Роздільна здатність 2 фунтів: 174 фунтів (ближче до 174, ніж 176)
Роздільна здатність 1 фунт: 175 (ближче до 175, ніж 174)
Роздільна здатність 0,1 фунта: 174,9 (ближче до 174,9, ніж 174,8 або 175,0)