Accuracy·Precision·Resolution·Repeatability 차이 정리

2026년 8월 15일 읽는 시간 약 10분 조회 13

측정의 세계를 이해하는 첫걸음

우리는 일상에서 수많은 측정을 하며 살아갑니다. 체중계에 올라가 몸무게를 재거나, 요리를 할 때 계량컵으로 물의 양을 맞추고, 스마트폰의 GPS로 자신의 위치를 확인하는 것 모두가 측정입니다. 하지만 우리가 흔히 사용하는 ‘정확하다’라는 단어는 측정의 영역에서 매우 모호한 표현입니다. 과학과 공학의 세계에서 측정의 품질을 평가할 때는 정확도(Accuracy), 정밀도(Precision), 분해능(Resolution), 반복성(Repeatability)이라는 네 가지 핵심 개념을 사용합니다. 이 개념들을 명확히 구분하는 것만으로도 우리는 더 나은 의사결정을 내리고 장비를 효율적으로 선택할 수 있습니다.

정확도와 정밀도의 결정적인 차이

많은 사람이 정확도와 정밀도를 혼용하지만, 이 둘은 완전히 다른 의미를 담고 있습니다. 이를 이해하기 위해 가장 흔히 사용되는 비유인 ‘다트 게임’을 떠올려 보십시오.

정확도 Accuracy

정확도는 측정값이 실제 참값(True Value)에 얼마나 가까운지를 나타냅니다. 예를 들어, 1kg짜리 표준 분동을 저울에 올렸을 때 저울이 정확히 1.000kg을 가리킨다면 그 저울은 정확도가 높은 것입니다. 정확도가 낮다는 것은 측정값에 ‘오차(Bias)’가 포함되어 있다는 뜻입니다.

정밀도 Precision

정밀도는 동일한 대상을 여러 번 측정했을 때 측정값들이 서로 얼마나 일치하는지를 나타냅니다. 다트를 던졌을 때 다트들이 과녁의 중심이 아닌 한쪽 구석에 모여 있다면, 정밀도는 높지만 정확도는 낮은 상태입니다. 즉, 정밀도는 측정의 ‘일관성’을 의미합니다.

정확도 높음, 정밀도 높음: 모든 다트가 과녁 중앙에 집중됨 (이상적인 상태)

정확도 낮음, 정밀도 높음: 모든 다트가 과녁의 한 지점에 몰려 있지만 중앙은 아님 (보정 필요)
정확도 높음, 정밀도 낮음: 다트들이 중앙 근처에 흩어져 있음 (산포가 큼)
정확도 낮음, 정밀도 낮음: 다트들이 과녁 전체에 무작위로 퍼짐 (장비 불량)

분해능과 반복성의 역할

분해능 Resolution

분해능은 측정 장비가 감지할 수 있는 ‘최소 단위’를 의미합니다. 예를 들어, 1g 단위까지만 표시되는 체중계와 0.01g 단위까지 표시되는 정밀 저울이 있다면, 후자의 분해능이 훨씬 높습니다. 흔히 분해능이 높으면 무조건 성능이 좋다고 생각하기 쉽지만, 이는 오해입니다. 분해능이 높더라도 측정값이 매번 크게 변한다면 그 수치는 신뢰할 수 없습니다.

반복성 Repeatability

반복성은 동일한 조건에서 같은 사람이 같은 장비를 사용하여 짧은 시간 내에 연속적으로 측정했을 때 결과가 얼마나 일관되게 나오는지를 의미합니다. 정밀도의 하위 개념으로 볼 수 있으며, 실험의 신뢰성을 확보하는 기초가 됩니다. 반복성이 떨어지면 측정 환경이나 장비의 노후화를 의심해봐야 합니다.

실생활과 산업 현장에서의 활용 사례

이 개념들은 단순히 이론에 머물지 않고 우리의 실생활에 깊숙이 관여합니다. 가장 대표적인 예가 스마트폰의 GPS입니다.

우리가 지도 앱을 켤 때 표시되는 파란색 원은 자신의 위치를 나타냅니다. 이때 GPS 장비의 분해능이 높으면 내 위치가 아주 세밀하게 표시될 것 같지만, 실제로는 ‘정확도’가 더 중요합니다. 위성 신호가 건물에 가려지거나 반사되면 정확도가 떨어져 내 위치가 길 건너편으로 표시되기도 합니다. 이때 나타나는 오차는 하드웨어의 분해능 문제가 아니라 위성 데이터의 정확도 문제입니다.

제조업 현장에서는 더욱 엄격합니다. 자동차 부품을 생산할 때 부품의 크기가 0.01mm 오차 범위 내에 들어와야 한다면, 측정 장비의 분해능은 최소한 0.001mm 수준이어야 합니다. 또한, 작업자가 바뀔 때마다 측정값이 달라지지 않도록 반복성을 검증하는 ‘GR&R(Gage Repeatability and Reproducibility)’ 분석을 필수적으로 수행합니다.

흔한 오해와 진실

오해 1: 분해능이 높으면 무조건 좋은 장비다

많은 이들이 소수점 아래 숫자가 많이 표시되는 장비를 선호합니다. 하지만 정확도가 뒷받침되지 않은 높은 분해능은 ‘거짓된 정밀함’을 줄 뿐입니다. 예를 들어, 0.0001g까지 표시되는 저울이라도 주변 바람이나 진동에 의해 측정값이 계속 바뀐다면 그 수치는 의미가 없습니다.

오해 2: 측정값은 항상 고정되어 있다

측정값은 환경에 따라 변합니다. 온도, 습도, 기압, 심지어 측정자의 숙련도에 따라서도 값이 달라집니다. 따라서 중요한 측정을 할 때는 반드시 ‘교정(Calibration)’ 과정을 거쳐야 합니다. 교정은 장비의 정확도를 표준값과 비교하여 보정하는 작업으로, 측정의 신뢰성을 유지하는 가장 확실한 방법입니다.

성능 좋은 장비 선택을 위한 전문가의 조언

장비를 구매하거나 측정 시스템을 구축할 때 다음의 3단계 접근법을 권장합니다.

목적에 맞는 분해능을 결정하세요: 측정하려는 대상의 허용 오차 범위보다 5배에서 10배 정도 더 세밀한 분해능을 가진 장비를 선택하는 것이 일반적인 공학적 관례입니다.
반복성 테스트를 먼저 수행하세요: 새 장비를 도입했다면 같은 물체를 10번 연속 측정해보십시오. 결과값이 얼마나 튀는지 확인하는 것만으로도 장비의 기초 품질을 파악할 수 있습니다.
환경 요인을 통제하세요: 고가의 장비를 사용하더라도 온도 변화가 심하거나 진동이 발생하는 곳에서는 정확한 측정이 불가능합니다. 측정 환경을 안정화하는 것이 장비 자체의 성능을 높이는 것보다 비용 효율적일 때가 많습니다.

비용 효율적인 측정 전략

모든 상황에서 최고 사양의 장비가 필요한 것은 아닙니다. 예산을 절약하면서도 필요한 데이터를 얻기 위해서는 ‘필요 충분 조건’을 따져야 합니다.

먼저, 절대적인 정확도가 중요한지, 아니면 변화 추이를 보는 것이 중요한지 구분하십시오. 변화 추이를 보는 것이 목적이라면(예: 식물의 성장 속도 측정) 상대적인 정밀도와 반복성만 확보되면 충분하므로, 굳이 고가의 표준 교정을 받은 초정밀 장비를 사용할 필요가 없습니다. 반대로 상거래나 안전과 직결된 측정이라면 반드시 국가 공인 기관에서 교정받은 장비를 사용해야 합니다.

또한, 장비의 유지보수 비용을 고려하십시오. 정밀도가 높은 장비일수록 관리 비용이 많이 듭니다. 1년에 한 번씩 교정 비용을 지불해야 할 수도 있고, 특수한 보관 환경이 필요할 수도 있습니다. 따라서 ‘가장 정확한 장비’가 아니라 ‘내 목적에 가장 적합한 장비’를 찾는 것이 현명한 선택입니다.

자주 묻는 질문과 답변

Q: 측정값이 계속 변해요. 장비가 고장 난 건가요?

장비 고장일 수도 있지만, 환경 요인일 가능성이 큽니다. 미세한 바람, 주변 기기의 전기적 노이즈, 측정하는 물체의 온도 변화 등을 먼저 체크해보세요. 반복성 테스트를 통해 특정 환경에서만 수치가 튀는지 확인하는 것이 좋습니다.

Q: 정확도와 정밀도 중 무엇이 더 중요한가요?

상황에 따라 다릅니다. 예를 들어, 약을 조제할 때는 정확도가 생명입니다. 반면, 특정 부품이 설계 도면대로 일관되게 생산되는지 확인하는 공정에서는 정밀도(반복성)가 더 중요합니다. 정밀도가 높으면 정확도는 보정(Calibration)을 통해 맞출 수 있기 때문입니다.

Q: 교정은 왜 주기적으로 해야 하나요?

모든 측정 장비는 시간이 지남에 따라 부품이 마모되거나 센서의 감도가 변합니다. 이를 ‘드리프트(Drift)’ 현상이라고 합니다. 주기적인 교정은 장비가 시간이 흐르면서 변하는 정도를 파악하고 다시 참값에 맞게 기준을 잡아주는 유일한 방법입니다.

측정은 단순히 숫자를 읽는 행위가 아니라, 우리가 마주하는 세계를 객관적으로 이해하려는 노력입니다. 정확도, 정밀도, 분해능, 반복성의 차이를 이해하고 이를 바탕으로 측정 데이터를 해석한다면, 여러분은 데이터의 함정에 빠지지 않고 더욱 명확하고 통찰력 있는 결론에 도달할 수 있을 것입니다. 오늘부터는 어떤 수치를 접할 때 단순히 그 숫자만 보지 말고, 그 숫자가 얼마나 신뢰할 만한 데이터인지 한번 더 생각해보는 습관을 가져보시기 바랍니다.

참고자료

JCGM 200:2012 (VIM 3) — Accuracy, Precision, Repeatability, Resolution 등 계측 용어의 국제 표준 정의. Precision은 동일하거나 유사한 대상에 대한 반복 측정값의 일치 정도로 정의됩니다.
NIST Technical Note 1297 — Accuracy와 Repeatability의 정의 및 Precision과의 관계를 설명한 계측 용어 자료.
NIST, Engineering Statistics Handbook — 계측에서 Resolution을 의미 있게 구분할 수 있는 측정 자릿수·분해능 개념으로 설명한 자료.
Fluke, Data Acquisition: Speed, Accuracy, and Resolution Specs — Accuracy, Repeatability, Resolution을 실제 계측기 사양 관점에서 설명한 기술자료.