계측기 Calibration Tolerance, 제조사 Accuracy 그대로 쓰면 될까? 허용오차 결정하는 방법

계측기 교정을 의뢰하거나 교정성적서를 검토하다 보면 가장 먼저 부딪히는 문제가 있습니다.

“이 계측기의 허용오차는 도대체 얼마로 잡아야 할까?”

제조사 데이터시트에 Accuracy가 ±0.1%라고 적혀 있으면 그대로 Calibration Tolerance로 사용하면 될까요?

또 공정에서 ±1℃ 정도의 오차까지 허용된다면 계측기의 허용오차도 ±1℃로 정하면 되는 걸까요?

결론부터 말하면 Calibration Tolerance는 단순히 제조사의 Accuracy 숫자를 복사해서 정하는 값이 아닙니다.

계측기가 실제로 사용되는 목적, 제조사 성능 규격, 공정에서 요구하는 정확도, 측정불확도와 합격 판정 방법까지 함께 고려해야 합니다.

Calibration Tolerance란 무엇인가

Calibration Tolerance는 교정 결과를 평가할 때 계측기의 측정 오차가 허용되는 범위를 의미합니다.

예를 들어 0~100℃ 범위의 온도계에 대해 허용오차를 ±0.5℃로 정했다고 가정해보겠습니다.

교정점 50℃에서 측정 결과가 다음과 같다면

• 기준값: 50.00℃
• 계측기 지시값: 50.30℃
• 오차: +0.30℃
• 허용오차: ±0.50℃

측정된 오차만 기준으로 보면 허용범위 안에 있습니다.

반대로 지시값이 50.70℃라면 오차는 +0.70℃가 되므로 ±0.50℃ 범위를 초과합니다.

오차(Error)란 무엇인가

오차는 일반적으로 계측기의 지시값과 기준값 사이의 차이를 의미합니다.

오차 = 계측기 지시값 – 기준값

Calibration Tolerance는 바로 이 오차가 어디까지 허용되는지를 판단하기 위한 기준입니다.

Accuracy와 Calibration Tolerance는 같은 말이 아니다

현장에서 가장 많이 혼동하는 부분입니다.

Accuracy는 계측기가 실제 값에 얼마나 가깝게 측정할 수 있는지를 나타내는 성능 개념입니다.

제조사에서는 Accuracy를 다음과 같은 방식으로 표현할 수 있습니다.

• ±0.1% of Span
• ±0.2% of Reading
• ±0.5℃
• ±(0.05% of Reading + 0.01% of Range)

반면 Calibration Tolerance는 교정 결과를 합격 또는 불합격으로 판단하기 위해 정한 허용 기준입니다.

따라서 Accuracy와 Calibration Tolerance가 같은 값으로 설정될 수도 있지만 반드시 같아야 하는 것은 아닙니다.

여기서 중요한 질문은 이것입니다.

“이 교정으로 무엇에 대한 적합성을 판단하려는가?”

제조사의 원래 성능을 만족하는지 확인하려면 제조사가 규정한 Accuracy가 중요한 기준이 됩니다.

반면 특정 공정에서 정상적으로 사용할 수 있는지를 판단하려면 실제 공정에서 요구하는 측정 성능이 더 중요한 기준이 될 수 있습니다.

Calibration Tolerance를 결정할 때 확인해야 할 5가지

1. 제조사의 Accuracy 규격을 확인한다

가장 먼저 확인해야 할 것은 계측기 제조사의 데이터시트입니다.

예를 들어 압력 트랜스미터의 측정범위가 0~10 bar이고 Accuracy가 ±0.1% of Span이라고 가정해보겠습니다.

Span은

10 – 0 = 10 bar

입니다.

따라서 제조사 Accuracy를 압력값으로 환산하면

10 bar × 0.1% = 0.01 bar

가 됩니다.

제조사 성능 규격을 그대로 평가 대상으로 삼는다면 ±0.01 bar가 하나의 기준이 될 수 있습니다.

하지만 여기서 바로 ±0.01 bar를 Calibration Tolerance로 확정해서는 안 됩니다.

제조사의 Accuracy가 어떤 조건에서 적용되는지도 확인해야 하기 때문입니다.

데이터시트에는 다음과 같은 조건이 별도로 규정되어 있을 수 있습니다.

• 기준 온도
• 주변 온도 영향
• 장기 안정도
• 정압 영향
• 설치 위치 영향
• 센서 범위
• 설정 Range
• Zero와 Span 설정 조건

따라서 Accuracy 숫자만 떼어 보는 것보다 해당 성능이 어떤 조건에서 보장되는지를 함께 확인하는 것이 중요합니다.

2. 실제 공정에서 필요한 정확도를 확인한다

계측기는 데이터시트의 숫자를 만족시키기 위해 존재하는 것이 아니라 실제 공정을 측정하기 위해 사용됩니다.

예를 들어 어떤 공정에서 온도를 100℃로 유지해야 하지만 실제 품질에 영향을 주지 않는 범위가 ±2℃라고 가정해보겠습니다.

이 공정에 ±0.01℃ 수준의 계측 성능을 요구한다면 기술적으로 가능하더라도 필요 이상의 성능과 비용이 요구될 수 있습니다.

반대로 공정 허용범위가 매우 좁은데 계측기의 허용오차를 너무 크게 설정하면 공정 이상을 정확하게 판단하기 어려워질 수 있습니다.

따라서 Calibration Tolerance를 정할 때는 다음 사항을 확인해야 합니다.

• 이 계측값이 제품 품질에 얼마나 영향을 주는가
• 이 측정값으로 자동 제어가 이루어지는가
• 단순 모니터링용 계측기인가
• 인터록이나 보호 기능에 사용되는가
• 공정에서 허용할 수 있는 전체 측정오차는 얼마인가

계측기의 허용오차는 결국 실제 사용 목적에 적합한 수준으로 결정하는 것이 중요합니다.

3. %Span, %Reading, 절대값을 구분한다

Calibration Tolerance를 결정하면서 의외로 많이 발생하는 문제가 Accuracy 단위의 잘못된 해석입니다.

다음 세 가지는 서로 다른 의미입니다.

• ±0.1% of Span
• ±0.1% of Reading
• ±0.1 bar

예를 들어 0~10 bar 압력계에서 Accuracy가 ±0.1% of Span이라면 전체 Span인 10 bar를 기준으로 계산합니다.

10 × 0.001 = 0.01 bar

따라서 허용되는 값은 ±0.01 bar가 됩니다.

하지만 ±0.1% of Reading이라면 측정값에 따라 값이 달라집니다.

5 bar를 측정하고 있다면

5 × 0.001 = 0.005 bar

가 됩니다.

따라서 데이터시트에서 숫자만 확인하지 말고 반드시 다음 표현까지 함께 확인해야 합니다.

• Span 기준인지
• Full Scale 기준인지
• Reading 기준인지
• 설정 Range 기준인지
• 고정된 절대값인지

이 부분을 잘못 해석하면 계산된 허용오차가 크게 달라질 수 있습니다.

4. 교정 기준기의 측정불확도를 확인한다

Calibration Tolerance가 ±0.1이라고 해서 ±0.1 수준의 기준기를 사용해도 된다는 의미는 아닙니다.

교정 결과에는 교정 대상 계측기뿐 아니라 기준기, 측정 방법, 환경조건, 반복 측정 등 여러 요소가 영향을 줄 수 있습니다.

이러한 측정 결과의 불확실한 정도를 정량적으로 나타내는 개념이 측정불확도(Measurement Uncertainty)입니다.

측정불확도는 측정 결과 주변에 어느 정도의 불확실성이 존재하는지를 나타내는 값입니다.

TUR이란 무엇인가

현장에서는 기준기와 교정 대상의 적합성을 검토하기 위해 TUR(Test Uncertainty Ratio)이라는 개념도 사용합니다.

쉽게 말하면 시험 허용범위와 교정 과정의 측정불확도 사이의 비율입니다.

예를 들어

• Calibration Tolerance: ±0.5℃
• 교정 측정의 확장불확도: ±0.1℃

라면 단순 비율은

0.5 ÷ 0.1 = 5

이므로 약 5:1의 비율이 됩니다.

실무에서 4:1과 같은 기준이 사용되는 경우가 있지만 모든 계측기에 반드시 4:1을 적용해야 한다는 의미는 아닙니다.

필요한 비율과 판단 방법은 적용되는 품질 기준, 계측기의 중요도, 측정 위험 등에 따라 달라질 수 있습니다.

5. 합격·불합격을 결정하는 Decision Rule을 확인한다

측정 결과가 허용오차의 경계 부근에 있을 때는 단순한 PASS와 FAIL 판단이 어려워질 수 있습니다.

예를 들어

• Calibration Tolerance: ±0.50℃
• 측정된 Error: +0.48℃

라고 가정해보겠습니다.

Error만 보면 ±0.50℃ 안에 들어오기 때문에 합격처럼 보입니다.

하지만 교정 결과에는 측정불확도가 존재합니다.

측정불확도가 충분히 크다면 실제 값이 허용한계를 넘어설 가능성도 고려해야 할 수 있습니다.

이때 사용하는 개념이 Decision Rule, 즉 판정 규칙입니다.

Decision Rule은 측정불확도를 고려해 계측기가 규격을 만족하는지를 어떤 방법으로 판단할 것인지 정한 규칙입니다.

Guard Band란 무엇인가

경우에 따라 허용한계보다 조금 안쪽에 별도의 합격 기준을 두는 방법도 사용합니다.

이를 Guard Band라고 합니다.

예를 들어 허용오차가 ±0.50℃라도 내부 합격기준을 이보다 좁게 설정할 수 있습니다.

하지만

Calibration Tolerance – 측정불확도 = 항상 합격기준

처럼 일률적으로 계산하는 것은 적절하지 않습니다.

어떤 Decision Rule이나 Guard Band를 적용할지는 적용 규격, 품질 절차, 측정불확도와 잘못된 적합성 판정의 위험 등을 함께 고려해야 합니다.

실제 예제로 Calibration Tolerance 결정하기

0~100℃ 온도 트랜스미터를 예로 들어보겠습니다.

조건은 다음과 같습니다.

• 측정범위: 0~100℃
• 제조사 Accuracy: ±0.2% of Span
• 공정에서 요구하는 최대 측정오차: ±0.5℃
• 교정 측정의 확장불확도: ±0.1℃

먼저 제조사 Accuracy를 계산합니다.

100℃ × 0.2% = 0.2℃

따라서 제조사가 규정한 성능은 ±0.2℃입니다.

반면 공정에서는 ±0.5℃까지 허용할 수 있습니다.

여기서 단순히 둘 중 하나를 골라 Calibration Tolerance로 사용하기보다 교정의 목적을 먼저 확인해야 합니다.

제조사 성능 적합성을 판단하는 경우

계측기가 제조사가 규정한 원래 성능을 유지하고 있는지를 평가한다면 ±0.2℃를 기준으로 검토할 수 있습니다.

공정 사용 적합성을 판단하는 경우

공정에서 ±0.5℃ 이내의 측정오차를 요구하고 내부 품질 기준도 그렇게 정의되어 있다면 공정 적합성을 판단하기 위한 기준은 달라질 수 있습니다.

따라서 동일한 계측기도 제조사 사양 적합성과 공정 사용 적합성을 구분해서 생각할 필요가 있습니다.

공정에서 사용할 수 있다는 것과 제조사가 보증하는 원래 Accuracy를 만족한다는 것은 반드시 같은 의미는 아닙니다.

계측 시스템 전체의 오차도 확인해야 한다

현장에서는 트랜스미터 하나가 정확하다고 해서 최종 화면에 표시되는 값까지 동일한 정확도를 보장하는 것은 아닙니다.

예를 들어 압력 측정 시스템이 다음과 같이 구성되어 있다고 해보겠습니다.

압력센서 → 압력 트랜스미터 → 4-20mA → PLC Analog Input → Scaling → HMI 표시

각 단계에는 서로 다른 오차 요인이 존재할 수 있습니다.

• 센서 자체 오차
• 트랜스미터 변환 오차
• Analog Input 변환 오차
• 분해능에 따른 양자화 영향
• 배선과 노이즈의 영향
• Scaling 설정 오차

따라서 중요한 공정에서는 개별 계측기의 Calibration Tolerance만 보는 것이 아니라 전체 Measurement Loop가 공정에서 요구하는 정확도를 만족하는지도 검토해야 합니다.

또 각 장치의 최대 오차를 단순히 모두 더하는 방식이 항상 적절한 것은 아닙니다.

실제 전체 측정오차를 평가할 때는 각각의 오차 성분이 어떤 성격을 갖는지 함께 검토해야 합니다.

Calibration Tolerance를 너무 좁게 잡으면 생기는 문제

허용오차는 좁을수록 무조건 좋은 것처럼 보일 수 있습니다.

하지만 필요 이상으로 좁게 설정하면 오히려 다음과 같은 문제가 발생할 수 있습니다.

• 정상적인 계측기가 반복적으로 부적합 판정을 받을 수 있음
• 불필요한 조정과 재교정이 증가할 수 있음
• 더 높은 성능의 기준기가 필요할 수 있음
• 유지관리 비용이 증가할 수 있음
• 실제 공정 요구 수준보다 과도한 관리가 이루어질 수 있음

반대로 Calibration Tolerance를 지나치게 넓게 설정하면 교정을 통해 계측기 성능을 관리하는 의미가 약해질 수 있습니다.

따라서 목표는 가장 작은 숫자를 만드는 것이 아니라 사용 목적에 적합하고 기술적인 근거를 설명할 수 있는 허용오차를 설정하는 것입니다.

실무에서 Calibration Tolerance를 정하는 순서

처음 허용오차를 설정해야 한다면 다음 순서로 검토하면 이해하기 쉽습니다.

1. 계측기의 제조사와 정확한 모델을 확인합니다.
2. 데이터시트의 Accuracy 또는 허용오차 규격을 확인합니다.
3. %Span, %Reading, 고정값 등 Accuracy 계산 기준을 확인합니다.
4. 계측기가 사용되는 공정의 요구 정확도를 확인합니다.
5. 사내 품질기준이나 프로젝트 사양을 확인합니다.
6. 제조사 성능 평가인지 공정 사용 적합성 평가인지 목적을 구분합니다.
7. 교정 기준기와 교정 과정의 측정불확도를 확인합니다.
8. 필요한 경우 TUR을 검토합니다.
9. 적합성 판정이 필요한 경우 적용할 Decision Rule을 정합니다.
10. 최종적으로 결정한 Tolerance와 그 근거를 문서화합니다.

이 과정을 거치면 담당자가 바뀌더라도 왜 해당 계측기의 허용오차가 ±0.1인지, ±0.5인지 설명할 수 있습니다.

교정성적서에서는 무엇을 확인해야 할까

Calibration Tolerance를 정했다면 실제 교정성적서에서는 단순히 PASS 표시만 확인하기보다 다음 항목을 함께 확인하는 것이 좋습니다.

• Reference Value
• Indicated Value
• Error
• Measurement Uncertainty
• As Found
• As Left
• 적용된 Tolerance
• 적합성 판정 여부
• Decision Rule 적용 여부

특히 As Found는 조정하기 전 계측기의 상태를 보여주기 때문에 실제 현장에서 사용하던 계측기가 허용범위를 유지하고 있었는지를 판단하는 데 중요한 자료가 됩니다.

As Left만 확인하면 교정 직전까지 계측기가 어떤 상태였는지 놓칠 수 있습니다.

Calibration Tolerance는 숫자보다 근거가 중요하다

Calibration Tolerance를 결정할 때 가장 피해야 할 방법은 다른 계측기의 허용오차를 그대로 복사하거나 제조사 Accuracy 숫자만 보고 자동으로 적용하는 것입니다.

Calibration Tolerance를 결정할 때는 최소한 다음 네 가지를 구분해야 합니다.

• 제조사가 보증하는 계측기 성능
• 실제 공정에서 필요한 측정 성능
• 교정 과정의 측정불확도
• 합격과 불합격을 결정하는 판정 규칙

결국 좋은 Calibration Tolerance란 단순히 작은 숫자가 아니라 왜 그 숫자를 사용했는지 기술적으로 설명할 수 있는 허용오차입니다.

계측기 교정의 목적도 모든 장비를 최대한 정밀하게 만드는 것이 아니라 해당 계측기가 실제 사용 목적에 적합한 측정 성능을 유지하고 있는지를 확인하는 데 있습니다.

참고자료

• ISO/IEC 17025, 제조사 데이터시트, 교정기관 기술자료

함께 보면 좋은 글

Calibration에서 As Found와 As Left 데이터의 의미

IEC 60751 기준 PT100 Class A와 Class B 허용오차 차이

PLC Analog Input의 12bit·16bit Resolution 차이와 측정오차 계산