센서 Linearity와 Repeatability 차이｜오차 패턴으로 구분하기

센서를 점검하다 보면 같은 “측정오차”라도 나타나는 패턴이 서로 다른 경우가 있습니다.

예를 들어 0%와 100%에서는 기준값과 잘 맞는데 25%, 50%, 75% 같은 중간 지점에서만 오차가 커지는 센서가 있습니다.

반대로 기준값 50%를 여러 번 반복해서 입력했는데 측정값이 49.7%, 50.4%, 49.9%처럼 매번 달라지는 경우도 있습니다.

첫 번째 경우에는 Linearity, 즉 선형성을 확인해야 하고, 두 번째 경우에는 Repeatability, 즉 반복성을 먼저 확인해야 합니다.

둘은 모두 센서의 측정성능과 관련된 항목이지만 의미와 확인 방법이 다릅니다.

특히 Linearity Error를 Zero Error나 Span Error와 혼동하거나, Repeatability 문제를 단순한 Accuracy 문제로 판단하면 잘못된 조정을 할 수 있습니다.

이번 글에서는 실제 측정값 패턴을 이용해 Linearity와 Repeatability를 구분하는 방법을 정리해보겠습니다.

Linearity란 무엇인가

Linearity는 센서의 입력과 출력 관계가 기준이 되는 직선 관계에서 얼마나 벗어나는지를 나타내는 특성입니다.

예를 들어 측정범위가 0~100인 센서가 이상적으로 동작한다면 다음과 같은 관계를 기대할 수 있습니다.

기준 입력	이상적인 출력
0%	0
25%	25
50%	50
75%	75
100%	100

하지만 실제 센서는 모든 지점에서 완벽하게 직선적인 출력을 내지 않을 수 있습니다.

예를 들어 다음과 같이 측정되었다고 가정해보겠습니다.

기준 입력	실제 측정값	오차
0%	0.0	0.0
25%	25.4	+0.4
50%	50.8	+0.8
75%	75.4	+0.4
100%	100.0	0.0

0%와 100%에서는 기준값과 일치하지만 중간지점에서 출력이 기준 직선보다 위로 벗어나 있습니다.

이러한 패턴이라면 Zero나 Span만의 문제보다는 선형성 특성을 확인할 필요가 있습니다.

Linearity Error는 어떻게 계산할까

선형성 오차를 단순화해서 표현하면 기준 직선과 실제 출력 사이의 최대 편차를 측정범위에 대한 비율로 나타낼 수 있습니다.

예를 들어 측정범위가 0~100이고 최대 편차가 0.8이라고 가정하면,

Linearity Error = 0.8 ÷ 100 × 100 = 0.8% FS

와 같이 계산할 수 있습니다.

다만 실제 제조사 데이터시트에서 Linearity를 정의하는 방법은 동일하지 않을 수 있습니다.

대표적으로 기준 직선을 설정하는 방식에는 다음과 같은 차이가 있을 수 있습니다.

• End Point 방식
• Best Fit Straight Line 방식
• Terminal Based 방식
• 독립 선형성 방식

따라서 센서 데이터시트의 Linearity, Non-Linearity, BFSL 등의 항목을 비교할 때는 숫자만 보지 말고 제조사가 어떤 기준선을 사용했는지 확인해야 합니다.

Gain Error와 Linearity Error를 혼동하면 안 되는 이유

실무에서 흔히 하는 실수가 있습니다.

예를 들어 다음과 같이 측정됐다고 가정해보겠습니다.

• 기준값 1.0 → 측정값 1.05
• 기준값 2.0 → 측정값 2.10
• 기준값 3.0 → 측정값 3.15

모든 측정값이 기준보다 정확히 5%씩 높습니다.

얼핏 보면 값이 틀렸으므로 Linearity Error라고 생각할 수 있습니다.

하지만 입력과 출력 관계가 계속 일정한 비율을 유지한다면 직선성 자체는 유지되고 있을 수 있습니다.

이 경우에는 Gain 또는 Span Error 가능성을 먼저 확인하는 것이 더 적절합니다.

즉,

측정값이 틀렸다 = 무조건 Linearity 문제

는 아닙니다.

센서 오차를 분석할 때는 출력값의 크기뿐 아니라 오차가 어떤 형태로 나타나는지 확인해야 합니다.

Repeatability란 무엇인가

Repeatability는 동일한 조건에서 같은 입력을 반복해서 적용했을 때 측정결과가 얼마나 서로 가깝게 반복되는지를 나타냅니다.

예를 들어 센서에 기준값 50을 세 번 입력했다고 가정해보겠습니다.

반복성이 좋은 경우

측정 횟수	측정값
1회	50.01
2회	49.99
3회	50.02

측정값이 매우 비슷하게 반복됩니다.

반복성이 좋지 않은 경우

측정 횟수	측정값
1회	49.5
2회	50.7
3회	49.9

동일한 입력인데 결과가 비교적 넓게 흩어집니다.

이 경우에는 센서 자체의 Repeatability뿐 아니라 다음과 같은 요인도 함께 확인해야 합니다.

• 입력 기준기의 안정성
• 센서 장착상태
• 진동
• 전기적 노이즈
• 온도 변화
• 배선 접촉상태
• 측정기의 분해능
• 공정 자체의 실제 변동

즉 측정값이 흔들린다고 해서 바로 센서의 Repeatability 사양 불량이라고 단정해서는 안 됩니다.

Linearity와 Repeatability는 동시에 나쁠 수도 있다

Linearity와 Repeatability는 서로 다른 특성이므로 한쪽이 좋다고 다른 쪽도 반드시 좋은 것은 아닙니다.

예를 들어 센서가 다음처럼 동작할 수 있습니다.

사례 1. Linearity는 나쁘지만 Repeatability는 좋음

50% 입력을 반복했을 때:

50.8 → 50.8 → 50.8

매번 같은 값을 냅니다.

반복성은 좋지만 실제 기준값인 50보다 항상 0.8 높습니다.

그리고 0%와 100%는 정상인데 중간구간에서만 이러한 편차가 커진다면 선형성 문제를 의심할 수 있습니다.

사례 2. Linearity는 괜찮지만 Repeatability가 나쁨

각 입력점의 평균값은 기준 직선에 가까운데 동일한 입력을 반복할 때 값이 크게 흩어질 수도 있습니다.

예를 들어 50%에서:

49.4 → 50.5 → 50.1

처럼 결과가 반복적으로 달라지는 경우입니다.

이때 평균값만 보면 50에 가까워 보이지만 실제 제어에서는 출력 변동이 문제가 될 수 있습니다.

Linearity와 Repeatability 비교

구분	Linearity	Repeatability
의미	기준 직선에서 벗어나는 정도	동일 입력 반복 시 결과의 일관성
확인 방법	여러 입력점 측정	같은 입력을 여러 번 반복
대표 증상	중간구간에서 특정 방향으로 오차	동일 입력에서도 값이 계속 달라짐
Zero 조정으로 해결	일반적으로 불가능	해결되지 않음
Span 조정으로 해결	단순 Gain Error라면 가능할 수 있음	해결되지 않음
주요 확인 항목	센서 특성·보정곡선	노이즈·환경·장착·센서 안정성

센서 점검에서 5-Point 측정이 중요한 이유

Linearity는 한 지점만 측정해서 판단하기 어렵습니다.

예를 들어 0%와 100% 두 점만 확인하면 다음과 같은 상태를 놓칠 수 있습니다.

입력	측정값
0%	0.0
25%	25.5
50%	50.9
75%	75.5
100%	100.0

0%와 100%만 확인하면 정상처럼 보입니다.

하지만 중간점까지 측정하면 실제 출력곡선이 기준 직선에서 벗어나 있다는 사실을 확인할 수 있습니다.

따라서 Linearity를 평가하려면 측정범위 전체에서 여러 지점을 확인하는 것이 중요합니다.

실제 Calibration Point의 수와 위치는 장비 사양, 공정 중요도, 교정절차 등에 따라 결정해야 하며 모든 장비에 동일한 포인트 수를 적용할 필요는 없습니다.

상승과 하강 방향도 확인해야 할까

정밀하게 센서 특성을 확인해야 하는 경우에는 입력을 증가시키는 방향뿐 아니라 감소시키는 방향에서도 측정할 수 있습니다.

예를 들어:

0 → 25 → 50 → 75 → 100%

까지 상승시킨 뒤,

100 → 75 → 50 → 25 → 0%

순서로 다시 측정합니다.

같은 50% 입력에서도 상승할 때와 하강할 때 측정값이 다르다면 Linearity나 Repeatability뿐 아니라 Hysteresis 특성도 함께 검토할 필요가 있습니다.

즉 센서 측정오차를 다음 세 가지로 구분해서 보는 것이 좋습니다.

• 기준 직선과 얼마나 다른가 → Linearity
• 반복해서 같은 값이 나오는가 → Repeatability
• 상승·하강 방향에 따라 값이 다른가 → Hysteresis

Zero Error와 Span Error는 어떻게 구분할까

센서가 전체 범위에서 일정한 방향으로 틀렸다면 Linearity보다 Zero 또는 Span을 먼저 확인해야 할 수 있습니다.

Zero Error

예를 들어 모든 측정값이 기준보다 약 +2만큼 높다면 Zero Offset 가능성을 검토할 수 있습니다.

기준	측정
0	2
25	27
50	52
75	77
100	102

Span 또는 Gain Error

입력값이 커질수록 오차도 일정 비율로 증가한다면 Span 또는 Gain 특성을 확인해야 합니다.

기준	측정
0	0
25	26.25
50	52.5
75	78.75
100	105

Linearity Error

Zero와 Full Scale은 맞는데 중간구간에서 곡선 형태로 벗어난다면 Linearity 가능성이 상대적으로 높습니다.

이렇게 오차의 크기보다 오차 패턴을 보는 것이 중요합니다.

필터를 적용하면 Repeatability가 좋아질까

평균값 필터나 저역통과필터를 적용하면 출력값의 흔들림이 줄어들어 Repeatability가 좋아진 것처럼 보일 수 있습니다. 특히 노이즈가 큰 신호에서는 반복 측정값의 분산이 작아지는 효과가 있습니다.

다만 필터는 센서 자체의 반복성을 개선하는 것이 아니라 측정 신호의 변동을 줄이는 방법입니다. 따라서 Repeatability 문제를 판단할 때는 필터 적용 전 원신호와 적용 후 값을 함께 확인하는 것이 좋습니다.

Calibration과 Adjustment도 구분해야 한다

Calibration은 기준값과 실제 측정값의 차이를 확인하는 과정이고, Adjustment는 그 차이를 줄이기 위해 Zero나 Span 등을 실제로 조정하는 작업입니다.

즉 Calibration 결과에서 오차가 확인됐다고 해서 곧바로 센서를 조정해야 하는 것은 아닙니다. 먼저 오차가 Zero, Span, Linearity, Repeatability 중 어디에서 발생하는지 구분한 뒤 필요한 경우에만 Adjustment를 진행하는 것이 좋습니다.

관련 내용은 [Zero Drift와 Span Drift 차이] 글도 함께 참고하면 이해하기 쉽습니다.

현장에서 Linearity와 Repeatability를 확인하는 순서

센서 출력이 의심된다면 다음 순서로 확인하면 원인을 구분하는 데 도움이 됩니다.

1. 안정적인 기준 입력을 준비합니다.
2. 0%, 25%, 50%, 75%, 100% 등 여러 지점에서 측정합니다.
3. 각 지점의 기준값과 측정값을 기록합니다.
4. Zero와 Full Scale의 오차를 먼저 확인합니다.
5. 중간값이 기준 직선에서 벗어나는지 확인합니다.
6. 동일한 입력을 여러 번 반복하여 값의 산포를 확인합니다.
7. 필요한 경우 상승·하강 방향을 모두 측정합니다.
8. 전원, 배선, 노이즈, 주변 온도 등의 영향을 확인합니다.
9. 제조사의 Accuracy·Linearity·Repeatability 사양과 비교합니다.
10. 허용범위를 벗어나면 Calibration 결과를 바탕으로 조정 또는 교체 여부를 검토합니다.

데이터시트에서는 무엇을 확인해야 할까

센서 데이터시트에는 다음과 같은 항목이 함께 표시되는 경우가 있습니다.

• Accuracy
• Linearity 또는 Non-Linearity
• Repeatability
• Hysteresis
• Zero Error
• Span Error
• Temperature Effect
• Resolution

이 수치들은 의미가 서로 다릅니다.

예를 들어 ±0.1% FS Linearity와 ±0.1% FS Accuracy를 같은 의미로 해석해서는 안 됩니다.

또한 제조사에 따라 Accuracy에 Linearity, Hysteresis, Repeatability 등을 포함해 하나의 Total Error로 표시하기도 하고 각 항목을 별도로 표시하기도 합니다.

따라서 센서를 비교할 때는 숫자 하나만 보는 것보다 해당 사양에 어떤 오차 성분이 포함되어 있는지 데이터시트의 정의를 함께 확인해야 합니다.

자주 묻는 질문

Linearity가 좋으면 Accuracy도 좋은가요?

반드시 그렇지는 않습니다.

Linearity가 좋아도 Zero Offset이나 Span Error가 크다면 실제 측정값은 기준에서 벗어날 수 있습니다.

따라서 Accuracy는 Linearity뿐 아니라 Zero, Span, Repeatability 등 여러 오차 요소를 함께 확인해야 합니다.

같은 값을 계속 표시하면 Repeatability가 좋은 건가요?

동일한 안정된 입력을 반복했을 때 비슷한 결과가 나온다면 Repeatability가 좋은 방향으로 볼 수 있습니다.

하지만 입력 자체가 실제로 일정했는지, 측정기의 분해능이나 필터 설정이 결과를 제한하고 있지는 않은지도 확인해야 합니다.

Zero 조정을 하면 Linearity도 좋아지나요?

일반적으로 그렇지 않습니다.

Zero Adjustment는 주로 Offset을 조정하는 작업입니다.

출력곡선 자체가 기준 직선에서 벗어난 Linearity 문제를 Zero 조정만으로 해결하기는 어렵습니다.

Repeatability가 나쁘면 센서를 바로 교체해야 하나요?

바로 센서 불량으로 판단하면 안 됩니다.

전기적 노이즈, 진동, 장착상태, 온도 변화, 기준입력의 불안정, 배선 접촉문제 등이 동일한 증상을 만들 수 있기 때문입니다.

먼저 측정환경을 확인한 뒤 센서 자체의 문제인지 구분하는 것이 좋습니다.

정리

센서의 Linearity와 Repeatability는 모두 측정성능을 평가하는 중요한 항목이지만 서로 다른 특성을 의미합니다.

Linearity는 측정범위 전체에서 입력과 출력 관계가 기준 직선에서 얼마나 벗어나는지를 확인하는 항목입니다.

반면 Repeatability는 동일한 조건과 입력에서 반복 측정했을 때 결과가 얼마나 일관되게 나타나는지를 확인하는 항목입니다.

실제 현장에서는 단순히 “센서 값이 틀린다”고 판단하기보다 오차가 나타나는 패턴을 확인하는 것이 중요합니다.

• 전체 범위가 일정하게 이동한다 → Zero Error 확인
• 입력이 커질수록 비례 오차가 커진다 → Span/Gain 확인
• 중간구간만 기준 직선에서 벗어난다 → Linearity 확인
• 같은 입력에서 값이 반복적으로 달라진다 → Repeatability 확인
• 상승·하강 방향에서 값이 다르다 → Hysteresis 확인

이러한 방식으로 오차의 패턴을 구분하면 불필요한 Zero·Span 조정을 줄이고 센서 자체의 문제인지, 배선·노이즈·환경 문제인지도 보다 체계적으로 판단할 수 있습니다.

참고자료

• JCGM 200:2012, International Vocabulary of Metrology (VIM) — 측정 정확도, 측정 정밀도, 반복조건 및 측정 관련 기본 용어 정의.
• NIST, Technical Note 1297 — Guidelines for Evaluating and Expressing the Uncertainty of NIST Measurement Results — 반복 측정, 표준편차 및 측정불확도 평가에 관한 기본 자료.
• NIST/SEMATECH, e-Handbook of Statistical Methods — 반복 측정 데이터의 산포와 측정시스템 분석에 참고할 수 있는 통계 자료.
• 제조사 센서 데이터시트 — 실제 적용 시 해당 센서의 Linearity, Repeatability, Hysteresis 및 Accuracy 정의를 우선 확인.

함께 보면 좋은 글

• 센서 출력의 Zero Drift와 Span Drift 차이
  시간과 환경 변화에 따라 Zero와 Span이 어떻게 달라지는지 확인할 수 있습니다.
• 계측기 Calibration Tolerance, 제조사 Accuracy 그대로 쓰면 될까? 허용오차 결정하는 방법
  센서 Accuracy와 실제 교정 허용오차를 어떻게 구분하고 설정해야 하는지 정리한 글입니다.
• 교정성적서 As Found As Left 차이｜계측기 교정 결과 보는 법
  교정 전·후 데이터를 비교해 센서의 실제 상태와 조정 결과를 해석하는 방법을 함께 확인할 수 있습니다.