본문 바로가기
CALTECH

분해능 0.01 mm면 오차도 0.01 mm일까요? 계측기 사양 읽는 법

디지털 측정기의 표시 자릿수가 많으면 더 정확할까요? 표시 분해능, 사양서의 허용오차와 적용 조건, 교정성적서의 오차·측정불확도를 구분해 읽는 방법을 정리합니다.

작성 (주)칼테크 기술팀읽는 시간 7분KOLAS 공인교정기관 · 대구

0.01 mm씩 표시된다는 사실만으로 오차가 ±0.01 mm 이내라고 판단할 수는 없습니다. 표시 간격, 사양서가 정한 오차 한계와 적용 조건, 내 장비의 교정 결과를 나누어 확인하세요. 장비대장에 ‘정확도 0.01 mm’ 한 줄만 옮기기 전에, 그 숫자가 어느 항목인지 살펴보는 것이 좋습니다.

10.00 mm를 표시하는 디지털 캘리퍼스와 금속 블록, 사양 비교용 문서를 표현한 설명용 일러스트
그림 1. 표시 자릿수와 사양서, 개별 기기의 성적서를 함께 확인합니다. 특정 제품의 성능이나 실제 칼테크 현장을 보여 주는 사진이 아닌 설명용 일러스트입니다.

1. 화면의 마지막 자릿수는 무엇을 알려주나요?

디지털 측정기에서 표시값이 10.00, 10.01, 10.02 mm처럼 바뀐다면, 이 예시의 표시 간격은 0.01 mm입니다. 이는 표시값을 얼마나 잘게 구분해 읽을 수 있는지를 알려줍니다. 표시장치의 분해능은 의미 있게 구별할 수 있는 표시값의 최소 차이라는 개념입니다. (JCGM VIM 4.15)

측정 분해능은 측정하는 양이 얼마나 작게 변했을 때 그 변화가 지시값에 드러나는지를 뜻합니다. 잡음이나 마찰 등도 영향을 줄 수 있어, 표시 자릿수만으로 모든 측정 상황의 분해능을 설명하기는 어렵습니다. (JCGM VIM 4.14)

이 두 개념에서 확인하는 것은 작은 차이를 구분하는 능력입니다. 기준과 얼마나 어긋났는지를 알려면 비교 결과가 필요합니다. 따라서 마지막 자릿수에 ± 기호를 붙여 기기의 오차 한계로 적지 마세요.

2. 사양서의 ‘정확도’ 옆에 붙은 조건을 읽으세요

정확도는 측정값이 참값에 얼마나 가까운지를 나타내는 개념이며, VIM에서는 정확도 자체를 수치로 주는 양으로 정의하지 않습니다. 실제 제조사 사양표에는 ‘Accuracy’나 ‘정확도’라는 이름 아래 오차 한계와 조건을 표시하기도 하므로, 항목명과 설명을 함께 읽어야 합니다. (JCGM VIM 2.13 및 주석)

사양이나 규정에서 허용하는 오차의 한계는 최대허용오차라는 개념으로 구분할 수 있습니다. (JCGM VIM 4.26) 다만 사양표의 수치를 옮길 때는 그 제조사가 정의한 범위와 조건도 보존하세요. 단위, 해당 측정범위, 환경 조건, 포함되는 기능을 빼고 숫자만 적으면 의미가 달라질 수 있습니다.

예를 들어 설명용 가상 측정기 A와 B가 모두 0.01 mm씩 표시된다고 가정해 보겠습니다. 같은 적용 조건에서 사양에 명시된 오차 한계가 A는 ±0.02 mm, B는 ±0.03 mm라면, 표시 간격이 같아도 오차 한계는 다릅니다. 이 숫자는 읽는 방법을 보여 주기 위한 가상 사양이며 실제 제품·교정 결과나 선정 기준이 아닙니다.

3. 사양서와 내 기기의 성적서를 연결하세요

사양서는 모델에 관한 조건을, 교정성적서는 식별된 기기를 어떤 조건과 구간에서 확인했는지를 살피는 자료로 읽으세요. 먼저 모델명·기기번호와 단위를 맞추고, 실제 사용하는 구간이 보고된 교정 구간과 어떻게 대응하는지 확인합니다.

그다음 성적서의 오차와 측정불확도를 각각 읽습니다. 측정불확도는 이용한 정보에 따라 측정대상에 부여되는 값들의 퍼짐을 나타내는 특성입니다. 제조사 오차 한계나 화면의 표시 간격과 같은 뜻으로 합쳐 적지 않습니다. (JCGM VIM 2.26)

오차 부호와 보정값이 헷갈린다면 교정성적서의 오차·보정값·측정불확도 읽기를 참고하세요. 교정을 받았다고 표시 간격이 작아지거나 기기의 오차가 자동으로 없어지는 것도 아닙니다. 작업의 차이는 교정·조정·수리의 구분에서 이어 볼 수 있습니다.

표시 분해능은 표시 간격, 사양서는 오차 한계와 적용 조건, 성적서는 개별 기기의 결과를 확인하는 자료로 구분한 도식
그림 2. 세 자료에서 확인하는 질문을 나눠 보세요. 분해능이나 사양 하나만으로 실제 사용 적합성을 확정하지 않습니다.

4. 장비대장에 옮길 때는 항목을 나눠 적으세요

아래는 문서를 대조할 때 쓰는 정리표입니다. 사양서에 없는 항목은 추정해서 채우지 말고 ‘미확인’으로 남겨 제조사나 교정기관에 확인하세요. 성적서의 특정 구간 결과를 다른 기능이나 전 범위에 그대로 적용하지 않는지도 살펴봅니다.

확인 항목사양서에서 찾을 내용내 장비와 대조할 내용
식별·범위모델·기능·측정범위기기번호와 사용하는 기능·구간
표시 분해능표시 간격·단위·표시 모드실제 설정과 화면 표시
오차 한계항목명·수치·단위·적용 조건비교할 기준과 조건이 같은지
교정 결과사양만으로 개별 결과를 대신하지 않음성적서의 구간·오차·측정불확도
사용 조건환경·설치·사용 조건현장 조건과 다른 점·추가 질문

이 표는 장비 선택과 관리에 필요한 정보를 모으는 도구입니다. 제품 공차, 측정방법과 사용 조건을 함께 검토해야 하며, 표시 분해능만으로 사용 가능 여부를 정하는 공통 비율을 제시하는 표는 아닙니다.

자주 묻는 질문

표시 자릿수가 같으면 성능도 같나요?

표시 간격 외에 사양의 오차 한계와 적용 조건, 해당 기기의 교정 결과를 확인해야 합니다. 같은 숫자가 표시된다는 이유로 두 기기를 서로 바꿔 써도 된다고 결론 내리기는 어렵습니다.

사양서가 있으면 성적서는 없어도 되나요?

사양서만으로 사용 중인 개별 기기의 현재 상태를 확인할 수는 없습니다. 필요한 관리와 교정은 사용 목적·적용 절차에 따라 검토하고, 교정한 구간과 결과를 장비 식별정보에 연결해 보관하세요.

기기 모델과 사양서, 실제 사용 구간과 이전 성적서를 알려주세요. (주)칼테크가 확인할 교정 범위와 준비사항을 안내드리겠습니다. 접수에 필요한 공통 정보는 교정 의뢰 전 체크리스트에 정리했습니다. 교정 문의하기

교정 문의, 수량과 품목만 알려주세요

KOLAS 공인교정기관 (주)칼테크가 견적과 권장 주기를 함께 안내해 드립니다. 현장교정 가능 여부도 바로 확인됩니다.

교정 문의하기
회사
(주)칼테크 · KOLAS 공인교정기관
주소
대구광역시 달서구 성서공단북로 308, 성서관리공단 2층
전화
053-584-8841
이메일
calkc@naver.com
홈페이지
www.caltecherp.co.kr