Arrow 반올림 검사: 격자 오차와 동률 정책을 나눠 보기
큰 자리 반올림에서는 올바른 배수인지와 올바른 동률 선택인지 모두 확인한다.
배수라고 해서 올바른 반올림은 아니다
반올림 검증은 격자 소속과 동률 선택을 별도 조건으로 다뤄야 한다. 격자 밖 값은 즉시 모순을 드러내지만 격자 안에서도 다른 쪽 배수를 선택할 수 있다. 금액이나 측정값의 기준 계산에는 반올림 간격과 half-even 같은 선택 규칙을 같이 저장해야 한다. [1, 2, 3]
상수를 고친 후보도 끝난 수정이 아니다
PyArrow 26.0.1 보고는 250000000000을 10의 11제곱 단위로 반올림했을 때 299999993856을 반환하는 사례를 제시한다. 기본 half-even 기대값은 200000000000이다. 보고는 scale 상수를 수정한 후보에서도 가짜 동률이 생긴다고 설명하고, 검증 범위가 전체 main 빌드가 아닌 분리된 translation unit임을 구분한다. [1]
기준 계산의 표현을 정하기
업무의 반올림 간격과 half-even 같은 동률 규칙을 기록하고 정수 또는 Decimal 기준 계산과 결과를 대조한다. 원래 업무값이 십진수인지 이미 binary64로 반올림된 값인지도 기록한다. 이 선택을 바꾸면 경계 근처의 기대 결과가 달라질 수 있다. 계산 후 격자 나머지와 기준 결과 차이를 각각 저장하면 원인 설명이 쉬워진다. [1, 3]
동률 하나로 설명하는 정상과 실패
설명용으로 입력 250000000000, 간격 100000000000, half-even을 고정한다. 두 이웃 배수 사이의 동률에서 짝수 계수 2를 선택하므로 기대값은 200000000000이다. 같은 값이면 정상이고 299999993856이면 실패다. 후자는 기대값과 다를 뿐 아니라 간격의 정확한 배수도 아니다. 이 예가 다른 모든 동률 처리까지 검증한 것은 아니다. [1, 3]
Truthound는 승인한 기대값을 비교한다
Truthound Core의 ColumnPairValidator로 독립 기준 계산과 관측 결과를 같은 입력 식별자에 연결해 비교할 수 있다. Decimal 또는 정수 계산을 준비하는 책임과 허용 오차 정책은 외부에 남는다. 오차를 넓혀 문제를 가리는 대신 격자 위반인지 동률 선택 차이인지 분류한 뒤 사용한 엔진과 반올림 정책을 검토한다. [1, 2, 3]
적용 조건
input_decimal, rounding_quantum, tie_policy, expected_rounded, observed_rounded 표를 원본 또는 독립 대조 경로에서 준비하고 관측 대상과 동일한 실행·파일·키 범위로 연결한다.
대안
정수 또는 Decimal 기반의 승인 반올림을 독립 기준으로 둔다.
한계
부동소수점 오차를 없앴다고 단정하지 않는다. 원문도 전체 main 빌드가 아닌 분리 translation unit 검증임을 구분한다.
근거
- 사건 확인일
- 대상 확인일
- 수정일
