Styxis
Company
Knowledge

Arrow 반올림 검사: 격자 오차와 동률 정책을 나눠 보기

큰 자리 반올림에서는 올바른 배수인지와 올바른 동률 선택인지 모두 확인한다.

배수라고 해서 올바른 반올림은 아니다

반올림 검증은 격자 소속과 동률 선택을 별도 조건으로 다뤄야 한다. 격자 밖 값은 즉시 모순을 드러내지만 격자 안에서도 다른 쪽 배수를 선택할 수 있다. 금액이나 측정값의 기준 계산에는 반올림 간격과 half-even 같은 선택 규칙을 같이 저장해야 한다. [1, 2, 3]

상수를 고친 후보도 끝난 수정이 아니다

PyArrow 26.0.1 보고는 250000000000을 10의 11제곱 단위로 반올림했을 때 299999993856을 반환하는 사례를 제시한다. 기본 half-even 기대값은 200000000000이다. 보고는 scale 상수를 수정한 후보에서도 가짜 동률이 생긴다고 설명하고, 검증 범위가 전체 main 빌드가 아닌 분리된 translation unit임을 구분한다. [1]

기준 계산의 표현을 정하기

업무의 반올림 간격과 half-even 같은 동률 규칙을 기록하고 정수 또는 Decimal 기준 계산과 결과를 대조한다. 원래 업무값이 십진수인지 이미 binary64로 반올림된 값인지도 기록한다. 이 선택을 바꾸면 경계 근처의 기대 결과가 달라질 수 있다. 계산 후 격자 나머지와 기준 결과 차이를 각각 저장하면 원인 설명이 쉬워진다. [1, 3]

동률 하나로 설명하는 정상과 실패

설명용으로 입력 250000000000, 간격 100000000000, half-even을 고정한다. 두 이웃 배수 사이의 동률에서 짝수 계수 2를 선택하므로 기대값은 200000000000이다. 같은 값이면 정상이고 299999993856이면 실패다. 후자는 기대값과 다를 뿐 아니라 간격의 정확한 배수도 아니다. 이 예가 다른 모든 동률 처리까지 검증한 것은 아니다. [1, 3]

Truthound는 승인한 기대값을 비교한다

Truthound Core의 ColumnPairValidator로 독립 기준 계산과 관측 결과를 같은 입력 식별자에 연결해 비교할 수 있다. Decimal 또는 정수 계산을 준비하는 책임과 허용 오차 정책은 외부에 남는다. 오차를 넓혀 문제를 가리는 대신 격자 위반인지 동률 선택 차이인지 분류한 뒤 사용한 엔진과 반올림 정책을 검토한다. [1, 2, 3]

적용 조건

input_decimal, rounding_quantum, tie_policy, expected_rounded, observed_rounded 표를 원본 또는 독립 대조 경로에서 준비하고 관측 대상과 동일한 실행·파일·키 범위로 연결한다.

대안

정수 또는 Decimal 기반의 승인 반올림을 독립 기준으로 둔다.

한계

  • 부동소수점 오차를 없앴다고 단정하지 않는다. 원문도 전체 main 빌드가 아닌 분리 translation unit 검증임을 구분한다.

근거

사건 확인일
대상 확인일
수정일