Truthound · 수치와 통계의 유효성 · 3/3
유한값·단위·정밀도와 통계적 해석을 구분합니다.
58 편
비유한 singleton의 모집단 분산 0을 안정성으로 읽지 않는다
비유한 singleton의 모집단 분산 결과를 유한 singleton의 무변동 상태와 합치지 않는다. 입력 class와 결과 tag를 함께 남겨 알 수 없는 산술이 안정성 지표로 발행되지 않게 한다.
DuckDB Parquet glob보다 먼저 timestamp 정밀도를 정하자
glob의 첫 파일이 바뀌어도 timestamp 정밀도가 유지되는지 실제 값을 비교한다. 출력 dtype만 확인하면 이미 반올림된 시간을 정상으로 승인할 수 있다.
DuckDB의 NaN 상수 비교를 대수식처럼 옮겨도 될까
NaN이 포함된 부정 비교식은 원래 식과 최적화 경로의 행 선택표로 대조한다. 비유한 값을 모두 격리하는 정책만으로 원래 필터 의미의 보존을 증명할 수는 없다.
DuckDB BIGNUM lambda는 플랫폼과 list 길이를 교차해 검사한다
큰 음수의 lambda 비교는 scalar 대조만으로 승인하지 않는다. 실제 운영 OS에서 list 길이와 원소 위치를 바꾸어 부호에 따른 Boolean 결과를 확인한다.
Doris DECIMAL cast의 정답도 같은 이중 반올림으로 만들면 안 된다
decimal cast의 기준은 목표 타입을 직접 읽는 독립 parser로 만든다. 중간 DOUBLE을 거친 값이나 짧은 출력만 비교하면 FLOAT 경로의 이중 반올림까지 놓칠 수 있다.
Doris ANALYZE 행 수와 load baseline의 시점을 맞추기
ANALYZE의 COUNT와 load delta가 같은 적재를 겹쳐 세지 않는지 시점과 counter 세대를 맞춘다. 추정치의 경쟁 조건을 실제 저장 행의 중복으로 해석하지 않는다.
ClickHouse 반올림 후 NaN과 infinity의 종류를 구분한다
반올림 뒤 NaN이 infinity로 바뀌었는지는 finite 검사만으로 구별되지 않는다. 입력과 출력의 특수값 class를 남겨 미정 계산과 무한 크기의 차이를 보존한다.
Polars NaN 비교 차이: GPU 전환 전에 행 선택 정책 정하기
NaN > 0의 Boolean 결과가 엔진에 따라 다르면 스키마 검사가 아니라 입력·행 선택 검사가 필요하다.
Polars Decimal shift 채움값: 1.25가 0.01로 바뀌는 경계를 검사하기
기존 행의 Decimal 정확성과 새 채움 행의 scale 변환은 서로 다른 계약이다.
DuckDB 정수 overflow: WHERE가 위험한 곱셈을 막아준다고 가정하지 말자
필터 평가 순서에 기대는 성공은 산술 입력이 안전하다는 증거가 아니다.
DuckDB SUM 뒤 UINT8 cast가 실패할 때: 집계 출력 타입의 용량 검증
입력 값이 작은 정수여도 집계 결과는 더 넓은 타입이 필요할 수 있다.
Pydantic Decimal multiple_of: 큰 정수의 거짓 수용과 거짓 거절
정확한 배수 조건은 근사 나눗셈 결과가 아니라 원래 십진 표현의 독립 정수 연산으로 가르치고 대조해야 한다.
jq 큰 정수 뺄셈: 원시 문자열과 정확한 차이값으로 검증하기
시각 차이가 작더라도 입력이 큰 정수이면 연산 전에 정밀도를 잃을 수 있으므로 원래 숫자를 함께 인계해야 한다.
Dask와 NumPy 누적합 차이: 청크 경계보다 먼저 정할 오차 예산
부동소수점 누적합의 차이는 독립 기준과 사전 오차 예산에 비추어 해석해야 한다.
Dask 복소 Cholesky 검증: 켤레전치를 포함한 재구성 잔차
복소 행렬 분해는 실수 예시의 전치를 그대로 쓰지 말고 원방정식으로 확인해야 한다.
Arrow tdigest의 NaN 결과: 먼저 q 범위를 검사하기
유효하지 않은 분위수 요청과 정상 요청의 근사 오차는 서로 다른 문제다.
Arrow 반올림 검사: 격자 오차와 동률 정책을 나눠 보기
큰 자리 반올림에서는 올바른 배수인지와 올바른 동률 선택인지 모두 확인한다.
Arrow duration 부호 반전 전 int64 최솟값 검사
checked 함수라는 이름만 믿지 말고 표현할 수 없는 양수 결과가 생기는 입력을 분리한다.
