Styxis
Company
Knowledge

DataFusion random 필터 재작성: 같은 식처럼 보여도 추출 비율은 다르다

volatile 식을 복제하면 한 번 뽑은 난수의 범위 검사와 서로 다른 난수의 두 검사는 같은 실험이 아니다.

평가 횟수도 의미의 일부

확률적 식은 대수적 모양이 같아도 평가 횟수가 바뀌면 같은 실험이 아니다. Truthound로 선택 비율을 감시하려면 먼저 난수를 어느 시점에 몇 번 생성하는지와 허용 오차를 실험 계약으로 정해야 한다. [1, 2, 3]

범위 조건으로 바뀐 random

DataFusion 보고는 floor를 사용한 random 조건이 하한·상한 비교로 재작성되며 volatile 인자가 복제되는 사례를 제시한다. 두 비교가 같은 난수를 보지 않아 기대 선택 확률이 달라진다는 설명이다. 이는 특정 난수 결과가 예상과 다르다는 주장이 아니라 확률 실험 자체가 바뀌는 문제다. [1]

한 번 생성한 표본을 기준으로

한 번 생성한 난수를 고정한 대조군과 원래 필터의 비율을 비교하고, 표본 수에 맞는 사전 허용 구간을 정의한 뒤 optimizer 변경을 평가한다. 반복 실행 수와 seed 지원 여부도 기록한다. 관측 결과를 본 뒤 통과하도록 구간을 넓히면 검사가 원인 분석을 대신하게 된다. [1, 3]

설명용 허용 구간의 한쪽 경계

설명용으로 기대 선택 비율이 0.10인 충분한 표본의 상한을 0.12로 정했다고 하자. 관측 0.10은 이 상한 조건을 만족하지만 0.28은 실패한다. 실제 운영에서는 하한도 필요하며 표본 수와 다중 반복을 고려해 구간을 먼저 정해야 한다. 이 숫자를 모든 데이터 크기에 그대로 복사하지 않는다. [1, 3]

통계적 신호와 원인 확정의 차이

Truthound Core의 BetweenValidator는 준비한 실행별 선택 비율을 승인 구간과 비교할 수 있다. 비율 위반은 조사 신호이지 난수 독립성이나 optimizer 오류의 증명은 아니다. 난수를 먼저 물질화한 대조 결과와 실행 계획을 함께 확인하고, 평가 횟수가 보존되는 경로로 다시 시험한다. [1, 2, 3]

적용 조건

run_id별 sampled_rows·selected_rows·selection_fraction을 보존하고 표본 수와 반복 설계에 맞는 허용 구간을 관측 전에 정한다.

대안

난수를 한 번 물질화해 동일 표본으로 필터를 평가한다.

한계

  • 허용 구간은 표본 크기와 반복 실험 설계에 의존한다. Truthound가 난수 독립성이나 rewrite의 수학적 정당성을 증명하지 않는다.

근거

사건 확인일
대상 확인일
수정일