AI 에이전트의 인간 통제, 승인 기록에 필요한 적용 범위
승인 근거가 없으면 자동 허용하지 말고 사람이 검토할 질문으로 남겨야 한다.
위치와 권한은 다르다
AI 에이전트가 프라이빗 환경 안에 있어도 적절한 사람의 승인 없이 행동할 수 있다. 데이터 위치와 결정 권한은 다른 질문이다. 민감한 업무를 검토하는 팀은 Truthound로 작업 원장과 승인된 역할 원장의 관계를 확인할 수 있다. 기술적으로 유효한 로그를 권한으로 바꾸는 대신 권한에 관한 질문을 보존하는 데 의미가 있다.
협력사가 제시한 운영 방향
Mattermost와 Cohere는 2026년 10월 28일 국가 안보와 핵심 인프라를 위한 프라이빗 배포 협력을 발표했다. 에이전트의 행동이 인간의 권한 아래 있고 기록에 남는 구성을 설명한다. 이는 협력사가 제시한 운영 방향이다. 특정 고객의 승인, 번복, 긴급 절차가 실제로 어떻게 작동하는지 입증한 자료는 아니다.
작업 상태 보존
허용된 시험에서 에이전트가 변경을 제안하고 사람이 승인한다고 가정하자. 원장에는 작업 식별자, 승인자, 결정 상태, 정책 참조, 발생 시각이 필요하다. 승인이 없는 상태와 거절은 다르고 제안과 실행도 다르다. 이 상태들을 보존한 다음에야 업무 흐름을 해석할 수 있다.
선언한 조건의 검사
Polars DataFrame으로 준비한 에이전트 행동 승인표를 검사할 때, Truthound Core Python SDK 3.3.4의 ConditionalExpressionValidator로 선택한 행에 조직이 정한 조건을 검사할 수 있다. 승인 상태의 행에는 승인자와 정책 참조를 요구하는 식이다. 결측 처리도 명시해야 한다. 승인자를 역할 원장과 연결하는 참조 검사는 별도로 둘 수 있다. 두 검사 모두 기록의 진위나 사람이 내용을 이해했는지 확인하지는 못한다.
사용자 검사 대안
Pandera 0.35.0의 사용자 수락 함수를 기존 데이터프레임 경로에 유지할 수도 있다. Polars도 지원한다. 파생 필드와 예외 처리가 정책에 맞게 시험돼 있다면 사용할 수 있다. 라이브러리를 바꿔도 승인 자체가 강해지지는 않는다. 제안·승인·거절·실행을 나누면서 빠진 근거를 지우지 않는지가 중요하다.
권한 밖 승인자의 반례
도입 전에 적용 범위를 벗어난 승인자라는 반례를 검토하자. 식별자는 유효하지만 그 작업을 승인할 권한은 없는 사람을 넣는다. 표 검사가 통과한다면 정책 관계를 추가해야 한다. 승인 과정이 정상이라는 결론을 내릴 때가 아니다. 설명용 합성 기록으로 시험하고 실제 책임자가 긴급 예외까지 포함한 범위를 정한다.
실행 지점의 집행
근거가 빠졌다면 승인 상태를 자동으로 채우지 말고 지정된 사람에게 검토를 요청한다. 실제 집행은 작업을 실행할 수 있는 시스템에서 이뤄져야 한다. 오프라인 품질 검사는 이를 돕는 근거다. 원본 로그와 정책 버전을 보존해 이후에도 누가 어떤 권한으로 판단했는지 확인할 수 있게 한다.
근거
- 사건 확인일
- 대상 확인일
- 수정일
