컴플라이언스 · July 18, 2026 · 6분 읽기

채용 AI는 고위험 AI입니다: 첫날부터 NYC LL144와 EU AI Act에 맞춰 구축하기

자동화된 채용 도구는 응용 AI에서 가장 규제가 엄격한 영역에 자리하고 있습니다. 우리가 NYC Local Law 144와 EU AI Act를 법률적 사후 대응이 아니라 설계 입력값으로 다루는 이유와, 그것이 제품 안에서 구체적으로 무엇을 의미하는지 설명합니다.

채용을 위한 AI를 구축한다면, 규제 당국은 이미 여러분이 무엇인지 규정해 두었습니다. NYC Local Law 144는 자동화된 고용 결정 도구를 편향 감사의 대상으로 삼으며, EU AI Act는 고용 관련 AI를 Annex III, 즉 문서화, 인간 감독, 로깅, 투명성에 관한 의무를 수반하는 고위험 범주에 포함시킵니다. 여러분은 이를 법무팀의 문제로 다룰 수도 있고, 엔지니어링 명세로 다룰 수도 있습니다. 우리는 명세로 다루기로 했습니다.

그것이 구체적으로 의미하는 것

• 생성 시점의 편향 스캔 — 모든 문항은 뱅킹되기 전에 편향 신호에 대해 스캔되며, 스캔 결과가 기록됩니다. 스캔에 실패한 콘텐츠가 조용히 통과되는 일은 없습니다. 스캔되지 않은 콘텐츠는 감사 완료된 정상 콘텐츠로 뱅킹되지 않고 보류됩니다.
• 제품 기능으로서의 인간 감독 — 채용 담당자 검토 큐는 규정 준수를 위한 연출이 아닙니다. 이는 Article 14의 형태를 갖춘 인간 개입(human-in-the-loop) 장치이며, 승인/편집/거부 조치가 로깅됩니다.
• 어디에나 존재하는 감사 추적 — 게이트 판정, 동의 기록(데이터 처리 동의와 감독 동의는 별개입니다), 사유가 포함된 게이트 결정, 그리고 행위자와 사유가 기록된 채용 담당자 재정의(override). 감사인이 '이 지원자는 왜 거부되었는가?'라고 물으면, 그 답은 발굴 작업이 아니라 하나의 조회로 얻어집니다.
• 무결성을 보존하는 삭제 — GDPR Article 17 삭제는 익명화된 무결성 해시를 유지하면서 개인 콘텐츠를 제거하므로, 삭제 요청이 감사 추적 자체를 파괴하지 않습니다.

솔직하게 말하는 부분

도구는 규정 준수를 뒷받침하지만, 규정 준수를 부여하지는 않습니다. LL144 편향 감사는 독립적인 감사인이 여러분의 사용에 대해 수행하는 것이며, 불리효과(adverse-impact) 분석은 여러분의 조직이 책임지는 것입니다. 벤더가 정당하게 약속할 수 있는 것은 그러한 작업에 필요한 기록을 생성함으로써 그 작업을 가능하게 하는 것입니다. 그것이 우리가 하는 약속이며, 우리가 구매하는 어떤 벤더에게도 바라는 약속입니다.

여기에는 시장에 관한 관찰도 있습니다. 대부분의 평가 벤더는 품질 관리나 감사 방법론을 전혀 공개하지 않습니다. 이러한 규제 체제의 집행이 성숙해질수록, '우리는 우리의 작업 근거를 보여줄 수 있다'는 것은 차별화 요소가 아니라 기본 요건이 됩니다. 우리는 오히려 앞서 있기를 택합니다.