인공지능(AI) 채용에 대한 공정성 논란이 확산되고 있다. 특히, 기업·공공기관이 AI 면접을 도입하면서 AI 알고리즘이나 측정방법에 대한 기술적인 검토와 자문, AI의 차별·편향성에 대한 사전 논의도 없었던 경우가 빈번해 AI 채용의 신뢰성에도 문제가 제기되고 있다.

해외에서는 최근 채용 영역에서 AI 기술을 규제하는 법안이 마련되는 추세로, 국내에서도 공정한 인재 채용을 위해 AI 채용 관련 법규가 필요하다는 주장이 커지고 있다.

AI 채용은 현재 450여 기업들이 AI 서류평가, AI 면접, 역량검사인 AI 게임테스트 중 일부 전형을 도입해 운영하고 있다.

김민 정책활동가 진보네트워크센터 정책활동가가 최근 내놓은 '인공지능 채용 도구의 공정성과 투명성' 보고서에 따르면, AI 채용의 문제는 면접의 결과와 실제 채용 결과가 상이한 경우, AI 면접이 어떤 알고리즘을 통해 응시자를 불합격시켰는지 확인할 수 없는 문제, AI 면접이나 서류 심사 만으로 채용이 이뤄진 경우 등이 있었다.

AI 면접의 기술적 신뢰도 문제가 해결되지 않았음에도 불구하고, 공공기관의 체험형 청년인턴 모집 과정에서 AI 서류평가나 AI 면접을 최종 전형으로 진행한 경우도 빈번했다.

한국산업단지공단은 올해 상반기 체험형 청년 인턴 채용 과정에서 AI 서류 평가와 AI 역량검사를 도입했다. 특히, 다른 전형 없이 AI 역량평가상 고득점자 순으로 일반행정 직군 최종 합격자를 선발해 문제가 제기됐다.

중소벤처기업진흥공단은 지난해 상반기 체험형 청년인턴 모집 도중 일반 면접 전형을 AI 면접으로 변경해 최종 전형으로 진행해 논란이 됐다. 또 한국자산관리공사는 최근 3년간 체험형 청년인턴 모집 과정에서 면접을 AI 최종 전형으로 진행했으며, 한국전력기술도 지난해 상·하반기 체험형 청년인턴 모집과정에서 면접을 최종 전형으로 진행한 것으로 확인됐다.

한국방송통신전파진흥원은 AI 면접을 인재 채용 보조수단이 아닌 당락을 결정하는 수단으로 사용했음에도 어떤 AI 알고리즘을 통해 이들을 불합격시켰는지 파악하지 못 했다. AI가 이유를 설명할 수 없는 '블랙박스'적 특징을 가지는 것을 알면서도 대안도 마련하지 않은 채 AI의 결과를 전적으로 신뢰한 것이 문제가 된다는 지적이다.

또 채용 과정 중 AI 서류나 자기소개서 평가 만으로 한 번의 전형을 진행했음에도 이를 제대로 공지하지 않은 것도 문제가 됐다.

한국수자원공사는 2019년부터 AI 서류평가 시스템을 도입해 평가 결과를 면접 전형에 활용하고 있으며, 2차 전형에서도 60% 비중을 차지하는 자기소개서 기반 경험역량면접 전형에서 AI 평가로 진행된다는 공지를 하지 않았다. 또 한국전력거래소도 지난해 6월 일반직 공개채용 과정에 1차 전형으로 AI 서류 평가를 도입했는데, 자기소개서 심사를 AI 평가로 진행한다는 사실을 알리지 않았다.

중소벤처기업진흥공단은 지난해 7월 비대면 디지털 일자리 채용 중 서류 평가 전형을 다른 전형은 생략한 채 AI 서류 전형만으로 진행했으며, 서류평가 과정 중 채용 담당자가 개입했는지에 대해 일체의 정보를 제공하지 않았다.

AI 면접관과 사람 면접관의 심사 결과가 상이하다는 점도 신뢰성 우려를 증폭시키고 있다. 인천공항공사의 경우, AI 면접에서 최고 등급인 'S'를 받은 응시자 중 최종 합격자는 단 한명도 없었으며, D 등급을 받은 응시자의 무려 35%가 최종 합격한 것으로 집계됐다.

김민 정책 활동가는 보고서에서 "AI 채용도구의 사용자가 해당 도구가 무엇을 테스트하는 지, 지원자의 어떤 특성이 특정되는 지. 특정된 특성들이 직무 수행을 위해 필수적인 지 제대로 평가하지 않았다"며 "AI 학습 데이터가 모집단을 충분히 대표하지 않을 가능성이 있으며, 특정 집단이 과잉대표돼 차별을 재생산하는 원인이 될 수 있음에도 당락을 결정하는 직접적 수단이 되는 것이 문제"라고 밝혔다. 

최종연 법률사무소 일과사람 변호사는 "'채용절차의 공정화에 관한 법률'에서 채용시 외모, 키 등 차별적인 요소를 제외시키고 있는데, 어떤 표본 데이터를 학습하는 지 밝혀지지도 않은 AI를 채용 도구로 활용하면 외모, 목소리, 성량, 사투리 등이 평가 요소가 될 수 있어 법의 취지와 배치된다"며 "정보공개법에 따라 인사, 심사 자료는 비공개이고, 청구대상 정보는 기관이 보유하는 정보인데, AI 채용은 위탁 용역을 통해 평가해 매커니즘 자체가 없기 때문에 정보 공개 대상이 아니라는 점"을 지적했다. 

오정미 서울대 공익법률센터 변호사는 "취업, 신용등급 등은 공정성이 가장 중요한 데, AI 알고리즘이 어떻게 평가하는 지 알 수 없다는 점이 문제"라며 "시스템이 잘 설계됐다면 설명과 피드백을 주면 되는데, AI는 설명이 불가능하다는 특성 때문에 AI 채용의 모든 과정이 불투명하게 진행되는 문제가 있다"고 밝혔다.

유럽연합(EU), 미국 등 해외에서는 AI 채용이 중요한 만큼 법규가 속속 발의되는 추세인데, 국내에서도 채용의 공정성, 투명성 보장을 위해 규제나 법규가 필요하다는 주장이 제기되고 있다.

미국 일리노이주는 고용자가 채용 과정의 AI 면접 사용을 규제하는 '인공지능 영상면접 법'을 제정했다. 이에 따라 고용자는 AI 기술이 면접에 사용됨을 미리 통지해야 하며, AI가 어떻게 작동되고, 지원자를 평가하는 데 사용되는 특징을 설명하는 경위서를 지원자에게 제공해야 하며, 제3자 공유를 금지하하고 있다. 또 지원자로부터 사전 동의를 받아야 하고, 지원자가 면접 영상 삭제를 요구할 경우, 30일 이내에 파기해야 한다.

미국 뉴욕시는 '자동화된 채용 도구 판매에 관한 법안'을 운영하고 있다. AI 개발자는 나이, 성별, 인종, 국적에 따른 차별금지 등 지역 고용법을 준수하는 지 점검 대상이 될 수 있으며, 매년 편향성 감사를 진행해 결과를 제공해야 하며, 자동화된 채용 도구가 사용됐음을 통지해야 한다고 규정한다.

또 유럽연합 집행위원회가 발행한 '인공지능 백서'에서는 채용 과정에서 AI 애플리케이션 사용은 고위험으로 간주돼 학습용 데이터 관리 및 기록 보관의무와 사용자에게 AI 시스템 정보 제공, 정확성 확보, 인간의 감독이 제공돼야 한다고 규정돼 있다.