'인공지능(AI) 기본법'이 마침내 심사소위를 통과했지만 법안을 둘러싸고 논란이 일고 있다.

국민의힘은 지난 21일 과학방송통신위원회 정보통신방송법안심사소위원회에서 '인공지능발전과 신뢰기반조성 등에 관한 법률안(AI 기본법)'과 디지털포용법 등을 통과시켰다. 국민의힘 108인 전원이 공동발의한 1호 당론법안이다.

필요성이 제기 된 2022년부터 어영부영 미뤄지고 있었던 만큼 고무적으로 바라보는 시선도 있지만 대다수 업계 관계자와 시민단체의 반응은 부정적이다. 형식적인 심사를 했다는 혐의와 함께 중요한 쟁점 조항은 빠지는 등 반쪽짜리 법안이라는 비판이다.

24일 <메트로경제> 취재에 따르면 처음 심사소위를 통과한 'AI 기본법'을 두고 다양한 의견이 오가고 있다.

AI 기본법은 AI 기술이 발전하는 과정에서 개발·활용·산업육성·악용 등 다양한 상황에서 나타날 수 있는 문제들에 대한 토대가 되는 기본법안이다. 국민의힘이 통과시킨 법안 외에도 지난 6월 더불어민주당 소속 의원들이 관련 법안을 4건 발의한 바 있다. 십사소위까지 통과한 사례는 이번 국민의힘이 당론으로 채택, 통과시킨 입법안이 처음이다.

법안을 통과시킨 국민의힘은 "대한민국의 AI경쟁력 제고와 세대·소득 간 디지털 격차 없는 나라, 가계 통신비부담 완화를 위해 오늘 소위에서 통과되었던 법안들이 2024년도 정기국회에서 통과될 수 있도록 끝까지 최선을 다하겠다"고 약속했다.

문제는 해당 법안이 형식적인 의견수렴과 심사를 거쳤다는 혐의와 최근 업계에서 비판 중인 다양한 기술적 허점을 거대로 수렴했다는 점이다.

참여연대 측은 "국회는 인공지능의 위험과 관련하여 제기되는 수많은 쟁점을 다루는 이 제정법을 절차적으로 충분히 심사한 것으로 보이지 않는다"며 이번 AI 기본법 통과 전 단 두차례 심사소위가 개최됐다고 지적한다. 실제로 과방위는 지난 9월 3일 7개 법안을 대상으로 심사소위를 개최했고, 19개 발의안을 대상으로 한 심사소위는 지난 11월 21일 처음 열렸다. 이렇듯 짧은 시간 내 급박하게 진행 된 만큼 해당 법안에 대한 충실한 축조 심사가 이뤄졌는지 여부에 대해 의문이 제기되고 있다. 해당 회의록은 마지막 주중 나올 예정이다.

기술적 허점에 대한 비판은 업계 관계자들로부터 쏟아지고 있다. 가장 문제적인 요소로 지적되는 것은 AI 사업자에 불법·딥페이크 생성물을 막을 의무를 강화하고, AI 생성물을 확인할 수 있도록 워터마크(식별표시)를 삽입해 명시하도록 한 부분이다.

AI 생성물이라는 점을 명시해야 한다는 점에 대해 많은 업계 관계자들은 필요하다는 의견을 내놓고 있지만 법안의 실효성에 대해서는 모든 관계자가 "없다"고 단정하고 있다.

해당 워터마크는 데이터 생성 단계에서 AI 저작물임을 밝히는 데이터를 삽입하는 방법으로 비가시적인 방안이 대다수며 가시화 하는 경우는 많지 않다. 가시화 했을 때 생성형 AI의 활용 의의가 사라진다는 판단에서다. 비가시적인 방안은 더욱 문제적이다. 실제로 워터마크가 삽입된 AI 저작물은 일반인이 이를 확인할 방안이 없다. 특수한 프로그램을 거쳐 확인해야 하는 만큼 무용지물이 될 가능성이 높다. 한때 워터마크 기법의 대안으로 떠올랐던 '독풀기(Poisoning Attacks)' 또한 현재 AI를 이용한 독풀기 기법의 규칙성으로 인해 AI를 이용한 파훼가 이뤄진 상태다.

업계 관계자 A씨는 "현재 AI 저작물과 딥페이크 범죄 등에 효과가 있을 것으로 예상했던 워터마크 삽입과 독풀기(Poisoning Attacks) 등 대부분의 기법이 파괴된 상태"라며 "법안 설계 과정에서 업계 관계자들의 목소리를 충분히 들었는지, 연구 결과를 확인했는지 의문이 든다"고 지적했다.