'인공지능(AI) 기본법'이 마침내 국회 법제사법위원회를 통과하며 입법을 코앞에 뒀지만 논란이 일고 있다. 지금까지 문제로 지적됐던 조항들이 전혀 개선되지 않았다는 주장이다.

18일 정보인권연구소 등 4개 시민단체들은 국회 법사위의 'AI 기본법' 졸속처리 규탄 성명서를 냈다.

이들 단체는 "국민의 안전과 인권 및 민주주의에 대한 위험을 예방하기에 너무나 미흡해 시민사회가 반대한 AI 기본법안이 별다른 논의없이 졸속 통과했다"며 "AI 기본법안은 인공지능으로부터 위험한 영향을 받게 될 시민의 안전과 인권을 보호하기 위하여 고위험 인공지능을 시장에 출시하거나 업무용으로 사용하는 사업자들에게 마땅한 의무를 부과했어야 했다"고 밝혔다.

전날 법사위를 통과한 AI 기본법은 지난 11월 국회 과학기술정보방송통신위원회(과방위)에서 19개 법안을 병합심사 후 통과시킨 위원회 대안이다. 법안은 통과와 동시에 앞서 9월과 11월 형식적인 심사소위 통과로 축조심사가 제대로 이뤄지지 못했다는 문제 제기가 일었고, 이로 인해 여러 조항이 현시점에서 가장 시급한 문제들을 제대로 포용하지 못했다는 평가를 받았다.

특히 문제되는 조항은 ▲금지된 AI 기술 규정 미기재 ▲고영향(고위험) AI 범주 협소 규정 ▲고영향(고위험) AI 사업자 책무 이행 강제를 위한 제재 규정 미비 ▲이용자 권리 및 구제 방안의 부실성 ▲AI 감독을 위한 독립적 감독기관 부재 등 총 다섯 가지 항목으로 분류된다.

일부 시민단체에서는 국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것 또한 국민의 안전 등을 고려했을 때 심각한 문제를 일으킬 수 있다고 우려하고 있다.

시민단체의 한 관계자는 "AI 기본법에 따라 인공지능의 영향을 받게 될 시민에 대한 권리와 권리 침해 시의 구제절차가 없다"며 "현재 법안으로는 AI 채용으로 불합격 통보를 받은 청년도, 사회보장 AI로부터 보조금 지급거부 결정을 받은 시민도, 학력평가 AI로부터 납득할 수 없는 점수를 받은 학생도, 의료 AI의 진단오류로 피해를 입은 환자도 충분한 설명이나 구제를 보장받을 수 없다"고 설명했다.

이어 "경찰과 검찰이 도입하는 수사 AI의 인권침해 또한 지금 법률로는 이의제기를 할 수 없는 상태"라고 지적했다.

한국기자협회 등 5개 언론단체 또한 AI 기본법에 문제를 제기하고 의견서를 국회와 정부에 제출했다. AI 기본법 제정안에 생성형 AI 사업자가 AI 제품 및 서비스 개발을 위해 사용한 학습용 자료에 관한 기록을 수집·보관하고 공개하도록 하는 규정이 빠졌다는 것이다.

이들 단체는 "학습데이터 공개를 의무화하지 않는 것은 기술기업의 데이터 무단 이용을 허용해 결국 저작권자의 권리를 심각하게 침해하게 된다"며 "자신의 저작물이 어디에, 어떻게, 어떤 방식으로 사용됐고 결과물에는 어떤 방식으로 작용하게 되는지에 관해 저작권자가 알 권리를 잃고 정당한 대가 요구가 어려워 질 것"이라고 주장했다.

앞서 미국 하원이 4월 '학습 데이터 공개에 관한 법안'이 AI 학습데이터 요약본을 저작권청에 제출하게 하는 사례와 EU가 3월 AI 법을 통해 학습데이터셋의 상세 내용을 공개하도록 규정한 것을 참고할 것을 촉구했다.

같은 문제를 두고 의견이 나뉜 부분도 있다. 언론단체에서는 딥페이크 범죄 등을 예방하기 위해 AI 생성물에 '워터마크(식별표시)'를 넣도록 한 부문에 대해 "환각현상과 편향성 예방을 위한 적절한 조치"라고 평가했지만 IT 업계 관계자들은 "유명무실한 조항"이라며 맹비판했다. 이어 AI 기본법이 단순 민원과 신고만으로도 정부의 기업 현장 조사가 가능하도록 하는 독소조항을 갖고 있다고도 비판했다.

해당 부분에 대해 과기정통부는 설명자료를 내고 "AI 업계에 대한 사실 조사는 행정 조사법에서 정하는 규정을 반영한 일반적 내용"이라며 해명했다.