인공지능(AI) 챗봇 '이루다' 사태에 대해 개인정보보호위원회는 지난달 말 이루다 개발사인 스캐터랩에 대한 제재 조치로 과징금·과태료 등 총 1억330만원을 부과했다.

개인정보위는 이루다 사태 관련 현장조사에만 100일을 소요했는데, AI의 향후 기술 개발에 미칠 파급력을 고려해 매우 신중히 결정했다는 입장이다. 특히, 산업계, 법·학계, 시민단체 등의 의견을 수렴한 가운데 최종 결정에 대해 격렬한 논쟁이 벌어지기도 했다.

이 같은 정부의 결정을 두고 상반된 평가가 나오고 있다. '솜방망이 처벌'이라는 반응도 있지만, AI 업계는 '엄격한 처분'이라며 AI 산업 위축을 우려하고 있다.

AI 산업 활성화를 위해 '원유'인 데이터 이용을 더 활발히 할 수 있도록 지난해 8월 데이터 3법이 발효됐음에도, 데이터 활용은 당초 기대만큼 활발히 이뤄지지 못하고 있다. 데이터 3법에서도 '가명정보'라는 기준이 모호해 기업들은 자칫 잘못 사용했다 강한 처벌을 받을 것을 우려해왔기 때문이다. 이 같은 상황에서 AI 업계는 이루다에 대한 강도 높은 제재로 데이터 이용이 더 어려워졌다는 반응이다.

이번 이루다 사태에서 정부가 가장 중요하게 고려한 부분이 AI 학습에 사용한 카카오톡 대화에 포함된 전화번호, 주소 등 개인정보를 삭제하거나 암호화하는 등 조치를 하지 않았다는 것인데, 스캐터랩은 최대한 가명처리를 했음에도 정보가 변형되거나 왜곡돼 가명처리를 하지 못한 부분이 많았다는 문제를 제기하고 있다. 전화번호를 한글로 표기하거나 지명을 잘못 표기한 경우, 이름만 적은 경우 등이 그 예다.

이번 결정으로 가명처리는 AI 업계에 큰 숙제로 남았고, 정부도 '제2의 이루다' 사태를 막기 위해 대책 마련에 분주하다. 개인정보위는 AI 서비스 개발자들이 지켜야 할 사항을 담은 'AI 개인정보보호 자율점검표'를 이달 말 공개하기로 했다. 하지만 이달 초 공개한 'AI 개인정보보호 6대 핵심원칙'은 '개인정보는 안전하게 관리한다' 등으로 'AI 윤리 원칙' 만큼이나 내용이 모호하기만 하다. 개인정보위가 발표할 54개 체크리스트에는 더욱 분명한 규정을 포함시켜야 한다.

정부는 스타트업이 대다수인 AI 시장에서 가명처리에 큰 어려움을 겪는 스타트업들이 이 문제를 해결할 수 있도록 기술 지원에도 적극 나서야 한다. 그렇지 않으면 '이루다 사태'는 언제든 다시 발생할 수 있으며, '이루다 사태'로 AI 챗봇 개발을 중단한 회사가 생겨난 것처럼, AI 산업 발전이나 유니콘 육성은 점점 더 멀어질 수 있다는 점을 명심해야 한다.