"데이터는 예스(YES)도 아니고 노(NO)도 아닌 중간에 애매하게 놓여 있어 회색지대가 많습니다. 지난해 인공지능(AI) 개발을 위한 데이터 이용을 활성화한다는 목적으로 데이터 3법을 개정했지만, 관련 사례가 쌓여야만 데이터 이용이 활발해질 수 있습니다."

고학수 한국인공지능법학회장(서울대 법학전문대학원 교수)은 그동안 인공지능 산업 육성을 위해 데이터가 가장 중요하며, 데이터를 모아 분석하고 AI 솔루션을 개발하는 '데이터 드리븐(Data Driven) 사회'가 되어야 한다고 강조해왔다. 그는 "인공지능은 처음부터 끝까지 데이터"이며 "데이터가 없이는 아무 것도 할 수 없다"는 의견을 피력했다. .

고 회장은 "법은 처음부터 매직으로 선을 그어놓는 것인데, 데이터가 회색지대로 가늠이 안 되다보니 선을 넘는 건지 안 넘는 건지 파악하기 어렵다"며 "데이터의 특성상 데이터 3법 규정은 모호할 수 밖에 없고 하위규정으로 가이드라인이 5개 정도 나왔고 10개가 더 나온대도 뚜렷해질 수 없다. 사례가 쌓이면서 구체화될 수 있다"고 말했다.

그는 "기업들이 매직으로 그어놓은 선에서 어느 정도 위치에 있는 지 가늠이 안 되기 때문에 법으로 추상적인 선을 그어놓는 데도 큰 회사들은 선 근처에도 가지 않는 현상이 벌어져 데이터 활용이 제대로 되지 않는 것"이라고 덧붙였다.

"AI 개발사가 가진 데이터 중 10%를 덜어내고 20%를 덜어내도 작동이 됩니다. 물론 데이터가 줄어들면 어색하고 '예전만 못 하네'라고 평가가 나올 정도로 부자연스러워지기는 합니다. 하지만 데이터는 '모 아니면 도'가 아니고 스펙트럼 상에서 다양하게 존재해 법을 거론하는 것이 부자연스럽습니다. 데이터 3법이 추상적이라고 얘기들 하는데, 이는 선례가 충분치 않아 판단하기가 어렵다는 의미가 큽니다."

그는 정부가 최근 AI 산업 육성을 위해 데이터에 집중적으로 투자를 하고 있는데, 데이터가 새로운 시대의 인프라 역할을 하는 만큼 "인공지능 개발을 원활하게 하기 위해 데이터를 모으는 쪽에 투자를 하는 큰 방향이 맞다"는 의견을 밝혔다.

고 회장은 서울대 경제학과에서 학사와 석사를 졸업한 후 미국 컬럼비아대 로스쿨을 거쳐 같은 학교에서 경제학 박사학위를 받았다. 그의 연구업적이 해외에서 높게 평가를 받으면서 2012년에 '구글 리서치 어워드'를 수상한 후 연구비 지원을 받았고, 독일 훔볼트재단에서도 연구비를 지원받을 수 있었다.

하지만 경제학과 법을 공부한 그가 인공지능에 관심을 가지게 된 계기가 궁금했다.

"제 이력에는 정보 데이터가 핵심 키워드예요. 80~90년대 이후에 경제학에서도 정보가 중요한 영역으로 부각됐으며, 정보경제학도 별도 영역으로 있었을 정도예요. 개인정보를 공부하다 보니 지난 5~10년의 큰 흐름이 인공지능과 빅데이터여서 고민의 관점이 자연스럽게 옮겨졌어요."

그는 우리나라에서도 사회경제적 패러다임을 인공지능 경제로 바꾸려고 하지만 실제 생활에서 데이터에 기초한 의사결정, AI를 활용한 의사결정이 잘 되지 않고 있어 마인드셋이 바뀌어야 한다고 강조했다.

"외국 행사 초청을 받아서 간 적이 있었는데, 현장 담당자가 항공편, 숙박, 일정 등을 요구했을 때 저는 애써 회사 URL을 띄워서 빈칸 채우기로 만들었습니다. 이메일로 써서 보내면 편합니다. 하지만 빈칸 채우기를 하면 데이터베이스(DB)가 생기기 때문에, 이메일은 몇 년이 지나면 사라지지만 빈칸 채우기로 20년 후에도 제 이름을 치면 1초도 안 돼 행사를 왔다는 것을 알게 됩니다. 데이터에 기초한 구조라는 게 이런 것이지만, 우리 관행과 문화에서는 아직 준비가 안 돼 있습니다."

AI 학습용 데이터를 마련하기 위해 노가다성 작업을 한두번 하고 나면 더 이상 하지 않게 되고 결국 악순환으로 이어진다는 것. 그는 "DB를 스트럭쳐하고 실시간으로 업데이트해 이를 분석하는 게 일상화되어야만 인공지능 경제가 이뤄질 수 있다"며 "중요성을 깨닫지 않으면 AI 산업이 활성화되기 힘들다"고 지적했다. 윗 사람에게 보여주기식으로 그래픽 디자인을 활용해 보기 좋은 표를 몇 개 만들어봐야 인공지능에는 아무런 쓸모가 없다는 것.

그는 또 '이루다' 사태 이후 법적 규제가 강화돼야 한다는 목소리가 커지고 있는데, 지금과 같은 상황에서 법을 만드는 것은 '현실성이 없다'는 의견을 밝혔다.

"사회 문제가 생기면 '법은 뭐하고 있냐'는 질문이 나오는데, 법에 무슨 내용을 담을 껀데 반문하면 애매해집니다. 지금 상황에서는 법에 추상적인 얘기만 담을 수 밖에 없고 어떻게 해석할 지 모호해집니다."

그렇다면 현재 개인정보보호위원회가 '이루다' 개발사인 스캐터랩을 조사 중인데 법적으로는 어떤 문제가 있을까?

"개인정보 문제에 대해서는 회사가 개발자 사이트인 '깃허브'에 올렸고, '연예의 과학' 앱에서 모은 데이터를 이루다용으로 썼다고 하니 개인정보보호법에서는 실정법상 이슈가 있습니다. 하지만 혐오 발언은 당장 실정법상 문제는 없습니다. 또 스캐터랩이 비식별처리를 하는 전 처리 작업을 불충분하게 했는지는 조사가 필요합니다."

그는 대화형 AI인 '이루다'가 사회적으로 관심을 끌게 된 것은 대화가 자연스러워 가까운 사람과 대화하듯 캐주얼한 대화가 가능했는데, 지금까지 이 정도의 기술이 구현된 기업은 없었다고 평가했다.

"머신러닝 모델링을 해서 확률적으로 이게 좋은 답인 것 같다고 계산하는데, 적절한 답변이 어려울 때는 '다시 한번 애기해볼래?'. '그럴 수도 있구나' 같이 어정쩡하게 대화를 이어나가는 '폴백(Fallback)' 방식을 사용합니다. 폴백 대화를 몇 개 이어서 보니깐 이루다가 '성희롱적인 태도가 있네'라는 식의 해석이 가능합니다. 이루다가 답을 막 던진 부분은 기술이 부족했던 부분으로, '어떻게 AI를 개발해야 할 것인가'라는 큰 과제를 남겼습니다."

'이루다' 사태로 AI 윤리의 중요성도 강조되고 있다. "AI 윤리원칙은 추상적일 수 밖에 없습니다. 개발자에게 '투명하고 공정하게 하세요'라고 하면 '네'라고 대답할 꺼고, 공정성이 무엇인지 100줄로 설명을 하더라도 개발자 입장에서는 크게 달라질 것이 없습니다. '이루다 사태에서 공정성이 무엇인가'와 같이 개별 사례에 적용해야만 고민거리가 구체화될 수 있습니다." 현재 방통위에서 AI 관련 해외 사례를 모은 사례집을 준비 중인데, 국내는 물론 해외 사례를 통해 반면교사로 삼을 수 있게 된다는 것. 한국인공지능법학회는 이 문제와 관련해 AI와 사회변화, AI윤리와 거버넌스에 대해 논문 10편이 담은 '인공지능 윤리와 거버넌스' 단행본을 지난 1월 출간하기도 했다.

그는 또 네이버, 카카오 등에 편향성 논란으로 AI 알고리즘을 공개하라는 주장이 커지는 데 대해 "소스코드를 공개하는 것은 있을 수 없는 일"이라며 "공개한다고 해서 문제가 있겠네, 없겠네를 따지는 것은 사실상 불가능하며, 해외에서도 질문에 예스, 노로 답변하는 큰 틀의 조감도 방식으로 진행하는 추세라고 설명했다.

고 회장은 또 데이터·AI 영역에서 형사처벌 영역이 많다는 점도 AI 산업 활성화에 걸림돌이라고 지적했다. "AI 개발자로 코딩을 하는데 잘못했다고 감옥에 가고 범죄자가 될 수 있다"는 점이 큰 문제가 된다는 것.

우리나라에서는 인공지능에 대한 많은 기술 투자가 이뤄지고, 문제가 생기면 법을 만드는 것, 두 개를 전혀 별개의 영역으로 생각하는데, 앞으로 협회는 그 사이에서 브릿지 역할을 하는 데 중점을 둘 생각이다.

"기술, 법, 윤리규범을 만드는 분들과 접점을 만들려는 노력을 많이 하고 있어요. 상반기에는 AI 법·제도와 관련해 책임 원칙, 자율주행차 법 제도 등 가까운 미래에 생기게 될 법 이슈를 주제로 'AI 정책포럼'을 시리즈로 개최하고, 하반기에는 AI의 발전 속에 인공지능을 어떻게 바라보고 사람과의 관계를 어떻게 얘기할지 철학적, 이론적 주제를 담은 세미나 시리즈를 계획하고 있어요." 학회에는 현재 200여명이 참여해 활발히 활동하고 있다.

학회장인 그는 지난해 과기정통부에서 추진한 'AI 법제 정비단'으로도 활동했다. "정비단으로 활동하며 AI는 1년만 준비해서 되는 게 아니고 3~5년을 내다보고 긴 호흡으로 준비해야 한다는 생각을 했어요."

그는 학회가 AI 산업 육성에 큰 역할을 해야 하는데 우리나라에는 학회의 층이 얇아 그 부분이 잘 되지 않는다는 문제도 지적했다. 

"해외에는 자연어처리, 인공지능 윤리 논문도 있고 과목도 있어요. 우리나라에서는 이루다와 같은 사태가 생기면 별도의 전담기관을 만든자고 하는데, 기관 하나를 만드는 방식으로는 문제가 해결되지 않아요. 이미 미국, 유럽은 2~3년 전부터 고민을 시작했고, 이 부분을 AI 인증방식으로 갈지, 감사를 할지 고민해왔는데, 우리나라도 인증제도를 도입한다면 누가 하고, 어떤 기준으로 할지 방안을 마련해야 합니다. 국제 기구에도 적극 참여하면서 이제는 어떤 방식이 맞을지 국가적인 전략을 마련해야 할 때입니다."