한국 정부가 '지능정보화기본법'에서 인공지능(AI)을 통제할 수 있는 '킬스위치'와 같은 '비상정지' 조항을 규정한 것은 '사람이 AI를 콘트롤하지 못하는 상황이 올 수 있다'는 잘못된 판단에서 나온 것으로, 세계적인 흐름에 역행한다는 지적이 제기됐다. 또 정부는 범부처적으로 '범정부인공지능추진위원회'를 신설해야 한다는 주장이 나왔다.

또 인공지능 거버넌스 포럼은 19일 지난해 7월부터 의장을 맡고 있는 이경전 경희대 교수를 비롯해 김선희 서울대 교수, 궁선영 경희대 교수, 박성혁 카이스트 교수, 우지숙 서울대 교수, 고학수 서울대 교수(옵저버), 임정욱 TBT 대표 등 AI 분야 전문가들이 토론을 통해 마련한 10개 조항을 담은 '인공지능 거버넌스:이슈, 원리와 실천' 초안을 발표했다.

포럼 의장을 맡고 있는 이경전 경희대 경영학·빅데이터응용학과 교수는 19일 여의도 국회도서관에서 개최된 '인공지능 거버넌스와 정책 보고서 발표회'에서 "'국가정보화 기본법'을 전면 개정해 '지능정보화기본법'으로 변경하는 과정에서 '지능정보기술의 동작 및 지능정보서비스 제공을 외부에서 긴급하게 정지하는 것'과 '비상정지에 필요한 알고리즘의 제공에 관한 사항'을 규정한 것은 전 세계에서 유례를 찾아볼 수 없는 시도"라고 평가했다.

이 교수는 "반면, 방통위의 '이용자 중심의 지능정보사회를 위한 원칙'에서 참여와 소통을 강조하고, 구성원들이 각자의 자율성을 최대한 보장받아야 하고, AI 행위자가 법규, 인권 및 민주주의 가치를 준수해야 한다고 규정한 것은 긍정적"이라고 평가했다.

그는 또 "4차산업혁명위원회가 AI를 포괄하기는 어려운 만큼, '범정부인공지능추진위원회'를 만들어 AI에 의한 전 분야의 교육 혁신을 추진하고, 장기적으로 AI 연구가 필요하다"며 "부족하다면 과기정통부를 인공지능까지 포괄하는 과기정통AI부로 확대 개편해 프로젝트 추진과 공동 데이터 개발에 적극적인 역할을 해야 한다"고 말했다.

이 교수는 '인공지능 거버넌스' 원칙에서 우선 인공지능은 '지능적 사물, 지능적인 인간, 지능적인 인프라스트럭처를 만드는 방법론'으로 정의하고, 인공지능시스템은 '기계, 인간, 환경 등으로 이뤄진 시스템으로, 궁극적인 목표를 지원하는 행동 목표의 달성 확률을 높이도록 적절히 행동하는 시스템'으로 정의했다고 밝혔다. 그는 "인공지능은 강력하지만 제한돼 있다는 것"으로 "전세계적인 주류적인 인공지능의 정의를 채택했다"고 설명했다.

이 교수는 "거버넌스는 정부 일방이 아닌 정부와 민간이 협치로 문제 해결방안을 찾는 것"이라며 "인공지능 거버넌스란 '개인, 사회, 기업, 정부의 궁극적 목표 달성을 지원하는 AI시스템의 행동 목표이 적절한 지 관리하는 사회적, 기술적 노력"이라고 정의했다.

포럼은 ‘인공지능 거버넌스’의 원리와 실천사항으로 ▲AI 시스템의 목표는 보편적 가치를 존중하고, 갈등하는 가치를 절충해야 하며 목표는 투명해야 한다 ▲AI 기술의 발전으로 인해 기존 규범 변경이 필요하다면 이를 적극 수용하는 자세를 가져야 한다 ▲AI 기술의 오남용은 외부에서 법률적, 제도적 선언만으로 막을 것이 아니라, 내부 통제와 외부 모니터링에 AI 기술을 활용함으로써 더 효과적으로 막을 수 있다고 규정했다.

또 ▲인공지능의 책임 있는 사용을 위해 사회적 역량 확충을 지원해야 한다 ▲인공지능이 사회적 부정의를 초래하는 자동 무기가 될 수 있다는 것을 경고하는 경우가 있는데, 이는 오해에서 비롯한 것이다 ▲AI는 중앙집중적 통제보다 민주화를 늘리는 데 사용해야 한다는 내용을 담았다는 조항을 포함했다. 이외에도 ▲AI가 협력을 증진하고, 협력에 의해 AI가 확보될 수 있는 메커니즘을 만들어야 한다 ▲데이터 고도화의 위험을 관리할 방법을 찾아야 한다 ▲기계학습에 의존하는 인공지능 시스템은 환경이 변화했을 때 취약성을 보이지 않고 강건하게 관리해야 한다 ▲인공지능 시스템에 대응하기 위한 인간의 창의적인 방법이 불법적이지 않다면 최대한 관용해야 한다는 내용을 담았다.

이 교수는 이어 "프랑스에서 '로봇이 실업을 야기한다'며 로봇 개발에 소극적이었는데 오히려 반대의 결과가 있었다"며 "AI가 차이, 편견을 만들고 실업을 만든다는 논의도 제기되지만, AI 기술이 본질적으로 갭을 키우는 기술이 아니고 오히려 중립적이며 긍정적"이라고 평가했다.

그는 또 "AI에 대한 불필요한 제약은 시스템 성과를 제한시키는 문제가 생기기 때문에 거버넌스의 규제와 제한은 최소화돼야 한다"며 "인공지능 거버넌스에서는 AI 개발자와 사업자가 스스로 지키게 해야 하며, 이 같은 노력에 인센티브를 주는 것도 필요하다"고 밝혔다.

이 교수는 또한 "미국 연방거래위원회(FTC)가 AI에 대한 모든 것은 법에 의해 가야 한다는 입장인데 인공지능 거버넌스 원리도 기존 법에 근거해 제시해야 한다고 본다"며 "AI를 새로운 기술로 봐서 새로운 법을 만들고 이것만을 위한 규제, 정책을 만드는 것은 적절치 않다"고 설명했다.

그는 또 인공지능이 아직 설명 가능하지 않은 문제에 대해 모든 것을 설명할 수 있어야 한다는 지적이 나오는데, 이는 인공지능을 초지능으로 간주한 것으로 아직 시기상조고 과도한 문제 표명의 측면이 있다고 말했다.