#영국 내무부는 비자 승인 처리 업무에 인공지능(AI)을 활용했는데, 백인보다는 비(非)백인 인구가 많은 국가 출신의 비자 신청자들의 심사가 이유 없이 지연되는 문제가 있다고 보고됐다. 논란이 일자 영국 정부는 지난 2020년 해당 알고리즘의 사용을 중단했다.

#뉴욕타임스는 지난 2023년 12월 AI 학습에 자사의 기사 등 저작물을 사용한 것에 대해 오픈AI와 마이크로소프트를 상대로 저작권 침해 소송을 제기했다. 뉴욕타임스는 저작권을 포함한 지식재산권은 높은 수준의 언론사들을 운영할 수 있는 기반이 되는데, 생성형AI가 이를 무너뜨리고 있다고 주장했다.

22대 국회에서 AI기본법(인공지능 산업 육성 및 신뢰 확보에 관한 법률안) 제정안이 계속 발의되는 가운데, 대한민국이 AI 분야 리더십을 확보하도록 산업 진흥을 지원하는 동시에 다양한 부작용이 나타나는 고위험AI 규제책을 마련하는 등 '정교한 뼈대'를 만드는 작업이 필요하다는 지적이 나온다.

국회의안정보시스템에 따르면, 6월27일 현재 발의된 AI기본법은 총 4건이다. 안철수·정점식·김성원 국민의힘 의원안과 조인철 더불어민주당 의원안이다. 이들의 AI기본법은 차이가 있긴 하지만 크게 '진흥'과 '규제' 두 분야로 나눈 것과, 세부 내용은 큰 틀에서 비슷하다.

AI기본법은 AI 진흥과 규제라는 목적 하에 인공지능에 대한 정의를 내리는 것을 시작으로 ▲인공지능기본계획 수립 ▲인공지능 산업 진흥 지원 ▲국가인공지능위원회·국가인공지능센터·국가인공지능연구소 등 구축 ▲인공지능 전문 인력 육성 및 확보 등을 담아 산업 육성을 지원한다.

규제 분야에선 ▲고위험 인공지능 확인제도 마련 ▲생성형 인공지능 이용자에 사전 공지 ▲인공지능 윤리원칙 제정·공포 등을 규율한다.

21대 국회에 빛을 보지 못한 AI기본법이 22대 초반부터 연이어 발의됐고, 정부도 지난 2월 AI기본법을 제정해 AI발전과 신뢰 기반을 조성하기로 하는 등 관련 논의엔 순풍이 불고 있다. 특히 국회에선 지난 26일 여야의원이 초당적으로 모인 'AI포럼'이 출범해 한국적 현실을 고려한 기본법 마련에 머리를 맞댈 예정이다.

다만, 정치권은 어느 한쪽의 논의에만 매몰되지 말고 법안의 취지처럼 산업 진흥과 인공지능이 불러올 피해를 보호하기 위한 균형점을 찾아 이해관계자를 설득해야 한다는 지적이 나온다.

실제로, 국가인권위원회는 지난 8월 21대 국회에서 논의 중이던 AI기본법 논의에 대해 '우선허용, 사후규제' 원칙을 삭제하고 인권영향 평가를 도입해야 한다며 김진표 전 국회의장에게 의견을 표명하기도 했다.

특히, AI 기술이 민간 분야를 넘어서서 군·안보 분야 등까지 확대되면 회복할 수 없는 피해를 야기할 수 있어 산업 진흥은 적극 지원하되 부작용을 예방하거나 처벌하는 규제도 튼튼하게 만들어야 한다는 지적이 나온다.

챗GPT 개발사 오픈AI와 구글 딥마인드의 전현직 직원들이 지난 4일(현지시간) 인공지능의 위험을 경고하면서 "이런 위험은 기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인간의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양하다"고 지적하기도 했다.

또, 미국 국무부의 의뢰를 받아 민간업체 글래드스톤AI가 작성한 보고서는 AI시스템의 무기화를 가장 큰 위협으로 경고하면서 AI시스템이 생화학 무기나 사이버 테러를 설계하고 실행할 수 있고, 기존에 없던 응용 무기를 만들어낼 수 있다면서 규제 필요성을 언급했다.

세계 최초로 인공지능규제법을 입법한 유럽연합의 경우 물리적 피해를 야기하는 인공지능 부작용을 넘어서 정보조작이나 생체 인식 데이터를 사용해 개인정보를 유출하는 행위, 이들을 유형화하고 평가하는 행위도 고위험군 AI로 간주하고 있어, 우리 국회에서도 보다 폭넓은 논의가 필요할 것이란 지적이 나오고 있다.