메트로신문·메트로경제가 22일 서울 을지로 페럼타워에서 개최한 '2023 뉴테크놀로지 포럼 - 디지털 트랜스포메이션(DX), 혁신의 트리거'에는 민관을 막론하고 관계자와 전문가들이 대거 참석해 DX와 관련한 다양한 논의를 펼쳤다. 포럼에 앞서 마련된 VIP 티타임에서도 강연자는 물론 각계 관계자들이 함께 모여 앉아 DX와 관련한 여러 의견을 나눴다.

특히 오경석 영남대 경찰행정학과 교수와 이건복 마이크로소프트 상무는 실제 경험과 연구 경험을 토대로 AI(인공지능)를 활용한 범죄 예방과 악용 방지에 대해 열띤 토론을 펼쳤다.

오 교수는 "경찰청에서도 인공지능을 활용한다"라며 "미국에서는 인공지능을 활용해 지역 범죄 예측, 재범 예측 등 범죄 예방 업무에 활용한 사례가 많다"고 말했다.

이건복 마이크로소프트 상무도 "뉴욕 경찰의 경우에도 범죄 예측 프로그램을 활용 중이다"라고 귀띔했다.

AI가 보이스피싱 등 범죄에 악용될 수 있다는 우려를 주제로, 현실화 가능성이 높다면서 이를 방지할 수 있도록 기술 개발 등 대책을 마련해야 한다는 데에 공감대를 나누기도 했다.

이 상무는 "보이스피싱은 가해자가 거의 잡히지 않는 형태"라며 "피해자는 가해자가 실제 사람인지 AI인지 알지도 못한 채 피해를 입게 된다"고 설명했다. 이어 "실제로 딥페이크나 보이스 변환 기술을 이용하면 실제 사람의 목소리와 구분하기 어려워 범죄에 악용될 수 있다"고 설명했다.

오 교수는 이에 대응하기 위해서는 AI가 만드는 음성에도 워터마크를 표시해야 한다며, 이런 기술을 만들어야 한다고 제언했다.

아울러 오 교수는 생성형 인공지능으로 코딩이 쉬워지면서 범죄에 더 쉽게 접근할 수 있게 됐다며, 인공지능 기술을 악용하는 행위를 규제할 법적 장치를 마련해야 한다고도 덧붙였다.