[편집국에서] AI와의 전쟁

오현민 사회과학부 기자

오현민 사회과학부 기자

정부가 디지털 전환 정책에 속도를 올리고 있는 가운데 위험성에 대한 대책은 상대적으로 미비한 수준이다. 최근 딥페이크 피해가 속출하면서 현재 정부가 적극적으로 추진하고 있는 디지털 전환 정책에 맞는 법안도 발맞춰 마련하는 것이 시급하다는 생각이다.

딥페이크란 딥러닝(deep learning)+페이크(fake)의 합성어로 인공지능 기술을 활용해 실존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물이다. 해당 기술은 영화나 게임, 엔터테인먼트 분야에서 활용될 수 있는 긍정적인 잠재력이 있지만 현재는 악용하는 사례가 나타나면서 사회적으로 심각한 문제를 야기하고 있다.

전국교직원노동조합은 8월 27일~28일 이틀간 즉시 긴급 점검과 실태조사에 착수해 2492건의 신고를 접수했다. 접수 사례를 확인한 결과 517건이 직·간접 피해로 확인됐다고 밝혔다.

대전지역에서도 딥페이크 피해사례가 접수되면서 긴장 상태가 고조되고 있다.

대전교육청 등에 따르면 8월 30일 기준 딥페이크 관련 접수된 피해는 총 14건이다. 이중 초등학교 여학생 1명도 본인의 사진이 합성된 영상물을 발견하고 신고한 것으로 알려졌다. 현재까지 발견되지 않은 건수는 더 많을 것으로 예측된다.

불법합성물을 소지하거나 시청하는 행위는 현행법상 처벌의 대상이 아니라는 점은 AI가 우리 사회에 밀접하게 다가왔음에도 마땅한 대비책이 없다는 것을 명백히 보여주는 대목이다. AI는 사회적으로 큰 변화를 가져오면서 생활 편의성을 주는 동시에 개인정보 오남용, 사회적 격차 심화 등 부정적인 영향을 미칠 수 있는 양면성을 내포하고 있다. AI(인공지능)시대가 도래했지만 결국 우리는 더욱 편리하고 유용하게 이용할 수 있는 방법을 찾기에만 몰두하고 있을뿐 디지털화에 대한 위험성은 철저히 배제하고 있어 고민이 필요하다는 생각이다.

AI는 곧 학교현장에서 학생들과 마주하게 된다. 교육당국은 AI 디지털교과서를 2025년부터 초등3·4학년, 중1, 고1학년을 대상으로 도입할 예정이다. 이후 2028년까지 초·중·고 모든 교실에 전면 확대할 예정이다.

이에 대한 교육계의 반발은 날로 커지고 있다. 교원노동조합과 학부모들은 학생들의 문해력 저하, 디지털 중독 등을 우려하며 전면 백지화를 요구하고 있다. 국회 교육위원회 소속 고민정 더불어민주당 의원이 공개한 자료에 따르면 AI 디지털교과서 도입에 대해 초·중·고 1만 9667명 중 73.6%가 동의하지 않는다고 답했다.

교육당국은 교육현장에 대해 가장 잘 알고 또 학생들에게 정녕 필요한 것이 무엇인지 고민하는 교사들이 왜 이토록 반대하는지 분석해볼 필요가 있어 보인다.

기술의 발전은 급속도로 이뤄지고 있다. 디지털 전환을 놓고 양립하는 현재 상황을 조속히 해소하고 모두가 안전하고 편리하게 누릴 수 있는 디지털 환경조성에 박차를 가할 때다.