24-6 생성형 AI의 발전과 선거에서 잠복된 위험
김현정 동아대학교 국제전문대학원 부교수 생성형 AI의 발전과 선거에서 잠복된 위험 들어가며 생성형 인공지능 (Generative AI : 이하 생성형 AI) 이 등장하면서 우리의 일상생활 에도 인공지능이 스며들기 시작했다. 2010년대 중반, 이른바 4차 산업혁명이 우 리 일상의 삶을 크게 바꿔놓을 것이라는 예측이 많았다. 그러나 대중 입장에서 혁 명에 비길 만한 변화는 그다지 체감하기 어려웠다. 물론 코로나-19의 장기화 상황 에서는 대면접촉을 제한하고 비대면 중심의 온라인 문화가 확산되는 기술 진보를 실감하게 하였다. 그러나 팬데믹 시기가 종료되자 다시 관심이 줄어들었다. 생성형 AI가 가져온 변화는 산업 분야는 물론, 정치, 사회, 미디어 등 다양한 영역 에 관심을 불러일으키며 일반 사람들의 생활 속으로 깊이 파고들고 있다. 생성형 AI는 산업 분야 전반에 혁신을 야기할 수 있는 강력한 잠재력을 내재하고 있다. 하 지만 생성형 AI 활용이 급증하면서 이와 관련한 윤리·철학적 논란, 생성형 AI 기술 적용의 부작용 등 다양한 문제점이 제기되고 있다. 챗GPT 등에 의해 구현되고 있는 생성형 AI 기술은 텍스트 및 코드와 이미지 생 성, 음성합성기술 (speech synthesis) , 영상 및 3D 모델, 오디오 및 음악 등 다양한 세계는 지금 ② 44 Mediary 영역과 산업군에서 활용되고 있다. 01 또한 생성형 AI를 활용해 빠른 속도로 다양한 형태의 디지털 재화를 제작하는 ‘수퍼 개인 (Super Individuals) ’이 등장했다. 자신 이 상상하고 구현하고자 하는 디지털 재화를 생성형 AI에게 자연어 프롬프트로 요 청하면 이를 제작할 수 있는 능력을 발휘할 수 있다. 02 이제 매우 적은 비용으로 불 특정 다수가 콘텐츠 제작 및 확산에 접근할 수 있게 된 것이다. 그만큼 부작용이 발생할 가능성 또한 높아졌다. 이러한 상황에서 미국, 유럽 등에서는 생성형 AI가 선거에 가져올 변화에 주목하 고 있다. 특히 2024년은 미국의 대통령선거, 유럽연합 (European Union) 의 유럽 의회선거, 우리나라의 국회의원선거 등 주요 선거가 밀집해 있다. 이제 생성형 AI 활용이 선거에 미치는 영향과 주요 국가들의 규제 동향을 검토할 때이다. 선거에 대한 생성형 AI의 오남용 위험 생성형 AI에 의해 선거를 방해하는 행위가 예측되는 상황에서 전 세계 주요 국 가들은 허위정보, 허위영상 (deepfake) 등에 대한 대비책에 고심하고 있다. 최근에 국제 정치에 영향을 줄 수 있는 허위영상이 속속 등장해 경각심을 주고 있다. 현재 전쟁을 치르고 있는 우크라이나의 젤렌스키 대통령의 항복 선언 영상 (2022년) , 미 국 국방부 건물 펜타곤 (Pentagon) 의 일부가 폭발하는 영상 (2023년) , 트럼프 전 대 통령이 폭력적으로 경찰에 체포되는 영상 (2023년) 등은 전 세계에 큰 충격을 주 었다. 나아가 미국의 공화당이 제작한 ‘비트 바이든 (Beat Biden) ’ 영상은 선거 캠 페인에서 생성형 AI의 활용을 어디까지 허용할 것인지에 대해 논란을 일으켰다. 이 영상 또는 사진이 소셜 미디어에 퍼져나갔을 때 반응은 즉각적이었고 거의 폭 발적이었다. 이 같은 영상을 생성하는 데 간단한 명령어 한 문장이면 충분했다. 충 격적인 이미지의 확산 초기에는 반응이 세계적이었다. 물론 ① 젤렌스키 대통령 의 항복 선언 영상과 ③ 트럼프 전 대통령의 체포 영상의 경우, 내용상 진위 여부 가 의심받기도 했지만 ② 펜타곤 폭발 사진은 일시적 주가 폭락을 이끄는 등 즉각 적인 영향력을 보여주었다. 위 이미지들은 비교적 생성형 AI의 초기 생성물이어서 자세히 살펴보면 가짜임을 판별해낼 수 있었다. 그러나 이제는 전문가도 식별하 01 김현정·김주희(2024), 「생성형 인공지능에 관한 미국의 규제 및 선거에 미치는 영향 분석」, 《한국과 국제사회》 제8권 제1호, 한국정치사회연구소, p. 242. 02 이승환(2023), 「생성AI 확산과 저작권 이슈의 부상」, 《Futures Brief》 23-1호, 국회미래연구원,
