CONTENTS

인공지능 기술의 진화는 인간에게 실존적 위협을 가하게 될 것인가?

인공지능 관련 통제 문제의 핵심은?

인공지능 기술에 대한 세계적 석학들의 경고 잇따라

‘통제할 수 있는 안전한 AI’ vs ‘수익을 안겨줄 상업적 AI’

대중의 인공지능에 대한 인식과 태도는 ‘긍정적’

CONTENTS

인공지능 통제 가능성 이슈와 대중의 인식

인공지능 기술의 진화는 인간에게 실존적 위협을 가하게 될 것인가?

장미경 (한국과학창의재단 정책기획실 선임연구원)

인공지능 기술 발전과 진화에 따른 사회문제와 부작용, 더 나아가 기계의 인간 지배 가능성 등 실존적 위협에 대한 논란은 생성형 인공지능 챗봇 ‘챗GPT’ 출현 이래 끊임없이 제기되고 있는 화두이다. 특히 챗GPT가 보여준 첨단 과학기술의 놀라운 위력은, 인공지능에 관한 전 세계 사람들의 관심과 흥미를 자극하는 촉매 역할을 했다.

인공지능 기술 발전으로 인해 향후 펼쳐질 성과 역시 상상을 초월하는 속도로 가시화됨에 따라, 최근에는 인공지능 기술에 대한 ‘윤리 지침’과 ‘규제’, ‘디지털 질서’, 그리고 이와 직결되는 논의 사항인 ‘통제 가능성’ 등이 글로벌 이슈로 강조되는 상황이다.

구체적으로 살펴보면, 2023년 11월 영국 런던에서 개최된 ‘인공지능 안전성 정상회의’(AI Safety summit) 이후 ‘비스니스 커넥트’(Business connect) 행사에서 진행된 일론 머스크(Elon musk)와 영국 총리 리시 수낵(Rishi Sunak)의 대담을 비롯한 여러 가지 논의를 통해 인공지능 기술에 대한 통제, 인간 일자리 논란 등의 민감한 이슈가 뜨겁게 다루어지고 있다. 인공지능 기술 관련 분야의 전문가는 물론, 세계적 석학, 각국의 수장까지 인공지능 기술이 불러올 예측 불가능한 변수 발생 가능성에 촉각을 곤두세우는 것이다.

이와 더불어 인공지능 기술 이슈와 관련한 학계의 연구 또한 컴퓨터과학, 공학, 인문학, 철학, 사회과학 등 광범위한 분야에서 활발하게 진행되고 있다. 기술 자체에 주안점을 두고 진행되는 연구는 물론, 인공지능 기술의 진화에 따라 급변하게 될 사회 제반 환경에 초점을 둔 사회과학적 관점의 논의, 인간에게 가해지는 실존적 위협에 따른 인간과 기계의 공존 등 철학적 시각과 사유에 관한 연구까지 그 범주도 다양하다. 그렇다면 과학문화와 과학교육 현장을 포함한 사회 전반에서는 인공지능 기술이 몰고 올 혁신적 변화에 대해 어떻게 대응해야 하는 것일까. 이러한 현실적 상황과 인공지능 기술 진화가 갖는 사회적 영향력 및 중요성을 고려하여, 12월호 이슈페이퍼에서는 인공지능 통제와 규제 이슈를 크게 두 가지의 주제로 구성해 연재하고자 한다.

먼저 <이슈페이퍼 4호>에서는 인공지능에 대한 통제 가능성 고찰과 함께, 인공지능 통제 및 규제를 중심으로 한 세계적 석학의 반응과 전망, 최근 벌어지고 있는 인공지능 기술 개발과 법적 규제를 둘러싼 굵직한 사건을 짚어보면서 글로벌 현황을 파악하고자 한다. 이와 함께 국내외 대중이 인공지능 기술에 대해 어떤 인식과 관점을 갖는지 각종 조사 결과를 통해 탐색할 것이다. 이를 통해 인공지능 기술과 관련된 사회적 공론장 형성, 그리고 인공지능 기술에 대한 과학커뮤니케이션이 어떤 방향으로 어떻게 추진되어야 할지 시사점을 찾을 수 있을 것으로 기대된다.

이어지는 <이슈페이퍼 5호>에서는 인공지능 위험성과 안전성 이슈가 뜨겁게 논의되는 글로벌 현장의 목소리와 분위기를 좀 더 구체적으로 살펴보고 인공지능 기술 선진국을 중심으로 한 인공지능 법안 및 윤리 표준의 현주소와 동향을 검토해 보고자 한다. 이와 함께 2023년 9월 제정·발표 이후 정부에서 강조하고 있는 ‘디지털 권리장전’의 세부 사항 등을 인공지능 기술 환경에 대한 이해와 소통 활성화 차원에서 짚어볼 것이다. 이러한 논의를 통해 우리나라의 인공지능 관련 법안 수립과 제정에 있어 글로벌 선진 사례에 대한 지침과 가이드라인의 장점을 적극 활용할 수 있음은 물론, 인공지능 기술의 발전과 진화가 불러올 예측 불가능한 미래 사회의 변화를 어떻게 준비해야 할지 고민하는 계기로 삼을 수 있을 것으로 기대된다.

인공지능 관련 통제 문제의 핵심은?

1)

일반적으로 논의되고 있는 인공지능 관련 통제 문제의 핵심은 ‘첨단기술에 대한 제어력을 상실할 수 있다는 것’이다. 영국 옥스퍼드대 철학과 교수인 닉 보스트롬(Nick Bostrom)은 인류가 ‘포스트휴먼’ 단계에 도달하기 전에 멸종될 가능성이 높고 현재 인류는 거의 확실하게 컴퓨터 시뮬레이션 속에 살고 있다고 주장하면서, 인간이 인공지능에 대한 통제력을 잃는 상황에 대해 경고해 왔다.

2)

인공지능 기술 개발과 진화에 대한 논의가 진행될 때마다 학자들은 ‘통제 가능성’ 문제를 끊임없이 제기해 왔다. 예를 들어, 인공지능 기술을 핵심 두뇌로 안착하고 있는 ‘자율주행차’의 상용화와 관련하여 사람들이 가장 우려하는 문제는 “인간이 자율주행차를 충분히 통제할 수 있을지” 여부이다. 특히 이와 같은 상황에서 통제에 대한 우려는 잠재적인 책임 소재와 관련이 있는 경우가 많다. 인공지능과 같이 첨단 신기술 시스템에 대한 통제가 불가능한 상태에서 사고가 발생해 누군가 다친다거나 사망하게 된다면, 누가 책임을 져야 하는지 불분명할 수 있기 때문이다. 이 같은 논의는 킬러로봇, 군사용 드론 등 자율 무기 시스템에 대한 통제 문제 제기에서도 같은 맥락으로 적용될 수 있을 것이다.

3)

이뿐만 아니라 인공지능 기술 개발 단계에서는 자율주행차 사고나 알고리즘의 편향된 의사결정 등 인공지능 통제 가능성과 관련된 예기치 못한 사회적 문제를 유발할 수 있다. 더 나아가 인공지능 학습 능력이 인간의 능력을 뛰어넘는 ‘자가 발전적이고 자율적인 수준’으로 진화하게 된다면, 영화 ‘터미네이터’(Terminator)의 ‘스카이넷’(Skynet)이나 ‘2001: 스페이스 오디세이’(2001: A Space Odyssey)의 ‘HAL9000’처럼 스스로 의사결정을 주도하고 인간이 통제할 수 없는, 심지어 인간을 지배하려고 하는 기계가 출현하는 시대를 맞이하게 될지도 모를 일이다. 여기서 우리가 주목해야 할 문제는, 이러한 상황이 인류에 대한 ‘실존적 위험’으로 표현되는 매우 중대한 위협으로 이어질 수 있다는 점이다.

4)

이에 따라 2022년 등장해 기술의 놀라운 위력을 보여준 생성형 인공지능 챗GPT의 출현 이후, 인공지능 통제 가능성과 관련된 현실적 상황에 대한 우려가 더욱 커지게 되었고, 전 세계의 석학들은 인공지능 기술의 놀라운 발전과 진화에 대한 찬사를 뛰어넘어 기술 진화가 낳게 될 예측할 수 없는 사회문제에 대해 강한 두려움과 공포를 표현하기 시작했다.

인공지능 기술에 대한 세계적 석학들의 경고 잇따라

구체적으로 살펴보면, 저서 ‘사피엔스’(Sapiens)로 일반인에게 친숙한 역사학자 유발 하라리(Yuval Harari) 이스라엘 예루살렘 히브리대 교수는 2023년 3월부터 미국 뉴욕타임스, 영국 이코노미스트 등 세계 유수의 언론매체 기고와 포럼 참여 등을 통해 인공지능 통제의 중요성을

1) Nyholm, S. (2023). A new control problem? Humanoid robots, artificial intelligence, and the value of control. AI and Ethics, 3(4), 1229-1239. https:// doi.org/10.1007/s43681-022-00231-y 2) Bostrom, N. (2003). Are we living in a computer simulation? The philosophical quarterly, 53(211), 243-255. 3) Hevelke, A., Nida-Rümelin, J. (2015). Responsibility for crashes of autonomous vehicles: an ethical analysis. Sci. Eng. Ethics 21(3), 619–630 4) Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Hachette Books, New York

5)

경고하고 나섰다. 그는 인간이 인공지능을 통제할 수 없는 시점이 오기 전에 인공지능의 능력에 상응하는 책임과 통제의 조화를 이루어야 한다고 촉구했다.

하라리는 2023년 11월 진행된 영국 가디언과의 인터뷰에서도 금융 분야에 적용될 인공지능의 위험성을 경고하면서, “인공지능이 만든 금융 위기는 간접적으로 전쟁이나 갈등을 유발할 수 있고, 이는 경제·사회·정치적으로 재앙적인 위험”이라고 강조했다.

6)

그는 만약 세계의 금융시스템을 통제할 수 있는 인공지능에 권한이 부여되고, 인공지능만 이해할 수 있는 새로운 금융 장치가 탄생한다면 어떤 일이 벌어지겠냐고 우려하면서, 인공지능은 스스로 결정을 내릴 수 있고 새로운 아이디어를 창조할 수 있으며 스스로 학습하고 발전할 수 있는 최초의 기술인데, 이 기술을 창조한 인간도 모든 잠재적인 위험과 문제를 예측하기는 매우 어렵다고 주장했다. 이에 따라 인공지능 기술 관련 위험이 발생했을 경우 신속하게 대응할 수 있는 강력한 규제기관을 만들어야 한다고 강조했다.

인공지능 기술과 딥러닝의 대부로 알려진 제프리 힌턴(Geoffrey Hinton) 역시 인공지능의 부정적 측면이 긍정적 측면의 우위에서 더 크게 작용할 것이라고 강조했다. 오늘날의 생성형 인공지능 모델의 근간을 만든 석학으로 평가받는 제프리 힌턴은 인공지능 분야를 발전시킨 공로로 2018년 컴퓨팅 분야의 노벨상으로 불리는 ‘AM 튜링상’(AM Turing Award)을 수상하기도 했다.

7)

그는 2023년 5월 구글 퇴사 의사를 밝히면서 “수십 년 동안 인공지능 분야에서 연구한 것을 후회한다”라고 강조했고, “인공지능은 방대한 데이터에서 예상치 못한 행동을 배울 수 있고, 개인과 기업은 인공지능 시스템이 자체 컴퓨터 코드 생성은 물론, 해당 코드가 실행되는 것을 허용하기 때문에 문제가 될 수 있다. 진정한 자율 무기인 ‘킬러 로봇’이 현실로 구현될 날이 두렵다”라고 언급했다.

5) https://www.nytimes.com/2023/03/24/opinion/yuval-harari-ai-chatgpt.html https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues- that-ai-has-hacked-the-operating-system-of-human- civilisation 6) https://www.theguardian.com/technology/2023/nov/09/yuval-noah-harari-artificial- intelligence-ai-cause-financial-crisis 7) https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer- quits-hinton.html

특히 그는 인공지능 기술 개발의 경우 핵무기 개발과 달리 기업이나 국가가 비밀리에 기술 개발을 하고 있는지 등을 파악할 방법이 없다면서, 사악한 사람들이 인공지능을 활용해 전쟁에서 승리하고자 하거나 선거에서 유권자들을 조종하려고 시도할 텐데, 세계 최고의 과학자들이 인공지능에 대한 통제 방법을 찾아 긴밀하게 협력하는 것이 최선의 희망일 것이라고 강조했다.

한편 ‘인간의 모든 면을 뛰어넘는 인공초지능의 탄생’을 주제로 한 저서 ‘슈퍼인텔리전스’(Superintelligence)로 전 세계의 관심과 화제를 모았던 영국 옥스퍼드대 철학과 교수인 닉 보스트롬(Nick Bostrom) 또한 “인공지능이 인류의 생존을 위협하는 존재론적 위험까지 불러올 수 있다”라고 경고하면서, “인공초지능이 출현하기 전에 인류는 인공지능 통제 방안에 대해 고민하고 관련 연구를 서둘러 추진해야 한다”라고 주장해 왔다(Bostrom, 2014).

8)

8) Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. New York, NY, US: Oxford University Press.

세계적인 석학들이 인공지능 이슈와 관련한 변수 중 ‘통제 가능성’을 매우 중요한 요소로 빈번하게 언급되고 있다는 점을 고려할 때 인공지능 통제에 대한 면밀한 검토와 관련 규제 수립 노력은 인공지능으로 인해 야기될 미래의 불확실한 변수에 대응하기 위한 필수 요소라고 할 수 있을 것이다.

인공지능 통제 가능성에 대한 디스토피아적 공포의 시나리오 하에 2023년 3월에는 미국의 비영리기관 ‘삶의 미래 연구소’(Life of Future Institute)에서 “모든 인공지능 연구소는 GPT-4보다 강력한 인공지능 시스템을 개발하는 행위를 최소 6개월 동안 중단해달라고 촉구한다”라는 집단 성명서를 발표했다. 이 성명서에는 테슬라와 스페이스X의 최고경영자인 일론 머스크(Elon Musk), 애플의 공동창업자인 스티브 워즈니악(Steve Wozniak), 마이크로소프트 창업자인 빌 게이츠(Bill Gates) 등 전문가 집단을 비롯한 수많은 사람들이 서명에 직접 참여했다.

9)

연구소는 “인공지능 기술 개발에 대한 ‘전면 중단 선언’이 아니라 예측할 수 없는 기술 개발의 위험한 경쟁에서 한발 물러서는 것”이라고 설명하면서도, 생성형 인공지능의 통제 이슈가 얼마나 심각하고 중요한 사안인지를 강조하면서, 현재 인공지능 관련 연구가 통제 불능 경쟁에 갇혀 있다는 경고의 목소리를 전달했다.

‘통제할 수 있는 안전한 AI’ vs ‘수익을 안겨줄 상업적 AI’

한편 2023년 11월에는 인공지능 통제 가능성 이슈와 관련하여 인공지능 기술 패권 경쟁의 선두에 있는 주도국은 물론, 전 세계 일반인까지 촉각을 곤두세우게 하는 대형 사건이 발생했다. 챗GPT 개발사인 오픈AI 이사회가 오픈AI 창업자이자 챗GPT의 아버지로 불리는 샘 올트먼(Sam Altman)을 전격 해임했다고 갑작스럽게 발표한 것이다. 당시 명확한 해임 사유를 밝히지 않았지만, 여기에도 ‘인공지능 통제 이슈'가 주요 원인으로 지목된 바 있다.

9) https://futureoflife.org/open-letter/pause-giant-ai-experiments/

OpenAI

오픈AI는 2015년 비영리기관으로 설립되면서 ‘인류에게 안전하고 유익한 인간 수준의 인공지능 개발과 구축’을 목표로 삼았는데, 올트먼이 안전한 인공지능 개발을 위한 기술 통제와 규제에 초점을 맞추기보다, 상업성과 수익성 추구에 더 주안점을 두면서 글로벌 빅테크기업의 투자를 끌어내기 위해 활동해 왔다는 것이다.

좀 더 구체적으로 들여다보면, 오픈AI는 2015년 출범 당시 생성형 인공지능 챗GPT 개발에 있어 외부 영향력을 배제하기 위해 자본과 경영을 완전히 분리한 지분 없는 6인 이사회 체제를 구성했는데, 이후 기술 개발과 발전을 추진하기 위한 자금 조달 목적의 영리 자회사를 출범시키면서 각기 다른 가치의 경쟁 구도가 시작되었다. 관계기관 전문가들은 오픈AI 조직 내에서 ‘통제할 수 있는 안전한 인공지능 개발’과 ‘인공지능 개발을 통한 수익 모델의 실현’이라는 상반된 가치가 충돌했고, 이와 같은 인공지능 개발과 규제의 노선 갈등이 이번 사태의 원인이 되었다고 관측하고 있다. 즉 ‘인공지능 개발론자’와 ‘인공지능 규제론자’의 갈등과 충돌이 ‘CEO 올트먼의 해임’이라는 충격적인 사건을 불러일으켰다는 것이다.

이코노미스트는 인공지능 기술 지배권을 놓고 벌어지는 이러한 싸움에 대하여 ‘두머’(Doomers)와 ‘부머’(Boommers)의 갈등이라고 설명했다. ‘두머’는 인공지능이 인간에게 실존적 위험을 초래할 수 있다고 우려하는 파멸주의자를 뜻하는데, “인공지능 기술 업계에 더 강력한 규제를 적용해야 하고 인공지능 기술의 급속한 발전을 제어해야 한다”는 입장이다. 이들은 “인공지능이 모든 인류를 멸망시킬 가능성에 관심을 가져야 한다”(a movement that is concerned by the possibility of AI wiping out all of humanity)는 ‘효과적인 이타주의’

effective altruism

관점을 갖고 있으며, 인공지능 활용에 대한 윤리적 고려와 사회적 책임을 강조한다. 또한 다양한 측면에서 효과적인 방법으로 인공지능을 개발하고 활용함으로써 사회적 이익을 극대화하고 부정적 영향을 최소화해야 한다고 주장한다.

반면 ‘부머’는 인공지능이 사회의 혁신과 발전을 촉진할 수 있다는 긍정주의자 또는 낙관주의자를 의미하며, “인공지능 기술이 인류에게 긍정적 영향을 미치므로 기술 발전을 가속화해야 한다”는 입장이다. 이들은 “인공지능 개발이 방해 없이 진행되어야 하고, 개발 속도도 빨라져야 한다”(Not only should the development of AI be allowed to proceed unhindered, it should be speeded up)는 ‘효과적인 가속주의’

effective accelerationism

관점을 갖고 있으며, 오픈소스 소프트웨어를 선호하고 다양한 스타트업의 지지를 받고 있다.

올트먼 해임이 발표된 직후, 마이크로소프트는 샘 올트먼을 자사의 ‘첨단AI연구팀’

New Advanced AI research team

에 합류시킬 예정이라고 밝혔고, 오픈AI의 직원 770명 중 무려 702명이 샘 올트먼을 따라 회사를 떠나겠다고 선언함에 따라, 불과 5일 만에 올트먼이 다시 오픈AI로 복귀하면서 해임 사건은 마무리되었다. 더불어 올트먼 해임을 주도한 이사진 3명은 사임했고, 이에 따라 전문가들은 오픈AI가 인공지능 기술 개발과 상업화를 위해 더욱 질주하게 될 것으로 전망했다. 결국 이번 샘 올트먼 해임 사건은, 인공지능 기술 개발 및 법적 규제와 관련된 상반된 관점에 따라 인공지능 통제를 둘러싼 기술계의 깊어지는 갈등이 얼마나 심각한지를 보여주는 한 편의 드라마로 남게 되었다.

영국 이코노미스트는 이번 사건에 대해 “인공지능 기술이 인류에게 실존적인 위험을 초래할 것”이라고 주장하는 집단의 입장과, “인공지능이 사회의 혁신과 발전을 촉진할 것”이라고 주장하는 집단의 입장이 심각하게 충돌하고 있음을 보여주는 단적인 사건이라고 진단하면서, 인공지능 기술 관련 문화 전쟁이 얼마나 파괴적일 수 있는지를 보여준다고 평가했다. 또한 이러한 갈등은 결국 기술이 어떤 모습으로 발전할지, 기술에 대한 법적 제도적 규제 장치가 어떻게 마련될 것인지, 그리고 기술 경쟁의 최후 승자는 누가 될 것인지 결정짓게 할 것이라고 덧붙였다.

10)

미국 뉴욕타임스 역시 “인공지능이 인류 미래에 위협이 될 것”이라고 전하면서 “인공지능 기술을 적절하게 규제하고 통제해야 한다고 믿었던 그룹이 오픈AI 이사회에서 쫓겨나고, 인공지능의 상업적 이용을 가속할 ‘자본주의자’ 그룹이 이사회를 장악하게 되었다”고 강조하는 내용으로, “인공지능이 자본가의 것이 되었다”(A.I. Belongs to the Capitalists Now)라는 제목의 기사를 게재했다.

11)

한편 이번 사건과 관련하여 전 세계의 인공지능 관련 분야 전문가와 미디어가 주목하는 또 다른 중요한 측면은, 샘 올트먼 해임의 본질이 바로 인간 수준의 능력을 발휘할 AGI

Artificial General Intelligence

의 개발과 깊은 관련이 있다는 추정이 퍼지고 있다는 사실이다. 올트먼의 오픈AI 복귀 결정이 알려진 다음 날인 11월 23일, 로이터는 오픈AI 내부 관계자를 통해 입수한 구체적인 정황을 설명하면서, 수학 분야의 AGI 연구 성과가 샘 올트먼 해임의 도화선이 되었다고 보도했다.

12)

10) https://www.economist.com/business/2023/11/19/the-sam-altman-drama-points -to-a-deeper-split-in-the-tech-world 11) https://www.nytimes.com/2023/11/22/technology/openai-board-capitalists.html 12) https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/

로이터에 따르면, 최근 오픈AI는 자사가 추진하고 있는 큐스타(Q*) 프로젝트에서 인공지능이 초등학생 수준의 수학 문제를 스스로 이해하고 풀어내는 성과를 거두었다. 이는 매우 의미 있는 결과로 해석되는데, 인공지능 분야의 연구자들은 수학 문제 해결을 생성형 인공지능 연구의 최전선으로 간주하고 있기 때문이다. 정답이 하나뿐인 수학 문제를 해결한다는 것은 인공지능이 인간의 추론 능력을 보유하게 되었다는 의미를 부여할 수 있다. 이러한 성과를 이끈 주체는 바로 올트먼이기에, 인공지능 기술 개발을 통해 수익을 추구하고 상업화를 확대하고자 보폭을 넓혀온 그의 행보가 인공지능 수학 분야의 연구 성과와 더해지면서, 인공지능 위험성에 대한 더 큰 우려를 낳게 되었고, 더 나아가 인공지능 기술의 안전과 사회적 유익을 강조하는 이사진들로부터 해임 결정을 끌어냈다는 설명이다. 하지만 결과적으로 올트먼은 다시 복귀했고, 인공지능 기술의 상업적 활용을 가속할 오픈AI 그룹의 기세는 더욱 커질 전망이다.

종합해 보면 이러한 기술계의 사건은, 인공지능 기술이 인류에게 위협이 되지 않도록 통제하고 규제하는 책임성이 정부와 사회 구성원의 몫으로 넘어오고 있음을 시사한다. 인공지능을 윤리적으로 사용할 수 있도록 이끌어야 할 정부의 역할은 물론, 전혀 예측할 수 없는 사회 패러다임 변화를 불러올 새로운 기술 이슈에 대해 활발하게 논의하고 토론하는 사회적 공론장 형성이 더욱 중요해졌다는 의미이다.

그렇다면 앞으로도 또다시 벌어질 수 있는 이러한 일들에 대한 관점과 의견을 형성하면서 인공지능 기술 개발과 법적 규제에 대한 찬반 여론을 조성할 일반 대중은 인공지능 기술에 대해 어떤 인식을 하고 있을까.

대중의 인공지능에 대한 인식과 태도는 ‘긍정적’

페이지와 샤피로(Page & Shapiro)의 연구 결과에 따르면 의사결정권자들은 특정 이슈에 대한 정책이 수립·시행되는 과정에서 사람들이 선호하는 방향을 따라가려는 경향성이 있고, 전적으로 여론에 의존하지 않는다고 할지라도 사람들이 정책의 특정 방향과 결정에 찬성할 때 정책의 실행 가능성이 커진다(Page & Shapiro, 1993) 이에 따라 인공지능 기술 관련 정책 수립과 의사결정 단계에서도 이슈에 대한 사람들의 인식과 여론 양상이 많은 영향력을 행사할 것이라고 추론할 수 있다.

.13)

인공지능과 관련된 사람들의 인식과 태도를 분석한 다수의 선행연구 결과를 좀 더 구체적으로 살펴보면, 사람들은 인공지능의 긍정적이고 희망적인 면에 주안점을 두고 바라보면서 기술 개발을 지지하는 양상을 나타냈다. 이와 더불어 인공지능에 대해 긍정적인 측면과 부정적인 측면이 혼재된 의견을 갖고 있는 사람들도 적지 않다는 사실도 확인할 수 있다.

장과 다포(Zhang & Dafoe)가 미국 성인 2천 명을 대상으로 인공지능과 인공지능 거버넌스에 대한 일반인의 인식을 설문 조사한 결과, 인공지능 발전에 대해 반대하는 의견보다 지지하는 의견이 더 많았고, 인구통계학적으로는 경제적으로 부유하고 기술 교육 경험이 있는 남성이 인공지능 기술 개발을 더 지지하는 것으로 나타났다(Zhang & Dafoe, 2019).

.14)

이와 함께 설문 참가자의 80% 이상이 인공지능 기술을 신중하게 관리해야 한다고 응답했고, 인공지능 기술의 진화가 미래 일자리를 창출하기보다 감소시킬 것이라고 답했다. 또한, 미국 퓨리서치센터 조사에 따르면 미국 성인의 약 60%가 일상생활과 자동화 기술의 통합을 꺼렸고, 약 76%는 로봇공학과 인공지능 발전이 미래 사회에 더 큰 불평등을 초래할 것이라고 우려했다(Pew, 2017).

.15)

이렇듯 인공지능에 대해 긍정과 부정이 혼재된 공중의 인식 양상은 해외의 조사 결과뿐만 아니라 최근 우리나라에서 진행한 일반인 대상 설문 조사 결과에서도 확인할 수 있다.

한편 한국언론진흥재단 미디어연구센터는 2023년 4월, 20대부터 50대까지 일반인 1천 명을 대상으로 진행한 ‘챗GPT 이용 경험 및 인식’ 조사 결과를 발표했다. 설문 결과에 따르면 참여자들은 대체로 “챗GPT가 편리하다”(89.6%)고 인식했고, “답변 내용이 유용하다”(87.2%)

13) Page, B., & Shapiro, R. Y. (1993). The rational public and democracy. Reconsidering the democratic public, 35-64. 14) Zhang, B. and A. Dafoe (2019). Artificial Intelligence: American Attitudes and Trends. SSRN Electronic Journal, 3312874. 15) https://www.pewresearch.org/internet/2017/10/04/automation-in-everyday-life/

16)

“다른 사람에게 추천할 만하다”(85.7%), “답변 내용이 흥미롭다”(82.9%) 등 80~90%에 달하는 참여자들이 긍정적으로 응답했다.

생성형 인공지능에 대한 영향력 인식 조사 항목에 대해서도 “앞으로도 계속 큰 영향을 미칠 것”(81.5%)이라는 응답 비중이 “집중 관심을 받다가 곧 열기가 식을 것”(18.5%) 응답보다 훨씬 많아 인공지능에 대한 긍정적인 인식이 매우 높다는 사실을 확인할 수 있었다. 하지만 긍정적 인식과 별개로 참여자들이 지적한 인공지능의 문제점도 주목할 만하다. 응답자들은 “인공지능이 쓴 글을 학교 과제, 자기소개서 등으로 제출하는 부정행위 문제”(90.1%), “인공지능이 저작물을 활용해 답변을 만들어냄으로써 발생하는 저작권 침해”(88.7%), “인공지능이 잘못된 정보를 담은 답변을 내놓음으로써 발생하는 허위 정보 확산”(88.6%) 등 구체적인 우려의 목소리를 제시했다.

우리나라 사람들의 인공지능에 대한 긍정적 인식은 해외 기관의 조사 결과에서도 확인할 수 있었다. 글로벌 안전 관련 자선 단체인 로이드선급재단(Lloyd’s Register Foundation)이 2022년 12월 발표한 설문 결과 보고서에 따르면, 우리나라 사람들은 전 세계에서 인공지능의 혜택과 장점에 대해 가장 확신하는 태도를 갖춘 것으로 분석됐다.

재단은 2021년 121개국 약 12만 5천 명을 대상으로 ‘디지털 세계: 인공지능과 개인 데이터 오용에 대한 리스크 인식(A Digital World: Perceptions of risk from AI and misuse of personal data)’에 대한 갤럽 설문 조사를 진행했는데, 전체 한국인 응답자의 70%가 향후 20년간 자국민에게 인공지능 기술이 ‘대부분 도움이 될 것’이라고 답했다.

Gallup

17)

이는 전 세계 국민의 긍정적인 답변 평균인 39%를 크게 웃도는 수치이다. 또한, ‘대부분 피해를 줄 것’이라는 한국인의 부정 응답은 15%에 그쳐 단일 국가 내에서 긍정과 부정의 응답 차이 결과가 가장 크게 나타난 것으로 분석됐다.

이러한 결과에 대해 재단 관계자는 “인공지능 기술에 대한 국민적 신뢰를 얻기 힘든 상황에서 한국은 인공지능 기술의 유용성을 확신하는 국민이 전 세계에서 가장 많은 이례적 양상을 보였다”라고 설명하면서, “기술 투자 비중이 높은 국가일수록 기술의 미래 잠재력을 더 긍정적으로 전망한다”라고 분석했다.

16) https://www.kpf.or.kr/front/research/selfDetail.do?seq=595547&link_g_homepage=F 17) https://wrp.lrfoundation.org.uk/2021-report-a-digital-world-perceptions-of-risk- from-ai-and-misuse-of-personal-data/

실제로 우리나라는 2013년부터 2021년까지 인공지능 관련 민간 투자 부문에서 세계 10위 이내에 속한다. 하지만, 우리나라 외의 상위 투자국인 미국, 중국, 일본, 독일 등 타 국가 국민의 경우, 인공지능 기술 투자에 대해 우리나라 국민처럼 크게 낙관적인 의견을 형성하고 있는 것은 아니다.

이에 대해 일부 전문가들은 인공지능에 대한 공중의 긍정적인 시각보다 회의적인 시각이 더 중요하다는 의견을 제시한다. 공중이 인공지능에 대해 회의적이고 부정적인 관점을 갖추고 경계해야 인공지능의 악용과 오용을 막고 다양한 사회문제 발생의 가능성을 낮출 수 있다는 것이다. 재단은 이 밖에 인종·국적·피부색 등으로 인한 차별 경험, 인터넷 접속 가능 여부, 일상생활에서 인공지능 기술 활용 여부 등이 인공지능의 사회적인 영향을 어떤 관점으로 바라볼지에 대한 공중의 의견 형성에 영향을 끼쳤다고 분석했다.

지금까지 논의한 바와 같이, 세계적인 석학들이 인공지능 이슈와 관련한 변수 중 ‘통제 가능성’을 매우 중요한 키워드 중 하나로 빈번하게 언급하면서 그 심각성과 중요성을 강조하고 있고, 일반인의 인공지능에 대한 인식과 태도는 ‘긍정적’이고 ‘발전적’인 상태를 유지하고 있음을 확인할 수 있다.

하지만 개인정보 유출, 가짜뉴스 확산, 저작권 논란 등 인공지능 통제 가능성 이슈와 관련된 사건이 점차 가시화되고 있는 상황을 고려할 때, 현재 국제적으로 추진되고 있는 인공지능 통제와 규제 관련 법안 및 지침, 글로벌 표준 마련이 어떻게 진행되고 있는지 살펴보는 것은, 과학교육과 과학문화 저변에 인공지능 기술이 어떤 영향력을 발휘하게 될지 인공지능이 주도할 미래 변화에 적극적으로 대응할 수 있는 시사점을 찾을 수 있다는 데 의미가 있을 것으로 판단된다.

특히 그동안 영화나 소설에 등장했던 디스토피아적 현실, 즉 인공지능 시스템의 의사결정을 예측하기가 어렵거나 인공지능 통제가 아예 불가능한 상황이 실제로 현실에서 구현된다면 각종 사회 난제가 발생함은 물론, 기계가 인간을 지배하게 될 실존적 위협까지 배제할 수 없으므로 선제적으로 관련 정책과 규제 마련을 위한 사회적 공론장을 형성할 필요가 있다.

이러한 문제의식의 확대와 실천적 행동은, 우리 사회 저변에 인공지능 기술 진화가 가져올 패러다임 변화에 걸맞은 가치를 형성하고 올바른 과학커뮤니케이션 환경과 과학문화의 기반을 조성하는 데 있어 매우 중요한 부분이라고 할 수 있다.

이에 따라 이어지는 <이슈페이퍼 5호>에서는 인공지능 통제와 관련한 국제사회의 대응, 특히 인공지능 법안 제정에 있어 가장 앞서나간다고 할 수 있는 유럽연합을 비롯해, 미국, 영국, 국제단체의 인공지능 법안 및 디지털 지침 현황을 살펴보고, 우리나라 인공지능 기술 분야의 규제에 대한 현주소를 좀 더 구체적으로 확인해 보고자 한다.

KOFAC ISSUE PAPER는 과학기술문화, 과학융합인재, 과학·수학·정보 교육에 관한 주요 현안이슈를 심층 분석하고 정책제언을 함으로써, 미래 이슈에 선제적으로 대응하고 정책 수립 시 활용하고자 발행하고 있습니다. ※ 본 보고서의 내용은 저자 개인의 의견을 정리한 것으로 한국과학창의재단의 공식 견해와 다를 수 있음을 밝힙니다.