CONTENTS

Part Ⅰ. 인공지능 통제와 윤리 표준의 현주소

Part Ⅱ. 디지털 환경의 新질서, ‘디지털 권리장전’

<표 1> 대한민국 인공지능 국가전략 <표 2> 국내외 인공지능 주요 윤리 원칙

・・・・・・・・・・・・ 12 ・・・・・・・・・・・・ 13

인공지능 통제의 현주소와 디지털 권리장전

장미경 한국과학창의재단 정책기획실 선임연구원

Part Ⅰ. 인공지능 통제와 윤리 표준의 현주소

지난 <이슈페이퍼 4호>에서는 인공지능 통제 가능성에 대한 고찰과 함께, 인공지능 통제 및 규제를 중심으로 한 세계적인 석학들의 반응과 전망, 인공지능 ‘기술 개발’과 ‘법적 규제’를 둘러싼 굵직한 사건을 짚어보면서 글로벌 현황을 파악했다. 이와 함께 국내외 대중이 인공지능 기술에 대해 어떤 인식과 관점을 갖는지 각종 조사 결과를 통해 탐색했고, 이를 통해 인공지능 기술이 불러올 사회 변화가 어떻게 진행되고 있는지, 사람들의 인식은 어떠한지, 그리고 과학커뮤니케이션 측면에서 향후 첨단 과학기술을 어떻게 바라보고 사회적 공론장을 형성해야 할지 시사점을 찾아보았다.

<이슈페이퍼 5호>에서는 인공지능 위험성과 안전성 이슈가 뜨겁게 논의되었던 글로벌 현장 탐색을 통해 현시점에서 인공지능 기술 관련 법안과 규제 제정이 필요한 현실적인 이유를 좀 더 구체적으로 살펴보고자 한다.

이와 함께 인공지능 기술 선진국을 중심으로 한 인공지능 법안 및 윤리 표준의 현주소와 동향을 검토하고, 2023년 9월 제정·발표 이후 정부에서 강조하고 있는 ‘디지털 권리장전’의 세부 사항 등을 인공지능 기술 제반 환경에 대한 이해와 소통 활성화 차원에서 짚어볼 것이다. 이러한 논의를 통해 우리나라의 인공지능 관련 법안 수립과 제정에 있어 글로벌 선진 사례의 지침과 가이드라인의 장점을 적극적으로 활용할 수 있음은 물론, 인공지능 기술의 발전과 진화가 불러올 예측 불가능한 미래 사회의 변화를 어떻게 준비해야 할지 고민하는 계기로 삼을 수 있을 것으로 기대된다.

인공지능 통제 가능성에 대한 우려

인공지능과 관련된 통제에 대한 우려는, 인공지능이 무엇인지 또는 인공지능을 무엇으로 간주해야 하는지에 대한 일반적 고찰에서 비롯된다고 할 수 있다.

1)

1) Russell, S. (2019): Human Compatible : Artificial Intelligence and the Problem of Control. Penguin, London

흔히 인공지능이라는 개념의 근간을 만들었다고 일컬어지는 앨런 튜링 사용한 것이 아니라 “기계가 생각할 수 있는지”에 대한 연구인 ‘튜링 테스트’

은, 1950년 ‘인공지능’이라는 용어를 직접적으로 정의해 에 집중했다. ‘튜링 테스트’에 따르면, 만약 기계가 제시하는 메시지와 사람이 작성한 메시지를 구별할 수 없을 정도로 ‘인간을 모방할 수 있는 기계’가 발명될 경우, ‘지능적이고 생각하는 기계’, 즉 ‘인공지능’이 현실로 구현되었다고 할 수 있다. 이러한 연구에 영감을 둔 인공지능에 대한 정의는 “생각하는 인간을 성공적으로 모방할 수 있는 기계를 만들 때” 완성된다고 표현할 수 있을 것이다.

Alan Turing

Turing Test

3)

2)

이후 ‘인공지능’이라는 용어는 1956년 개최된 미국 ‘다트머스 컨퍼런스’(Dartmouth Conference) 학술회의에서 연구진의 제안에 따라 처음 사용되었다. 인공지능 연구의 효시가 된 이 컨퍼런스에서 미국의 컴퓨터과학자이자 인공지능의 아버지로 일컬어지는 존 메커시(John McCarthy)를 중심으로 “인간의 사고와 학습, 기타 지능적인 측면을 시뮬레이션하는 기계”, 즉 ‘인공지능’에 대한 학자들의 정의와 논의가 시작된 것이다. 이 정의에 따르면 인공지능은 “인간의 지능을 시뮬레이션하는 기계”라고 할 수 있다.

4)

시간이 흐르면서 현대적 접근 방식에 따라, 인공지능은 지능형 에이전트 생성 개념으로 정의되기 시작했다. 여기서 ‘에이전트’는 환경을 ‘인식’하고 특정 목표를 달성하기 위해 ‘행동’할 수 있는 시스템을 의미한다. 또한 ‘지능’은 철학계에서 ‘도구적 합리성’이라고 표현하는 것, 즉 ‘목표를 효율적으로 달성하는 능력’으로 정의할 수 있다.

5)

결국 목표를 더 잘 달성할 수 있고 다른 지능형 에이전트와 협력할 수 있으며, 어려운 작업 분야에서 인간보다 뛰어난 성능을 발휘할 수 있는 에이전트 출현에 대한 아이디어 구상은, 인공지능에 대한 통제 상실 문제가 왜 발생할 수 있는지, 인간이 인공지능에 대한 통제 불가능 상황을 왜 두려워해야 하는지 짐작하게 한다.

자율주행차와 인공지능 통제 가능성, 그리고 대중의 신뢰도

기술 발전에 따른 인공지능 통제 가능성에 대한 이와 같은 우려는, 우리나라 사람들을 대상으로 한 설문 조사 결과에서도 확인할 수 있다. 2022년 10월 진행된 한국리서치의 자율주행차 관련 설문 조사 결과, 사람들이 인공지능 기술에 대해 높은 기대감을 느끼고 있는 데 반해, 인공지능 기술 통제에 대해서는 신뢰도가 낮은 것으로 나타났다.

한국리서치는 전국 만 18세 이상 성인남녀 1천 명을 대상으로 자율주행 기술에 대한 인식조사를 진행했는데, 세대와 성별에 무관하게 응답자 10명 중 8명은 자율주행차와 관련 기술에 관심이 있다고 답했고, 응답자의 66%가 20년 내 완전 자율주행차의 보편화를 예상하는 등 기술 발전에 대한 강한 기대감을 나타냈다. 또한, 완전 자율주행 택시와 버스 도입에 과반수가 동의(택시 57%, 버스 56%)했고, “자율주행 버스와 택시를 이용할 것”이라는 의견도 60%에 달하는 등 대중교통 수단으로서의 자율주행차에 대해서도 긍정적인 시각을 드러냈다.

하지만 자율주행차 관련 인공지능 기술에 높은 기대감을 나타내고 있음에도 불구하고, 부정적 의견과 의구심 역시 상당하다는 설문 결과를 주목해야 할 필요가 있어 보인다. 특히 응답자의 72%가 “자율주행차에 탑승하더라도 언제든지 자동차를 제어할 수 있도록 준비할 것”이라고 답해, 완전 자율주행차의 통제 가능성을 온전히 신뢰하지 않는 것으로 나타났다.

예를 들어 완전 자율주행차의 주행 주체는 인간이 아닌 인공지능 기술인데, 인공지능의 통제 가능성을 신뢰할수록 자율주행차에 탑승했을 때 개인 활동에 집중할 가능성이 크지만, “차에서 휴식을 취하거나 할 일을 할 것”이라는 응답자의 비율은 28%에 불과했고, 대다수가 “목적지에 도착할 때까지 언제든 내가 자동차를 제어할 수 있도록 준비하겠다”고 답했다.

2) Turing, A. (1950): Computing machinery and intelligence. Mind LIX, 433–460 3) Dignum, V. (2019): Responsible Artificial Intelligence. Springer, Berlin 4) McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (2006). A proposal for the dartmouth summer research project on artificial intelligence, august 31, 1955. AI magazine, 27(4), 12-12. 5) Russell, S., Norvig, P. (1995): Artificial Intelligence: A Modern Approach. Prentice Hall, New York

목적지에 도착할 때까지 언제든 내가 자동차를 제어할 수 있도록 준비 72

질문: '완전 자율주행' 차량에 탑승한 상황에서, 다음 중 어떤 입장에 가까우십니까? 응답자 수: 1,000명 조사기간 : 2022. 8. 12. ~ 8. 16.

완전 자율주행차량 탑승 시, '언제든 자동차 제어할 수 있도록 준비할 것 72% 여성과 60세 이상 고령층, 자율주행 자량만믿고 휴식할 수 없다는 인식 강해

남자

여자 22

차에서 휴식을 취하거나 할 일을 할 것 28

18~29세

30대

40대

50대

60대 이상 18

(단위: %)

한국리서치 정기조사 여론 속의 여론(hrcopinion.co.kr)

이뿐만 아니라, 완전 자율주행차의 ‘속도 제한’, ‘지정 차선 적용’, ‘탑승 금지 조건’ 등에 있어, 참여자의 80% 이상이 별도의 규제가 필요하다고 답변했다. 응답자들은 자율주행차의 인공지능 기술로 ‘고령자와 장애인의 이동권 개선’, ‘교통사고 예방’, ‘교통 체증 해소’, ‘주차 문제 해결’ 등 각종 사회문제를 해결할 수 있을 것으로 기대했지만, 인공지능 기술로 인해 새롭게 발생할 문제점에 대해서도 높은 우려를 나타냈다.

특히 응답자의 88%는 자율주행차량으로 인한 사고가 발생했을 때 윤리적·법적 책임의 모호함을 우려했고, 87%가 자율주행 기술의 보안·해킹·시스템 오작동 문제를 걱정했으며, 정비와 운수 등 자동차 관련 직업 종사자의 실업 문제를 지적한 답변도 75%에 달했다. 이러한 결과는, 전문가뿐만 아니라 일반인 역시 인공지능 기술의 통제와 규제 필요성에 대해 얼마나 중요하게 인식하는지 확인할 수 있는 내용으로 판단된다.

한편 2023년 5월 진행된 한국리서치의 ‘2023 인공지능 인식조사’ 또한 주목할 만한 결과를 제시하고 있다. 최근 전 세계적으로 활발하게 논의되고 있는 인공지능 기술 통제와 관련한 일자리 문제에 대해 우리나라 국민이 전반적으로 부정적인 시각을 갖고 있음을 확인할 수 있는 내용이다.

지금까지 ‘일자리 논란’은 새로운 기술이 출현할 때마다 제기되어 왔던 이슈였고, 긍정과 부정의 상반된 의견이 팽팽하게 맞서왔다. 긍정적인 관점의 경우, 과거 역사가 증명하듯 인공지능과 관련된 새로운 산업이 발달함으로써 “기존에 없었던 일자리가 다수 창출되어 사회적·경제적 도약에 도움이 될 것”이라는 입장이고, 부정적 관점의 경우 인공지능 기술로 탄생한 각종 산물이 인간의 역할을 대신하게 되면서 “단순노동 작업을 비롯한 인간의 일자리가 대폭 줄어들어 사람들이 실업의 고통과 경제적 어려움을 경험하게 될 것”이라는 입장이다.

한국리서치의 조사 결과를 구체적으로 살펴보면, 인공지능 기술 발전으로 인해 “새로 생기는 일자리가 더 많을 것”이라는 응답은 8%에 불과했고, 응답자의 80%가 “줄어드는 일자리가 더 많을 것”이라고 답변해 부정적 시각에 치우쳐 있었다.

이렇듯 인공지능 기술로 탄생한 자율주행차의 통제 가능성에 대한 신뢰도나 일자리 논란에 관한 설문 결과에서 확인할 수 있는 것처럼, 인공지능 기술은 복잡하고 전문적이면서도 향후 어떤 양상으로 사회의 변화를 주도하게 되고 방향성을 설정하게 될지 가늠할 수 없는 ‘불확실성’과 ‘예측 불가능성’을 주요 특징으로 하는 기술이다. 무엇보다 현시점에 인공지능 기술 관련 위험성과 안전성 검토, 더불어 인공지능 법안과 규제의 현주소를 살펴보는 것이 중요한 이유는, 인공지능 기술이 기존에 경험할 수 없었던 혁신적 변화를 주도할 ‘파괴적 기술’

Disruptive Technology

‘파괴적 기술’

Disruptive Technology

의 대표적인 사례라고 할 수 있기 때문이다.

이라는 용어는 ‘파괴적 혁신’

Disruptive Innovation

이라는 개념에서 그 유래를 찾을 수 있다. 미국 하버드 경영대학원 클레이튼 크리스텐슨(Clayton Christensen) 교수는 1997년 발간한 저서 ‘혁신기업의 딜레마’(The Innovator’s Dilemma)에서 기업이 기술 변화를 인지하지 못하거나 간과했을 경우 발생할 수 있는 격차와 실패를 강조하면서 ‘파괴적 혁신’ 개념을 사용했다.

Disruptive Innovation

이라는

그동안 ‘파괴적 기술’에 대한 논의는 컴퓨터, 인터넷, 차세대 유전체학, 신소재, 3D 컴퓨팅, 빅데이터 등 혁신적 기술에 대해 논할 때마다 진행되어 왔는데, 최근 인공지능 이슈를 중심으로 다시 그 중요성이 강조되고 있다. 특히 미국 테슬라와 스페이스X의 최고경영자인 일론 머스크(Elon Musk)는 인공지능의 파괴적 힘에 대한 대중적 논의를 불러일으키는 대표적인 인물이다.

일론 머스크는 2023년 11월, 영국 런던 중심부의 랭커스터 하우스에서 개최된 ‘인공지능 안전성 정상회의(AI Safety Summit)’ 이후 ‘비스니스 커넥트’(Business connect) 행사에서 영국 총리 리시 수낵(Rishi Sunak)과 대담을 갖고, 인공지능의 미래와 관련하여 정부의 역할, 일자리 변화, 인공지능 규제 등 위험성과 기회에 대해 논의했다.

일론 머스크는 인공지능에 대해 역사상 가장 파괴적인 힘이라고 선언(“We are seeing the most disruptive force in history here”)하면서, 인공지능이 인간의 일자리를 필요 없게 만들 것(“There will come a point where no job is needed”)이라고 언급했다. 머스크에 따르면 인공지능 기술이 지닌 파괴적 힘 혁신적 잠재력을 가지고 있음을 의미한다.

disruptive force

은 인공지능 기술이 기존의 산업과 직업의 양상을 근본적으로 변화시키거나 대체할 수 있는

6)

머스크는 정확한 시점은 말하기 어렵겠지만 언젠가 직업이 필요 없는 때가 올 것(“It’s hard to say exactly what that moment is, but there will come a point where no job is needed.”)이라고 얘기하면서, 개인적 만족을 위해 원하면 직업을 갖게 되겠지만, 인공지능이 모든 일을 하게 될 것이고, 그것이 사람들을 편하게 할지 불편하게 할지는 모르겠다(“You can have a job if you wanted to have a job for personal satisfaction. But the AI would be able to do everything. I don’t know if that makes people comfortable or uncomfortable”)고 밝혔다. 또한 그는 인공지능이 소원을 들어주는 램프 요정 지니와 같지만, 동화가 좋게 끝나는 경우가 없다(“If you wish for a magic genie, that gives you any wish you want, and there’s no limit. You don’t have those three wish limits nonsense, it’s both good and bad.”)라는 농담과 함께, ‘어떻게 삶의 의미를 찾을 것인지’가 미래의 도전 중 하나가 될 것(“One of the challenges in the future will be how do we find meaning in life.”)이라고 언급했다.

머스크는 이날 인공지능의 파괴적 힘과 위험성을 언급하는 동시에 통제와 규제의 필요성을 강조했다. 그는 인공지능 모델을 안정적인 상태로 개발하기 위해서는 ‘심판’이 있어야 하고, ‘끄기 스위치’가 탑재돼야 한다면서 인공지능 시스템에 대한 통제의 중요성을 강조했다. 인공지능 규제 마련을 위한 각국 정부의 심판 역할을 강조하면서도, 인공지능 로봇의 전원을 끌 수 있는 물리적인 제어 기능 역시 현실화해야 한다고 주장한 것이다.

6) https://www.bbc.com/news/uk-67302048

머스크는 “인공지능이 핵무기보다 더 위험할 수 있다”라고 표현했을 만큼 인공지능의 위험성과 부작용에 대해 민감하게 언급해 왔다. 앞선 논의에서 살펴본 바와 같이 지난 3월에는 오픈AI의 GPT-4를 능가하는 인공지능 시스템 개발을 6개월간 중단해야 한다고 주장하는 집단 성명서에 서명하기도 했다.

그는 인공지능 기술이 결과적으로 대부분 ‘선’을 위해 쓰이게 될 것이라고 강조하면서 인공지능 기술로 인해 변화할 미래 전망에 대해 낙관적 관점을 밝혔지만, 위험성이 전혀 없는 것은 아니라고 주의와 경고를 당부했다.

‘AI 안정성 정상회의’는 인공지능 기술의 안전한 활용을 목표로 국가, 기업, 기관 간 협력 방안을 모색하기 위해 영국에서 처음 개최됐다. 인공지능의 파괴적 혁신을 논의한 이 행사에는 전 세계 28개국 인공지능 기술 관련 부처의 장관 등 글로벌 리더들은 물론 구글, 마이크로소프트, 오픈AI, 아마존, 네이버, 카카오 등 국내외 주요 기업이 참여했다. 각국 대표들은 이 자리에서 인공지능 안전과 관련해 공동으로 협력한다는 내용을 주요 골자로 한 ‘블레츨리 선언’에 서명했다.

우리나라의 경우 이종호 과학기술정보통신부 장관이 수석대표로 참석해 “인공지능 발전을 위축시키지 않는 범위 내에서 인공지능의 적절한 신뢰성과 안정성을 확보해야 한다”고 강조하면서 ‘디지털 권리장전’을 비롯한 우리나라의 인공지능 관련 정책을 소개했다.

7)

이들은 인공지능 기술을 둘러싼 여러 가지 논란에 대해 국제적 협력을 통해 일관된 규제와 표준을 마련하는 것이 무엇보다 중요하다는 논의에 공감대를 형성하고, ‘인간 중심적이고 신뢰할 수 있으며, 책임감 있는 방식’으로 인공지능 기술을 개발하고 확산하는데 협력하기로 합의했다. 그렇다면 국제적 합의가 활발하게 진행되고 있는 인공지능 관련 규제와 통제 표준, 그리고 법안 제정의 현주소는 어떤 모습일지 좀 더 구체적으로 살펴볼 필요가 있다.

7) 2024년 11월 프랑스에서 개최될 차기 정상회의에 앞서 2024년 5월에는 우리나라와 영국이 미니 정상회의를 공동 개최할 예정이다.

인공지능 기술 선진국은 기술 개발의 효율성을 끌어올려 인공지능 관련 산업의 발전과 진흥을 도모하면서도, 인공지능 기술로 인해 야기될 부작용과 사회문제 등 우려와 혼란을 잠재우기 위한 제도적 기반과 장치, 통제 방안 마련에 고심하고 있다.

가장 앞서나가고 있는 사례로는 유럽연합의 ‘인공지능 법안’

Artificial Intelligence Act

을 손꼽을 수 있다. 유럽연합은 인공지능 관련 법안 마련의 선두 주자인 만큼, 법안 운영을 통해 인공지능 기술을 활용하는 과정에서 시민의 기본권을 지키고 민주주의를 보호함은 물론, 개인의 건강과 안전을 보장하는 것을 목표로 삼고 있다.

유럽연합은 2021년 4월 인공지능 법안을 세계 최초로 제안했고, 2023년 6월에는 생성형 인공지능 기술 관련 내용을 반영한 수정법안을 유럽의회에서 통과시켰다. 이후 2023년 12월 8일, 27개 EU 회원국이 모여 인공지능 법안에 잠정 합의하는 등 가장 빠른 속도로 인공지능 통제와 규제 방안 마련에 앞장서고 있다.

특히 수정된 법안에 따르면, 관련 법규를 위반한 대상자는 기업의 연간 글로벌 매출 7%에 해당하는 벌금을 내야 하는 등 유럽연합은 인공지능이 충분히 신뢰할 수 있고 인간 중심적으로 활용될 수 있도록 지원하면서 법안 실효성을 강화할 예정이다.

유럽연합은 2018년 인공지능 윤리에 관한 연구 전문가그룹을 구성해 2019년 인공지능이 가져올 사회문제 등을 대비하기 위한 규범과 지침 등 연성법 형태의 ‘인공지능 윤리 가이드라인’을 발표했으며, 이후 2021년 강제력을 지닌 법적 규제 프레임으로 인공지능 법안이 제안되었다는 점에서 주목할 만한 법안 내용 수립과 절차 적용 방식을 추진하고 있다는 평가를 받고 있다.

즉 사회 경제적으로 파급력이 클 수 있는 인공지능 통제와 윤리 문제에 대해 지침이나 가이드라인을 제시하는 자율적 규제에서 출발해, 강제력 있는 법적 규제에 다다를 때까지 인공지능 기술 발전의 단계에 맞추어 서서히 사회에 안착시키려고 노력했음을 유추할 수 있다.

이에 따라 유럽연합은 인공지능 법안에서 강제하는 엄격한 규제는 물론, 윤리 문제 해결을 위한 지침 등의 대응까지 탄력적으로 적용할 수 있다. 이러한 측면에서 유럽연합은 인공지능 기술 관련 산업의 성장동력을 저해하지 않음과 동시에, 각종 부작용과 사회문제에 선제적으로 대응할 수 있는 전략적 방안을 만들어 내고 있다고 해석된다. 우리 정부는 물론, 인공지능 관련 지침과 법안을 준비하는 국제사회가 주의 깊게 바라보아야 할 부분이다.

또 하나 주목할 만한 점은, 유럽연합의 인공지능 법안의 경우 위험 기반 접근 , 제한된 위험

risk

limited risk

risk-based approach

에 따라 인공지능 규제 대상을 최소 위험 등 총 4단계로 구분하고 있다는 사실이다. 인공지능은 하나의

minimal

, 고위험 , 수용 불가 위험 산업으로 묶을 수 없는 범용기술이기 때문에, 이에 따라 기술 분야별·위험 수준별 분류에 따른 기술 정책이 적용되어야 한다는 점을 고려한 것으로 판단된다.

high risk

unacceptable risk

이외에도 유럽연합은 2022년 12월, ‘사람’을 중심으로 하는 안전하고 지속 가능한 디지털 전환 관련 유럽연합의 책무를 포함한 ‘디지털 권리 및 원칙에 관한 선언문’을 발표한 바 있다. 유럽연합은 이 원칙의 내용을 빅테크기업에 대한 대응을 중심으로 구상했고, 디지털 공간에서의 유럽적 가치와 인본주의 구현을 강조했다. 이밖에 유럽연합의 법안에는 개별 국가의 수용성을 고려해 구체적 실행 방안보다는 원칙적 차원의 내용이 제시되어 있음을 확인할 수 있다.

다음으로 미국의 경우에는 2022년 10월, 바이든 행정부의 과학기술정책실(OSTP, Office of Science and Technology Policy)이 인공지능 기술과 관련된 데이터 사용 등의 신뢰성과 방향성, 원칙을 담은 ‘인공지능 권리장전 청사진’ 인공지능 기술과 자동화시스템 설계 및 사용, 기술 배포 과정에서 시민의 권리를 보호하기 위한 지침이라고 할 수 있다.

Blueprint for an AI Bill of Rights

을 발표했다. 이는

미국의 인공지능 권리장전 청사진은 미국 정부 차원에서 인공지능 관련 인권 보호 원칙을 처음으로 공식화했다는 측면에서 의의가 있으며, 총 5가지 기본원칙, ① 안전하고 효과적인 시스템 구축 ② 알고리즘을 통한 차별 방지 ③ 데이터 관련 사생활 보호 ④ 자동화시스템의 활용에 대한 고지와 설명 ⑤ 인간 대안 마련 등을 제시했다. 미국은 이러한 원칙을 실현하기 위해 자동화된 시스템을 설계할 때 고려해야 할 가이드라인을 별도로 마련해 제공하고 있다.

한편 영국은 2022년 7월, ‘디지털 규제 원칙’을 통해 디지털 전환에 따른 기술혁신을 촉진하고 규제를 완화하기 위한 원칙을 제시했다. 이 원칙은 영국이 유럽연합을 탈퇴한 이후 디지털 규제 체제를 선도적으로 구축하기 위해 3가지 목표를 설정하여 범정부 차원에서 마련한 것이다. 특히 영국의 원칙은 디지털 전환에 따른 기술혁신 촉진과 안전성을 중점 원칙으로 삼은 ‘산업적 측면의 규제’라는 차원에서 차별성을 갖고 있다고 할 수 있겠다.

3가지 목표 사항을 구체적으로 살펴보면, ① 성장 주도를 위한 디지털 부문 전반에 걸친 경쟁과 혁신 촉진 ② 성장과 혁신이 시민과 기업에 해가 되지 않도록 온라인에서 안전하게 보호 ③ 기본권과 자유를 보호하기 위해 번영하는 민주적 사회를 촉진하는 디지털 경제 형성이다. 이러한 목표를 실현하기 위한 규제 원칙으로는 적극적인 혁신의 촉진, 미래지향적이고 일관된 성과 달성, 국제적 기회와 도전에 대한 대처를 제시하고 있다.

국제연합(UN)은 2020년, 디지털 협력에 관한 고위급 패널의 라운드테이블 활동에서 도출된 내용을 바탕으로 ‘디지털 협력을 위한 로드맵’을 제시했다. 이 로드맵에서 UN은 2030년까지 지속 가능한 발전 목표(SDG, Sustainable Development Goals)를 달성하기 위해 디지털 기술의 기회를 활용하면서 동시에 위험성을 최소화하는 데 초점을 맞추고 있다. 이를 위해 UN은 총 다섯 가지, ① 포용적인 디지털 경제와 사회 구축 ② 인적 및 제도적 역량 강화 ③ 인권과 인간 자율성 보호 ④ 디지털 신뢰, 안보 및 안정성 촉진 ⑤ 글로벌 디지털 협력 증진 등의 방안을 제시했다.

한편 국제 인권단체인 ‘보편적 디지털 권리보장을 위한 연합’(AUDRI)에서도 2022년 디지털 포용의 관점에서 여성, 소녀 및 사회적 취약계층이 디지털 환경에서 보호받고 기회를 얻을 수 있어야 함을 주요 원칙으로 삼는 ‘세계 디지털 권리원칙’을 제시한 바 있다.

이를 위해 10대 디지털 원칙을 제시하고 있는데 주요 내용으로는, 디지털 평등권, 자신의 정보를 통제하고 디지털 피해로부터 보호받을 권리, 자신에 대한 자동화된 결정이 불공정 또는 차별을 야기하지 않도록 자기 결정권을 행사할 권리, 디지털 참여 권리, 안전하고 견고한 네트워크에서 활동할 수 있는 권리, 디지털 환경에서 언어적·문화적 다양성을 누릴 권리, 디지털 기업이 기술을 개발하거나 콘텐츠를 관리할 때 인권 기반 접근 방식을 채택하도록 하는 국가의 책무, 디지털 기술의 에너지 소비를 최소화하고 천연자원 이용에 의한 피해를 최소화하도록 하는 국가의 책무 등으로 구성되어 있다.

Part Ⅱ. 新 디지털 환경의 질서, ‘디지털 권리장전’

우리나라의 인공지능 관련 ‘규제와 윤리’ 현주소

우리나라의 인공지능 관련 전략과 지침의 경우, 2019년 12월 정부가 발표한 ‘인공지능 국가전략’에서 출발한다고 할 수 있다. 과학기술정보통신부를 비롯한 전 부처가 참여해 마련한 ‘인공지능 국가전략’을 통해 정부는 인공지능 강국으로 도약할 비전과 실행 과제를 제시했다.

‘인공지능 국가전략’에 대해 좀 더 구체적으로 살펴보면, ‘인공지능’이 구현할 수 있는 기능은 ① 상황을 인지하고 ② 이성적·논리적으로 판단·행동하며 ③ 감성적·창의적 기능을 수행하는 능력까지 포함한다. 정부는 이러한 전략을 통해 우리나라만의 강점을 갖춘 분야에 선택과 집중 전략을 적용함으로써 인공지능 기술과 관련 산업의 경쟁력 강화, 사람 중심의 인공지능 사회를 만들어 가고자 했다.

이를 위해 3대 분야로 구분해 9대 추진 전략을 설계했다. 3대 분야의 첫 번째 항목인 ‘세계를 선도하는 인공지능 생태계 구축’ 범주에서는 ① 인공지능 인프라 확충 ② 인공지능 기술 경쟁력 확보 ③ 과감한 규제 혁신과 법 제도 정비 ④ 인공지능 새싹기업(스타트업) 육성 등 네 가지 추진 전략을 설정했다.

3대 분야의 두 번째 항목인 ‘인공지능을 가장 잘 활용하는 나라’ 범주에서는 ① 세계 최고의 인공지능 인재 양성과 전국민 교육 ② 산업 전반의 인공지능 활용 전면화 ③ 최고의 디지털 정부 구현 등 세 가지 추진 전략을 마련했다.

마지막으로 3대 분야의 세 번째 항목인 ‘사람 중심의 인공지능 구현’ 범주에서는 ① 포용적 일자리 안전망 구축, ② 역기능 방지 및 인공지능 윤리 체계 마련을 세부 추진 전략으로 구상했다(표 1).

3대 분야

세계를 선도하는 인공지능 생태계 구축

인공지능을 가장 잘 활용하는 나라

사람 중심의 인공지능 구현

<표 1> 대한민국 인공지능 국가전략

① 인공지능 인프라 확충 ② 인공지능 기술 경쟁력 확보 ③ 과감한 규제 혁신과 법제도 정비 ④ 인공지능 새싹기업(스타트업) 육성 ⑤ 세계 최고의 AI 인재 양성과 전 국민 교육 ⑥ 산업 전반의 AI 활용 전면화 ⑦ 최고의 디지털 정부 구현

⑧ 포용적 일자리 안전망 구축 ⑨ 역기능 방지 및 AI 윤리 체계 마련

세부 추진 전략

이러한 인공지능 국가전략에 이어 정부는 인공지능 중심으로 펼쳐질 사회 변화에 효율적으로 대응하고 기술 개발 및 활용에 있어 인공지능 위험성에 대한 통제와 규제를 통해 국가 경쟁력을 강화하기 위해 2020년 12월 ‘국가 인공지능 윤리 기준’을 발표했다. 이 기준에 따르면 인공지능 윤리는 “기술의 발전을 저해하지 않음과 동시에 민간의 자율적인 노력을 존중하기 위한 새로운 사회규범”을 의미한다. 즉 ‘사람 중심’이라는 인공지능 개발과 활용의 방향성을 제시함으로써, 인공지능의 도입과 확장으로 인해 발생할 수 있는 우려를 완화하고, 파생되는 역기능을 최소화하기 위해 제시된 규범이라고 할 수 있다.

관계부처 합동으로 발표한 국가 인공지능 윤리 기준은 ‘인공지능 개발과 활용 전 단계에서 정부·공공기관, 인공지능 기술 개발자, 인공지능 기술을 활용한 제품·서비스 공급자·활용자 등 모든 사회 구성원이 사람 중심의 인공지능 구현’을 위해 고려해야 할 기본적이고 포괄적인 기준을 제시하는 것을 목표로 한다(인공지능 윤리기준 관계부처 합동, 2020).

정부는 이러한 목표를 바탕으로 인공지능 개발 및 활용 과정에서 3대 기본원칙인 ‘인간 존엄성 원칙’, ‘사회의 공공선 원칙’, ‘기술 합목성의 원칙’을 제시했고. 이를 실현할 수 있는 세부 요건으로는 ‘인권 보장’, ‘프라이버시 보호’, ‘다양성 존중’, ‘침해 금지’, ‘공공성’, ‘연대성’, ‘데이터 관리’, ‘책임성’, ‘안전성’, ‘투명성’을 강조하고 있다.

이후 정부는 인공지능 규제 이슈인 ‘인공지능 법·제도·규제 정비 로드맵’을 제시했고, 2021년 5월에는 ‘신뢰할 수 있는 인공지능 실현전략’을, 2021년 10월에는 ‘인공지능 지역확산 추진 방향’을 마련했다.

한편 2022년 8월, 교육부가 발표한 ‘교육 분야 인공지능 윤리 원칙’에 따르면, ‘사람의 성장을 지원하는 인공지능’을 대원칙으로 삼고, 크게 5가지의 실천 과제로, ‘인공지능 윤리교육 강화’, ‘교수자의 인공지능 역량 강화’, ‘인공지능 윤리 이슈 발굴 및 연구 지원’, ‘인공지능 윤리의 현장 적용 지원’, ‘윤리적 인공지능 개발 지원’ 등을 제시했다.

또한 ‘인간다움과 미래다움이 공존하는 교육 패러다임 실현’을 최종 목표로 삼고, 10가지의 세부 원칙, 즉 ① 인간 성장의 잠재성을 이끌어낸다 ② 학습자의 주도성과 다양성을 보장한다 ③ 교수자의 전문성을 존중한다 ④ 교육당사자 간의 관계를 공고히 유지한다 ⑤ 교육의 기회 균등과 공정성을 보장한다 ⑥ 교육 공동체의 연대와 협력을 강화한다 ⑦ 사회 공공성 증진에 기여한다 ⑧ 교육당사자의 안전을 보장한다 ⑨ 데이터 처리의 투명성을 보장하고 설명 가능해야 한다 ⑩ 데이터를 합목적적으로 활용하고 프라이버시를 보호한다 등 구체적인 내용을 설정해 강조하고 있다.

명칭

개요

DeepMind Ethics & Society Principles (’17)

<표 2> 국내외 인공지능 주요 윤리 원칙

주요 원칙

주요 특징

딥마인드에서 AI 연구 수행시 사생활 침해 금지, 평등, 도덕성, 포용성, ① 연구자에게 필요한 윤리 원칙과 체크리스트 제시 지켜야 할 윤리적 고려 사항

미국 보스톤의 비영리 연구단체인 Asilomar AI 삶의 미래 연구소(Future of Life Principles (’17)

Institute) 주관으로 작성한 윤리 원칙

AI at Google: 3 Our Principles (’18)

구글의 AI 개발자에게 필요한 윤리 원칙

Microsoft AI principles (’18)

MS의 AI 개발자에게 필요한 윤리 원칙

OpenAI 오픈AI의 기술 연구자에게 필요한 Charter (’18)

윤리적 태도와 원칙

인권 보장, 개인정보보호, 해악 금지, 공공성, 데이터 관리, 책임성, 통제성, 투명성, 무기 경쟁 회피

사회적 혜택 증진

공정성, 신뢰성 및 안전, 사생활 및 보안, ① MS 사내 윤리강령 성격의 원칙 포용성, 투명성, 책무성

공공선, 해악 금지

상정

안전과 책무성, 거버넌스·규제 ② 안전과 책무성을 보장하는 거버넌스·규제 필요성 제기

① 스티븐 호킹, 일론 머스크 등 AI 학자, 미래학자 및 산학연 관계자들이 서명 ② AI 기술 연구자, 정책 입안자, 관련 산업 종사자에게 필요한 윤리 원칙 제시

개발을 제한해야 하는 AI 애플리케이션 제시 불공정한 편견 지양, 설명 가능, (해를 끼치는 기술, 인명을 해치는 무기 관련 기술, 국제 규약 사생활 침해 방지

위반 감시 기술 등)

② 책임질 수 있는 AI, 이를 위한 교육 강조

① 연구자의 자유로운 연구 증진에 초점 안전 담보, AI 개발 선두 주자, ② 고도로 자율적인 AGI(artificial general intelligence) 타 연구단체 협력

Principles for Trust and IBM의 직원들을 대상으로 AI Transparency 연구를 위해 제시된 윤리 원칙 (’18) The Montreal Declaration for 몬트리올 대학에서 개발된 복지(well-being), 자율성 존중, 사생활 ① 친밀성, 신중함, 지속가능발전 등 다른 가이드라인에 잘 7 a Responsible 사회적으로 책임 있는 AI 연구를 보호와 친밀성, 연대성, 민주적 참여, 등장하지 않는 원칙 제시 Development of AI (’18)

위한 윤리 원칙

인간 지능 증강(augment), 데이터 소유권, 국경 간 데이터 이동, 투명성

공평, 다양성 포용, 사려

① AI는 인간을 대체하는 것이 아니라 증강(augment)하기 위한 것임을 명시 ② AI 사용 여부·시기, 학습 데이터 출처 고지 등 규정화

② 윤리 원칙 제시와 함께 서명으로 선언에 동참하도록 장려

지능정보사회 8 윤리가이드라인 (’18) AI in the UK: 9 Ready, Willing and Able? (’18)

(정보문화포럼) 인간 중심의 지능정보사회 구현

영국 정부 차원에서 정책적으로 접근할 수 있는 제언

카카오 알고리즘 윤리헌장 (’18)

카카오 내 AI 관련 연구시 지향되어야 할 윤리 원칙

The Future Computed: AI and its role in Society (’18) Ethically Aligned IEEE에서 Ethics in Action 캠페인과 Design(Ver. 2) (’19) (방통위-KISDI) 이용자 중심의 안전한 지능정보서비스 환경조성 13 지능정보사회를 및 이용자의 권리와 자유에 근거한 위한 원칙 (’19) 윤리 원칙 (산업통상자원부) 로봇 윤리 기본 14 원칙(수정) (’19)

MS의 Aether 연구소에서 AI가

함께 공개된 보고서

2007년에 만들어진 로봇윤리헌장을 수정 보완 (일본 총무성) 인간중심의 AI 25명의 산학연 전문가로 구성된 사회 원칙 (’19) ‘인간 중심의 AI 사회 원칙 위원회’를 통해 제안 Ethics Guidelines for EU 산하의 50여 명으로 구성된 AI Trustworthy AI (’19) Recommendati on of the Council on AI (’19) Understanding artificial 영국의 국영 연구소인 18 intelligence Alan Turing 연구소에서 제작 ethics and safety (’19)

전문가그룹 주도

OECD 디지털 경제 정책 위원회 주관으로 제작

이용자 주도성, 이용자/시민참여, 공익, 공정성, 위험예방, 프라이버시 보호 데이터 접근과 제어, 이해 가능한 AI, 디지털 이해력 증진, 공중보건 관리

AI에 의한 진보, 공정성, 가져올 미래의 변화에 대응하기 신뢰성 및 안전, 사생활·보안, 포용성, 위해 책자 제작

투명성

인권, 복지 우선, 책무성, 투명성, 오용의 인식

사람 중심 서비스, 투명성과 설명 가능성, 책임성, 안전성, 차별금지, 참여, 프라이버시와 데이터 거버넌스

인간의 존엄성 보호, 공공선, 행복추구, 로봇산업계에 종사하는 연구원, 개발자 투명성, 제어가능성, 책무성, 안전성, 및 사용자가 로봇과 AI 설계·제작· 정보보호

인간중심, 교육 교양, 개인정보 보호, 보안, 공정경쟁, 공정성, 책임성, 투명성, 혁신

포용적 성장, 지속가능발전, 인간중심 가치, 공정성, 투명성, 설명 가능성, 견고성, 보안 및 안전, 책무성

존중, 연결, 보호, 돌봄, 공정성, 책임성, 지속가능성, 투명성

① 지능정보기술 관련 개발자, 공급자의 윤리의식 고취 및 이용자의 오남용 방지 지침 ② 주체별(개발자, 공급자, 이용자) 세부지침 마련

공중보건 데이터 관리, AI 디지털 이해력 제고 등 구체적으로 취할 수 있는 AI 관련 정책 제시

사회윤리 준수, 차별 경계, 학습데이터 ① 국내 기업 최초 AI 윤리 헌장 운영, 알고리즘 독립성 및 설명, ② 알고리즘과 데이터에 대한 관리, 아동과 청소년에 대한 기술 포용성, 아동·청소년 보호

보호 필요성 강조

① AI가 경제·사회적 진보를 이끌고 지역적·전지구적 문제를 해결할 것이라는 관점 ② AI가 직업과 직장에 미치는 영향에 공공부문과 민간 부문이 협력해 대응할 필요성 제시

① 원칙별 이론적 배경, 참고 자료 제시 ② 윤리 원칙뿐만 아니라 관련 분야에 대한 자료 수록

① 안전한 지능정보서비스 환경조성, 이용자 보호를 위해 모든 주체 사이의 협력 강조 ② 기업과 연구자들의 의견을 폭넓게 수렴 ③ 이용자 보호 관점 강조

공급· 사용·관리하는 데 기준으로 삼는 가이드라인 제시

① 저출산, 고령화, 지방쇠퇴, 재해 재난 등 일본이 처한 어려움을 AI가 해결할 수 있을 것으로 상정 ② AI를 공공재로 활용하여 사회의 근본적인 변화와 혁신을 달성하여 지속 가능한 발전 추구

인간 권리·자율성 보장, 기술적 견실성, ① 범국가 차원의 협업을 통해 신뢰할 수 있는 AI를 위한 사생활, 데이터 관리, 투명성, 다양성, 윤리 원칙 정립 차별금지, 복지, 책무성

② 구체적인 원칙별 평가 리스트 제시

① 윤리 원칙뿐만 아니라 정책 입안자들에 대한 제언 제시 ② 국가별 정책 수립과 국제적 협력 도모

AI 기술이 데이터를 처리할 때 발생할 수 있는 위험이나 문제점을 예방하는 데 필요한 윤리 원칙 제시

교육정책, 교육 관리·실행, SDG를 달성하기 위해 신흥 기술을 교수과정·교사 지원, 학습·학습평가, 효율적으로 활용하겠다고 약속한 삶과 일을 위한 가치·기술 개발, 평생 2030 교육 의제를 달성하기 위해 AI 기술을 활용하는 ‘칭다오 선언’을 시대에 맞게 결의 학습 기회에 활용, 공정하고 평등한 AI 방법에 대한 지침 및 권장 사항 변경

Beijing Consensus 19 on artificial intelligence and education(’19)

미래를 위한 AI 윤리 원칙

사용, 데이터·알고리듬에서 윤리, 투명서 등 확보 등

Rome Call for 로마 교황청에서 인간의 혁신적인 투명성, 포용성, 책임성, 불편부당성, AI Ethics (’20)

신뢰성, 보안과 사생활 보호

① 종교 기관인 가톨릭교회에서 제정한 윤리 원칙 ② 인간 가족(human family)에 대한 봉사, 젊은 세대에 대한 준비, 자연의 회복 필요성 등 제시

(국토교통부) 자율주행차 자율주행차 도입으로 발생할 수 21 윤리 가이드라인 있는 부정적 효과 감소, 책임 소재를 (’20)

가릴 수 있는 방향 제시, 행위 주체들의 행동 원칙 준수 권고

사람이 중심이 되는 22 인공지능(AI) 윤리기준 (’20)

(범정부 합동)

(기본가치) 인간은 존엄하기 때문에 인간의 명령에 복종, 인간의 행복 추구, 인간의 생명 보호 및 공공선 추구, 지속가능 발전 (행동원칙) 투명성, 제어 가능성, 책임성, 안전성, 보안성

① 자율주행차의 기본가치와 행동 원칙 제시 ② 행위 주체인 설계자, 제작자, 관리자, 서비스 제공자, 이용자가 적용 대상

(3대 원칙) 인간의 존엄성 원칙, 사회의 ① 인공지능 개발에서 활용에 이르는 전 단계에서 모든 사회 공공선 원칙, 기술의 합목적성 원칙

구성원이 참조 국내외 주요 인공지능 윤리 원칙 (10대 핵심 요건) 인권 보장, 프라이버시 ② 특정 분야에 제한되지 않는 범용성을 가진 일반 원칙 분석과 윤리 철학의 이론적 논의와 보호, 다양성 존중, 침해 금지, 공공성, ③ 구속력 있는 ‘법’이나 ‘지침’이 아닌 도덕적 규범이자 자율 연계

인공지능(AI)

(개인정보보호위원회) 개인정보보호 AI기술·서비스 환경에 적합한 자율점검표 (’21)

자율적인 개인정보보호 이행·점검에 필요한 사항

한국지능정보 사회진흥원(NIA) 지능정보기술로 국가사회의

국가 인공지능 사업추진 윤리원칙(’21) 혁신성장과 디지털 기반 ESG 가치 실현

The Recommendati on on the Ethics of

권고안

연대성, 데이터 관리, 책임성, 안전성, 규범 투명성

적법성, 안전성, 투명성, 참여성, 책임성, 공정성

(교육과 연구) 관련 충분한 AI 리터러시 교육 제공, 교수·교사 연수 및 이러닝에서의 AI 기술의 윤리적

(UNESCO) 인공지능 기술의 개발과 사용에 책임 있는 사용에 대한 연구계획 지원, AI Artificial 있어 세계 공동으로 적용할 수 있는 교육을 충분히 누리지 못하는 모든 이의 Intelligence ('21.11.)

참여와 리더십 장려,, AI 윤리 커리큘럼 개발 협력, 민간 기업 독려 등

① AI 개발·운영에 참여하는 자의 개인정보 보호에 대한 인식 제고와 개인정보보호를 자율적으로 실천하는데 필요한 자율점검표 마련 ② AI 서비스 이외 분야 개인정보처리자도 자율적으로 활용 가능 ③ 법령상 준수해야 할 의무·권장 내용에 대한 점검항목(16개), 확인사항(54개)으로 구성

(기획-사람과 책임) 법 제도 마련, 장기적 비전과 실행 과제 제시, 다양한 의견수렴 (실행-안전과 평등) 국민의 편익과 행복 ① 국가의 인공지능 사업을 추진하는 과정에서 지켜야 할 우선 추구, 다양성 보장 및 편향 방지, 최소한의 규범 제도와 윤리 규범 안에서 개발·활용 등 ② 사업추진 단계별(기획, 실행, 확산) 3가지의 핵심 가치와 (확산-공익과 민주사회) 인공지능 교육 및 국제사회 협력 추진, 인공지능 영향력을 고려한 사업개선, 사업 성과와 혜택의 고른 분배 등

9가지의 윤리 원칙 제시

① 회원국들에 법적 절차를 포함하여 인공지능 윤리 권고 적용 제안 ② 유네스코의 중심 영역(교육, 과학, 문화, 정보통신)과 관련된 AI 시스템의 광범위한 윤리적 영향 강조

* 출처 : 사람이 중심이 되는 인공지능 윤리기준(과학기술정보통신부 등 관계부처 합동(2020.12), ‘교육 분야 인공지능 윤리 원칙’(교육부, 2022.08) 발표 자료 등을 참고로 재구성

이어서 생성형 인공지능 챗GPT 출현 이후인 2023년 4월에는 ‘초거대 AI 경쟁력 강화 방안’을 발표했다. 정부는 초거대 생성형 인공지능 산업의 국가 경쟁력 확보를 위해 민간 주도의 초거대 인공지능 협력 생태계 구축을 적극 지원할 방침이다. 구체적으로 살펴보면, ‘초거대 인공지능 기술·산업 핵심 인프라 확충’, ‘초거대 인공지능 혁신 생태계 조성’, ‘초거대 인공지능 범국가 인공지능 혁신 제도·문화 정착’을 목표로 삼아, 초거대 인공지능 응용 서비스 분야에서 세계 1위의 자리를 차지하기 위해, 2023년 총 3천901억 원 투입한다고 밝혔다.

2023년 9월에는 인공지능 기술 개발 분야의 국내 기업들과 함께 초거대 인공지능 경쟁력 강화와 자발적 안전조치 마련을 선언하는 ‘초거대 인공지능 도약 방안’을 발표했다. 이를 통해 정부는 2024년 9천90억 원 투입해 국민의 일상은 물론, 산업 현장, 공공 행정 등 사회 전반에 인공지능 기술의 저변을 확대하는 ‘전 국민 인공지능 일상화’를 추진한다고 설명했다.

2023년 9월, 정부는 디지털 환경에서의 자유와 권리 보장, 공정한 접근과 기회균등, 안전과 신뢰 확보 등의 원칙을 담은 ‘디지털 권리장전’ 전문을 공개했다. 디지털 권리장전의 목표는 국제사회가 함께 추구해 나갈 모범적인 디지털 공동번영 사회의 미래상을 제시하고자 하는 데 있으며, 전체 내용은 수립 배경 및 목적을 담은 전문과 함께 총 6장, 28개 조로 구성되어 있다.

‘디지털 공동번영 사회 구현’을 위한 기본원칙을 제시하는 제1장에서는 ① 디지털 환경에서의 자유와 권리 보장 ② 디지털에 대한 공정한 접근과 기회의 균등 ③ 안전하고 신뢰할 수 있는 디지털 사회 ④ 자율과 창의 기반의 디지털 혁신 촉진 ⑤ 인류 후생의 증진 등 총 다섯 가지 세부 내용을 규정하고 있다.

이어 제2장부터 제6장에서는 제1장의 5가지 기본원칙을 구현하기 위한 시민의 보편적 권리와 국가, 기업, 시민 주체별 책무를 세부 원칙 형태로 포함했다. 예를 들어 ‘자유와 권리 보장’ 항목에서는 ‘디지털 접근의 보장’, ‘개인정보의 접근·통제’, ‘디지털 근로·휴식의 보장’을 규정하고 있다.

각 항목의 세부 내용은, 키오스크 등에 차별 없이 접근할 수 있어야 하고, 자신의 정보에 대한 열람·정정·삭제·전송을 보장해야 하며, 플랫폼 노동 및 원격근무 등과 관련된 내용을 포함하고 있다.

한편 정부는 ‘권리장전’이라는 명칭이 디지털 권리장전 전문의 내용을 반영하기 어렵다는 학계의 의견을 수렴하여, ‘디지털 공동번영 사회의 가치와 원칙에 관한 헌장’으로 제명을 설정하고 ‘디지털 권리장전’을 부제이자 약칭으로 부연하기로 했다고 밝혔다.

인공지능 기술 선진국 등 국외에서 다루고 있는 비슷한 성격의 관련 지침과 우리나라의 디지털 권리장전 간 차별점을 꼽는다면, 국외 지침의 경우 인공지능 기술 중심의 내용으로 명문화된 반면, 디지털 권리장전은 인공지능 기술 중심의 논의를 뛰어넘어 디지털·인공지능 리터러시

향상, 디지털 격차 해소 등 전반적인 이슈를 모두 포괄한다는 점이다. 또한 윤리·규범적 논의 외에도 디지털 혁신과 국제 연대·협력을 통한 인류 후생 증진 등 별도의 원칙과 권리를 규정하고 있다는 점도 해외 사례와 차별화된 특징이라고 할 수 있다.

좀 더 구체적으로 살펴보면, ‘공정한 접근과 기회의 균등’ 항목에서는 ‘디지털 자산 보호’와 ‘디지털 리터러시 향상’을 규정하고 있는데, 각 항목의 세부 내용은 데이터와 디지털 저작물 등의 디지털 자산이 정당한 법적·정책적 보호를 받아야 하고, 디지털 격차를 해소해야 한다는 측면을 강조한다.

‘안전과 신뢰 확보’ 항목에서는 ‘디지털 위험 대응’과 ‘디지털 기술의 윤리적 개발과 사용’을 규정하면서 디지털 위험이 체계적인 시스템을 통해 관리돼야 한다는 점을 부각하고 있고, ‘디지털 혁신의 촉진’ 항목에서는 디지털 환경에서 야기될 수 있는 ‘규제 개선’과 디지털 혁신 지원과 디지털 전환에 따른 갈등 조정 등을 포함하고 있다. 더불어 연결성·즉시성을 특징으로 한 디지털 기술의 국제적 성격을 고려하여 ‘인류 후생 증진’ 항목에서는 국제사회가 함께 디지털 국제규범을 형성하고, 국가 간 디지털 격차를 해소하기 위해 노력을 기울여야 한다는 내용을 규정하고 있다.

정부는 디지털 권리장전을 기준으로, 디지털 심화 시대의 쟁점들을 해소하고 구체적인 법·제도를 정비하기 위한 노력을 이어가겠다고 밝히면서, 미국, 영국 등 인공지능 기술 선진국과 UN, OECD 등 국제기구의 인공지능 관련 규범 논의에 적극 참여함으로써 우리나라 디지털 권리장전의 내용과 방향성 설정에 반영하기로 했다. 특히 정부는 인공지능 법안과 디지털 포용법 등 관련 법령 마련, 디지털 심화 대응 실태조사 등을 진행함으로써 제도와 정책이 디지털 권리장전에 부합하게 정비될 수 있도록 지원할 예정이라고 밝혔다.

『디지털 공동번영사회의 가치와 원칙에 관한 헌장 : 디지털 권리장전』 <전문>

지금 인류는 디지털 기술의 무한한 가능성이 이끄는 문명사적 변혁을 마주하고 있다. 이는, 인간의 삶과 사회 모습에 근본적인 변화를 유발하면서 자유와 평등, 인간의 존엄과 같은 보편적 가치를 지키기 위한 새로운 차원의 규범을 요구하고 있다.

이에 우리는 인간의 존엄과 가치에 대한 존중을 기본으로 디지털 향유권이 인간의 보편적 권리로 보장되는 새로운 디지털 질서를 정립하여, 국제사회와 함께 디지털 혁신을 추구하면서도 그 혜택을 모두가 정의롭고 공정하게 향유하는 디지털 공동번영사회를 실현하고자 한다.

디지털 모범국가를 지향하는 대한민국은 디지털 공동번영사회를 함께 이루어나갈 것을 세계 시민 앞에 제안하며, 인류가 함께 추구해야 할 가치와 원칙을 아래와 같이 선언한다.

제1장 기본원칙

<본문>

제1조 (자유와 권리의 보장) 디지털 사회는 인간의 존엄과 가치에 대한 존중을 기본으로 하며, 모든 사람은 디지털 환경에서의 자유와 권리를 보장받아야 한다.

제2조 (공정한 접근과 기회의 균등) 디지털 사회에서 경쟁과 혁신의 기회는 누구에게나 공정하게 보장되어야 하며, 디지털 혁신의 혜택은 공동체가 함께 향유하여야 한다.

제3조 (안전과 신뢰의 확보) 디지털 사회에서 디지털 기술과 서비스는 개인과 사회의 안전에 위협이 되지 않도록 신뢰할 수 있어야 하고, 디지털 위험에 대비하는 수단과 절차가 마련되어야 한다.

제4조 (디지털 혁신의 촉진) 디지털 사회는 디지털 기술의 지속적인 발전과 이를 활용한 혁신을 장려하며, 개인의 자율적이고 창의적인 활동을 통해 디지털 혁신이 창출될 수 있도록 토대가 마련되어야 한다.

제5조 (인류 후생의 증진) 디지털 사회에서 국가는 디지털 기술이 인류의 후생 확대와 국가간 디지털 격차 해소에 기여할 수 있도록 보편적 가치와 상호 신뢰를 기반으로 국제사회와 연대하여야 한다. 제2장 디지털 환경에서의 자유와 권리 보장

제6조 (디지털 접근의 보장) 모든 사람은 안정적인 네트워크 환경을 보장받아야 하며, 이를 통해 다양한 디지털 서비스를 언제 어디서나 차별없이 접근하여 이용할 수 있어야 한다.

제7조 (디지털 표현의 자유) 모든 사람은 디지털 환경에서 자유롭게 자신의 의사를 표현할 수 있어야 한다. 다만, 타인의 명예나

권리 또는 공중도덕이나 사회윤리를 침해하지 않도록 책임있게 이루어져야 한다.

제8조 (디지털 다양성 존중) 모든 사람은 디지털 기술로 인한 불합리한 차별과 편견으로부터 보호받으며 사회적·문화적 다양성을 존중받아야 한다.

제9조 (개인정보의 접근·통제) 모든 사람은 디지털 환경에서 자신에 관한 정보를 열람·정정·삭제·전송할 것을 요구하는 등 이에 대해 접근하고 통제할 수 있어야 한다.

제10조 (디지털 대체수단 요구) 모든 사람은 공공영역에서 디지털 방식을 대체하는 수단을 요구할 수 있다.

제11조 (디지털 근로·휴식의 보장) 모든 사람은 디지털 기술의 발전으로 출현하는 다양한 노동환경에서 안전·건강하게 근로하고, 디지털 연결에서 벗어나 휴식을 보장받아야 한다. 제3장 디지털에 대한 공정한 접근과 기회의 균등

제12조 (공정경쟁의 촉진) 디지털 경제의 공정한 경쟁 환경을 조성하기 위해 정보와 기술의 독과점, 알고리즘의 불공정성 문제 등으로 인한 폐해가 해소될 수 있도록 적절한 조치가 이루어져야 한다.

제13조 (디지털 자산의 보호) 개인의 투자와 노력으로 형성된 디지털 자산은 정당한 보호를 받아야 하고, 그 거래에 관한 계약은 공정해야 하며 자유롭게 체결할 수 있도록 보장되어야 한다.

제14조 (디지털 리터러시 향상) 디지털 기술의 개발과 사용의 기회를 보장할 수 있도록 디지털 격차가 해소되어야 하고, 디지털 리터러시 향상을 위한 교육의 기회가 제공되어야 한다.

제15조 (데이터 접근 보장) 데이터의 개방은 촉진되어야 하며, 특히 공공 데이터는 접근과 이용의 기회가 공정하게 보장되고 그 이용권의 보편적 확대를 위해 필요한 조치가 이루어져야 한다.

제16조 (사회 안전망 강화) 디지털 혁신의 혜택을 사회 공동체가 함께 향유할 수 있도록 디지털 심화에 따른 경제적·사회적 불평등 완화를 비롯하여 사회 안전망 강화를 위한 조치가 이루어져야 한다. 제4장 안전하고 신뢰할 수 있는 디지털 사회

제17조 (디지털 기술의 윤리적 개발과 사용) 디지털 기술의 개발과 사용은 안전과 신뢰를 확보할 수 있도록 윤리적인 방식으로 책임있게 이루어져야 한다.

제18조 (디지털 위험 대응) 디지털 위험은 적정한 조치가 이루어질 수 있는 수단과 절차를 통해 예방·관리되어야 하며, 그 위험에 관한 정보는 알기 쉽고 투명하게 공개되어야 한다.

제19조 (디지털 프라이버시의 보호) 디지털 환경에서 개인의 프라이버시는 디지털 감시, 위치추적 등을 비롯한 불법적인 식별과 추적으로부터 보호되어야 한다.

제20조 (건전한 디지털 환경 조성) 허위조작 및 불법·유해정보의 생산·유통이 방지되는 등 건전한 디지털 환경이 조성되어야 하고

디지털 환경에서 발생하는 범죄로부터 피해자를 보호하기 위한 실효적인 수단과 절차가 마련되어야 한다.

제21조 (아동·청소년의 보호) 아동·청소년은 연령에 적합하게 설계된 디지털 공간을 선택하여 자유롭게 활동할 수 있어야 하며, 디지털 기술로 발생가능한 범죄로부터 특별히 보호받아야 한다. 제5장 자율과 창의 기반의 디지털 혁신의 촉진

제22조 (디지털 혁신활동의 자유) 모든 사람은 다양한 영역에서 디지털 혁신을 촉진하는 경제적·사회적·문화적 활동을 영위할 자유를 보장받는다.

제23조 (디지털 규제 개선) 디지털 혁신의 촉진을 위해 민간의 자율을 존중하는 합리적인 규제체계가 형성되어야 하며, 기술 발전 속도, 산업 성숙도, 사회적 수용성 등을 고려하여 불합리한 규제는 개선되어야 한다.

제24조 (디지털 혁신 지원) 디지털 혁신의 지속적 창출을 위해 민간과 정부 간 긴밀한 협력을 바탕으로 전문인력 양성, 연구개발 투자, 창업 활성화, 인프라 구축, 제도 정비를 포함한 다양한 지원이 이루어져야 한다.

제25조 (디지털 전환에 따른 갈등 조정) 디지털 전환의 과정에서 발생하는 사회 갈등을 관리·예방하고 다양한 이해관계자 간의 대화와 숙의를 통해 사회적 합의를 이루기 위한 제도적 기반이 마련되어야 한다. 제6장 인류 후생의 증진

제26조 (지속 가능한 디지털 사회) 국가는 국제사회와 연대하여 디지털 기술이 환경과 생태, 기후체계에 미치는 부정적 영향과 피해를 최소화하고, 디지털 기술을 활용하여 인류 공동체의 후생을 확대하는데 기여하도록 노력하여야 한다.

제27조 (국가 간 디지털 격차 해소) 국가는 국제사회와 협력하여 국가 간 디지털 격차를 해소하고 세계 시민의 공동번영을 위해 디지털 국제개발협력을 확대하여야 한다.

제28조 (디지털 국제규범 등을 위한 협력) 국가는 국제사회와 협력하여 보편적인 디지털 국제규범의 형성과 집행, 디지털 위험에 대한 대응 등을 위한 글로벌 협력 거버넌스 구축을 위해 노력하여야 한다.

인공지능 기술에 대한 통제와 규제 방향은 인공지능 기술만이 갖고 있는 특성을 올바르게 이해하고 적용해서 설정해야 한다. 첫째, 인공지능 기술은 아직 방향성이 명확하게 설정되지 않았고 산업 전반에 어떤 변화를 불러올지 확인할 수 없다는 점, 둘째, 인공지능에 대해 적절한 통제나 규제가 이행되지 않는다면 인간의 본질적 가치와 인권, 민주주의 근간을 흔들 수 있는 사건이 발생 가능하다는 점, 셋째, 인공지능 기술과 관련된 다양한 산업 분야의 변화가 완성된 후에 법과 제도를 도입한다면 이미 돌이킬 수 없는 상황이 된다는 점 등을 고려해야 할 것이다.

이에 따라 인공지능 관련 사회문제에 대한 책임 부여 또는 구제 방안 적용 등을 사후에 반영하는 형태는, 인공지능 기술이 불러올 위험과 부작용 우려를 줄여나갈 수도, 예방하기도 어렵다는 점을 명확하게 인지해야 할 필요가 있다.

2023년 2월 14일 국회 과학기술정보방송통신위원회 법안 소위에서 통과된 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안’은 인공지능 산업 진흥과 인공지능 사회의 신뢰 기반 조성에 필요한 사항을 규정하고 이를 시행함으로써 국민의 권익과 존엄성을 보호하고 국민 삶의 질 향상과 국가 경쟁력을 강화하는 데 이바지함을 목적으로 한다. 법안의 주요 내용은 다음과 같이 구성되어 있다.

첫째, 해당 법안은 인공지능 산업 육성과 신뢰 확보를 위한 추진체계를 구체화하고 있다. 구체적으로, 과학기술정보통신부 장관은 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가 경쟁력 강화를 위해 인공지능 기본계획을 수립·시행하고, 국무총리 소속으로 심의·의결기관인 인공지능위원회와 그 산하에 전문위원회를 설치하며, 지능정보사회진흥원 산하 국가 인공지능센터를 설치한다.

둘째, 인공지능 기술 개발 및 산업 육성을 위한 원칙과 방안을 포함하고 있다. 먼저 인공지능 기술과 알고리즘의 연구·개발 및 관련 제품과 서비스 출시 등에 대한 ‘우선 허용·사후 규제’ 원칙을 제시하고 있고, 인공지능 기술 개발 및 안전한 이용 지원 사업 실시, 인공지능기술의 표준화, 인공지능 학습용 데이터 관련 시책 수립, 기업의 인공지능 기술 도입·활용 지원, 창업 활성화, 인공지능 융합 촉진, 법령 정비 등 제도 개선 노력 의무, 전문인력의 확보 시책 추진, 국제협력 및 해외시장 진출의 지원, 인공지능 집적단지 지정, 대한인공지능협회 설립 등의 내용을 포함한다.

셋째, 인공지능 윤리와 신뢰성을 확보하기 위한 구체적인 방안이 제시되어 있다. 예를 들어 인공지능 개발·이용 과정에서 인공지능 사업자 또는 이용자가 지켜야 할 인공지능 윤리 원칙을 정부 차원에서 제정·공표하고, 신뢰할 수 있는 인공지능 기반 조성을 위한 시책 마련 및 인공지능 신뢰성 검·인증 지원 사업을 추진하며, 고위험 인공지능의 확인은 물론, 제품 또는 서비스 이용자를 대상으로 한 고위험 영역의 인공지능 고지 의무화 등을 규정하고 있다.

넷째, 인공지능 산업의 진흥을 위한 기타 세부 사항을 명시하고 있는데, 예를 들어 재원 확충 방안, 실태조사, 통계 및 지표 관리 공표, 비밀누설 등에 관한 벌칙 조항, 과태료 부과 조항 등을 포함하고 있다.

인공지능 통제와 규제를 위한 시사점과 대응 방안

2023년 12월, 인공지능 법안 시행에 최종적으로 잠정 합의한 유럽연합 등 국외 법안 사례를 통해 인공지능 관련 규제가 위험성 통제를 위한 제도로서 적절한지 확인하기 위해 먼저 짚어볼 수 있는 부분은, ‘우선 허용·사후 규제 원칙’의 타당성 여부이다.

유럽연합의 인공지능 법안의 내용을 살펴보면, 사전 규제 원칙이 비교적 엄격하게 적용된다. 물론 사전 규제가 아닌 선제적 허용 및 사후 규제 원칙은, 기술 관련 산업 발전을 위한 불가피한 조치일 수 있다. 인공지능 관련 산업의 특성상 기술 개발 속도에서 뒤처지거나 해당 영역의 원천 기술력을 확보하지 못한다면 글로벌 기술 패권 경쟁에서 밀려날 수밖에 없기 때문이다.

IT기술 강국인 우리나라가 인공지능 기술 분야의 선두 자리를 유지하기 위해서는 기술 발전의 발목을 잡을 수 있는 법적 규제를 최소화함으로써 탄탄한 산업 기반을 조성할 필요가 있을 것이다. 하지만 앞서 살펴본 바와 같이 인공지능은 복잡하고 전문적이며 불확실성을 안고 있어 잠재적 위험을 항상 내포하고 있으므로, 사전에 현저한 위험을 파악해 규제를 적용하기란 사실상 불가능한 일이다. 이에 따라 과학기술, 교육, 의료, 문화 등 우리 사회의 다양한 영역에서 인공지능 관련 위험성 이슈에 대한 사전 규제 방식을 적절하고 타당하게 설계하여 적용할 필요가 있다.

또한 유럽연합의 인공지능 법안에서는, 인공지능 규제 대상을 크게 ‘최소 위험’(minimal risk), ‘제한된 위험’(limited risk), ‘고위험’(high risk), ‘수용 불가 위험’(unacceptable risk) 등 4단계로 분류하고 있다. 특히 수용 불가 위험은 인공지능 개발과 활용을 전면 금지하는 강력한 규제로 적용된다. 아울러 ‘고위험’ 영역에는 ‘건강, 안전, 기본권, 환경에 대한 위험성’이 강조되고 있고, ‘정치 캠페인 등 선거운동에서 유권자에게 영향을 미치는 인공지능 시스템, 4천5백만 명 이상의 사용자를 보유한 SNS 플랫폼에서 사용하는 추천 시스템’ 등이 포함되어 있다.

따라서 우리나라에서 준비하는 관련 법안에도 규제 대상을 세분화하는 한편, ‘고위험’ 영역을 구체화하여 인간의 기본권은 물론 생명이나 안전성 등에 있어 위험이 예상되는 내용을 세부적으로 포함해야 할 것으로 판단된다. 이밖에 앞서 논의한 바와 같이 유럽연합의 인공지능 법안에는 ‘수용 불가 위험’이나 ‘고위험’ 영역에서 위배 사안이 발생할 경우, 높은 금액의 과태료 부과를 강제하고 있다. 이처럼 규제 위배에 대한 제재 방안을 명확하게 정의함으로써 가이드라인이나 권고 수준이 아닌, 글로벌 표준에 부합하는 실질적 조치를 통해 법안의 실효성을 높여가야 할 것이다.

종합해 보면, 인공지능 기술 발전으로 인해 야기될 위험에 대한 통제 및 규제의 필요성은 더 이상 일부 국가가 주도적으로 해결해야 할 문제가 아닌 글로벌 협력을 통해 대응해야 할 난제가 되었다. 인공지능 기술 발전에 따라 발생할 수 있는 부작용이나 사회문제는 데이터 활용 문제나 개인 정보 유출, 사생활 침해, 저작권 논란 등에 국한되지 않는다. 인공지능 알고리즘 운용에 따른 자동화된 의사결정은 과학기술, 교육, 문화 등 사회 전반의 시스템에 막대한 영향력을 발휘할 수 있고, 인간의 기본권과 가치는 물론 민주주의 구현 자체에도 영향을 미칠 수 있으므로 현시점에서 대응 방안을 설정하는 것이 무엇보다 중요하다. 기술 선진국 등의 법안을 선제적으로 면밀하게 검토하고 올바른 방향성을 설정함으로써 효율적인 규제 거버넌스를 구축해야 하는 이유이다. 기술 발전과 진화가 불러올 부작용이나 위험성에 얼마나 적절하고 효율적으로 대처할 수 있을지, 그리고 사회문제 최소화 방안을 얼마나 선제적으로 마련할 수 있을지가 인공지능 기술 중심의 미래 전망을 밝게 하는 핵심 요소가 될 것이다.

참고문헌

Bostrom, N. (2003). Are we living in a computer simulation? The philosophical quarterly, 53(211), 243-255. Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. New York, NY, US: Oxford University Press. Dignum, V. (2019). Responsible Artificial Intelligence. Springer, Berlin. Hevelke, A., Nida-Rümelin, J. (2015). Responsibility for crashes of autonomous vehicles: an ethical analysis. Sci. Eng. Ethics 21(3), 619–630. McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (2006). A proposal for the dartmouth summer research project on artificial intelligence, august 31, 1955. AI magazine, 27(4), 12-12. Mosley, T. ryan. (2023). Five Big Takeaways from Europe’s AI Act. MIT Technology Review. Nyholm, S. (2023). A new control problem? Humanoid robots, artificial intelligence, and the value of control. AI and Ethics, 3(4), 1229- 1239. https://doi.org/10.1007/s43681-022-00231-y Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Hachette Books, New York. Page, B., & Shapiro, R. Y. (1993). The rational public and democracy. Reconsidering the democratic public, 35-64. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Penguin, London. Russell, S., Norvig, P. (1995). Artificial Intelligence: A Modern Approach. Prentice Hall, New York Turing, A. (1950). Computing machinery and intelligence. Mind LIX, 433–460 Zhang, B. and Dafoe, A. (2019). Artificial Intelligence: American Attitudes and Trends.

KOFAC ISSUE PAPER는 과학기술문화, 과학융합인재, 과학·수학·정보 교육에 관한 주요 현안이슈를 심층 분석하고 정책제언을 함으로써, 미래 이슈에 선제적으로 대응하고 정책 수립 시 활용하고자 발행하고 있습니다. ※ 본 보고서의 내용은 저자 개인의 의견을 정리한 것으로 한국과학창의재단의 공식 견해와 다를 수 있음을 밝힙니다.