세계는 지금

생성형 AI 시대, 우리는 어떤 리터러시를 고민해야 하는가?

이광석 ‥

서울과학기술대학교 IT정책전문대학원 교수

생성형 AI의 등장

인공지능 (AI) 기술이 우리 삶 깊숙이 밀려들고 있다. 챗지피티 의 출현과 함께 인공지능 기술 환경이 관련 업계나 개발자 (CHATGPT) 조차 그 미래를 점치기 힘들 정도로 급속히 변하고 있다. 그로 인해 인공지능

이 인류에 미칠 영향에 대한 기대와 불안이 교차하고 있다. ‘생성형 인공지능 (generative AI) 생성형 AI는 이용자가 알고자 하는 것 혹은 뭔가 창작하려는 내용을 ‘프롬프 트 (prompt)

’라는 질문 형태로 요청하면 이에 맞춤형 텍스트나 이미지를 자동 생성하는 지능기계 (intelligence machine) 유한 능력으로 알려진 지식 생산과 창작 행위를 지능기계가 쉽게 행하는 거 대한 기술 변화가 일어나고 있다. 이렇듯 자동 생성형 지식과 창작이 가능한 바탕에는, 인간이 수십 년간 쌓 아온 디지털 지식과 창작 데이터를 지능기계가 대규모로 사전 학습한 데 있다. 즉 인류가 축적한 데이터를 뒤섞어 새로운 지식과 창작을 생성하는 재 주를 지닌 까닭이다. 챗지피티와 같은 생성형 AI가 여타 인공지능과 다른 가장 큰 특징이라면, 개 발자나 전문가뿐만 아니라 이제 일반인의 지식 생산과 창의 활동에도 쉽게 결합할 수 있는 ‘범용성 (汎用性) ’일 것이다. 언제 어디서든 일반 개인용 사무, 편집, 이미지, 번역, 웹 브라우저나 플랫폼 앱에 내장된 형태로 인공지능을 불 러와 쓸 수 있는 일상 환경이 되었다. 마치 거의 전 국민이 가입한 카톡처럼 우리가 곧 챗지피티류의 인공지능을 쓰게 될 상황이 열리고 있다. 챗지피티 등 생성형 인공지능 기술의 일상적 사용이 미디어 리터러시에 어 떤 새로운 지각변동을 일으킬까? 이 신생 지능형 기술 (intelligent technology) 에 대한 미디어 주체들의 수용 방식으로서 전통의 리터러시 전략이 앞으로도 유효할까? 여러 불투명한 물음이 혼재한다.

’은 어떤 사회적 영향력을 지닐까?

에 해당한다. 지금까지 인간만의 고

리터러시의 최근 논의, ‘비판적 제작’

1) Hertz, Garnet, ed., Conversations in Critical Making, CTheory Books, 2015.

시민의 디지털 역량을 키우기 위한 리터러시 방법론으로, 최근 까지 미디어 이용자가 직접 기술과 부대끼며 미디어 사물에 대한 감 각을 키우는 이른바 ‘비판적 제작 (critical making) 제작은 사물을 만지고 감각하며 테크놀로지의 원리를 깨닫고 설계하는 과정 이다. 동시에 디지털 소프트웨어와 하드웨어 등을 자유롭게 해체하며 비물질 계의 원리를 이해하고 기술사회적 대안을 찾는 일이기도 하다. 그렇듯 비판적 제작은 암흑상자화된 (blackboxing) 화한 몸을 일깨워 잃어버린 기술 감각을 회복하는 행위다. 이는 단순히 소셜 미디어 콘텐츠를 편집해 올리거나 능동적인 디지털 활동을 하는 것 이상의 급진적인 리터러시 효과를 배태한다. 자본주의 재산권에 의해 꽁꽁 닫힌 기 술 설계를 열어젖혀 이를 비판적으로 대면하게 하는 기술 성찰 행위를 촉발 하는 것이다. 과거의 ‘레거시 미디어 (전통적 매체) 로 생산된 미디어 텍스트 ‘내용’에 대한 시청자의 디코딩 (해석) 과정과 주체적 인 비평 행위에 주목했다. ‘비판적 제작’은 이를 넘어서서 미디어 기술 ‘형식’ 을 다루며 이용자의 이의 개입을 강조한다. 즉 미디어 텍스트 해석에서 더 나 아가, 이용자가 기술 형식이나 설계에 접근해 이를 만지고 해체하고 고치고 응용하는 등 미디어 물성을 직접 다루는 것에 관심이 있다. 결국, 이는 우리 를 둘러싼 미디어 사물에 대한 성찰적 감각을 키우는 데 기여한다. 이는 기술 사물에 대한 제작과 수리를 통해 설계에 개입해 ‘암흑상자화’된 기술 논리를 더 투명하게 재설계하려는 적극적 기술 실천의 리터러시 개념이라고 볼 수 있다.

가령, ‘비판적 제작’을 통해 다국적 OTT 영상 플랫폼인 넷플릭스에 접근해 보자.

1)

’이 주목을 받았다. 비판적

기술에 대한 현대인의 퇴

’ 연구에서 리터러시에 대한 접근은, 주

과거 리터러시의 접근법으로 이 플랫폼을 바라보면, 이곳에서 생산하는 셀 수 없이 많은 미디어 텍스트의 내용 해석이나 비평을 일일이 수행하는 것은 거의 불가능하다. 설사 몇몇 작품을 선정해 비평을 하더라도 해당 사회를 살 아가는 시청자의 시대 정서를 정확히 읽어내기는 어렵다. 오히려 넷플릭스의 글로벌한 제작과 유통 방식을 읽기 위해서는 콘텐츠 내용과 함께 그 기저에 있는 미디어 ‘형식’, 즉 연산 알고리즘의 작동과 글로벌 콘텐츠 제작·유통의 정 치경제학을 함께 읽지 않으면 안 된다. 콘텐츠를 소비자에게 추천, 배치하는 알고리즘 기술 논리를 읽지 못하고서 온전한 영상 비평이나 콘텐츠와 시청자 사이의 새롭게 창출된 자동화된 정서 층위를 드러낼 수 있을까? 어디 OTT 플랫폼뿐이랴. 오늘날 소셜 미디어는 더욱 극단의 알고리즘 논리 기제를 가동하면서 이용자의 의식과 소통 방식을 새롭게 재규정한다. 우리는 이로부터 단순히 눈앞에 제공되는 영상물에 대한 해석은 물론이고, 맞춤형으 로 제공되는 콘텐츠의 노출과 소비, 유사 취향의 상호 연결 등 ‘소셜’ 알고리 즘의 기제나 미디어 인프라 형식에 대한 통합적 시각을 발휘해야만 한다. 비 판적 제작을 통한 리터러시 함양은 단순히 시민의 1인 미디어 제작이나 SNS 소통 ‘참여’를 넘어선다. 미디어 형식 구조와 시스템의 총체적 이해와 비판 없 이, 특정 기술을 잘 다루는 누군가의 디지털 능력은 리터러시의 반쪽만을 갖 춘 채 주류 미디어 현실에 속박될 가능성이 농후하다.

그렇다면, 생성형 AI 시대를 맞아, 앞에서 언급한 ‘비판적 제작’이 최적의 리 터러시 방법일까? 비판적 제작을 통한 리터러시에 대한 접근은 적어도 우리에게 미디어 텍스 트 너머를 사유할 줄 아는 힘을 준다는 점에서는 유효하다. 하지만 생성형 AI 와 같은 첨단의 자본주의 기술에 대응하기에는 손과 몸을 써 사물 감각을 익 히는 리터러시는 상대적으로 무기력한 측면이 크다. 그래서일까. 또 다른 해법으로 ‘AI 리터러시’라는 개념이 심심찮게 등장한다. AI 리터러시를 옹호하는 이들은 대개 디지털 코딩과 알고리즘 교육을 통해 그 기술 원리를 각자 익히면 당장 인공지능이 낳는 현실 문제에 더 슬기롭게 대응할 수 있다고 장담한다. 하지만 챗지피티 개발자들조차 그들이 창안한 인공지능 기술에 대한 해석 불가능성을 고백하는 현실에서 AI 알고리즘 코딩

‘생태 리터러시’의 화두

법을 시민 스스로 익히거나, 거대 자본이 집약된 대규모 AI 체제를 체계적으 로 이해하는 일은 쉽지 않다. 불행히도 AI 리터러시는 기술 폭주 현실에 승복 할 운명에 처해 있다. 이 상황에서 우리가 할 수 있는 일이라고는 그저 빅테크 기업이 제공하는 AI 기술 서비스를 문명의 축복으로 여기며 조심히 잘 쓸 수 밖에 없다는 체념이리라.

갈수록 인간계 (사회) 와 자연계 두 영역에 걸쳐 신기술의 영향 (환경) 력이 점점 가중되고 있다. 그러나 이를 제어하고 감독하는 시민 역량이

나 기술에 대한 인간의 통제력은 점점 퇴화하고 있다. 미디어 내용과 형식을 읽어내는 리터러시의 강조만으로는 지금과 같은 기술 가속화를 다루기에는 벅찬 것이 현실이다. 어찌할 것인가? 적어도 오늘날 첨단화된 인공지능 기술의 진화 과정을 제 대로 읽기 위해서는 인간계-자연계에 얽힌 신생 기술에 대한 통합적인 해독 과 인식론적 지형 그리기 작업이 요청된다. 그렇다면 동시대 기술에 대한 비 판적 독해는 일종의 ‘생태주의 (ecology) ‘비판적 제작’은 미디어 형식과 설계에 대한 이용자의 주목을 유도했으나 하 이테크보다 주로 로우테크 미디어 기술로의 회귀적 접근이란 한계를 갖고 있다. 반면에 ‘AI 리터러시’ 등 신기술 습득을 통한 미디어 기술 논리에 대한 학습 방식은 사실상 일반인에게는 빅테크 진화 속도를 쫓아가기 어렵다. 사 유화된 첨단 기술에 접근하는 데에는 한계가 있기 때문이다. 이에 비해 생태 주의적 AI 기술 접근은 기후위기 시대 인공지능 기술의 물질 원리와 이에 다 층적으로 연결된 물질 구조의 실체를 통합적으로 읽어내는 성찰적 방법이 될 수 있다.

인공지능 기술은 보통 인간계나 자연계와 무관하며 비물질, 혹은 탈물질화 된 것으로 다루어져왔다. 우리는 인공지능을 청정의 거대 과학기술 발전 논

’적 접근과 연결되어야 한다.

코발트 채굴 노동에 동원된 콩고의 아이들 선진국 빅테크 산업의 성장을 위해 희귀금속 채굴에 동원되는 남반구 노동 문제의 극단을 형상화하고 있다.

*출처: 국제인권단체 앰네스티 광고

“Electric Slaves”

리로 추앙하면서 기실 그것이 물질적 실체 없이 존재할 수 없고 물질 논리와 긴밀히 연계되어 있다는 사실을 종종 잊는다. 가령, 인공지능 기술은 인간의 서비스 노동과 인간 활동 데이터 등 비물 질 자원은 물론이고, 에너지, 토지, 광물, 냉각수, 데이터 센터, 중앙처리장치 ·그래픽처리장치 (GPU) , 반도체, 클라우드 등 물질 자원과 미디어 인프 (CPU) 라의 동원 없이는 그 어떠한 연산처리도 불가능하다.

무엇보다 인공지능의 지형을 제대로 읽기 위해서는 우리가 줄곧 외면해왔 던 ‘하류노동 (언더기그·undergig) 능 자동화를 물리적으로 떠받치는 신종 인간 노동으로 볼 수 있다. 예컨대, 인 공지능의 허드렛일을 단순 반복하는 아프리카와 남미 등의 남반구 유령노동 이나 미세 노동, 반도체 부품 노동, 휴대폰 조립 노동, 성폭력 영상 필터링 등 콘텐츠 조정 노동, 디지털 가상통화 채굴 노동, IT 지원 노동, 아동의 코발트 광물 채굴 노동, IT 실험실 청소 노동 등이 AI 가상계를 떠받치는 하류노동 구 실을 하고 있다. 생성형 AI가 주도하는 오늘날 인공지능은 거대 데이터를 처리하고 확률형 연산 과정을 통해 문장과 이미지를 생성하면서 갈수록 막대한 에너지를 소비 할 가능성 또한 높다. 가령, GPT-3의 훈련에는 1,287MWH의 전력이 소비되

’ 또한 들여다보아야 한다. 하류노동은 인공지

미국 애리조나주 투손 지역의 구리 광산 희귀금속 채굴주의는 새로운 자연 파괴 문제를 야기하고 있다.

*출처: 브리태니커 백과사전, 위키피디아

고 총 18만 5000갤런 (70만ℓ) 의 냉각수의 물이 사용되며 552톤의 이산화탄 소를 배출한다. 이는 미국 자동차 110대가 일 년에 배출하는 탄소 배출량과

2)

맞먹는다. 이런 추세라면 GPT-4나 이보다 진화한 인공지능 모델의 경우, 기계학습을 위한 매개변수가 천문학적으로 늘면서 알고리즘의 연산처리 과정에서 에너 지 과도 소비, 환경 훼손, 물 소모, 탄소 배출 등을 유도할 공산이 크다. 인류가 에너지 효율을 높이는 녹색기술을 개발하더라도 인공지능 자동화는 장차 기 후위기 극복에 가장 큰 걸림돌이 될 것이다.

인류의 지적 생산력을 돕기 위한 도구가 오히려 인간을 곤경에 빠뜨리게 될 지도 모를 사태에 이르렀다. 인공지능 자동화는 단순히 디지털 코딩으로 생 성된 장밋빛 비물질 세계의 확장이 아니다. 우리 일상의 위협 (의식과 사유의 외 은 물론, 환경 위협 (탄소 배출과 에너지 소 주화와 탈숙련화, 인간 노동의 피폐화 등) 이란 구조적 층위에서의 다층적 요소들 비, 디지털 오염과 독성, 희귀금속 채굴 등) 의 복잡한 연결망으로 볼 수 있다. 이런 복잡다단한 생태적 층위를 읽어내기

Li, P., Yang, J., Islam, M. A., & Ren, S. (2023). Making AI Less ‘Thirsty’: Uncovering and Addressing the Secret Water Footprint of AI Models. ArXiv, 2) abs/2304.03271.

위해 우리는 인공지능의 본질적 측면, 자연계와 인간계에 걸쳐 뭇 생명에 미 치는 인공지능의 반생태적 ‘독성 (toxicity) 고 해독할 수 있는 리터러시의 단초를 마련해야 한다.

오늘날 기후위기 시대에 자연환경과 인간 사회의 기반이 될 민주주의적 기술 설계나 생태주의적 디자인은 그 어느 때보다 긴급하다. 생태주의적으 로 기술을 이해하고 대안을 상상할 수 있는 능력이 앞으로 시민의 기본 소양 이 되어야 할 것이다. 이른바 ‘생태 리터러시 (ecological literacy) 한다. 인공지능 등 자본주의 첨단 미디어 기술의 생태주의적 이해를 도모할 때만이 동시대 기술의 지형을 좀 더 관계적이고 실재적으로 파악하고 대안의 상상력을 마련하는 일이 가능해진다. 결국, 생태 리터러시는 기술의 민주주의적 대안을 자연계와 인간계, 양계 (兩 모두에서 모색하는 리터러시 접근이라 할 수 있다. 생태주의에 기댄 리터 界) 러시의 방법은, 오늘날 자본주의의 생태환경 파괴와 비이성적 폭주를 가장

효과적으로 제어할 수 있는 미디어 기술 실천의 강력한 무기가 될 것이다.

’ 효과와 첨단 기술의 민낯을 드러내

3)

’ 가 되어야

프리초프 카프라와 우고 마테이, 최후의 전환: 지속 가능한 미래를 위한 커먼즈와 생태법, 박태현·김영준 옮김, 경희대학교 출판부, 2019. 3)