생성형 AI 시대, '기술 권력' 통제할 새로운 '시민성'이 필요하다
상태바
생성형 AI 시대, '기술 권력' 통제할 새로운 '시민성'이 필요하다
'2023 민주주의랩 컨퍼런스', 'AI, 민주주의의 위기인가? 기회인가?' 섹션 진행
정보 편향·탈진실·사고의 탈숙련화…AI 시대 민주주의의 위협 요인 진단 및 대응 방안 모색
  • 2023.11.23 12:17
  • by 노윤정 기자
▲ 이광석 서울과학기술대학교 교수. ⓒ라이프인
▲ 이광석 서울과학기술대학교 교수. ⓒ라이프인

제4차 산업혁명과 인공지능(AI), 초연결과 같은 개념이 익숙해지고 챗(Chat)GPT로 대표되는 생성형 AI 기술이 급격히 부상하고 있다. 이처럼 디지털 기술이 발전하면서 사람들의 일상이 혁신적으로 바뀌고 편리해질 것이라는 기대도 크지만, 그와 동시에 새로운 기술에 따르는 문제도 다양하게 나타나고 있다. 그리고 기술 발전이 야기한 여러 가지 우려 속에는 민주주의 체제에 대한 우려도 포함돼 있다.

지난 15일 서울 종로구 노무현시민센터에서 진행된 '2023 민주주의랩 컨퍼런스'의 'AI, 민주주의의 위기인가? 기회인가?'에서는 AI 시대에 민주주의가 어떻게 변화할 것인지, 기술 변화가 시민과 민주주의를 위한 방향으로 흘러가게 하기 위해서는 무엇이 필요할지 논의하는 시간을 가졌다.

이광석 서울과학기술대학교 교수는 '생성형 AI 시대, 디지털 생태계 위기와 시민사회의 대응'이라는 주제로, 생성형 AI 기술 발달이 가져올 편익과 불안을 살펴보고, 불안을 최소화하며 AI 기술을 사회에 유용한 방식으로 활용할 방안을 모색했다.

이 교수는 지능형 기술의 발달이 우리 사회에 미치는 주요한 경향으로서 ▲자원 배치와 관계의 큐레이션 및 넛지 효과 ▲사유와 탐구의 '탈숙련화' 효과 등을 들었다. 특히 그는 생성형 AI 기술의 발달이 사유와 탐구 과정을 탈(脫)숙련화시킬 수 있다는 가정을 제시하며 "생성형 AI 관리 기제를 제대로 확보하지 못한다면 우리는 의식적인 측면에서 문제를 겪게 될 것이다"고 지적했다. 인간이 스스로 사유하는 대신 AI에서 답을 찾고자 하는 경향이 강해질 수 있기 때문이다.

이러한 경향이 심화되면 우리 사회에 어떤 문제가 발생할까. 이와 관련하여 이 교수는 △사유와 판단을 인공지능에 의탁 △편향과 편견에 오염된 데이터 학습에 따른 잘못된 현실인식 강화 및 약자·소수 의견의 배제 △저작권 보호 문제 △질 나쁜 노동의 확산 △데이터 처리량 증가에 따른 에너지 소비 증가 및 환경 문제 발생 등의 문제를 짚었다.

마지막으로 그는 지속 가능한 AI를 위한 시민사회의 대응 행동으로서 ▲지능형 기술 폭주 제동 및 안전핀 마련('AI 시민 권리 공동 선언' 마련 등) ▲데이터 무차별 수집 및 사유화에 대응할 'AI 데이터 시민 공유 권리' 모색 ▲'사람을 위한 AI'에서 '생명, 약자, 타자와 함께하는 AI'로 전환 ▲AI 등 디지털 기술이 야기하는 기후위기 대책 마련 등을 제언하며 발표를 마무리했다.
 

▲ 윤형중 LAB2050 대표. ⓒ라이프인
▲ 윤형중 LAB2050 대표. ⓒ라이프인

다음으로 윤형중 LAB2050 대표가 'AI 시대, 민주주의를 위한 새로운 사회계약-신격차사회에 대응하는 안전망을 어떻게 만들 것인가'라는 주제로 발표를 이어 갔다. 윤 대표는 발표를 통해 AI 리터러시(Literacy, AI 기술을 이해하는 능력)와 AI 디바이드(AI Divide, AI기술 접근성 및 활용 능력에 따라 벌어지는 격차)의 개념을 보다 포괄적으로 정립하고, AI가 커먼즈(공동체 구성원에게 공유된 자원)에 기반한다는 점을 밝혔다.

그는 AI가 학습하는 데이터들은 이미 존재하던 자료, 즉 인류가 함께 만들어 낸 커먼즈라고 설명하며 "그렇기에 AI 기술에 의무를 부여하고 데이터 시대에 필요한 사회안전망을 만들 때 시민들이 중요한 주체로 참여해야 한다"고 말했다.

또한 LAB2050이 정의한 AI 리터러시의 개념을 "AI에 필요한 공통의 약속을 만들기 위한 사회적 관계망을 조직하는 능력"이라고 설명하며 포괄적 정의를 제안했다. AI 리터러시를 단순히 AI 기술을 활용하는 능력이 아니라 비판 능력과 공통 규약을 만들 수 있는 능력으로 확대하여 파악한 것이다. AI 디바이드에 대해서도 "접근성과 활용 능력만으로 개념화하기보다 AI로 인한 사회·경제적 격차를 포괄한 개념으로 보길 제안한다"며 "AI로 인한 사회·경제적 격차를 어떻게 메울 것인지도 이야기해야 하기 때문"이라고 이유를 설명했다.

이어 윤 대표는 AI 시대의 민주주의를 위한 제언으로서 ▲AI 디바이드를 개선하는 수준의 재분배를 위해 전환적 소득보장 체계 개편 및 사회보험 보장 범위·부과 체계 개편 ▲AI 리터러시를 증진하는 수준의 AI 보편적 활용 및 교육 지원 ▲소수 의견을 보호하고 소통 가능한 미디어 환경 조성 ▲AI 규범을 지키기 위한 국제적 협력 체계 구축 등을 말했다.
 

▲ 구본권 사람과디지털연구소 소장. ⓒ라이프인
▲ 구본권 사람과디지털연구소 소장. ⓒ라이프인

구본권 사람과디지털연구소 소장은 '가짜 정보 판별력'에 대한 문제를 제기했다. 그는 먼저 "AI 알고리즘은 무척 편리하다. 고도의 효율성을 갖고 있다. 또한, 보편성을 갖고 있어 모든 기술에 활용될 수 있다. 동시에, 비가시성이 있다. 알고리즘이 어떻게 해당 결과를 도출했는지 알 수 없다는 뜻이다. 또, 알고리즘은 공익이나 다수의 합의를 존중하는 것이 아니라 만든 사람의 이익을 극대화하기 위해 사용된다"는 점을 지적했다.

구 소장은 '탈진실'(Post Truth)이라는 개념에 주목했다. 탈진실이란 객관적 사실보다 개인의 신념과 감정적 호소가 여론에 더 큰 영향을 끼치는 현상을 말한다. 필요한 정보를 얻기 쉬운 현대의 정보화 사회에서 왜 탈진실 현상이 나타나고 있을까? 그 이유를 구 소장은 ▲인간의 인지능력과 범위를 뛰어넘는 방대한 정보 ▲각종 편향의 영향 확대 ▲가상이 현실을 압도하고 대체하는 현실(극단적 상대주의) 등으로 설명했다.

이어 그는 민주주의의 상징과 같은 에이브러햄 링컨 미국 전 대통령의 연설문 구절 "국민의, 국민에 의한, 국민을 위한"(Of the people, By the people, For the people)을 언급하며 "AI와 플랫폼은 우리 모두의 소유가 아니라 이를 운영하는 빅테크 기업과 국가 권력의 소유이며, 시민이 아닌 보이지 않는 알고리즘에 의해 작동되고, 시민이 아니라 절대권력 집단과 빅테크를 위해 작동하고 있다"고 민주주의 환경의 전환이 필요한 이유를 밝혔다.

또한 구 소장은 AI 시대에 맞는 새로운 시민교육과 사회제도, 새로운 시민성이 필요하다고 말하며 "AI라는 강력한 힘을 통제하기 위해 새로운 환경에서 민주주의를 논의해야 한다. 거대한 기술 권력을 시민의 통제 아래 두기 위해 '디지털 시민성'을 모색하고 논의해야 하는 시점에 이르렀다"고 말했다.
 

▲ 권오현 사회적협동조합 빠띠 대표. ⓒ라이프인
▲ 권오현 사회적협동조합 빠띠 대표. ⓒ라이프인

마지막으로 권오현 사회적협동조합 빠띠 대표는 AI 기술 발전에 따른 우려 중 민주주의의 위기에 관해 이야기했다. 민주주의 위기의 양상은 ▲공격받는 민주주의 ▲자동화한 민주주의 ▲대중의 배제와 소외 등으로 파악할 수 있다.

공격받는 민주주의란, 사람들이 진실과 거짓을 구분하기 어려워지고 우리가 온라인에서 만나는 존재가 인간인지 봇(Bot, 특정 작업을 수행하도록 자동화된 소프트웨어 프로그램)인지 구분할 수 없게 되며, 그에 따라 사회에 불신이 만연해지는 현상에서 기인한다. 또한 자동화된 민주주의의 문제에 대해 권 대표는 "가치판단을 AI에 물어보는 시대가 올 수밖에 없고 사람들이 생각을 AI에 의존하게 될 것"이라며 "AI에 정치 성향을 파악하기 위한 질문들을 했을 때 생성형 AI들이 중립적인 답을 주지 않는다는 것을 확인한 연구가 있다"고 설명했다. AI가 데이터를 학습할 때 사회의 편향·혐오를 함께 학습하고, AI가 학습하는 데이터에서 소수 의견은 배제될 가능성이 있으며, 인간보다 AI의 답을 더 신뢰할 만하다는 분위기가 조성되는 모든 현상이 민주주의를 위협한다는 것이다.

그렇다면 기술 발전이 심화하는 민주주의의 위기를 어떻게 극복할 수 있을까. 권 대표는 ▲사회 구성원들이 신뢰할 수 있는 공론장 형성, 대화와 합의를 통한 믿을 수 있는 정보의 축적 등 '영향 공작에 대응할 방안' 마련 ▲데이터 수집과 알고리즘 구성 과정에 시민이 참여하는 등 '정책 결정의 자동화에 대응' ▲기술 비판과 감시 능력 배양, 시민 기술 활동가 양성 등을 통해 '디지털 리터러시에 대한 관점 확대와 시민 역량 확보' ▲집단지성과 AI의 역할에 대한 공론장 마련 ▲시민의 실질적 기술 통제력 확보, 디지털 공유지 확대 등을 통해 '공동체의 디지털 자산 보호' 등의 방안을 제안했다.

라이프인 열린인터뷰 독점기사는 후원독자만 볼 수 있습니다.
후원독자분들은 로그인을 하시면 독점기사를 바로 볼 수 있습니다.

후원독자가 아닌 분들은 이번 기회에 라이프인에 후원을 해보세요.
독립언론을 함께 만드는 자부심을 느낄 수 있습니다.

이 기사를 공유합니다
중요기사
인기기사
  • (07317) 서울특별시 영등포구 영등포로62길 1, 1층
  • 제호 : 라이프인
  • 법인명 : 라이프인 사회적협동조합
  • 사업자등록번호 : 544-82-00132
  • 대표자 : 김찬호
  • 대표메일 : lifein7070@gmail.com
  • 대표전화 : 070-4705-7070
  • 팩스 : 070-4705-7077
  • 등록번호 : 서울 아 04445
  • 등록일 : 20147-04-03
  • 발행일 : 2017-04-24
  • 발행인 : 김찬호
  • 편집인 : 이진백
  • 청소년보호책임자 : 송소연
  • 라이프인 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 라이프인. All rights reserved.
ND소프트