"지금 이 시점에 AI 시대를 제대로 준비하고 적응하지 못하면 인간의 미래나 인간적인 미래는 사라질지도 모릅니다. 하지만 반대로 잘 준비하면 아주 크고 많은 편리함과 또 자유를 누릴 수 있을 것이라고 생각합니다."
윤송이 엔씨소프트 최고전략책임자(CSO) 겸 사장은 16일 대한상공회의소 국제회의장에서 열린 '제2회 한겨레 사람과디지털포럼'에서 '인류문명의 대전환, 가장 인간적인 미래를 말하다'를 제목으로 한 기조발제를 통해 이같이 말했다.
윤송이 사장은 "AI 기술 변화가 인류의 주도로 만들어진 것은 맞지만, 이 기술 발전의 속도와 범위를 계속해서 인간 통제의 안에 두는 것이 쉽지 않으리라고 전망이 되기 때문에 인간은 스스로 예측할 수 없고 또 변화의 주도권조차도 잃게 될지 모른다고 하는 두려움이 있다"라며 "생성형 AI의 등장으로 우리 인류의 문명이 어떤 국면을 맞이하게 될지, 또 어떻게 대처하면 좋을지를 여러분과 함께 생각해 보려고 한다"라고 말했다.
윤 사장은 "AI는 인간이 만든 데이터를 통해 편견과 차별까지 학습한다"라며 AI 알고리즘의 중립적이지 않은 편향성을 지적했다. 특히 기계 학습에 기반한 것들은 인간의 표현과 편견을 그대로 반영한 데이터 스스로 학습되기 때문에, 출력이나 결과물에도 편향과 편견이 내재돼 있다고 설명하며 AI 알고리즘의 편향 문제 사례를 소개했다.
연간 2억 명이 이용하는 미국 의료시스템에서 인종차별이 일어나고 있다는 연구결과가 2019년 10월 국제학술지 '사이언스'에 공개된 바 있다.
미국 버클리 캘리포니아대(UC 버클리) 공중보건대학원의 연구팀이 의료 시스템 데이터베이스와 인종 데이터를 비교 한 결과, 만성질환 수가 같은 경우라도 흑인의 건강위험 점수가 비흑인보다 10점 낮게 나타나는 것을 확인했다. 하지만 연구팀이 실제 의료기록을 검증해 보니, 당뇨병·빈혈·신부전·고혈압 등의 질병은 오히려 비흑인보다 흑인이 많았다. 이러한 차이가 나타난 원인은 흑인이 의료혜택을 받을 때 사용한 연간 의료비가 다른 인종에 비해 평균 1800달러 적었기 때문이다. 의료비 차이가 흑인에 대한 불평등한 AI 의료 알고리즘으로 표면화된 것이라고 연구진은 추정하고 있다.
사이언스 게재 논문의 내용은 간단히 말해 의료 알고리즘이 흑인환자의 치료 수요를 비흑인 환자보다 과소평가하고 있다는 것. 결국 의료비 데이터를 통해 고액 치료를 받지 못하는 흑인환자에 대한 차별이 확인된 셈이다.
윤 사장은 "신뢰할 만한 출처 방법으로 데이터를 얻었더라도 특성이 다양한 데이터를 다루다 보면 어떤 형태로든 편향이 생기는 것은 자연스러운 일"이라며 "이러한 편향이 사회의 특정 계층이나 집단, 혹은 개인을 부당한 차별이나 편견에 휩쓸리게 만들 위험이 있으면 더욱 조심스럽고 세심하게 접근할 필요가 있다"라고 조언했다.
윤 사장은 "우리가 사는 세상에는 매우 다양한 삶과 이해관계가 있지만, 생성형 AI는 이런 다양성을 결과물에 반영하지 않고 있다"라며 "문화적 다양성을 잃어버리지 않도록 AI 기술이 문화 공존과 화합의 도구로 사용되도록 해야 할 것"이라고 말했다. 그는 "더욱 공정하고 다양한 가치관을 존중하는 사회를 만들기 위해서는 책임 있는 방식으로 AI를 다뤄야 한다"라며 이를 위한 정부와 기업의 역할을 강조했다.
편향된 AI 기술은 특히 소수자들에게 심각한 해악을 초래할 잠재성이 있다. 정부는 규제와 혁신의 균형을 맞추며, 기업과 협력해야 한다. 정부의 적절한 규제와 지원은 AI 기술 발전에 큰 역할을 할 수 있다. 정부는 AI 기술이 지속 가능하게 성장할 수 있도록 지침을 마련하고, 기술이 초래하는 위험으로부터 시민을 보호할 수 있는 규제 장치를 두어 사회적 안전망을 구축해야 한다. 규제를 바라보는 관점이나 방식은 나라별로 크게 다를 수 있지만, 인간 중심의 신뢰할 수 있는 AI를 목표로 한다는 원칙은 변하지 말아야 한다.
기업의 역할도 매우 중요하다. 결국 AI 기술을 개발하고 상품화하는 것은 기업이기 때문이다. AI는 사람이 개발하는 것이기 때문에 현역성으로부터 완전히 자유로울 수는 없다. 기업은 개발하고 상품화하는 AI 기술에 대한 책임감을 더 가져가야 한다. 기업이 자발적으로 오픈소스 코드를 공개하면서 전 세계의 다양한 인종, 성별, 문화의 개발자들이 기술 개발에 참여할 수 있도록 해야 한다. 기업 스스로가 혁신하는 과정에서 책임감을 가져야 하고, 자체적으로 규제를 실현하고, 또 소비자에게 투명한 정보를 공개하기 위해서 인공지능 업계 내에서 자발적인 협력을 진행하는 것이 필요하다.
윤 사장은 이와 함께 개인으로서 역할의 중요성도 강조했다. 아이디어는 있지만 현실적 기술이 부족해서 창작 활동을 시도하지 못했던 사람들에게 생성형 AI 기술은 희망이 되고 있다며 생성형 AI 모델이 발전을 거듭할수록 결과물을 만들어 내는 능력은 더욱 향상될 것이다. 하지만 이런 새로운 기술이 편리하고 신기한 만큼 기술 발전의 끝에 어두운 미래가 있을지도 모른다는 걱정도 있다고 우려한다.
윤 사장은 인간 중심의 AI 기술을 만드는 것도 중요하지만, 인간이 자신의 고유한 능력을 어떻게 증가시켜서 올바르게 AI 기술을 활용해야 하는지도 매우 중요한 과제로 다가왔다며 미래세대를 위해 교육 패러다임의 변화가 필요하다고 봤다.
앞으로 교육자들은 미래세대(학생들)에게 정보와 지식을 전달하는 것이 아니라, 어떻게 하면 더 정보를 잘 찾고, 이를 통해 무엇을 할 수 있고, 또 찾은 정보들의 어떤 것을 신뢰할 수 있고, 또 신뢰할 수 없는지를 구분하는 방법을 가르쳐야 할 것이다. AI를 창의적 조력자로 활용할 수 있는 인재로 양성하려면 학생들 스스로 문제를 제기하고 창의적으로 해결하는 능력을 강화할 수 있는 환경이 만들어져야 한다.
윤 사장은 남들과 다르게 사물이나 현상, 문제를 바라보는 독창성과 비판적 사고 역량의 일상적 창의성이 AI 시대에 필요한 인간의 고유 능력이라며 일상적 창의성을 더 키우는 방법에 우리 모두가 관심을 가져야 한다고 강조했다. 특히 미래세대에게 나와 다른 사람의 생각을 받아들이고, 또 편견 없이 바라볼 수 있는 다양성과 관용의 태도를 키워주는 것이 중요하다며 새로운 교육 시스템과 환경을 지속적으로 조성할 노력과 책임을 다해야 한다고 덧붙였다.
윤 사장은 "AI 기술의 부작용에 관한 문제는 앞으로도 계속 생겨날 것이다. 그 부작용을 판단하는 것 또한 인간의 몫"이라며 사회 구성원들 모두가 자신의 위치에서 적극적 역할을 다할 때 가장 아름답고 인간적인 미래가 찾아올 것이라고 믿는다고 말했다.
라이프인 열린인터뷰 독점기사는 후원독자만 볼 수 있습니다.
후원독자분들은 로그인을 하시면 독점기사를 바로 볼 수 있습니다.
후원독자가 아닌 분들은 이번 기회에 라이프인에 후원을 해보세요.
독립언론을 함께 만드는 자부심을 느낄 수 있습니다.
