윤송이 “서구 주류에 기울어진 AI, 편견 가득찬 현실 반영”

사람과디지털포럼 기조연사 윤송이

제2회 사람과디지털포럼의 기조연설자인 윤송이 엔씨소프트 최고전략책임자(사장)는 인공지능이 폭발적으로 발전하고 있는 현 상황을 인류 문명의 대전환기로 진단하고 인류가 가장 인간적인 미래로 가기 위해 정부·기업·교육이 어떤 역할을 해야 하는지 발표한다.

윤 사장은 인공지능은 편향적인데 인공지능 개발에 사용되는 데이터세트 자체가 사람의 편견으로 가득 차 있기 때문이라고 본다. 그가 특히 주목하는 것은 데이터가 주류의 위치에 있는 소수 집단의 의견을 집중적으로 반영하여 전체를 대표하고 있다는 점이다. 인공지능 알고리즘이 제공하는 의견은 ‘하나의 지배적인 렌즈’로 작용하고 있지만 실제로는 특정 집단에 의해 선택되고 받아들여진 것에 불과하다는 관점에서 인공지능의 편향성 문제를 짚을 예정이다.

서구 주류 세력의 의견이 지배적 관점으로 받아들여지면서, 비서구·유색인종·여성 등 비주류 집단의 의견은 구조적으로 배제되고 있다. 윤 사장은 이처럼 인공지능이 특정 문화나 언어에 편향될 경우 결국 ‘문화 식민주의’로 이어져 인류가 문화적 다양성을 잃게 될 수 있다고 우려하며 이를 규제하기 위한 방안을 제안할 예정이다.

이렇듯 인공지능 기술 개발자들은 자신들이 의도하지 않았더라도 사회에 큰 해를 끼칠 수 있기에 항상 이 점을 인식하고 기술의 설계 단계를 비롯해 모든 과정에서 사회적 영향과 윤리적 문제를 고려하도록 훈련되어야 한다. 이를 위한 교육의 역할, 인공지능과 함께 살아가야 할 미래세대를 위한 교육의 패러다임 전환 등에 대해서도 발표한다.

한귀영 사람과디지털연구소 연구위원 [e-mail]