하필이면 ‘혐오표현’ 고른 네이버 AI…“기술 탓만 하지 마라”

게티이미지뱅크

네이버가 비슷한 주제를 다룬 뉴스를 묶어서 이용자에게 제공하는 과정에서 여성혐오 표현이 담긴 제목을 달아 비판을 받고 있다. 네이버 쪽은 인공지능(AI)이 기사를 추출하면서 발생한 일이라고 설명했지만, 전문가들은 네이버가 사전에 혐오표현을 걸러냈어야 한다고 지적했다.

20일 <한겨레> 취재를 종합하면, 이날 오전 여러 매체는 통계청 자료를 바탕으로 ‘40대 초반 신부가 20대 초반 신부보다 많아졌다’는 소식을 전했다. 네이버는 이 내용을 다룬 기사들을 ‘묶음(clustering) 기사’로 제공하며, ‘40대 초반 신부, 여 나이 30 넘으면 상폐라고’라는 대표 제목을 달았다. ‘상폐’는 상장폐지의 줄임말로, 일정 나이 이상이 되면 가치가 없다는 혐오표현이다. 네이버 이용자인 손아무개(31)씨는 “오전에 출근하며 네이버로 기사를 보던 중 제목을 보고 깜짝 놀랐다. 포털사이트에 올라온 제목이 맞나 새로 고침까지 눌러봤다”고 말했다.

네이버 뉴스 화면 갈무리

앞서 네이버는 지난 2019년 뉴스 편집 과정에서 인간의 개입을 배제하고 공정성을 높이겠다며, 인공지능 알고리즘에 의한 편집 및 추천 시스템 ‘에어스(AiRS, AI Recommendation System)’를 처음 도입했다. 에어스는 이용자가 특정한 기사를 읽었을 때, 똑같은 기사를 읽은 다른 이용자들이 주로 클릭한 기사들을 인공지능으로 한데 묶어 자동 추천해주는 시스템이다.

네이버는 에어스 서비스 제공 과정에서 인공지능 알고리즘이 ‘문제의 제목’을 자동으로 달았다고 설명했다. 한 매체에서 해당 표현을 제목에 달았고, 네이버 인공지능 알고리즘이 그 표현을 묶음 기사의 대표 제목으로 추출했다는 것이다. 네이버 관계자는 “묶음 기사 대표 제목은 언론사들이 기존에 단 기사 제목들을 바탕으로 알고리즘이 자동 추출한다”며 “사전 보정 작업은 따로 거치지 않지만, 오타가 나거나 오해의 소지가 있는 경우 재추출을 통해 제목을 수정한다”고 했다. 네이버는 〈한겨레〉 취재 이후, 해당 묶음 기사의 제목을 ‘40대 초반 신부·여성 연상 부부 역대 최고’로 바꿨다.

전문가들은 인공지능 알고리즘이 여러 표현 가운데 여성혐오 표현을 골라 표출하도록 한 네이버에 책임이 있다고 지적했다. 이날 같은 내용을 다룬 다른 언론사의 제목에는 ‘마흔 전에 결혼해라 옛말?’ ‘결혼 가치관 변화’ ‘인구감소에 만혼 유행’ 등의 제목이 있었지만, 네이버 인공지능 알고리즘의 선택은 여성혐오 표현이었기 때문이다.

이윤소 한국여성민우회 성평등미디어팀 활동가는 “기술을 사용하는 건 사람이기 때문에 인공지능이 한다고 해서 윤리적 책임을 벗어날 수 없다. 알고리즘을 짜는 단계에서부터 차별이나 혐오적인 단어를 배제하는 기술을 쓰는 게 충분히 가능하다”고 말했다. 섬세한 기술이나 목록을 점검하는 인력이 있다면 막을 수 있는 일이라는 의미다.

<아시아경제> 기사 제목 갈무리

이광석 서울과학기술대 정보기술(IT)정책대학원 디지털문화정책학과 교수는 “효율성이나 비용 절감 등을 이유로 뉴스 편집 작업을 인공지능에 맡기는 경우가 많아, 기사에 있는 혐오표현이 묶음 기사 대표 제목에까지 확대재생산 된 걸로 보인다”며 “인공지능의 비윤리를 규제 심의·감독기관이 필요하다”고 말했다.

언론의 자정을 요구하는 목소리도 나왔다. 이 교수는 “인공지능 알고리즘은 관련 기사 전체를 샘플로 두고 핵심 단어를 추리는 역할을 한다”며 “편견 있는 기사, 단어가 있다면 제목으로 반영될 확률이 있으니, 기자들의 성인지 감수성을 높여야 한다”고 지적했다.

‘챗지피티'(ChatGPT)와 같은 챗봇 서비스가 대중화될수록 인공지능이 인간의 편견을 재생산할 위험 또한 커질 수 있다는 지적도 나온다. 박아란 고려대 미디어학부 교수는 “최근 챗지피티가 만들어내는 문장들에서도 인간이라면 걸러냈을 혐오표현을 인공지능 알고리즘이 그대로 내보내는 일이 종종 발생한다. 공정성도 중요하지만 기술에 모든 것을 맡겨선 안 된다. 기술적 보완과 인간의 개입 모두가 필요한 문제”라고 말했다.

네이버 뉴스 화면 갈무리

이주빈 기자 [e-mail] 정인선 기자 [e-mail]