“극단주의 조장” 사악한 SNS 알고리즘 고칠 수 있을까

페이스북, 내부고발 ‘일파만파’

“시민안전 충돌때 어김없이 이윤추구”
전 제품관리자 하우건 내부자료 폭로

내부고발·비판불구 성장세 변함없어
거대플랫폼 특성상 다양한 측면 불가피
비밀주의와 취약층 공격 알고리즘 문제
시민사회·입법통한 규제 찬반 엇갈려

페이스북에서 제품관리자로 근무해오다 퇴직한 내부고발자 프랜시스 하우건은 2021년 10월 5일 미 상원 청문회에 출석해 “페이스북이 시민 안전보다 기업 이윤을 우선시하는 알고리즘을 작동시켜왔다”고 증언했다. 워싱턴DC/AP 연합뉴스

세계 최대 소셜미디어이자 어느 국가 인구보다 많은 가입자 29억명의 ‘사이버 제국’ 페이스북이 전에 없는 위기에 처했다. “페이스북은 청소년들에게 직접적 해를 끼치고 사회 분열을 조장하며 민주주의를 위협하는 플랫폼이다”라는 내부고발자의 폭로 파장이 점점 번지고 있다. 페이스북에서 2019년부터 올해 5월까지 제품 관리자를 지낸 프랜시스 하우건은 최근 페이스북 내부자료를 미국 <월스트리트저널>에 제보해 대대적 보도를 이끌어내고, 지난 5일 상원 청문회에 출석해 페이스북이 반사회적 행위를 수익모델로 삼는 기업이라고 주장했다. 폭로 이후, 페이스북 주가는 15% 가까이 폭락했고 이용자 불신과 비판 여론이 높아지면서 규제가 필요하다는 주장이 확산되고 있다. 페이스북은 전에 없이 거센 비판의 파고를 넘어설 수 있을까? 아니면 페이스북은 이미 항공모함처럼 웬만한 파도에는 흔들리지 않을 보편적이고 필수적인 플랫폼의 자리에 올라선 것일까?

내부고발자의 폭로

하우건은 2006년부터 구글, 핀터레스트 등에서 추천알고리즘을 개발해온 정보기술 전문가로, 페이스북에 대한 기대를 품고 입사해 가짜뉴스 알고리즘 관련 프러덕트 매니저로 일했으나 페이스북 경영진이 이용자 안전보다 돈벌이를 우선하는 태도에 분노해 내부고발자로 나섰다고 지난 3일 <시비에스(CBS)>의 탐사보도 프로그램 ‘60분’에서 밝혔다. <월스트리트저널>은 하우건의 제보를 토대로 지난달 14일 페이스북의 자회사인 인스타그램이 10대의 정신건강에 악영향을 끼치고 특히 10대 소녀들이 자신의 몸에 대해 불만과 비참함을 느끼도록 만든다는 조사결과를 알면서도 이를 조장하는 알고리즘을 방치했다고 보도했다.

자살 충동을 느낀 10대중 영국 사용자의 13%, 미국 사용자의 6%가 자살 충동 원인으로 인스타그램을 지목했다는 연구결과를 비롯해 페이스북과 인스타그램의 반사회적 영향이 지난해 마크 저커버그 최고경영자 등 페이스북 경영진에게 보고됐다는 사실도 공개됐다. <엠아이티(MIT) 테크놀로지 리뷰>에 따르면, 하우건은 페이스북에 근무하면서 직원용 소셜미디어인 ‘페이스북 워크플레이스’를 뒤져 방대한 내부보고서와 연구자료를 찾아냈고 페이스북이 문제를 알면서도 방치해온 사실을 제보했다. 하우건은 상원 청문회에서 “기업 이윤과 시민의 안전이 충돌할 때마다 페이스북은 어김없이 돈벌이와 성장을 선택했다”며 “페이스북은 의회와 시민사회의 개입없이 스스로 문제를 해결할 수 없을 것”이라고 말했다.

기존의 폭로와 차이

페이스북을 향한 비판과 내부고발은 처음이 아니다. 데이터업체인 케임브리지 애널리티카를 통해 이용자 8700만명의 정보가 유출돼 2016년 미국 대통령선거 운동에 활용된 게 문제가 되어 2018년 저커버그가 공식 사과하고 의회 청문회에서 질타당한 바 있다. 페이스북 초기에 입사해 성장을 이끌며 부사장을 지낸 차마트 팔리하피티야는 2017년 11월 스탠퍼드대 강연에서 페이스북을 “도파민에 의해 작동하는 단기 피드백 순환고리”라고 규정하고 페이스북은 사회가 작동하는 방식을 파괴하는 도구라고 고백했다. 페이스북에서 데이터 과학자로 일했던 소피 장도 지난해 9월 수천만원의 퇴직금을 포기하면서까지 페이스북이 가짜 계정과 가짜 ‘좋아요’를 방치하며 페이스북내 여론 조작에 눈감아온 사실을 <버즈피드>에 공개한 바 있다.

내부 고발이 터져나올 때마다 탈퇴 캠페인과 비판 보도가 이어지고 의회 청문회와 저커버그의 사과가 잇따랐다. 그럼에도 페이스북은 실질적 타격을 받지 않았고, 이용자 규모는 변함없이 증가세를 유지했다. 하지만 이번 하우건의 폭로는 어느 때보다 구체적 자료를 갖고 이뤄진 내부고발이라는 점, 바이든 미 행정부와 의회가 빅테크 기업 규제에 대해 강경한 태도를 보인다는 점에서 그동안의 문제 제기와 구별된다. 유명 주식해설가 짐 크레이머는 지난 4일 <시엔비시(CNBC)>에 출연해 “전에도 페이스북 비판이 나왔고 그때마다 주가에 악재였지만 중장기적으론 큰 문제가 되지 않았다. 그러나 이번엔 충격의 강도가 다르다”고 말했다.

‘이용자 참여 극대화’ 알고리즘의 비밀

페이스북은 하우건의 폭로와 의회 증언에 대해 “회사 의사결정에 참여한 적 없는 인물”이며 오해로 점철돼 있다고 반박했지만, 하우건은 페이스북 문제의 핵심엔 알고리즘이 있다고 구체적 사례와 작동구조를 제시했다. 하우건은 페이스북 알고리즘이 머신러닝을 통해 댓글, 공유, ‘화나요’ 버튼 등 이용자 참여를 극대화하도록 설계됐고, 그 결과 이용자에게 극단주의와 가짜정보를 더 많이 노출시켜 클릭을 유도했다고 고발했다. 사람들은 소셜미디어에서 사실보다 자극적인 콘텐츠를 선호하는데, 페이스북의 참여 유도 추천알고리즘이 기름을 붓는 구조다. <엠아이티 테크놀로지 리뷰> 최신호는 페이스북 내부 조사결과 이용자 참여 극대화 알고리즘이 정치적 양극화를 조장하는 게 확인됐지만, 양극화를 줄일 경우 이용자 참여도가 낮아질 것을 우려해 개선 제안이 채택되지 않았다는 사실을 보도했다.

이러한 사실은 이용자의 적극적인 참여 활동이 바람직하다는 페이스북의 기존 주장과 배치된다. 2017년 예일대·미시건대 연구진 등은 페이스북을 오랜 시간 이용하거나 ‘좋아요’를 많이 누를 경우 우울감이 높아진다는 연구결과를 발표해 소셜미디어가 정신건강에 끼치는 악영향이 불거졌다. 당시 페이스북은 회사 블로그에 “소셜미디어에서 시간을 보내는 것은 나쁜가?”라는 글을 올리고 페이스북이 정신건강에 안좋다는 연구결과를 인정하며 대안을 제시했다. 페이스북은 대안으로 페이스북에서 단순 읽기나 ‘좋아요’ 클릭같은 수동적 이용 대신 친구와 메시지나 의견을 교환하며 적극적으로 상호작용하는 것은 오히려 정신건강에 좋다고 주장했다. 하지만 이번 폭로로 페이스북이 추천한 적극적 참여가 정신건강 대신 극단주의와 가짜뉴스, 사회 분열을 불러왔고 기업의 돈벌이 수단으로 활용되었다는 게 드러난 셈이다.

마크 저커버그 페이스북 최고경영자(CEO)는 2018년 4월10일 미국 상원 법사위원회와 상무위원회의 합동 청문회에 출석해, 페이스북 개인정보 무단 유출 파문에 대해 증언했다. 워싱턴DC /AP 연합뉴스

문제 해결의 복잡성

잇단 내부고발과 여론의 비판에 불구하고 페이스북의 문제가 개선되지 않는데는 알고리즘의 비밀주의와 복잡함이 있다. <생각을 빼앗긴 세계>의 저자 프랭클린 포어는 “페이스북은 10만개 넘는 시그널을 이용해 이용자가 무엇을 볼지 결정한다”며 “6000만줄 넘는 페이스북 코드는 페이스북조차 그 복잡한 알고리즘을 이해하지 못할 수 있으며 해독불가능한 고대문서처럼 되었다”고 지적한다. 페이스북이 실제 어떻게 운영되는지 확인할 수 없는 상황에서 규제 당국과 시민사회의 대책과 요구는 제한적일 수밖에 없다. 하우건도 의회 청문회에서 “페이스북은 어떻게든 이 문제를 풀 길이 없는 복잡하고 어려운 문제로 그려내려 하고, 엉뚱한 선택지를 내밀어 대중을 오도하려 할 것이다”라고 증언했다.

페이스북처럼 거대하고 복잡한 플랫폼은 수많은 이용자들이 자발적 동의 아래 다양한 용도로 활용하고 경제적 수단으로 이용하는 특성으로 인해, 문제가 발생해도 진단과 해결이 어렵다. 최근 페이스북과 인스타그램에서 불거진 문제는 내부의 극소수만이 알고 있는 비밀스런 알고리즘에 기인하고, 10대 소녀처럼 취약층에게 더 큰 악영향을 끼친다는 점에서 심각하다.

페이스북과 같은 거대 소셜미디어 플랫폼의 사회적 유해성을 바로잡을 방안으로는 시민사회의 감시와 의회에서 입법을 통한 규제, 그리고 이를 가능하게 하는 투명성이 제시된다. 하우건은 상원 청문회에서 “게임 규칙을 바꾸면 페이스북이 일으킨 많은 피해를 줄일 수 있다”며 입법을 통한 규제를 요청했지만 반론도 있다. 저커버그도 페이스북에 대한 정부 규제를 요청한 바 있으며, 규제는 유해한 수익모델을 합법화하는 수단이 된다는 비판이다.

저커버그는 2019년 3월 <워싱턴포스트> 기고에서 유해콘텐츠에 대한 유럽연합의 가이드라인과 같은 정부 규제를 요청하며, 자사 플랫폼으로 인한 문제에 대한 책임을 정부에 떠넘겼다. <컬럼비아 저널리즘 리뷰>는 지난 13일 “페이스북의 유해한 수익모델은 규제를 통해 합법화하기보다 근본적으로 제거해야 할 대상이다”는 주장을 실었다. 하우건은 청문회에서 페이스북 플랫폼 자체가 문제가 아니라 돈벌이를 우선하는 인센티브 시스템이 문제라며 시민사회와 의회의 개입을 통해 “모두를 위한 더 나은 소셜미디어를 얼마든지 만들 수 있다”고 주장했다.

구본권 사람과디지털연구소장 [e-mail]