기술의 미래는 시민이 결정해야 한다

디지털 기술, 사회와 개인에 막대한 영향력
‘효율’ ‘최적화’에 몰두…사회적 가치는 외면
시민들 앞장서 민주주의적 규제 모색해야

그래픽 동혜원 [e-mail], 게티이미지뱅크

시스템 에러
빅테크 시대의 윤리학
롭 라이히·메흐란 사하미·제러미 M. 와인스타인 지음, 이영래 옮김 l 어크로스 l 1만9800원

1996년 미국 시가총액 상위 5개 기업은 지이(GE), 로열더치셸, 코카콜라, 닛폰텔레그래프앤텔레폰, 엑손모빌이었다. 현재 상위 5개 기업은 애플, 마이크로소프트, 알파벳A(구글 지주사), 알파벳C(알파벳의 의결권 없는 주식), 아마존닷컴이다. 모두 빅테크(대형 정보기술기업)다. 오늘날 빅테크는 자본과 인력을 빨아들이고, 사람들의 삶에 전방위적인 영향을 미치는 ‘권력’이다.

<시스템 에러>는 이 권력을 어떻게 견제해야 할지 묻는 책이다. 빅테크로 상징되는 디지털 기술의 발전이 가져온 명암을 조명하고, 기술의 힘과 사회적 가치가 조화를 이루기 위한 길을 모색한다. 실리콘밸리와의 연계로 유명한 미 스탠퍼드대학교에서 컴퓨터과학, 철학, 정치학을 가르치는 세 교수가 함께 썼으며, 스탠퍼드대에서 이뤄진 강의를 바탕으로 하고 있다.

“20세기가 경제와 금융의 시대였다면 21세기는 엔지니어링과 컴퓨터공학의 시대다. 컴퓨터 하드웨어, 연산 속도, 빅데이터, 알고리즘, 인공지능, 네트워크 파워가 우리 시대에 가장 중요한 통화다.” 일과 여가, 인간관계, 정치와 경제 등 사회의 거의 모든 측면이 디지털 기술에 의해 재편되고 있다.

이런 기술을 다루는 사람들이 가장 중요하게 여기는 가치는 ‘효율’과 ‘최적화’다. 이들은 학생 때부터 ‘가장 효율적인 최적의 방식으로 해법을 찾아야 한다’는 사고방식을 주입받는다. “그들은 삶의 대단히 많은 측면에서 효율을 높이는 다양한 기술을 개발하고 시장에 내놓는 사람들이다.” 하지만 그 기술이 사회적으로 중요한 다른 가치들에 어떤 영향을 미치는지는 고려하지 않는다. 광고 클릭 수를 늘리고 더 많은 사용자를 끌어들이고 이들이 더 오래 플랫폼에 머물게 만드는 데만 몰두할 뿐 콘텐츠의 진실성과 정확성, 맥락 등은 신경 쓰지 않는다.

기술을 만드는 것은 엔지니어들이지만, 이 기술을 기업으로 성장시키는 것은 벤처투자가로 대표되는 자본이다. 자본은 최대한의 수익성을 올리기 위한 목표를 기술자에게 제시하고 이를 위한 수단을 만들어낼 것을 요구한다. 이 과정에서 기술자들의 ‘최적화 사고방식’은 더욱 증폭된다. 이들은 정부의 규제에도 맞선다. 기술을 전혀 모르는 정치인들이 혁신의 발목을 잡는다고 생각한다. 규제를 막기 위해 정치인들에게 로비를 하고 여론을 형성하기 위해 홍보에 돈을 쏟는다.

하지만 기술 발전의 부작용과 거대 기술기업들의 지배력에 대한 사회적 우려가 높아지면서, 이들이 “스스로 규칙을 만드는 시대”에 대한 회의 역시 커지고 있다. 한때 디지털 기술 발전이 민주주의와 평등을 촉진시키고, 탈중앙화와 개인의 자유를 가져올 것이라는 기대감이 높았다. 하지만 결과는 달랐다. 중립적일 것이라고 생각되던 알고리즘은 성별과 인종 등에 편향성을 드러냈다. 개인정보는 기업들에게 데이터의 금광이 되면서 광고 수익을 올리기 위한 수단으로 전락했다. 자동화는 인간의 자리를 대체하고 있다. 혐오 표현과 허위 정보가 표현의 자유라는 명분 아래 독버섯처럼 자라났다.

지은이들은 이제 “기술의 미래를 엔지니어, 벤처투자가, 정치인들에게 맡겨놓아서는 안 된다. 기술이 우리 사회를 어떻게 바꾸어야 하는가라는 어려운 문제의 결정권을 우리 모두가 가져야 한다”고 말하며 분야별로 필요한 조처와 규제들을 제시한다.

알고리즘은 투명하게 이용돼야 한다. 사람들은 자신에게 직접 영향을 미치는 결정에 알고리즘이 적용되고 있는지 여부를 알아야 하고, 알고리즘이 어떻게 설계됐는지, 알고리즘이 어떻게 작동하는지 등에 관한 정보에 접근할 수 있어야 한다.

우리 스스로 별 의식 없이 클릭함으로써 개인정보를 기업들에게 넘겨주어서는 안 된다. 또한 기업이 소비자의 무지와 부주의를 악용해서 정보를 얻어내지 못하게 해야 한다. 유럽에서 도입된 개인정보보호규정(GDPR)하에서와 같이 시민들은 기업이 어떤 정보를 수집하고 그것을 어떻게 사용할 것인지 알 권리를 가져야 한다. 기업이 거의 모든 것에 대한 데이터 수집 권한을 가져서는 안 되며 데이터 최소화의 원칙(필요한 것만 추출하고 그 이유를 설명하는)이 도입돼야 한다.

자동화의 결과가 직업과 소득에 따라 어떻게 분배되는가에 관심을 가져야 한다. 자율주행차로 생계를 위협받는 트럭 운전사처럼 자동화의 위험에 직접 노출되는 직업도 있고 거의 영향을 받지 않는 직업도 있다. 실직의 타격을 완화하고 사람들에게 미래의 일자리를 준비할 수 있는 교육과 훈련을 제공하는 사회 안전망을 마련해야 한다.

혐오 표현, 허위 정보 등을 차단하는 문제를 기업들의 자율 규제에만 맡겨놓아서는 안 된다. 정보 생태계의 건전성을 보호하는 데 정부가 적극 나서야 한다. 소수 기업이 절대적인 지배력을 행사하고 있는 인터넷 플랫폼 시장을 좀 더 경쟁적으로 만들 필요도 있다. 다양한 기업이 등장한다면, 소비자들은 신뢰할 수 있는 정보를 우선적으로 제공하고 유해한 콘텐츠를 삭제하며, 사기나 괴롭힘으로부터 자신들을 보호하는 소셜 네트워크나 검색 엔진을 선택할 수 있을 것이다.

현재 디지털 기술의 부작용들은 기술자의 최적화 사고방식, 수익·규모를 극대화하려는 자본의 야심, 소수 기업의 시장 독점이 결합돼 나타난 것이다. “시스템적인 사안에는 시스템 전체를 아우르는 해법이 필요하다.” 이는 개별 소비자가 아닌 정부의 영역이다. 정부를 개혁해서 새로운 기술이 제기할 문제를 잘 다룰 수 있게 해야 한다. 우리가 선출한 대표들에게 지금 가장 중요한 기술적 문제에 어떤 입장을 가지고 있는지 물어야 한다. 정치인들이 거대 기업들의 로비에 좌우되고 있지 않은지도 감시해야 한다. “새로운 기술이 사회에 유익을 가져다주도록 이끄는 것은 민주주의의 역할이다. (…) 민주주의가 제 역할을 하도록 하는 것은 우리의 몫이다.”

안선희 기자 [e-mail]