‘멋진 신세계’를 위하여… 사회적 감시를 허하라

【2018 아시아미래포럼 특집】 휴먼테크놀로지 어워드 2018
왜 휴먼테크놀로지인가

‘테크노폴리스’ 편입된 인류
온-오프 결속 나날이 강해지며
기술로 인한 격차-부작용 확대

해킹-여론조작-리벤지 포르노…
고삐 풀린 기술 개발의 폐해
사회적 통제-접근 가능성 높여
개인과 공동체를 지켜라

눈부신 기술의 시대다. 디지털, 자동화, 인공지능 분야에서 급격한 기술 발전은 개인과 사회의 일상적 풍경을 쉼 없이 변화시키고 있다. 일상에서 기술과 도구가 사용되지 않는 영역을 찾기 힘들고, 디지털화는 정보만이 아니라 대부분의 인간 활동을 기계가 다룰 수 있는 형태로 변화시켜 일찍이 없던 효율성과 편의성을 제공하고 있다. 사람은 본디 도구적 존재(호모 파베르)이지만 기술과 도구에 대한 의존은 더 깊어졌다. 문명은 개인과 사회가 기술에 더욱 의존할 수밖에 없는 상황으로 치닫고 있다.

기술 개발과 채택은 비효율과 불편, 제약을 없애 개인과 사회에 편익을 가져올 것이라는 믿음과 기대 속에서 이뤄지지만, 반드시 그런 것은 아니다. 스티븐 호킹, 빌 게이츠, 일론 머스크와 같은 이들은 사람보다 똑똑한 인공지능이 등장하면 인류의 생존이 위협당할 것이기 때문에 위험한 인공지능 개발을 중단해야 한다고 경고하고 있다. 오래전부터 환경과 생태적 관점에서 무모한 기술개발이 가져올 위험과 파국에 대한 경고도 있었다.

최근엔 기술에 대한 새로운 성찰적, 반성적 목소리가 생겨나 울림이 확산하고 있다. 사용자가 기술을 제대로 이해하고 통제하면서 사용하고 있는가에 대한 성찰이다. 이미 우리는 일상생활 속에서 맹목적 기술 개발과 통제력 상실로 인한 대가를 치르고 있다. 가습기 살균제, 폭스바겐의 디젤 차량 연비 조작 등은 사회가 기술을 과신한 몽매함의 대가를 아프게 경험한 사례다. 인터넷과 디지털은 편리함과 함께 새로운 피해와 우려를 가져오는 플랫폼이기도 하다. 인터넷으로 모든 것을 데이터화해서 보관하고 처리하는 상황에서 해킹과 피싱 등으로 대규모 개인정보 유출과 프라이버시 침해가 생겨나고 있다. 허위 왜곡 정보가 뉴스의 형태를 띠고 정치적, 사회적 영향력을 발휘하는 현상이 확산하고 있다. 동료들과 연인 간의 친밀하고 사적인 관계를 지렛대로 개인을 파괴하는 극한의 협박수단이 된 리벤지 포르노와 사이버 ‘왕따’ 현상도 사라지지 않고 있다. 민주적 참여를 위한 공론장 역할을 기대한 게시판과 뉴스 댓글에서는 매크로와 계정 도용을 통한 여론 조작이 일상화하고 있으며, 사이버안보와 치안을 위한 국가조직이 불법적이고 전문적인 수단으로 비밀리에 개입해 조작한 과거도 드러나고 있다.

기술의 부작용이 과거와 다른 점은 기술에 대한 이해와 통제력의 유무에서 오는 격차가 전에 없이 확대되고 있다는 점이다. 기술로 인한 격차가 커지면서 기술을 누가 통제하고 어떠한 목적으로 활용하느냐의 중요성이 강조되고 있다. 기술의 편리함에 매혹된 대부분의 사용자와 달리, 기술을 설계하고 조작할 줄 아는 소수의 전문가는 자신들만의 목적을 위해 해당 도구를 악용할 수 있기 때문이다. 심화하는 기술 의존성은 기술로 인한 격차와 부작용의 확대를 의미한다.

20세기 미국의 기술철학자 랭던 위너는 “세계지도에 테크노폴리스라는 국가가 나오지 않지만 우리는 그 국가의 시민이다. 좋든 싫든 우리는 인간 역사의 새로운 질서에 속하게 되었다는 것을 인정해야 한다”고 말했다. 테크노폴리스 사회를 살아가기 위해서는 개인적 차원에서, 그리고 사회적 차원에서 기술에 대한 이해와 통제가 필요하다.

기술과 도구 대부분이 디지털과 결합하며 소프트웨어와 알고리즘의 영향이 커지고 있는데, 이러한 기술 영역은 기본적 속성에서 완벽성이나 무결성과 거리가 있다는 데 문제의 심각함이 있다. 화학, 물리, 생물, 의학 분야에서는 현실 공간에서 물질 자체를 다뤄야 하고, 실험과 조작 환경이 요구하는 위험성과 영향력에 대한 논의가 오래되어 고유의 윤리와 관행이 구축됐다. ‘인간 배아 복제’처럼 실험과 조작 자체가 갖는 위험성 때문에 이를 다루는 데 주의와 엄밀성이 요구됐다. 하지만 0과 1이라는 전자적 신호를 기반으로 구축된 디지털 세계에서의 실험과 시도는 다르다.

한번 진행되면 돌이키는 것이 불가능한 현실 공간과 달리, 디지털과 사이버 공간에서는 수정과 복구, 삭제가 자유로운 게 특징이다. 소프트웨어와 인터넷 서비스는 불변의 고정적 형태가 아니라 출시 이후에 지속해서 변화와 개선이 가능한 비정형 서비스다. 소프트웨어는 정식 출시 이전에 미완성 상태의 제품이 ‘베타서비스’ 형태로 제공된다. 최종 출시 전에 사용자 피드백을 통해 내부에서 찾지 못했던 결함을 발견하고 사용성을 개선하는 방식으로 상품을 수정해 출시하는 형태가 일반적이다. 완성된 제품을 내놓은 뒤에도 취약점이 드러나거나 개선할 사항이 생기면 수시로 패치 보급과 업데이트를 활용한다. 무료라는 점과 사용자 동의를 거친다는 점에서 이용자들의 서비스 기대 수준도 높지 않다.

세계 최대 사회관계망 서비스 페이스북의 최고경영자 마크 저커버그는 2012년 기업공개 때 투자자들에게 보낸 편지에서 기업 지향점으로 ‘해커 정신’을 강조했다. 그는 당시 편지에서 “해커에게는 컴퓨터 침입이라는 부당하고 부정적인 설명이 따라붙지만, 본디 해킹은 ‘단순히 뭔가를 재빨리 만들어내거나 시험해보는 것’을 의미한다”며 ‘해커 정신’은 “끊임없는 개선과 재시도에 몰두하는 태도”라고 설명했다.

첨단 기술분야에서 끊임없는 시도와 이를 통한 개선은 바람직하지만 모든 시도의 허용을 의미하는 게 아니다. 디지털과 소프트웨어가 현실 세계나 특정한 개인들과 분리된 한정된 영역에서 작동하지 않고, 점점 더 온라인과 오프라인 간 결속 강도가 강해지고 있다. 해킹, 사생활 영상, 왕따 등은 개인과 공동체를 파멸시키기도 한다. 적극적 시도와 실험을 허용하면서도 안전을 담보하는 길은 기술에 대한 이해와 논의를 바탕으로 사회적 감시 시스템을 구축하는 것이다. 기업체의 영업비밀과 전략이라는 블랙박스에 감추는 대신, 접근 가능성과 정보 공개를 확보하는 것이다. 디지털과 인공지능, 알고리즘 환경에서 기술의 존재와 작동구조가 블랙박스처럼 보이지 않게 되는 현실은 기술에 대한 사회적 감시와 이를 위한 정보 접근성을 요구한다. 사람과디지털연구소에서 포럼과 시상식을 통해서 사람 친화적 기술을 발굴하고 기리려는 목적 또한 강력한 힘을 지닌 기술을 더 안전하고 편리하게 길들여 모두를 위한 도구로 만들기 위한 노력의 하나다.

구본권 사람과디지털연구소장 [e-mail]