몽환적 과학기술 예측을 경계한다

[윤기영의 원려심모]

공학 분야의 지식반감기는 20세기 초 40여년이었으나 20세기 말 10여년으로 단축되었다.

21세기 사회변동의 핵심동인이 된 과학기술

20세기 말 이후 21세기 들어서 인류사회의 변화동인 중 과학기술이 가장 큰 영향력을 행사하는데 미래학자를 포함한 다양한 분야의 학자 사이에 큰 이의가 없을 것이다. 생명과학기술, 센서 기술, 인공지능 기술 등의 발달 속도는 갈수록 빨라지고, 이에 따라 인류의 일자리와 생활방식에 근본적 변화가 오고 있기 때문이다. 이러한 변화를 요약해서 보여주는 것이 지식의 생명주기의 변화다.

디지털 기술의 발달은 지식 생명주기를 단축시켰다. 디지털 기술로 인한 지식의 유통속도가 빨라지면서, 기존 지식을 탐색하는 비용을 줄였다. 또한 지식과 지식을 융합하여 새로운 지식을 만드는 효율성도 지수적으로 증가했다. 한 연구에 따르면 과학분야의 논문 수가 9년마다 2배로 증가하고 있다. 이러한 지식생산의 증가는 지식 반감기를 단축시킴은 당연하다. 새뮤얼 아브스만의 책 <지식의 반감기>에 따르면 공학 분야의 지식반감기는 20세기 초 40여년이었으나 20세기 말 10여년으로 단축되었다. 지식 반감기란 해당 분야의 ‘지식이 틀린 것으로 드러나는 데 걸리는 시간’을 의미한다.

4차산업혁명, 제2기계시대, 디지털 트랜스포메이션 등의 이 시대를 규정짓는 용어는 과학기술, 특히 디지털 기술이 21세기의 인류사회에 근본적 변화를 가져올 것이라는 선언이다. 이에 대한 이의는 없다.

그런데 과학기술이 21세기 사회변동의 핵심동인이라는 것에 동의한다 하더라도, 그 영향의 정도와 변화의 속도에 대한 전망은 어떠한가? 우리는 과학기술의 발전 속도에 대해 지나친 낙관을 하는 것은 아닌가? 레이 커즈와일의 초지능과 특이점에 대한 주장을 순진하게 수용하는 것은 아닌가? 과학기술 발전 속도에 대해 우리는 너무 낙관적이지 않은가? 디지털 문해력(Digital Literacy)과 기술 문해력(Technology Literacy)으로 인해 우리는 과학기술의 발전에 대해 무턱대고 남의 주장을 수용하는 것은 아닌가? 이러한 질문에 대해 답하기 위해 우리는 일부 기업과 일부 학자의 과학기술의 발전에 대한 낙관적이고 몽환적 주장에 대해 비판적 시각으로 분석해야 할 필요가 있다.

왜 구글은 그들의 인공지능 역량을 과시하기 위해 바둑을 선택했을까?

마인드업로딩과 초지능은 실현 가능할까

미래학자로서 과학기술의 낙관적 전망에 대해 비판적으로 접근하는 것에 부담이 없지 않다. 미래는 불확실하며, 미친 과학자(Mad Scientist)의 연구를 무시할 수 없기 때문이다. 그럼에도 미래학자는 스스로가 지식을 만드는 데 제한이 있으므로, 다른 무수한 지식을 수용하는 데 있어 비판적으로 접근해야 한다. 과학기술의 발전에 대해 비판적 접근을 위해서는 디지털 문해력과 기술 문해력이 필요하다. 우주를 지배하는 물리학에 대한 이해도 전제되어야 함은 당연하다.

일단 과학기술의 몽환적 상상력으로 필자는 일단 초지능과 일반인공지능, 마인드 업로딩을 들고 싶다. DNN(Deep Neural Network), RNN(Recurrent Neural Network), CNN(Convolutional Neural Network) 등의 인공지능 알고리즘은 통계학 기반의 인공지능이다. 통계학 기반의 인공지능으로 의식을 가질 수 없으며, 의미를 부여할 수도 없다. 화면에 대한 인식도 제한된 목록 내에서의 확률적 인식이며, 특정한 질문에 대한 대답도 제한된 답안 목록에서 확률적으로 정해진다. 새로운 이미지나 목소리를 만들어내는 GAN(Generative Adversarial Network)과 자연어 처리에서 최근 각광받고 있는 BERT(Bidirectional Encoder Representations from Transformers)도 통계학 기반의 인공지능이다. 이들 인공지능으로는 인류를 뛰어넘는 초지능은 둘째치고 인간 개체의 지적 능력에 버금가는 일반인공지능으로도 발전할 수 없다.

알파고는 매우 뛰어난 인공지능이나 바둑만을 둘 수 있다. 우리가 여기서 질문해야 하는 것은 알파고가 바둑 이상의 기능을 할 수 있느냐의 질문이 아니다. 왜 구글은 바둑으로 그들의 인공지능 역량을 자랑하려 했느냐 하는 것이다. 최근 구글은 대화형 주문 인공지능인 구글 듀플렉스를 통해 그들의 인공지능 기술을 선보였다. 듀플렉스가 전화로 주문을 하는 목소리뿐만 아니라, 자연어 인식과 문답처리까지 자연스러웠다. 그런데 그들은 왜 주문을 하는 데 인공지능을 이용했을까? 바둑과 주문은 인공지능으로 구현하는 것이 비교적 용이하기 때문이다. 이른바 알파고나 그 이후 버전인 알파고제로까지 모두 토이(Toy) 시스템이다. 바둑을 잘 두는 인공지능은 가치 있으나, 거기까지이다. 주문을 대신해주는 인공지능은 상당한 편리성을 주나 개인 비서 인공지능으로 진화하기에는 더 많은 길을 가야 한다.

필자는 신경망 알고리즘 기반의 인공지능의 실적과 가능성을 폄하하려는 것이 아니다. 신경망 알고리즘의 인공지능을 적용할 영역은 다양하다. 화면 인식, 음성 인식, 자연어 처리 및 예측적 분석(Predictive Analytics)에서 인공지능의 응용범위는 지속적으로 확대될 것이다. 인공지능은 생산성의 제고, 지식 생애주기의 변화, 신경찰국가 출현 등에서 정치, 경제 및 사회에 근본적 변화를 야기할 것이다. 우리가 경계해야 하는 것은 현재의 인공지능에 대한 몽환적인 상상과 쏠림 현상이다.

1만6000여편의 인공지능 논문을 분석하여 차세대 인공지능의 방향성을 점검한 의 한 논문에 따르면, 현 신경망 알고리즘은 한계에 봉착할 것이며, 이를 극복하기 위한 차세대 인공지능 알고리즘은 아직 출현하지 않았다고 진단했다. 최근 인공지능으로 설명 가능한 인공지능(Explainable A.I.)이 각광을 받고 있으나, 이 또한 통계적 접근으로 일종의 개선이며, 신경망 알고리즘의 혁신으로 보기 어렵다.

오바마 정부 말기에 백악관에 제출된 인공지능 보고서는 금세기 안에 일반인공지능의 출현이 어렵다고 진단했다. 어떤 인공지능 전문가는 일반인공지능의 출현시기를 ‘20년 이후 2000년 이내’라고 했는데 상징적 표현이다. 일반인공지능의 출현 가능성에 대해 인류가 할 수 있는 말은 ‘모른다’이다. 그 출현시기는 물론이고 그 출현 가능성에 대해서도 인류는 아직 모른다.

마인드업로딩(Mind-Uploading)에 대한 몽환적 상상은 인류의 죽음에 대한 공포에서 출발했다. 진시황의 불로초와 마인드업로딩은 닮아 있다. 그런데 마인드업로딩은 기술적으로 가능한가? 이에 대해 답을 하기 위해서 의식의 실체에 대한 과학적 이해가 필요하며, 의식을 구성하는 물리적 요소를 그대로 읽을 수 있어야 하며, 이를 컴퓨터에서 모방할 수 있어야 한다.

현재 인류는 의식의 실체에 대해 이해할 수 없으며, 그 의식을 구성하는 물리적 요소를 읽을 수 없으며, 컴퓨터로 모방할 수 없다. 뇌공학과 신경과학의 발달은 뇌의 실체에 보다 가깝게 접근하도록 했으나, 의식에 대해서는 쉽게 다가가지 못하는 것으로 알고 있다. 뇌의 특정 부위가 의식을 담당했다고 생각했으나, 최근 뇌 전체가 의식작용과 연관된 것으로 확인되고 있다. 의식과 관련된 뇌파를 읽었다는 것은 뇌에서의 의식 현상을 읽은 것이지 의식을 구성하는 모든 물리적 요소를 읽은 것은 아니다. 마지막으로 현재의 폰노이만 방식의 컴퓨터로는 의식을 구현하지 못한다.

그렇다면 인간의 뇌세포 하나하나를 늙지 않고 죽지 않는 나노 신경망으로 대체하는 것은 가능할까? 마인드 업로딩이 어렵다면 뇌의 대체는 가능하지 않을까? 이에 대해 물리학자 겸 미래학자인 미치오 카쿠는 뇌세포 하나씩 바꾼다면, 개인의 개성과 주체성을 유지할 수 있을 것이라는 사고실험을 했다. 그러나 단백질 기반의 생명체의 뇌세포 내에서의 양자역학적 불확정성의 메커니즘을 실리콘이나 탄소 기반의 나노 대체물질에 모방 가능할지에 대해서는 필자는 비관적으로 판단한다.

언젠가 마인드업로딩과 일반인공지능 혹은 초지능이 가능하지는 않을까? 알 수 없다. 이에 대해 일부 학자는 신환원주의라고 경계한다. 과학자는 환원주의가 과학의 발전에 기여한 바가 크다고 하여 긍정적으로 본다. 필자는 이에 대해 답을 할 만한 충분한 지식은 없다. 필자가 주장할 수 있는 것은 인류가 알고 있는 것보다 모르는 것이 더 많으며, 과학기술은 인류의 무지의 영역을 제거하는 것이 그 본질적 역할이라면, 미래학은 인류의 무지 영역을 포용하여 인간의 자유의지 영역을 확장하는 것이 그 본질적 역할이라는 것이다. 그리고 필자의 부족한 지식에 근거할 때 일반인공지능이든 마인드업로딩이든 그것이 기술적으로 가능하다 하더라도 짧은 미래 안에 가능하지 않을 것이라는 점이다.

과학기술이 급격히 발달하고 있는 지금, 우리는 19세기와 20세기의 보수적이고 선형적 예측으로 인한 실패를 두려워할 것이 아니라, 몽환적이고 낙관적 미래예측을 경계해야 한다.

과학기술에 대한 비판적 접근과 과학적 상상력의 균형

과학기술에 대한 지나친 낙관은 드물지 않다. 엘리자베스 홈즈(Elizaheth Homles)의 테라노스(Theranos) 사례는 빙산의 일각이다. 홈즈는 극소량의 혈액으로 250여가지 질병을 진단할 수 있다고 주장했으나, 드러난 사실은 16종에 불과했고, 16개 질병에 대한 진단의 신뢰성도 높지 않은 것으로 밝혀졌다. 이로 인해 90억 달러의 기업가치에 달했던 테라노스의 가치는 0달러로 전락했다. 21세기 초 닷컴 기업의 버블을 기억해야 한다. 인공지능의 세 번째 겨울, 적어도 가을이 도래할 가능성이 점쳐지고 있다. 생명과학기술에 대해서도 과도한 기대가 문제가 되고 있다. 인공지능, 생명과학기술, 나노물질 기술 등의 발전속도보다, 거기에 낀 거품이 커지는 속도가 더 빠르다.

필자는 과학기술 분야에서 상상력의 자제를 주장하는 것이 아니다. 일관되고 장기적이며 성과에 매몰되지 않은 투자가 필요하다. 필자가 두려워하는 것은 쏠림 현상과 과학기술에 대한 몽환적 기대다. 쏠림 현상은 과학기술 생태계의 건강하고 일관되며 장기적인 투자를 방해한다. 몽환적 기대는 조만간 도래할 실망에 대해 과도한 반응을 하게 하는 데 있다.

반복적인 과학기술에 대한 과도한 기대의 원인은 홈즈와 같은 혹은 구글의 알파고와 같은 비즈니스의 잡음 때문이다. 그리고 보다 근원적인 이유는 정책과 전략 의사결정권자의 낮은 디지털 문해력과 기술 문해력에 기인한다. 이들 낮은 문해력이 몽환적 상상력을 가능하게 하며, 비즈니스 잡음을 걸러내지 못하게 한다. 과학적 상상력은 치밀하고 철저한 과학지식을 바탕으로 한다. 쥘 베른(Jules Verne)과 아서 클라크(Arthur Clark)의 과학적 상상력은 체계적 과학기술 지식을 바탕으로 했다. 일론 머스크(Elon Musk)의 상상력은 물리학적 지식을 근간으로 한다.

과학기술이 급격히 발달하고 있는 지금, 우리는 19세기와 20세기의 보수적이고 선형적 예측으로 인한 실패를 두려워할 것이 아니라, 몽환적이고 낙관적 미래예측을 경계해야 한다. 19세기 말 뉴욕시가 말똥으로 뒤덮일 것이라는 예측의 실패를 비웃을 것이 아니라, 무어의 법칙이 중단된 지금 여전히 ‘특이점’이 도래할 것이라는 몽환적 미래예측을 경계해야 한다. 몽환적 미래예측을 경계하기 위해 우리는 기술 문해력과 디지털 문해력을 키울 수 있고, 정책과 전략 과정 내에 반영될 수 있도록 해야 한다. 그래야만 보다 차분하고 일관되며 장기적인 전략과 정책을 펼칠 수 있다.

윤기영/한국외대 경영학부 미래학 겸임교수, 에프엔에스 미래전략 연구소장

[e-mail]