오펜하이머가 탄복한 “20세기 가장 똑똑한 사람” [책&생각]

헝가리 출신 과학자 노이만 평전
수학, 경제학, 컴퓨터공학, 생물학
다양한 분야 넘나들며 천재성 발휘

헝가리 출신 과학자 존 폰 노이만. 폴란드 출신 수학자로 그의 가까운 친구였던 스타니스와프 울람이 미국 철학회에 기고한 논문에 실린 사진이다. 웅진지식하우스 제공

미래에서 온 남자 폰 노이만
20세기 가장 혁명적인 인간, 그리고 그가 만든 21세기
아난요 바타차리야 지음, 박병철 옮김 l 웅진지식하우스 l 2만9000원

이런 사람을 어떻게 설명해야 할까. 여섯 살에 여덟 자리 숫자(1000만 단위)의 곱셈을 능숙하게 해냈으며, 10대 때부터 수학의 여러 난제를 해결했고, 양자역학에서 중요한 정리를 발견했다. 2차대전 당시 미국의 핵무기 개발 계획인 맨해튼 프로젝트에 참여했고 전쟁이 끝난 뒤에는 수소폭탄 개발에도 적극 관여했다. 미군 탄도학연구소 소속으로 포탄의 운동 방정식을 푸는 과정에서 컴퓨터의 탄생에 결정적인 기여를 했다. 그런가 하면 게임이론을 개발하고 수리경제학의 시대를 열었으며, 냉전 시대에 핵 선제공격 여부를 결정하기 위한 방법론을 제공했다. 스스로 생각하고 자신을 복제하는 기계를 설계했으며, 기계가 인간의 능력을 뛰어넘는 시점을 가리키는 ‘특이점’이라는 용어를 처음으로 사용하기도 했다. 기계와 인간 두뇌의 연관성을 탐구해 컴퓨터과학과 신경과학이라는 두 분야를 통합시켰고 인공생명 연구의 토대를 닦았다.

한 사람이 해낸 일이라고는 도저히 믿기지 않는 이런 모든 업적을 이룬 이는 헝가리 출신 과학자 존 폰 노이만(1903~1957)이다. 영국의 과학 저널리스트 아난요 바타차리야가 그의 생애와 업적을 담은 평전 제목을 ‘미래에서 온 남자’(The Man from the Future)로 삼은 것은 꽤 적절해 보인다. 주인공의 이름 노이만은 독일어로 ‘새로운 인간’을 뜻하거니와, 노이만은 20세기를 살았지만 21세기를 예비하고 설계한 선구자였으니 말이다. 정재승 카이스트 교수가 추천사에서 그를 가리켜 “21세기 현대 문명을 만들어내는 데 결정적인 기여를 한 (…) 딱 한 명”으로 꼽은 것이 과장은 아니라 하겠다.

책은 노이만의 길지 않은 생애를 좇으며 그가 남긴 다방면의 흔적을 더듬는데, 그 과정에서 20세기 초중반의 숱한 과학자들과 공학자들이 등장하고 과학의 중요한 발견과 발전 과정이 아울러 서술된다. 에르고딕 정리, 대수이론, 양자역학, 몬테카를로 수치해석 방법 같은 수학 및 과학 이론들은 사전 지식이 없는 독자에게는 까다로울 수도 있지만, 세세한 이론적 이해가 없더라도 학자들의 모색과 분투 그리고 성취의 이야기는 충분히 생생하고 흥미진진하게 다가온다.

노이만은 헝가리 부다페스트의 유대인 사업가 집안 장남으로 태어났다. 부모는 세 아들을 학교에 보내는 대신 가정교사를 고용해 집에서 교과과정과 외국어를 가르쳤다. 어린 노이만은 프랑스어와 이탈리아어, 영어를 서로 다른 가정교사에게서 배웠고 고대 그리스어와 라틴어까지 공부했다. 법률가에서 투자자로 변신한 아버지는 어느 부동산 재벌로부터 도서관을 통째로 사들였고, 아파트에는 바닥에서 천장까지 책으로 빼곡하게 차 있었다.

노이만은 나중에 들어간 김나지움(고등학교)을 졸업한 뒤 베를린대학과 스위스연방공과대학에서 화학을 공부하는 동시에 부다페스트대학에서 수학과 박사과정을 밟았다. 열아홉 살 나이에 쓴 박사학위 논문은 집합론의 기초를 견고하게 다졌을 뿐만 아니라, ‘자신의 원소가 아닌 집합’이라는 러셀의 골치 아픈 역설을 보기 좋게 해결했다. 학위를 받은 뒤에는 괴팅겐대학에서 공부하면서 하이젠베르크의 행렬역학과 슈뢰딩거의 파동역학을 둘러싼 물리학계 최대의 난제를 해결하는 쾌거를 이루기도 했다.

뼈암으로 투병 중이던 말년의 노이만(오른쪽)은 휠체어에 탄 채 백악관을 방문해 아이젠하워 대통령이 수여하는 ‘자유의 메달’을 받았다. 웅진지식하우스 제공

“1920년대에 과학의 공용어는 영어가 아닌 독일어였고,” 미국은 덩치만 컸지 과학 교육의 수준은 떨어졌다. 미국 프린스턴대 수학과 교수 오스왈드 베블런은 유럽의 뛰어난 수학자를 높은 급여로 영입하기로 하고 노이만과 그의 김나지움 1년 선배인 유진 위그너를 미국으로 불러들였다. 1930년이었다. 노이만이 나치의 유대인 박해의 직접 희생자는 아니었지만, 유대인과 공산주의자들을 직장에서 쫓아낸 나치의 ‘직업공무원법’으로 인해 독일의 과학은 크게 후퇴하고 주도권을 미국에 내주고 말았다. “이때 쫓겨난 학자들 중 20명은 이미 노벨상을 받았거나 앞으로 받을 사람들이었고, 이들 중 16명은 유대인이었다.” 2차대전 중 핵무기 개발 경쟁에서 미국이 독일을 제친 결과가 이와 무관하지 않을 것이다.

프린스턴 고등연구소에서 아인슈타인, 쿠르트 괴델 등과 함께 근무하던 노이만은 2차대전이 발발하자 미군 탄도학연구소의 과학자문위원직을 맡아 “폭탄의 유체역학적 원리 및 이와 관련된 비선형 방정식”을 연구했으며, 이후에도 국방연구위원회의 위원으로 “전쟁과 관련된 거의 모든 과학연구 계획을 조정”하는 일을 한다. 로버트 오펜하이머의 요청으로 원자폭탄 개발 계획에 참여했던 그는 냉전기에 호전적 반공주의자의 면모를 보였지만, 소련 스파이로 몰린 오펜하이머를 변호하는 일에도 열성을 다했다.

노이만은 2차대전을 전후해 핵폭탄을 비롯한 전쟁 관련 업무에 몰두하면서 다른 분야의 연구에도 게으르지 않았다. 1928년 최소 정리 증명을 담아 출판한 ‘응접실 게임의 이론적 분석’ 이후 손을 놓고 있던 게임이론을 10여년 뒤에 되살려 ‘확장경제모형’이라는 경제 이론을 개발했고, 오스카 모르겐슈테른과 공저한 ‘게임이론과 경제 행위’를 통해 “사회과학의 모든 분야에 적용할 수 있는 강력한 분석 도구”를 제공했다. 지금도 컴퓨터 설계에 쓰이는 ‘폰 노이만 구조’를 개발한 그는 인간 두뇌와 컴퓨터의 연관성을 파고들어 자기 복제 기계 오토마타 이론으로 인공지능 개념을 탄생시켰으며, 분자생물학의 이론적 기초를 놓았다.

이렇듯 다양한 분야에서 놀라운 성과를 이루었지만 “노이만은 누군가가 자신의 업적을 깨닫기 한참 전에 거침없이 앞으로 나아갔다.” 그가 떨군 힌트를 근거로 후속 연구를 이어가서 노벨상을 받은 학자들이 적지 않았다. 학문 분과를 넘나드는 관심사에다 남보다 한참 앞서 가는 속도 때문에 노이만은 적잖은 몰이해와 편견에 시달려야 했다. 50대 이른 나이에 암의 공격을 받은 그는 마지막 순간 병상을 지키던 딸에게 ‘7+4’ 같은 쉬운 산수 문제를 내 달라고 부탁했는데, 한 문제도 답하지 못했다. “천재 중의 천재”, “20세기 가장 똑똑한 사람”의 지성은 그렇게 저물어 갔다.

최재봉 선임기자 [e-mail]