컴퓨터가 인간을 심판하는 날 이미 도래?

미국 위스콘신 법원 재범 위험 평가에 SW 활용
피고인 “사기업 알고리즘으로 평가 말 되냐”
여러 주에서 형량 정하는 데 알고리즘 사용
‘인공지능(AI)이 판사 대신할 날 올까’ 촉각

소프트웨어의 재범 위험 평가가 반영돼 징역 6년을 선고받은 에릭 루미스. 출처:위스콘신주 교정국

존 로버츠 미국 연방대법원장이 지난달 뉴욕주의 렌설리어폴리테크대학을 방문했다. 이 대학 학장이 물었다. “인공지능(AI)이 제어한 스마트 기기가 법정에서 사실조사, 나아가 판결을 돕는 날이 올 것으로 봅니까?” 로버츠 대법원장의 답변이 더 놀라웠다. “바로 그런 날이 왔다. 그리고 그것은 사법부가 앞으로 어떻게 해야 할지 상당한 부담을 주고 있다.”

<뉴욕 타임스>는 1일 로버츠 대법원장의 발언이 기업이 개발한 소프트웨어의 비밀 알고리즘으로 ‘재범 가능성’을 평가받아 징역 6년형을 선고받은 에릭 루미스(35) 사건을 염두에 두고 있었는지도 모른다며, 연방대법원은 지난 3월 이 사건을 심리할지 여부에 대한 법정의견을 달라고 연방정부에 요청하며 높은 관심을 보이고 있다고 보도했다.

루미스 쪽은 지난해 7월 위스콘신 주대법원에 정보기술업체 노스포인트의 소프트웨어 ‘콤파스’의 비공개 알고리즘으로 자신의 재범 위험성을 측정한 내용이 담긴 보고서를 활용한 하급 법원의 판결은 부당하다고 주장했으나 받아들여지지 않자, 지난해 10월 “적법 절차를 위반했다”며 사건을 연방대법원으로 가져갔다. 피고인도 모르는 사기업 소프트웨어의 알고리즘으로 재범 위험을 평가하는 게 타당하냐는 것이다.

2013년 2월 체포된 루미스는 총격 사건에 사용된 차량을 주인의 동의 없이 운전하고, 경찰관의 지시에 따르지 않고 도주한 혐의를 인정했다. 그는 성범죄 전과자였다. 콤파스의 보고서에는 그의 재범 위험을 측정한 막대그래프 등이 담겼다. 검찰은 “콤파스 보고서는 피고인이 폭력 위험과 재범 위험이 높다는 것을 보여준다”고 했고, 판사도 이를 받아들여 “콤파스 평가를 통해 피고인은 공동체에 큰 위협이 되는 인물”이라며 징역 6년을 선고했다.

콤파스는 피고인의 과거 행적 등으로 재범 가능성을 측정하는데, 노스포인트는 “영업 비밀”이라며 알고리즘을 공개하지 않는다. <뉴욕 타임스>는 이 업체가 남성과 여성, 청소년 등을 달리 평가한다는 사실은 인정하지만, 평가 항목이나 가중치 등은 공개하지 않는다고 했다. 알고리즘의 ‘비밀성’이 바로 쟁점이다. 루미스의 변호인은 “알고리즘을 검토하고, 그것이 법적으로 유효한지 따져봐야 한다”고 주장한다. 신문은 ‘전자개인정보센터’의 보고서가 “이런 특허기술이 보석금을 정하고, 형량을 결정하며, 심지어 유·무죄 결정에까지 관여하고 있다”며 “이런 기기들의 내막은 일반에 거의 공개되지 않는다”고 지적하고 있다고 전했다.

위스콘신뿐 아니라 미국의 많은 주들에서 공식 등은 다르지만 알고리즘을 “위험 평가”라고 부르며 양형 절차에 활용하고 있다. 유타주는 전과와 반사회적 성격 등 4가지 요소를 핵심적으로 평가하고, 버지니아주도 10년 전부터 양형에 활용하고 있다. 재판의 ‘효율성’을 위해 필요하다고 보기 때문이다. 펜실베이니아주는 2010년 의회가 양형위원회에 피고인이 또 체포될 가능성을 평가할 알고리즘을 개발하라고 지시하기도 했다. 펜실베이니아주의 알고리즘은 일반이 분석 가능하도록 공개됐는데, 평가 요소에 성과 전과 등은 포함되지만 ‘인종’은 들어 있지 않다.

그러나 2010년 인디애나 주대법원에서 ‘위험 평가’를 “여러 요소 가운데 하나로 양형에 고려할 수 있다”고 판단했을 뿐, 이 문제에 대한 법적 다툼은 거의 없었다고 신문은 전했다.

황상철 기자 [e-mail]