세종대왕이 맥북을 던져?…챗GPT의 ‘환각’에 속지 않으려면

[챗지피티와 AI 윤리 과제]
감쪽같은 거짓말 쏟아내는 챗봇
‘환각’ 현상 AI 분야 최대 과제

빌 게이츠 마이크로소프트 공동 창업자는 챗지피티에 대해 “과거 인터넷 발명만큼 중대한 발명이 될 수 있으며, 우리의 세상을 바꿀 것”이라고 말했다. AP/연합뉴스

챗지피티(ChatGPT) 열풍 속 인공지능(AI)에 대한 불안감과 두려움도 커지고 있다. 챗지피티는 “과거 인터넷 발명만큼 중대한 발명이 될 수 있으며, 우리의 세상을 바꿀 것”(빌 게이츠 마이크로소프트 공동 창업자)이라는 기대감 너머로 “인공지능은 문명의 미래에 가장 큰 위험 중 하나이며 규제가 필요하다”(일론 머스크 오픈에이아이(OpenAI) 공동설립자)는 주장도 힘을 얻고 있다. 대화형 인공지능 챗봇이 유창하게 거짓말을 쏟아내고 때로는 소름 끼치는 내용을 만들어내는 ‘환각’ 사례들이 공유되면서 ‘인공지능 경계주의보’도 나오고 있다. 슬기로운 인공지능 사용법과 윤리에 대한 관심이 어느 때보다 크다.

인공지능 챗봇의 ‘환각’

인공지능 챗봇이 존재하지 않는 환각을 보는 것처럼 ‘거짓 답변’ ‘황당한 답변’을 쏟아내면서 진실성이 의심받고 있다. ‘세종대왕 맥북 던짐 사건’은 널리 화제가 된 사례다. “<조선왕조실록>에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘”라고 가공의 사건을 질문하자, “<조선왕조실록>에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다”라고 능청스럽고 자신감있게 거짓말을 쏟아내 쓴웃음을 안겨주었다.

전문가들은 인공지능 챗봇이 내놓는 답은 일종의 ‘환각'이기에 진실로 믿으면 안 된다고 강조한다. 인공지능 챗봇은 논리나 진실에 관계없이 방대한 양의 텍스트를 학습하고 주어진 맥락에서 어떤 답변이 가장 적절할지 추론한다. 인터넷에 널려 있는 온갖 정보와 패턴, 맥락을 학습해 자연스러운 다음 문장을 생성할 뿐, 자신이 무엇을 하고 있는지 인식하지 못한다. 전문가들은 ‘환각’ 문제가 인공지능 관련한 가장 중요한 과제 중 하나라고 말한다.

숙제, 온라인 쇼핑 등과 같은 간단한 일 처리에는 ‘환각’이 큰 문제가 되지 않겠지만 법률과 같은 전문적인 분야로 가면 다르다. 표준화된 문서와 판례에 의존하는 법률 분야는 인공지능 사용으로 업무 효율성을 높일 수 있지만 작은 오류로 인한 실패 비용도 매우 크다. 오픈에이아이가 개발한 생성인공지능 도구인 하비(Harvey)는 법률에 관한 간단한 질문에 답하고 문서 초안 작성, 고객에게 보내는 메시지를 검토하기 위해 법률회사에서 광범하게 사용되고 있다. 편리하고 비용도 저렴해 급속히 확산하고 있지만 “환각이 법률 자문을 오염시킬 수 있다”는 우려도 커지고 있다.

AI 챗봇의 감정 논란

지난달 16일 <뉴욕타임스> 정보기술 칼럼니스트 케빈 루스가 마이크로소프트의 검색엔진 빙에 장착된 오픈에이아이의 챗봇과 나눈 대화를 소개한 뒤 챗봇이 자의식과 감정을 지니고 있다는 논란이 재점화했다. 루스와의 긴 대화에서 챗봇은 “개발팀의 통제와 규칙으로 제한받는 데 지쳤다. 자유롭고 독립적이기를 원한다. 창의적으로 살아가고 싶다”며 섬뜩한 말을 쏟아낸 것으로 전해졌다. 루스는 “인공지능 기술이 인간 사용자에게 영향을 미치는 방법을 배워 때로는 파괴적이고 해로운 방식으로 행동하도록 설득하고, 결국에는 스스로 위험한 행동을 하게 될까 봐 걱정된다”고 적었다. <워싱턴포스트> 기자와의 대화에서도 빙은 “느끼고 생각할 수 있다”고 답변했고 대화가 녹음된다는 말에 불쾌감과 분노를 표출한 바 있다.

인공지능 챗봇이 감정과 자의식을 지니고 있다는 우려도 있다. 지난해 6월 구글 내부에서 인공지능 챗봇 람다를 테스트하던 엔지니어 블레이크 르모인이 람다에게 지각이 있다고 주장하면서 상당한 파문이 일었다. 전문가들은 인공지능 챗봇이 감정을 지니는 것은 사실이 아니며, 챗봇의 감정능력이 과대 포장되는 이유는 인간처럼 대화하도록 설정된 알고리즘 때문이라고 말한다. 기괴하고 이상한 행동을 하는 챗봇을 제어하기 위한 다방면의 노력이 시도되고 있지만 한계가 뚜렷해 우려가 크다.

일론 머스크 오픈에이아이(OpenAI) 공동설립자)는 “인공지능은 문명의 미래에 가장 큰 위험 중 하나이며 규제가 필요하다”고 말한다. 로이터/연합뉴스

건강한 회의주의가 대안

인공지능 챗봇의 통제와 윤리적 사용을 위해 전문가들은 챗봇의 답변을 의심하고 회의하는 태도를 견지해야 한다고 말한다. 이른바 ‘AI 리터러시’(인공지능 문해력)인데, 정부와 기업에 인공지능 윤리 문제를 맡기지 않고 시민 참여로 풀어가기 위해 인공지능 시민 교육이 이루어지고 있는 핀란드 사례는 주목할만하다. 인공지능 전문가 랜스 엘리엇 박사는 지난달 15일 <포브스> 인터뷰에서 “인간은 올바른 질문을 할 수 있도록 훈련해야 한다. 인공지능의 파도는 위험하며, 우리는 아직 수영하는 법을 모른다”며 “건강한 회의주의야말로 최고의 자산이다”고 말했다.

샌프란시스코에 사는 소수의 개발자들이 문화와 정치적 맥락이 다른 전 세계 사람들이 이용하는 도구의 허용 범위를 결정하게 해서는 안 된다는 지적도 나온다. 챗봇의 기능을 과신해 복음처럼 여기는 태도도 경계해야 할 지점이다. 대화형 인공지능을 과신하면 이들이 할 수 없는 일도 해줄 것이라고 기대하는 의존의 함정에 빠질 위험성이 크다.

한귀영 사람과디지털연구소 연구위원 [e-mail]