[단독] 구글 AI챗봇 ‘바드’ 시연회 때 ‘명백한 오답’ 하나 더 있었다

‘챗GPT 열풍’에 대항마 발표했던 구글
‘바드’ 자랑하려 내놨던 예시 답변 중
3번 ‘오답’ 확인돼 망신·주가 추락했는데
<한겨레> 확인 결과 1번도 “명백한 오답”

뉴스 속 연구 당사자인 김근호 박사(신시내티 대학 박사후 연구원)는 <한겨레>와의 이메일 인터뷰에서 “녹색 완두콩 은하(Green Pea galaxies)를 제임스 웹 우주망원경이 2023년 발견했다는 ‘바드’의 답변은 명백한 오류”라고 지적했다. 누리집 갈무리

지난달 6일(현지시각) 구글은 인공지능 챗봇 ‘바드(Bard)’ 출시를 알리며 자랑스럽게 하나의 ‘예시 문답’을 내놨다가 망신을 당했다. 당시 구글이 직접 던진 질문에 ‘바드’가 내놓은 3가지 답변 중 세번째 답변이 ‘오답’인 게 뒤늦게 알려진 것이다. 구글은 물론 그 답변을 그대로 보도했던 언론까지 모두 망신을 당했고, 알파벳(구글 모회사) 주가는 7% 넘게 폭락했다. 그런데 <한겨레> 확인 결과 지금껏 거론되지 않았던 1번 답변도 “명백한 오답”인 것으로 드러났다.

바드 발표 당시, 순다르 피차이 구글 최고경영자가 자랑스럽게 대표 사례로 내세웠던 문답은 ‘제임스 웹 우주망원경’에 관한 것이었다. 질문은 “9살 아이에게 ‘제임스 웹 우주망원경’의 새로운 발견에 대해 어떻게 설명할 수 있나?”였고, 답변은 ‘2023년 ‘녹색 완두콩’이란 별명을 가진 은하를 발견했다’ ‘130억년 이상 된 은하의 이미지를 포착했다’ ‘우리 태양계 밖의 행성에 대한 최초의 사진을 찍었다’ 등 세가지였다. 2021년까지 데이터만 학습한 ‘챗지피티’와 달리, 바드는 2023년의 정보까지 전달한다는 부분을 강조하기 위해 준비한 질문이었다.

챗GPT보다 ‘최신성’ 부각하려 내놨던 답
“2023년 ‘녹색 완두콩’ 은하 발견”
연구 당사자 “발견은 2009년, 틀렸다”

‘바드’ 발표 당시, 순다르 피차이 구글 최고경영자가 자랑스럽게 대표 사례로 내세웠던 문답은 ‘제임스 웹 우주망원경’에 관한 것이었다. 구글 제공

구글 내부 검증과 언론의 팩트체크 과정을 ‘무사 통과’한 이 답변은 구글 누리집과 언론 보도를 통해 전 세계로 퍼져나갔다. 이틀 뒤 일부 천체물리학자들이 트위터 등을 통해 짤막하게 “제임스 웹 우주망원경이 우리 태양계 밖의 행성에 대한 최초의 사진을 찍었다는 3번 답변은 틀렸다”는 취지의 글을 썼고 언론이 이를 보도하면서 3번 답변이 완전한 오답이라는 사실이 알려졌다.

하지만 <한겨레> 확인 결과, 당시 바드 답변에는 기존에 알려지지 않았던 더 큰 오류가 존재했다. 1번 답변부터 아예 틀렸던 것이다. 제임스 웹 우주망원경을 사용하는 천문학자이자 이번 오답의 근거로 추정되는 뉴스 속 연구 당사자인 김근호 박사(신시내티 대학 박사후 연구원)는 <한겨레>와의 이메일 인터뷰에서 “녹색 완두콩 은하(Green Pea galaxies)를 제임스 웹 우주망원경이 2023년 발견했다는 바드의 답변은 명백한 오류”라고 지적했다.

출처도 밝히지 않은 채 당돌하게 자신이 생성한 답변만 내보이는 ‘생성 인공지능 챗봇’의 특성상 어떤 데이터가 이 오답의 근거로 활용되었는지 분명히 알 수는 없지만, 구글 검색의 상위 순위에 나오는 뉴스의 제목에서 이번 오답의 실마리를 엿볼 수 있다. 지난달 과학 뉴스 전문지 <에스시아이(SCI) 뉴스>는 ‘제임스 웹 우주망원경, 초기 우주에서 완두콩 은하 발견’이라는 제목의 기사를 보도했다. 김 박사의 연구 성과를 기사화한 것이었다.

김근호 박사(신시내티 대학 박사후 연구원). 김 박사는 <한겨레>와의 이메일 인터뷰에서 “녹색 완두콩 은하를 제임스 웹 우주망원경이 2023년 발견했다는 ‘바드’의 답변은 명백한 오류”라고 지적했다. 누리집 갈무리

김 박사는 <한겨레>에 “녹색 완두콩이란 별명을 가진 은하들은 이미 2009년에 에스디에스에스(SDSS)라는 망원경에 의해 발견됐다”며 “제임스 웹 우주망원경은 성능이 우수해 관측하기 어려운 초기 우주 은하들을 관측할 수 있었는데 그 은하들의 특성을 분석해보니 현재 우주에서 발견된 ‘녹색 완두콩’과 매우 유사해 당시 기사 제목이 그렇게 나갔다”고 설명했다. 김 박사는 “때문에 바드의 설명은 명백히 틀렸고, 이 부분을 답변으로 쓰려면 적어도 ‘제임스 웹 우주망원경은 현재 우주에서 발견됐던 녹색 완두콩 은하와 유사한 은하들을 초기 우주에서 발견했다’ 정도가 되어야 한다”고 덧붙였다.

바드는 출시 3개월도 안돼 1억5천만명의 사용자를 불러모은 ‘챗지피티(ChatGPT) 열풍’에 놀란 구글이 ‘코드레드’(비상상황)까지 선언한 끝에 서둘러 출시한 생성 인공지능 챗봇이다. 당시 구글은 “바드라 불리는 대화형 인공지능 서비스를 개발했고, 몇 주 뒤에 대중에게 공개할 것”이라며 이같은 예시 문답을 선보였다. 구글은 오답 소동 당일이었던 8일 “바드의 응답에 대한 외부 피드백과 내부 테스트를 결합할 것”이라고 밝혔을 뿐, 더이상의 언급은 하지 않고 있다.

27일 네이버 ‘서치GPT’ 시연에서도 오답
인간 농락하는 ‘생성 AI’ 일상엔 더 바짝
MS, 윈도11에 인공지능 검색 ‘빙’ 탑재

지난달 27일 네이버 개발자 콘퍼런스에서 김용범 네이버 치프 사이언티스트가 ‘서치지피티(SearchGPT)’ 프로젝트’에 대해 설명하고 있다. 사진 네이버 제공

이같이 출처를 알 수 없는 ‘생성 답변’으로 전세계를 농락할 가능성이 있는 인공지능 챗봇 서비스는 갈수록 더욱 빠른 속도로 사람들의 일상에 파고들 전망이다. 챗지피티 개발사 오픈에이아이에 막대한 투자를 이어왔던 마이크로소프트(MS)는 28일(현지시각) 최신 컴퓨터 운영체제 윈도11 개정판에 인공지능 챗봇을 탑재한 검색엔진 ‘빙’을 추가했다. 국내에서도 3개월 안에 ‘서치지피티(SearchGPT)를 내놓겠다고 했던 네이버가 지난달 27일 개발자 콘퍼런스를 통해 시연을 선보였는데, 오답 논란에 휩싸였다. 서치지피티가 코로나19와 관련해 존재하지 않는 백신 ‘푸라노스’를 언급했다. 이에 대해 네이버 쪽은 “아직 테스트 중이기 때문에 보완해나갈 것”이라고 밝혔다. 카카오 역시 카카오브레인의 인공지능 챗봇 ‘코(Ko)지피티’를 하반기에 공개할 예정이다.

지난달 한국지능정보진흥원 에이아이(AI)·미래전략센터는 인공지능 ‘환각(hallucination) 현상’을 주의해야 한다는 보고서를 내놨다. 인공지능이 존재하지 않는 환각을 보는 것처럼 ‘없는 답변’ ‘틀린 답변’을 계속 제시한다면, 이에 익숙해진 미래 세대가 크게 영향을 받을 수 있다는 지적이었다. 챗지피티를 개발한 오픈에이아이(OpenAI) 최고경영자 샘 알트만 역시 트위터를 통해 “사용자가 당장 중요한 일을 챗지피티에 의존하는 것은 실수이며, 여전히 챗지피티는 진실성 부분에서 해결해야 할 일이 많다”라고 밝혔다.

임지선 기자 [e-mail]