AI 제작 콘텐츠 ‘이름표’ 붙이는 법안 발의…“진위 파악 어려워져”

이상헌 의원 ‘AI 제작 콘텐츠 표기 의무법’ 발의
“유럽·미국도 검토…한국도 규범적 틀 확립 필요”

지난 3월 화제가 됐던, 프란치스코 교황이 명품 브랜드의 패딩을 입고 산책하는 사진. 이미지 생성 인공지능 ‘미드저니’로 만들어진 가짜 사진으로 밝혀졌다. 이같은 인공지능 콘텐츠에는 이름표를 붙이자는 법안이 22일 발의됐다. 누리집 갈무리

인공지능(AI) 기술로 만들어진 사진·음성·영상 등에 대한 부작용 논란이 이어지고 있는 가운데, 인공지능 활용 제작 콘텐츠에 그 사실을 정확히 밝히는 ‘이름표’를 붙여야 한다는 내용의 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 인공지능을 활용해 제작한 콘텐츠에는 그 사실을 표시하도록 하는 내용의 ‘콘텐츠산업 진흥법 일부개정 법률안’을 대표발의했다고 22일 밝혔다. 글·이미지·음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어진 경우, 해당 콘텐츠가 인공지능 기술로 제작됐다는 사실을 표시하도록 해, 사용자들이 콘텐츠의 진위 여부를 알게 하자는 취지다.

이 의원은 법안을 발의한 이유에 대해 “인터넷 상의 데이터를 학습해 텍스트·이미지·음악 등의 콘텐츠를 생성하는 인공지능 기술은 이미 일정 수준 이상의 콘텐츠를 생산하고 있으며, 앞으로 그 발전 속도는 더욱 빨라질 것으로 예상된다”며 “인공지능 생성 콘텐츠의 발전 속도와 파급력을 감안할 때, 이용자들이 해당 콘텐츠가 인공지능 기술로 만들어진 것이라는 사실 등을 인지할 수 있도록 관련 법·제도 마련이 필요하다”고 설명했다.

지금은 누군가가 인공지능 기술을 활용해 조작한 이미지나 영상 등을 유통시키려 할 때 관련 정보를 밝히도록 하는 규정이 없다. 해당 콘텐츠가 유통되고 나서야 인공지능 조작으로 피해를 입은 당사자가 권리침해와 명예훼손 등에 대해 소송에 나설 수 있을 뿐이다. 법안이 통과되면, 인공지능 기술로 만들어진 콘텐츠는 그 사실을 명확히 밝혀야 해, 조작 여부에 식별이 가능해질 것으로 보인다. 다만, 이번에 발의된 법안에선 인공지능 제작 콘텐츠라는 사실을 밝히는 원칙만을 규정해, 이름표를 붙일 대상과 방식 등 구체적인 사항에 대해서는 추가 논의가 필요하다.

이상헌 의원은 “얼마 전 프란치스코 교황이 명품 패딩을 입고 산책하는 사진이 인공지능으로 만들어진 허위 이미지로 밝혀지는 등 오·남용에 따른 부작용이 현실화하고 있다”며 “이미 유럽연합(EU)에선 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있고, 미국에서도 관련 법안이 발의된 만큼, 우리나라도 인공지능 시대의 규범적 틀을 확립해야 한다”고 말했다.

임지선 기자 [e-mail]