기사 상세
현재 생성형 인공지능은 다양한 콘텐츠 제작은 물론 저널리즘 영역에서도 일상적으로 사용되고 있다. 때문에 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 시행이 관련 산업에 미칠 파장에 관심이 모일 수밖에 없다. 본 법안에서 미디어 업계가 주목할 만한 주요 쟁점을 확인해 본다. 편집자 주
2026년 1월 22일 시행되는 한국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 「인공지능기본법」)은 제1조 목적에서 밝히고 있듯 “인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정”하고자 마련됐다. 「인공지능기본법」의 주요 내용은 크게 인공지능 정책의 추진 체계, 기술 개발 및 산업 육성을 통한 진흥, 인공지능 윤리 및 신뢰성 확보를 위한 규제로 나누어 볼 수 있다. 조문 구성의 상당 부분이 정책 추진을 위한 지원 시책에 주안점을 두고 있으며,이는 ‘인공지능’ 정책의 안정적 추진 기반을 마련한 것으로 중요한 의의를 지닌다. 추후 인공지능 정책이 ‘일시적·단발적’이 아니라 ‘체계적·종합적’인 국가의 중점 정책으로 시행되는 데 이바지하리라 기대된다.
또한 「인공지능기본법」은 이러한 산업 및 기술 진흥뿐 아니라 ‘인공지능 투명성 확보 의무(제31조)’, ‘인공지능 안전성 확보 의무(제32조)’, ‘고영향 인공지능 사업자의 책무(제34조)’ 등 중요 규제 사항을 담고 있다. 이러한 규제의 상당 부분은 유럽연합의 AI법1)(이하 「EU AI법」)과 상당히 유사한 내용을 담고 있으나, 오히려 국내 규제 내용이 우선 시행되므로 세계 최초의 ‘인공지능 규제’ 사례가 될 수 있다. 즉 우리 입법에 단초가 된 「EU AI법」은 2025년 8월부터 범용인공지능(GPAI) 모델 제공자의 의무 사항을 시행했으나 이 날짜 이전에 시장에 출시되거나 서비스를 시작한 GPAI 모델 제공자는 2027년 8월 2일까지 「EU AI법」을 준수해야 하므로 실질적으로 대상 사업자는 시행 후 2년여의 유예기간을 확보한 것이라고 볼 수 있다. 그렇다면 2026년 1월 22일 시행되는 한국의 「인공지능기본법」은 명실공히 세계 최초의 전면 시행이라고 볼 수 있다. (주요 내용은 본지 11~12쪽 참고)
‘인공지능 투명성 확보 의무’ 조항이 미디어 업계에 미칠 파장
「인공지능기본법」의 규정 중 미디어 산업에 중요한 영향을 미칠 사항은 무엇보다도 인공지능 투명성 확보 의무(제31조)다. 이 규정에 의하면 “생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 이용자(또는 소비자)에게 인공지능을 이용하였다는 것을 고지”하도록 규정하고 있다. 이는 생성형 인공지능 사용이 확대되고 있는 미디어 사업자와 관련된 규정인 만큼 주목할 필요가 있다.
창작이 기반이 되는 미디어 영역에서 생성형 인공지능의 사용은 일상화되고 있다. 게임·동영상·음원·애니메이션·웹툰·디자인 등 각종 콘텐츠 제작에 일상적 도구로 사용되고 있으며, 저널리즘 영역 역시 기사 작성· 방송 제작에서 활용이 확대되고 있다.
‘인공지능 투명성 확보 의무’는 딥페이크로 인한 인격권 침해, 허위 정보의 범람 등을 막기 위해 도입됐으나, 딥페이크가 아닌 일반적인 AI 생성물에도 이러한 의무를 부과함으로써 미디어 산업과 기술에 중요한 영향을 미칠 것으로 전망된다. 특히 「인공지능기본법」 시행령에서는 AI 생성물에 대해 무조건 1회 이상 인공지능 생성 사실을 안내 문구, 음성 등으로 제공하도록 의무화하고 있다. 이와 관련해 미디어 창작 생태계에서 다음과 같은 점이 우려된다.
첫째, 순수 AI 생성물이 아닌 인간과의 협업을 통해 만들어진 창작물을 어떻게 표시할 것인가다. 일례로 창작자가 직접 그린 캐릭터의 다양한 이미지를 AI에 학습시켜 해당 캐릭터 전용 파일을 만들고, 작가가 대략 그린 스케치와 스토리를 AI에 넣고 애니메이션으로 변환하도록 명령한 후, 어색한 부분을 AI를 통해 혹은 직접 보정한다고 가정해 보자. 이 과정에서 제미나이(Gemini), 미드저니(Midjourney), 스테이블디퓨전(Stable Diffusion), AI 이미지 업스케일러(AI Image Upscaler) 등 다양한 AI를 사용하게 된다. 이러한 작품을 AI 생성물로 볼지, 아니면 AI를 이용한 인간의 작품으로 볼지는 여전히 논란 중이다. 최근 미국 저작권청이나 중국에서는 AI를 사용했다 할지라도, 인간이 반복적으로 프롬프팅을 입력하고 선택하며 후속 보정 작업 등을 한 경우 AI 생성물이 아닌 인간의 창작물이 될 수 있다고 하였다.
이처럼 어디까지가 AI 생성물이며 인간의 창작물인지 경계가 모호한 경우가 대부분인데 이에 대해 일률적으로 “인공지능 생성 사실을 안내 문구, 음성 등으로 제공”하라는 것은 그 실익이나 이유가 불명확하다. 사실 이러한 AI 생성물에 대한 표시 이유는 딥페이크로 인한 인격권 침해, 허위 정보의 범람 등을 막기 위함이다. 그러나 정부의 시행령에 따르면 딥페이크에 대해서는 예술적·창의적 표현물에 대한 예외를 둠으로써 오히려 규제 수위를 낮추고 있다. 딥페이크가 아닌 AI 생성물에 대해 이러한 의무를 부과하면서 딥페이크보다 더 강력한 규제를 실시하는 것은 신중한 검토가 필요하다. 반면에 우리가 벤치마킹한 「EU AI법」은 딥페이크가 아닌 인공지능 합성 콘텐츠에 대해서는 기계가 판독 가능한 형식의 표시만 요구하고 있다. 또한, 미국 캘리포니아 주법의 경우, 콘텐츠 업계의 혼란 및 글로벌 경쟁력을 고려해 ‘이용자가 생성한 것이 아닌 비디오게임, 텔레비전, 스트리밍, 영화 또는 상호작용 경험만을 제공하는 모든 제품, 서비스, 인터넷 웹사이트 또는 애플리케이션’에 대해서는 AI 투명성 의무를 적용 면제하고 있다. 결국 시장에서 소비자는 불필요한 가시적 표시를 결과물에 부착해야만 하는 한국의 AI 서비스를 이용하기보다는 과도한 표시를 하지 않는 해외 사업자의 서비스를 이용하게 될 것이다. 결국 한국 사업자만 EU, 미국보다도 과도한 표시 의무를 준수하게 될 것이며, 치열한 AI 생성 콘텐츠 산업에서 한국의 글로벌 경쟁력이 요원해질까 우려스럽다.
다음으로 기술적 한계다. 실제로 투명성 의무를 이행하기 위해서는 AI 생성물에 대해 기계가 판독 가능하도록 인공지능 이용 생성물임을 표시해야하는데 머신러닝을 사용해 AI 생성물 여부를 판단하는 기술적 수단(GPT제로(GPTzero), AI 텍스트 클래시파이어(AI Text Classifier), 카피릭스(Copyleaks) 등)2)에 많은 오류가 있는 상황이다. 투명성 의무를 준수하기 위해서는 AI 생성물을 인간 생성과 식별하는 기술적 수단이 완비돼야 하나, 현재 상황에서 이러한 기술적 조치는 불완전하다.
진실성·투명성·책임성
규제보다 자율에 맡겨야
「인공지능기본법」을 통해 AI 정책의 종합적·체계적 추진 기반을 마련한 것은 매우 고무적인 일이다. 무엇보다도 기본권 영향 평가와 윤리 원칙의 자율적 시행 등은 민간의 창의와 자율을 존중하고자 한 입법자의 고민을 역력히 보여준다. 그러나 「인공지능기본법」이 규정하고 있는 투명성 의무 등 일부 규제의 문제는 이미 EU 내에서도 여러 차례 문제점으로 제기되고 있는 사안들이다. 무엇보다도 최근 인공지능 규제법의 시초이자 종주국이던 유럽에서 AI 및 개인정보에 대한 규제를 대폭 완화할 것임을 공식적으로 밝혔다. EU 집행위원회가 지난해 11월 18일 고위험 AI 규제의 시행을 16개월 유예하는 개정안, “디지털 옴니버스(Digital Omnibus)” 패키지를 제안한 것이 바로 그것이다.3)
이러한 EU의 움직임은 이전에는 신생 기술 규제 분야에서 세계 선두주자로 인정받고자 했다면, 이제는 기술·산업에서 미국과 중국과의 경쟁 우위를 점하고자 하는 의도가 담겨 있다고 볼 수 있다.
공중파 뉴스에서 AI 생성 영상을 ‘제보 화면’처럼 활용하는 사례가 일상화된 가운데, 또한 AI 아나운서, AI 기자를 앞다퉈 도입하고 있는 현실에 비춰볼 때 저널리즘 실천에 요구되는 진실성·투명성·책임성 문제는 여전히 남아 있으며, 이는 단순히 「인공지능기본법」 시행으로 해결될 문제는 아니다. 오히려 법률만능주의에 경도돼 기술적으로 완전하지 않은 수단을 법적으로 강요하거나, 실효성이 의심되는 무리한 규제를 부과하는 것은 결국 의도치 않은 미디어 산업의 파행만 초래할 수 있기 때문이다. 무엇보다도 이제 인공지능 기술에 기반한 미디어 저널리즘의 경계는 국경을 초월한다는 점을 명심할 필요가 있다. 즉 인공지능 기술의 활용 과정에서 파생되는 진실성·투명성·책임성 문제에 대한 우리만의 독자적 기준이나 규범이 아니라는 것이다. 이 때문에 오히려 언론사의 자율적·자정적 공통 규약 마련이 현실적일 수 있다.
한편 인공지능에 기반한 미디어 기술 및 서비스의 발전은 우리 미디어 산업에 새로운 시장을 창출하고 활력을 부여할 수 있다. 최근 뉴스를 인공지능 학습용으로 사용하는 라이선스 시장이 미디어 기업의 새로운 수익모델로 등장하고 있기 때문이다. 일례로 애플, 구글 등은 뉴스 콘텐츠에 대한 라이선스를 얻기 위해 최소 수천만 달러의 계약을 추진하고 있으며, 오픈AI와 소송 중인 뉴욕타임스조차도 2025년 5월 아마존과 AI 콘텐츠 라이선스 계약을 체결했다. 다년간 계약을 통해 아마존은 뉴욕타임스의 뉴스 기사, NYT쿠킹(NYT Cooking)의 요리 콘텐츠, 디애슬래틱(The Athletic)의 스포츠 관련 콘텐츠를 AI 서비스에 활용할 수 있게 됐다. 월스트리트저널에 따르면, 해당 계약의 연간 지불액은 2,000만에서 2,500만 달러(약 288억~360억 원)로 이는 뉴욕타임스 2024년 전체 수익의 약 1%에 해당하는 규모다.4)
새로운 기술과 서비스가 등장할 때마다 미디어 기업과 기술 기업 간 갈등과 협업은 공존해 왔다. 이러한 시기마다 검증되지 않은 무리한 법적 규제보다는, 미디어 산업의 자율적·자정적·집단적 노력과 시민사회단체의 협력적 움직임을 독려하는 정책적 지원이야말로 이제 막 도약하기 시작한 K-콘텐츠 미디어 생태계의 건전한 발전에 물꼬가 될 수 있을 것이다.
1) European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence(Artificial Intelligence Act) and amending certain Union Legislative Acts(COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))
2) 챗GPT를 제공하는 오픈AI는 독자적인 AI 콘텐츠 탐지 도구인 클래시파이어(Classifier)를 개발·출시했지만, “주요 의사결정 도구로 사용해서는 안 되며, 텍스트의 출처를 판단하는 다른 방법을 보완하는 용도로만 사용해야 한다”라고 언급하면서 그 한계를 명확히 했다. 결국 오픈AI는, 이 클래시파이어가 제출된 텍스트의 작성자가 사람인지 AI인지 정확하게 분류하지 못했다는 것을 확인하고 반 년 만인 2023년 7월 20일 서비스를 중단했다.
3) 「EU AI법」은 2025년 8월 범용 AI(General Purpose AI)에 대한 규정이 시행됐으며, 파운데이션 모델 제공자를 대상으로 기술 문서 작성, 투명성 확보, 리스크 평가와 같은 의무가 부과될 예정이다. 이후 순차적으로 2026년 8월에는 의료, 자율주행, 교육 등 고위험 AI 시스템(High-Risk AI Systems)에 대한 규정이, 그리고 AI 기반 의료기기와 같은 특정 고위험 제품에 대한 규정은 발효 36개월 후인 2027년 8월부터 시행될 예정이다.
4) 한국저작권위원회, <미디어 기업-테크 기업 간 AI 학습 계약 확산, 신규 수익원이 된 콘텐츠 라이선스>, 《저작권이슈브리프》, 2025-8-2호
저자의 다른 미디어
![[기획연재] 저널리즘 하우투 20 - 북한 기사 쓰기 하우투](static/images/noimg.png)
