기사 상세
지난해 12월 인터넷신문윤리위원회가 <인터넷신문을 위한 인공지능 활용 가이드>를 발표했다. 국내 뉴스룸에서 인공지능을 활용한 기사 작성이 늘어나면서 원칙과 규정 마련의 필요성이 대두됐기 때문이다. 그 주요 내용과 더불어 저널리즘 영역에서의 인공지능 활용 현황과 문제점을 짚어본다. 편집자 주
전통적으로 언론과 저널리즘은 매스미디어를 통해 시사적인 사실이나 사건에 관한 정보를 전달하고 논평하는 활동을 뜻한다. 이러한 언론과 저널리즘 활동의 주어는 당연히 ‘인간’ 언론인이다. 그러나 인공지능 기술의 발달이 저널리즘 영역에서의 주어를 바꾸고 있다. 생성형 인공지능이 인간을 대신해 기사를 작성하거나 기사 관련 이미지를 만들어 내고 있기 때문이다.
국내에서도 최근 기사 작성 단계에서 인공지능이 적극 활용되고 있다. 조선일보는 미디어DX와 공동 개발한 생성형 인공지능의 도움을 받아 작성했음을 명시한 기사를 발행하고 있다. 이데일리는 보도자료를 넣으면 기사를 생성하거나 영상 콘텐츠 제작에 도움을 주는 ‘슈퍼 데스크’ 서비스 활용을 검토하고 있다.1) 그 밖에도 여러 언론사가 생성형 인공지능을 활용한 서비스 개발에 박차를 가하고 있다. 온라인 뉴스에서는 미드저니(Midjourney), 달리(DALL·E) 등 이미지 생성 AI를 통해 만들어 낸 이미지 사용이 급증하고 있다. 생성형 인공지능을 활용해 이미지를 만들었다는 것을 투명하게 명시한 언론사도 있지만, 이를 명시하지 않은 채 인공지능이 생성한 것으로 추정되는 이미지를 활용하는 기사도 더러 눈에 띈다.
인공지능이 저널리즘 관행을 변화시킬 것이라는 기대와 우려가 공존하는 가운데 어느새 기사 작성에서 인공지능 기술을 배제하는 것은 불가능한 단계에 들어섰다. 그렇다면 언론은 기사 작성을 위해 인공지능을 어떻게, 어디까지 사용할 수 있을까? 인터넷신문의 기사 및 광고 자율심의를 맡고 있는 인터넷신문윤리위원회는 국내에서 언론 분야의 인공지능 활용 가이드라인이 부재한 상황에 대처하고자 했다. 이를 위해 필자는 인터넷신문윤리위원회와 함께 <인터넷신문을 위한 인공지능 활용 가이드>를 만들어 2023년 12월 26일 발표했다. 이 가이드라인을 만들기 위해 해외 여러 뉴스룸의 인공지능 가이드라인을 조사했고, 현장에서 인공지능 도구를 이용하는 기자 및 언론학자들의 자문을 구했다. 가이드라인의 내용을 소개하기에 앞서 저널리즘 영역에서 인공지능이 어떻게 활용되고 있으며 관련된 문제점은 무엇인지 살펴본다.
뉴스룸에서 인간의 역할은 여전히 중요
인공지능 기술은 10여 년 전부터 뉴스룸에서 다양하게 활용됐다. 자동으로 데이터를 수집·분석하거나, 다양한 언어로 생성된 정보를 인공지능으로 번역해 기사에 활용하거나 날씨·스포츠·주가 등 비교적 단순한 기사를 작성하거나, 지진 등 천재지변에 대한 속보를 작성하는 데 인공지능 기술이 활용됐다. 그러나 챗GPT를 필두로 최근 쏟아져 나오고 있는 생성형 인공지능은 기존의 인공지능 기술과는 비교할 수 없을 정도의 막강한 파급력을 갖고 있다. 생성형 인공지능은 기본적 지시 사항이나 프롬프트만 있으면 텍스트부터 이미지·영상·음악까지 고품질의 디지털 콘텐츠를 즉각 만들어 낼 수 있으며 이용자들은 무료 내지 저렴한 비용으로 이를 활용할 수 있기 때문이다. 그 결과, 생성형 인공지능은 실제 여부를 판별하기 어려운 이미지나 글을 작성해 냈고 이로 인해 교묘하게 제작된 허위 정보가 사회를 혼란에 빠트릴 위험이 커졌다는 우려도 많다.
하지만 인공지능 기술은 언론계에서 기사 작성을 위한 도구로 유용하게 활용될 가능성이 크다. 많은 데이터를 신속하게 처리하거나 기사 작성을 위한 기초 자료 수집, 기사 작성을 위한 아이디어 제공 등 복잡하거나 단순 반복되는 업무를 처리하는 데 인공지능을 활용한다면 기자는 사실 검증이나 심층 취재에 시간을 더 투입할 수 있다. 또한 인공지능 기술은 기사 배포 단계에서도 잘 활용될 수 있다. 인공지능 기술을 통해 이용자들에게 맞춤형 기사를 제공하거나 관심 있는 주제의 기사 요약본을 즉각 제공한다면 뉴스 접근성과 편리성을 높일 수 있기 때문이다. 챗봇 등 다양한 툴을 활용해 언론사와 이용자들은 직접적으로 소통할 수 있으며, 언론사는 이를 통해 이용자들의 관심사를 빠르게 파악할 수도 있다.
그러나 뉴스룸에서 인공지능을 본격적으로 활용하기에는 여러 문제점이 존재한다. 가장 우려되는 부분은 인공지능이 생성한 결과물에 표절 및 저작권 침해 가능성이 있다는 점이다. 생성형 인공지능 시스템은 기존의 뉴스·소설·시·논문·회화·음악 등 다양한 저작물을 학습해 결과물을 내놓기에 그 자체가 표절 내지 저작권 침해의 위험을 내포하고 있다. 이러한 이유로 생성형 AI 시스템의 학습이 공정이용(fair use)에 해당할 것인지 아니면 저작권 침해에 해당하는지에 대해 전 세계적으로 논란이 발생하고 있으며, 학습에 활용된 콘텐츠를 투명하게 공개하고 정당한 사용료를 지급하라는 목소리도 높아지고 있다. 이러한 문제가 해결되지 않은 상황에서 언론사가 생성형 인공지능이 만들어 낸 결과물을 활용할 경우 예상하지 못한 저작권 분쟁에 휘말릴 가능성도 있다. 또한 인공지능을 통해 콘텐츠를 만들어 낼 경우 현행법상 저작권을 주장하기 어려울 것이다. 저작권은 인간이 만들어 낸 창작물에 대해서만 인정되기 때문이다. 따라서 언론사가 인공지능에 의존해 만든 글이나 이미지에 대해서는 저작권을 가질 수 없으므로 무단 도용에도 대처하기 어려워진다.
이러한 맥락에서 2023년 11월 영국 텔레그래프는 챗GPT를 활용해 기사 일부분을 작성할 경우 표절과 동일한 제재를 받게 될 것이라는 내부 방침을 발표했다.2) 챗GPT가 만든 콘텐츠는 여러 소스에서 수집된 데이터에 의존하므로 표절 위험이 있으며 저작권 침해의 가능성도 있다는 것이다. 그러나 챗GPT를 이용해 기사 또는 일러스트, 헤드라인에 대한 아이디어를 얻는 방식으로 기사 작성에 참고가 되는 수준의 인공지능 활용은 허용하겠다고 텔레그래프는 발표했다.
인공지능의 또 다른 문제점은 환각 현상(hallucination)으로인한 인격권 침해 가능성이다. 생성형 인공지능은 그럴듯하게 보이지만 사실과 다르거나 맥락과 무관한 결과물을 만들어 내는 환각 현상을 일으킨다. 그 결과 인공지능이 어떤 인물에 대해 완전히 허구인 사실관계를 지어내 이용자에게 제공할 경우 심각한 명예훼손이나 프라이버시 침해가 발생할 수 있다. 실제로 2023년 6월 챗GPT 운영업체인 오픈AI는 미국의 라디오 진행자 마크 월터스(Mark Walters)로부터 명예훼손으로 고소당했다. 어느 기자가 챗GPT에게 연방법원 판결문을 요약해달라고 했더니 챗GPT는 “마크 월터스가 최소 500만 달러(약 66억 원) 이상의 금액을 횡령해 고소당했다”는 허위 내용이 담긴 판결 요약문을 만들어 냈다. 이처럼 인공지능이 생성한 내용에 대해 철저한 사실 검증 없이 이를 바탕으로 기사를 작성할 경우 법률적 분쟁에 휘말릴 가능성도 커진다.
인공지능은 혐오와 차별이 담긴 콘텐츠를 만들어 낼 위험도 있다. 한국에서는 이미 2021년 ‘이루다’ 챗봇 논란을 통해 인공지능이 인간의 편견과 차별을 그대로 반영한 텍스트를 생성할 위험이 있음을 경험한 바 있다. 인공지능 학습에 활용된 데이터가 혐오 표현을 담고 있을 경우 유사한 결과물을 내어놓을 수 있기에 언론에서 인공지능을 이용할 때 이러한 위험에 대한 인식이 필요하다. 실제로 2023년 3월 네이버가 인공지능을 활용해 비슷한 주제를 다룬 뉴스를 묶어 제공하는 과정에서 여성에 대한 혐오 표현이 담긴 제목을 작성해 논란이 되기도 했다.3) 결국 인공지능이 생성한 결과물을 그대로 기사에 싣게 되면 다양한 위험에 노출될 수 있기에 뉴스룸에서 인간의 역할은 여전히 중요하다.
인공지능 활용을 위한 기본 원칙과 가이드
인공지능 시대에도 언론은 저널리즘의 기본 원칙에 입각해 기사를 작성해야 한다. 인공지능 기술은 언론이 저널리즘 본질에 더욱 충실할 수 있도록 하는 보조 도구로 사용돼야 하며, 언론인은 다양한 미디어 기술을 활용해 정확한 사실 검증을 위해 노력해야 한다. 또한 인공지능 기술을 활용해 이용자들의 기사 접근성을 높이고 이해를 도울 수 있도록 노력해야 한다.
저널리즘 영역에서 특히 윤리의 중요성이 커지고 있다. 정확성·객관성·투명성과 같은 저널리즘 원칙들은 윤리의 영역에 해당하므로 언론에 대해 법을 통한 규제를 시도하기보다는 윤리적 원칙에 입각한 자율 규제가 먼저 수행돼야 한다. 효과적인 자율 규제 측면에서 인공지능 활용 원칙과 가이드라인을 만들기 위해 인터넷신문윤리위원회는 2023년 9월과 10월에 걸쳐 ‘뉴미디어 윤리포럼’을 개최했고, 필자는 이 포럼에서 뉴스룸에서의 인공지능 활용 현안과 문제점 등에 대해 인터넷신문사에 소속된 여러 언론인과 다양한 의견을 나눌 수 있었다. 인공지능 활용에도 저널리즘의 기본 원칙이 적용돼야 한다는 점에 언론인들의 의견이 모아졌다. 따라서 아래와 같은 5가지 기본 원칙을 인공지능 활용 과정에 염두에 둘 것을 활용 가이드에 앞서 제안하였다.
<인터넷신문의 인공지능 활용을 위한 기본원칙>
1. 인간 중심: 인공지능은 언론인의 업무를 대체하는 것이 아니라 기사 제작과정에서 보완적인 수단으로서 활용되어야 한다. 즉, 인공지능 기술은 언론인의 관리·감독 하에 사용되어야 한다. 2. 정확성: 인공지능이 생성한 내용은 사실검증을 거쳐야 한다. 3. 투명성: 인공지능을 이용했을 경우 그 사실을 투명하게 공개해야 한다. 4. 공정성: 인공지능이 편향성을 가질 수 있음을 염두에 두고 공정하게 균형 잡힌 시각에서 기사를 작성해야 한다. 5. 권익 보호: 인공지능 활용으로 인해 명예훼손, 프라이버시 침해, 초상권 침해 등 타인의 인격권 및 저작권을 침해하지 않아야 하며 타인의 콘텐츠를 표절해서는 아니 된다.
|
기사의 작성 및 배포 과정에서 인공지능 기술은 점차 활용의 빈도와 강도가 높아질 것으로 예측된다. 발전된 미디어 기술을 언론이 적절하게 활용하는 것은 권장할 일이지만, 아직까지 생성형 인공지능 기술은 발전 단계에 있는 만큼 사용에 있어서 주의가 필요하다. 언론은 이용자들의 신뢰를 바탕으로 운영되는 만큼 이용자들의 신뢰를 해하는 방식으로 인공지능이 사용돼선 안 된다. 또한 인공지능 기술은 보조적 수단으로 활용돼야 하며, 인간의 관리나 감독 없이 전적으로 기사 작성을 인공지능 기술에 의존하면 앞서 언급했듯 여러 가지 위험이 따를 수 있다. 따라서 위와 같은 인공지능 활용 가이드라인으로서 3대 규범을 제시하고 각 규범에 대한 설명을 추가했다.
<인터넷신문을 위한 인공지능 활용 가이드>
1. 기사의 전부 또는 상당 부분을 인공지능을 이용하여 작성해서는 아니 된다. 단 날씨, 스포츠, 재난, 금융 등의 기사 가운데 인공지능 프로그램을 이용하여 데이터 또는 사실만을 전달하는 경우는 예외로 한다. ① 인공지능은 기술적 한계로 인해 항상 신뢰할 수 있는 콘텐츠를 생성하지는 못하고 있다. 생성형 인공지능이 만들어 낸 콘텐츠에는 오류가 포함되어 있거나 부당한 차별과 편견이 담겨있을 수 있다. ② 인공지능이 만들어 낸 결과물은 다른 콘텐츠를 표절하거나 저작권을 침해할 가능성이 있다. 따라서 기사 작성을 전적으로 인공지능에게 맡겨서는 아니 되며, 도구적 수단으로서는 인공지능 기술을 활용할 수 있다. ③ 기자는 사실 검증을 통해 독창적인 기사를 작성해야 한다. 생성형 인공지능이 만들어 낸 스토리, 제목, 이미지, 동영상, 인용문 등을 엄격한 편집 과정을 거치지 않고 그대로 언론에 실어서는 아니 된다. 2. 인공지능 기술은 기사 작성과 배포를 위하여 보조수단으로서 활용될 수 있다. 이 경우 인공지능 기술을 활용했음을 눈에 띄도록 명확하게 표시하고 기사 책임자의 성명을 명시해야 한다. ④ 인공지능은 기사 작성 및 배포를 위한 도구로서 활용될 수 있다. 가령, 기사의 오탈자를 체크하거나, 기사 작성을 위한 아이디어를 얻거나, 데이터 분석도구로 활용하거나, 대량 정보를 정리하거나, 요약 텍스트 생성 등을 위해서는 인공지능 기술을 활용할 수 있다. ⑤ 기사 작성에 인공지능 기술을 활용했는지 여부와 상관없이 언론사는 게재한 기사에 대해 법적 책임을 진다. 따라서 인공지능을 활용하여 제작한 콘텐츠의 정확성과 객관성을 확보하기 위해 언론인은 사실을 검증하고 내용을 확인해야 한다. ⑥ 어떤 목적과 상황에서 인공지능 기술을 활용할 것인지는 보도 전에 미리 확인하고 논의되어야 한다. 기자가 인공지능 기술을 활용했을 경우 데스크에 보고해야 하며 생성된 내용에 위험요소가 없는지 함께 파악해야 한다. ⑦ 인공지능 기술을 활용하여 작성한 내용에 오류가 있거나 타인의 권리를 침해했을 경우 이를 즉시 정정하고 공지해야 한다. 3. 기사에서는 인간이 촬영하거나 제작한 이미지나 동영상을 우선적으로 사용해야 한다. 인공지능 기술을 활용하여 만들어낸 이미지나 동영상을 보완적으로 사용할 경우 인공지능 기술을 활용하였음을 눈에 띄게 명확하게 표시하고 생성 책임자의 성명을 명시해야 한다. ⑧ 인공지능이 생성한 이미지는 기존 작품을 모방하거나 타인의 저작권을 침해할 우려가 있다. 따라서 인간이 촬영하거나 제작한 사진, 동영상, 이미지, 일러스트레이션 등을 기사에서 우선적으로 사용해야 한다. 인공지능이 생성한 이미지 등을 사용할 경우 법적 책임이 따를 수 있음을 명심한다. ⑨ 인공지능을 활용하여 제작한 이미지를 인공지능 관련 기술을 설명하는데 사용하거나, 일러스트레이션 창작 과정에서 인공지능 기술을 활용하는 것은 가능하다. 이러한 경우 인공지능 기술을 활용했다는 것을 명시적으로 표기하여 이용자에게 고지해야 한다. ⑩ 인공지능이 생성한 이미지나 콘텐츠는 현행법상 저작권 등 지식재산권의 보호대상이 되지 않는다. 따라서 언론이 인공지능 기술을 통해 제작한 이미지나 동영상은 저작권 등 지식재산권으로 보호받지 못할 가능성이 있음을 염두에 두어야 한다.
|
인공지능이 사회 전반에 적극적으로 활용되면서 인간의 오래된 가치와 개념을 변화시키고 있다. 급작스런 변화를 맞이하게 된 것은 언론도 예외가 아니다. 인공지능 시대에도 정확하고 가치 있는 정보의 전달이라는 언론의 역할은 변함이 없기에 인공지능은 더욱 신중하게 사용돼야 하고 본연의 업무를 돕기 위한 수단으로 활용돼야 할 것이다.
1) 박서연·금준경, <한국 언론, 생성형 AI 활용...보도자료 넣고 기사 주문 시작>, 미디어오늘, 2023.1. 2, https://www.mediatoday.co.kr/news/articleView.html?idxno=314854
2) Maher, B., <Telegraph journalists told use of ChatGPT will result in same sanctions as plagiarism>, PressGazette, 2023.11.15, https://pressgazette.co.uk/publishers/nationals/telegraphgenerative-ai-guidelines-policy-copyright/
3) 이주빈·정인선, <하필이면 ‘혐오표현’ 고른 네이버 AI...“기술 탓만 하지 마라”>, 한겨레, 2023.3.20, https://www.hani.co.kr/arti/society/women/1084363.html
저자의 다른 미디어
