기사 상세
올해 초 공식적으로 ‘생성형 AI를 비롯한 인공지능 사용에 관한 지침’을 내놓은 BBC는 이어 내부 구성원을 위한 AI 사용 관련 지침을 추가로 발간했다. 뉴스 제작에 있어 생성형 AI 활용 범위와 규제에 대한 논의가 계속되는 가운데, BBC의 행보가 시사하는 바를 확인해 본다. 편집자 주
“BBC가 히틀러 다큐멘터리 제작을 위해 인공지능(AI)으로 히틀러의 목소리를 구현해 그가 남긴 글을 실제 말하는 것처럼 하는 것에 대해 어떻게 생각하는가?”
최근 영국 BBC 본사에서 열린 ‘인공지능 사용에 대한 편집 방침과 윤리적 고찰(The Editorial Policy and Ethical Consideration of Using AI)’ 콘퍼런스에서 참석자들에게 가장 먼저 던져진 질문이다. 매일 뉴스를 다루는 기자들을 비롯해 다큐 프로듀서, 법무팀, 기술 개발팀 등 다양한 직군에 있는 사람들이 BBC의 인공지능 사용에 대한 논의를 위해 한자리에 모였다. 주제는 명확했다. 인공지능, 특히 생성형 AI를 실제 제작에 어떻게 활용할 수 있는지, AI 기술이 BBC의 편집 방침과 가치에 벗어나지 않게 사용됐는지를 어떻게 확인할 것인지, 그리고 AI와 다른 제작 기술 사용의 차이점은 무엇인지 등을 실제 사례와 함께 살펴보고 다양한 시각에서 논의해보자는 것이었다.
BBC의 매튜 엘트링험(Matthew Eltringham) 선임 편집 정책 자문 위원과 BBC R&D팀 소속인 브로닌 존스(Bronwyn Jones) 기자가 주요 토론자로 나섰다. 영국 에든버러대 박사이기도 한 존스 기자는 토론에 앞서 인공지능과 생성형 인공지능(AI)에 대한 차이부터 명확하게 설명했다. 그에 따르면, 넓은 의미에서의 기존 인공지능은 이미 제작 과정의 한 기술로 오랫동안 사용됐지만, 생성형 AI라는 기술이 새로 등장하면서 미디어 산업에서도 AI 사용에 대한 본격적인 논의가 시작됐다.
전통적인 형태의 AI는 인간이 의도하는 방향대로 프로그래밍 됐기 때문에 예측과 통제가 가능했지만, 머신러닝 단계를 거치면서 이 시스템의 자율성이 좀 더 커졌고, 이제는 인간의 별도 지침이 없이도 엄청난 양의 정보를 스스로 학습해 창의적인 결과물을 만들어 낼 수 있는 생성형 AI의 새로운 시대가 도래했다. 언론 종사자들은 뉴스 및 프로그램 제작 시 어떤 기술을 사용할지, 어떤 기술을 사용하는 것이 옳은지, 또 왜 그러한 기술을 사용했는지에 대한 판단과 결정을 해야 하는 새로운 문제에 직면했다. 생성형 AI에는 정보 보안이나 개인정보 문제, 정보 편향성, 환각(hallucination)1) 등 여러 이슈가 얽혀있기 때문이다.
현재 BBC에서 생성형 AI 사용과 관련해 가장 쟁점이 되는 두 가지 가치는 ‘신뢰(Trust)’와 ‘투명성(Transparency)’이다. 영국 옥스퍼드대 부설 로이터저널리즘연구소가 최근 전 세계 6개국(아르헨티나, 덴마크, 프랑스, 일본, 영국, 미국)을 대상으로 저널리즘에서의 생성형 AI 사용에 관한 인식 등을 조사한 결과,2) 사람들은 생성형 AI를 주로 사용해 만들어진 뉴스에 대해 신뢰성과 투명성이 상대적으로 떨어진다고 평가하는 것으로 나타났다.
또한, 여전히 많은 사람이 생성형 AI보다 실제 인간 기자가 제작한 뉴스에 더 편안함을 느끼고 있었다. 패션이나 스포츠 같은 연성 뉴스(soft news)의 경우 AI 사용에 불편함을 덜 느꼈지만, 국제뉴스나 정치, 시사 보도 쪽으로 갈수록 이에 대한 반감은 심해지는 경향을 보이기도 했다. BBC는 영국 언론 매체 중에서도 시청자가 가장 신뢰하는 뉴스 매체로 꼽히는데, 존스 기자는 이런 상황에서 BBC가 당장의 클릭 수나 조회수를 위해 생성형 AI를 성급하게 적용하기보다 해당 기술의 사용에 대한 기준 마련을 더욱 고민해야 한다고 지적했다.
결국 AI와 같은 기술 사용에 있어 ‘할 수 있는 것(what we can do)’과 ‘해야 하는 것(what we should do)’은 다른 문제이며, 이를 구분해서 생각하는 것이 사안의 중요한 부분이라는 것이다. BBC가 중시하는 공정성이나 신뢰, 투명성 등의 가치에 대해서는 일반 시민들도 공감하고 있으므로 이러한 가치와 새로운 기술이 미래 세대에 어떤 의미를 갖는지를 충분히 고민하고 판단해야 한다는 것이 참석자들의 공통된 생각이었다.
생성형 AI가 3분 만에 만들어 준 영상토론장에서는 최근 실제 생성형 AI를 활용해 제작한 다큐 프로그램의 사례도 소개됐다. 소설 《악마의 시》로 유명한 영국 작가 살만 루슈디(Salman Rushdie)3)와의 인터뷰를 담은 다큐멘터리4)인데, 본편 내용 중 작가가 자신을 공격한 범인과 가상의 대화를 나누는 장면이 등장한다. 제작을 총괄한 사이먼 고레츠키(Simon Goretzki) 선임 프로듀서는 프로그램 제작에 인공지능을 활용하게 된 배경을 소개하고 제작진이 마지막까지 고민했던 지점들을 공유했다.
해당 인터뷰는 곧 출간될 살만 루슈디의 신작을 앞두고 진행됐는데, 제작진은 당시 책의 일부 내용만 받은 상태였고 제작에 시간적 압박을 받던 상황이었다. 인터뷰 도중 그는 작가의 신작 내용 중에 범인과의 상상 속 대화가 있다는 걸 알게 됐고, 그래픽 디자인을 통한 장면 구현을 가장 먼저 떠올렸다. 가해자의 머그샷이 공개됐기 때문에 이 사진을 이용해 책에 묘사된 두 사람의 대화 모습을 영상으로 만들자는 생각이었다.
하지만 간단한 작업일 거라는 기대와 달리 그래픽팀에서는 엄청난 시간과 비용이 들어가는 작업이라며 난색을 표했고 결국 제작 기한을 맞추기 어렵다는 답변이 돌아왔다. 집에 돌아와 고민하던 사이먼 고레츠키는 구글에서 머그샷 사진을 끌어다 재미 삼아 생성형 AI에 맡겨봤고 단 3분 만에 사진 속 인물이 말하는 영상이 만들어졌다. 제작 마감이 3일 남은 상황에서 ‘이걸로 해볼 수 있겠다’ 싶은 생각이 들었고, AI 서비스 구독료 13파운드(약 2만 3,000원)로 책 속에 묘사된 가상의 대화는 그렇게 간단하게 구현됐다.
그러나 영상을 제작하고 나니 이번엔 새로운 고민이 떠올랐다. 먼저 뉴욕에서 재판을 기다리고 있을 가해자로부터 사용 동의를 받는 문제였다. 다행히 사실 보도의 목적이고 프로그램의 전체적인 맥락을 고려할 때 이 부분은 문제의 소지가 크지 않다고 판단했다. 다음으로는 이 영상이 실제가 아니라 작가의 상상 속에서 구현된 대화라는 걸 시청자들에게 어떻게 고지할 것인가 하는 문제였다.
방송이 며칠 남지 않은 상황에서 이런 고민은 계속됐고 제작진 사이에서도 토론은 이어졌다. 실제 방송이 나간 후 반응은 어땠을까. 이에 대해 사이먼 고레츠키는 다큐 자체는 큰 주목을 받았지만 대부분 루슈디 작가의 인터뷰 내용에 대한 것이었고 생성형 AI를 사용한 해당 부분에 대한 특별한 언급은 별로 없었다고 전했다. 다만 이 사안에서 핵심은 해당 장면이 실제 상황으로 오인되지 않도록 제작됐으며 작가의 회고록 속 가상의 대화라는 점을 명확하게 했다는 점이다. 여기서도 논의의 본질은 역시 신뢰와 투명성 문제였던 셈이다.
그렇다면 서두에서 언급한 히틀러 목소리 사용에 대한 참석자들의 생각은 어땠을까. 현장 참석자 외에 온라인으로 참석한 150여 명의 구성원을 대상으로 즉석 투표를 진행한 결과, 절반 이상(59%)은 BBC가 AI로 히틀러의 목소리를 구현해 다큐를 제작해서는 안 된다고 답했다. 사용해도 괜찮다는 의견은 9%, 판단을 보류하거나 잘 모르겠다는 의견은 32%였다.
미디어 환경 변해도 ‘신뢰’는 최우선 가치
올해 초 BBC는 ‘생성형 AI를 비롯한 인공지능 사용에 관한 지침(Guidance: The use of Artificial Intelligence)’5)을 공식적으로 내놓는 한편, 내부적으로는 책임감 있는 AI 사용을 위한 안내서(BBC AI Handbook: How to Use AI Responsibly)까지 추가로 발간했다. BBC는 지침에서 AI의 사용이 항상 BBC의 공공성에 부합하도록 할 것이며, 효율적이고 숙련된 사람의 관리 감독하에 투명하고 책임감 있게 이뤄질 것이라는 점을 분명히 했다.
어떤 경우에도 인공지능 사용이 시청자의 신뢰를 훼손해서는 안 되며, 정확성과 공정성 등 BBC의 편집 가치에 맞도록 사용해야 한다는 점도 명시했다. 생성된 결과물이 가질 수 있는 알고리즘 편향이나 학습된 데이터의 부정확성 문제, 환각, 표절, 모방 등 인공지능 사용에 있어 발생할 수 있는 문제와 고려사항 또한 항목별로 정리돼 있다. AI를 편집에 사용하려는 구성원은 전 제작 단계에 걸쳐 언제, 어디서, 어떻게 추가적인 자문을 구해야 하는지에 대한 기본 지침도 얻을 수 있다. 물론 이 지침은 AI에 대한 경험과 전문 지식, 기술의 변화에 맞춰 정기적으로 업데이트될 예정이다.
뉴스 및 시사 보도국의 경우에는 생성형 AI 사용에 대한 지침이 더욱 명확하다. AI를 주제로 한 기사를 쓰는 경우와 같이 예시적인 용도가 아닌 한 BBC가 제작하는 모든 뉴스, 시사 보도, 팩트를 다루는 기사 등의 콘텐츠에는 생성형 AI 사용을 금지한다는 게 기본 입장이다.
앞선 사례에서 언급한 그래픽 제작과 같은 예외적인 경우는 시범 운영 과정으로 고려될 수 있다. 사전 조사나 편집 제작 단계에서는 정보나 분석, 이해 등을 제공하는 과정의 일부로 쓰일 수 있으나 마찬가지로 직접적인 콘텐츠 제작에는 생성형 AI를 사용해선 안 된다. 특히, AI 사용 시 편집상의 중요도를 따지는 것이 중요한데 예를 들어 스토리보드 작성이나 아이디어 발상 기법 등 창의성을 유발하기 위한 사용은 문제의 위험성이 낮은 것으로 본다.
이 모든 사안을 숙지했더라도 AI를 사용하고자 하는 구성원은 AI의 사용 방식과 잠재적 위험성에 대해 반드시 사전에 직속 관리자와 상의해야 하며, 사용하려는 기술이 정상적인 소프트웨어 승인 절차를 거쳤는지도 확인해야 한다.
생성형 AI 사용의 적절성 판단에 있어 BBC에서 가장 중요하게 고려하는 건 자사 뉴스 보도 및 제작의 원칙이 되는 편집 가이드라인(Editorial Guidelines)의 준수 여부다. BBC 편집 가이드라인은 뉴스뿐만 아니라 BBC가 만드는 모든 콘텐츠에 적용되는 것으로, 모든 기자와 뉴스 프로듀서, 프로그램 제작자 등이 반드시 숙지하고 따라야 하는 보도 및 제작의 최우선 준칙이다.
미디어 환경이 변화하고 기술이 발전하더라도 BBC가 추구하는 공정성, 정확성, 개인정보 보호 등의 핵심 가치와 편집 방침은 일관되므로 구성원들은 각자의 제작 상황에 맞게 이를 적용해 콘텐츠를 만들어야 한다. 결국 새로운 생성형 AI의 이용 역시 기본적으로는 이 같은 편집 방침에 의거해 이뤄져야 한다는 대전제에는 변함이 없다.
최근 들어 BBC에서는 생성형 AI 활용에 대한 논의의 장이 눈에 띄게 늘었다. BBC의 생성형 AI 사용에 대한 시청자들의 생각을 처음으로 조사한 자체 보고서를 다룬 콘퍼런스도 개최되었고, 생성형 AI가 갖는 정보 편향성 문제와 시스템 강화 방안을 집중적으로 논의한 자리도 있었다.
생성형 AI 사용에 관한 내부 교육 과정도 잇따라 개발됐다. 이제 AI를 직접적으로 사용하는 구성원은 물론 AI를 사용한 콘텐츠를 BBC에 제공할 가능성이 있는 사람과 함께 일하는 모든 구성원도 사전에 관련 교육을 필수적으로 이수해야 한다. BBC의 소비자 신기술 및 데모 연구소인 블루룸(Blue Room)6)은 구성원들이 오디오 합성, 텍스트-이미지 생성, 영상 제작 등 생성형 AI에 관한 새로운 기술을 직접 경험하고 배울 수 있는 다양한 특강을 개설해 누구든 수시로 등록·참여할 수 있도록 하고 있다. AI 사용에 관심 있는 누구에게든 배움과 토론의 장은 열려 있고, 다양한 관점에서 의견을 들을 수 있는 기회도 계속 마련되고 있다.
새로운 기술은 언제나 변화와 발전의 기회를 열어주지만 동시에 생각지 못한 고민거리를 안겨주기도 한다. 전 세계적으로 AI 활용 저널리즘이 시작 단계에 놓인 지금, BBC가 다양한 문제의식을 담은 논의와 교육의 장을 활발하게 이어가는 건 어떤 상황에서도 시청자 혹은 독자와의 ‘신뢰(Trust)’라는 최우선 가치를 지키기 위함이다. 그리고 이는 사안에 대해 끊임없이 질문을 던지고 치열하게 고민해야 하는 공영방송의 역할을 다시금 시사하고 있다.
1) 할루시네이션은 환각 또는 망상 등으로 불리며, AI가 생성한 정보에 허위 또는 날조된 정보가 포함되는 현상이다. 남시현, <[IT강의실] 생성형 AI의 최대 난제, ‘할루시네이션’>, 동아일보, 2024.4.29, https://www.donga.com/news/It/article/all/20240329/124227094/1
2) Fletcher, R., <What does the public in six countries think of generative AI in news?>, 2024.5.28, Reuters Institute for the Study of Journalism, https://reutersinstitute.politics.ox.ac.uk/what-does-public-six-countriesthink-generative-ai-news
3) 살만 루슈디는 그의 소설에서 이슬람 예언자 무함마드를 불경하게 묘사했다는 이유로 수십 년간 살해 위협에 시달리다 2022년 미국 뉴욕의 한 강연장에서 갑작스런 흉기 공격을 받아 한쪽 눈의 시력을 잃었다.
4) <Salman Rushdie: Through a Glass Darkly>, https://www.bbc.co.uk/programmes/m001z2fw
5) <Guidance: The use of Artificial Intelligence>, BBC, https://www.bbc.co.uk/editorialguidelines/guidance/use-of-artificial-intelligence/
저자의 다른 미디어
