기사 상세
작년에 이어 올해 열린 국제 저널리즘 페스티벌의 주요 화두 역시 AI였다. 그중에서도 AI 저널리즘의 윤리성 확보와 관련 규제를 어떻게 마련해야 할지에 대한 논의가 활발히 이뤄졌다. 전 세계 언론인들이 참여한 열띤 토론의 현장을 들여다본다. 편집자 주
이탈리아 페루자(Perugia)에서 지난 4월 17일부터 21일까지 열린 2024 국제 저널리즘 페스티벌(IJF, International Journalism Festival)은 전 세계 언론인들의 축제의 장이었다. 수천 명에 달하는 기자와 편집자, 그리고 미디어 연구자들이 한데 모여 저널리즘 현장의 최전선 화두를 놓고 뜨거운 토론을 펼쳤다. 전쟁 취재 문제부터 표현의 자유와 언론인 보호, 다양성과 포용성 증진, 탐사보도의 중요성, 기후 재앙에 대한 대응, 가짜뉴스 확산 방지 대책에 이르기까지 논의 주제는 실로 다양했다.
올해 IJF에서도 주요 관심사는 생성형 AI 기술이 저널리즘에 가져올 변화와 과제였다. ‘AI 저널리즘’을 키워드로 내건 세션만 무려 13개에 달했고, 뉴스룸 운영을 다룬 세션 중에서도 4개가 AI 기술 활용에 초점을 맞출 정도였다. 이는 AI 기술이 이미 뉴스 생산 현장 곳곳에 스며들어 일상화되고 있음을 여실히 보여준다. 동시에 AI 활용이 본격화되는 만큼 그에 걸맞은 윤리 기준 정립도 더는 미룰 수 없는 시급한 과제로 부상했음을 시사한다.
작년 《신문과방송》 7월호 <페루자에서 보는 저널리즘의 미래 AI에서 벗어날 수 없다>1)에서 ‘AI 기술이 저널리즘에서 어떤 역할을 할 것인가’에 대한 전망을 소개했다면, 올해 페스티벌에서는 ‘AI 저널리즘 윤리와 규제’라는 보다 실천적인 화두가 집중적으로 논의됐다. AI 기술이 뉴스룸의 주요 시스템으로 자리 잡은 지금, 그에 수반되는 제반 쟁점들이 첨예하게 제기되는 양상이었다. 이에 이번 글에서는 올해 IJF에서 비중 있게 다뤄진 여러 논점 가운데서도 ‘AI 저널리즘 규제’에 방점을 찍어 살펴보고자 한다.
AI에 대한 확고한 주체의식
AI 저널리즘이 가속화되는 현시점에서 가장 주목받는 화두는 단연 규제 문제다. AI 저널리즘 규제를 둘러싼 논의에는 AI 플랫폼 기업, 뉴스 매체, 뉴스 소비자뿐 아니라 정부와 감독기구 등 다양한 이해관계자들이 얽혀있다. 여기에 ‘표현의 자유’라는 민감한 가치까지 얽혀들면서 매우 복잡한 양상을 보인다.
이에 이번 IJF의 ‘Regulating AI in (and for) the news’ 세션에서는 옥스퍼드대 펠릭스 사이먼(Felix Simon) 연구원, 컬럼비아대 에밀리 벨(Emily Bell) 교수, 인도 언론사 퀸트(Quint Digital Limited)의 공동 설립자인 리투 카푸르(Litu Kapur), 암스테르담대 나탈리 헬베르거(Natali Helberger) 교수가 토론자로 나서 뉴스와 저널리즘을 위한 AI 규제 방안에 대해 심도 있는 논의를 펼쳤다.
토론자들은 한목소리로 AI 기술이 이제 저널리즘 현장의 필수 도구로 자리매김했다는 점을 인정하면서도, 다양한 윤리적 쟁점과 부작용에 대한 규제 필요성을 강조했다. 펠릭스 사이먼은 “AI는 이미 뉴스와 저널리즘의 핵심 동력이 됐지만, 정보의 정확성과 편향성, 알고리즘의 투명성, 기술 권력의 집중, 지식재산권 침해 등 해결해야 할 과제가 산적해 있다”고 지적하며 “책임감 있는 AI 활용을 담보하기 위한 규제 방안 모색이 시급하다”고 역설했다.
다른 패널들 또한 AI 규제 필요성에 공감했지만, 정부 규제와 언론사 자체 규제를 구분해야 한다고 지적했다. 리투 카푸르는 “퀸트는 AI 활용에 만전을 기하고 있지만, 정부가 과도하게 개입하면 언론 자유를 침해할 수 있다”며 “언론사 차원의 자율규제가 우선돼야 한다”고 강조했다. 그는 정부 규제와 언론사 자체 규제 투트랙 방식을 제안했다.
AI 기술 모델 자체에 대한 규제 필요성도 논의되었다. 나탈리 헬베르거 교수는 2023년 이탈리아가 챗GPT 접속을 전면 차단한 사례를 거론하며 ‘신뢰할 수 있는 AI 기술’의 중요성을 강조했다. 그는 “많은 미디어가 자체 대규모 언어모델 개발보다는 기존 모델을 미세 조정해 활용하는 만큼, 안전하고 신뢰할 만한 모델이 필수적”이라며 AI 도구의 신뢰도를 높일 수 있는 기본 규정 마련을 주문했다. 아울러 “단순히 큰 모델을 사용하기보다 합법적 데이터로 훈련된 투명하고 신뢰할 만한 모델을 비판적으로 활용해야 한다”고 당부했다.
에밀리 벨 교수 역시 AI 모델의 데이터 무결성이 관건이라고 지적했다. 벨 교수는 “언론사 밖에서 특정 AI 도구 채택을 강요하는 압력이 커 내부 윤리지침 마련이 필요하다”며 “상업적으로 사용 금지된 데이터가 훈련 모델에 활용되는 등 뉴스 AI의 데이터 투명성과 신뢰성 제고가 시급하다”고 역설했다.
참가자들은 마무리 발언에서 언론인들이 AI에 대한 비판적 시각을 가져야 한다고 입을 모았다. 에밀리 벨 교수는 “AI 분야에서 확고한 주체 의식을 갖춰야 한다”고 강조했고, 리투 카푸르 퀸트 공동 설립자는 “기술을 제대로 배우고 이해해 AI 도구 활용을 주도해야 한다”며 “AI가 무엇인지, 무엇을 할 수 있는지를 스스로 깨달아야 한다”고 언론인에게 당부했다. 이러한 과정을 통해 언론계가 AI에 대한 적절한 규제를 스스로 마련할 수 있을 것이라고 설명했다.
허위 정보, 본질적으론 인간이 원인
‘AI and Journalism: What Does It Take to Get It Right?’ 세션에서는 다양한 전문가들이 한자리에 모여 AI가 뉴스 산업에 미치는 영향과 이에 따른 윤리적, 규제적 문제들을 집중 조명했다. 이 세션은 국경없는기자회(RSF, Reporters Without Borders)가 지난해 11월 발표한 ‘AI와 저널리즘에 관한 파리 헌장’2)을 기반으로 진행됐다.
RSF의 AI 데스크 책임자인 아서 그리몽퐁(Arthur Grimonpont)은 현재 RSF가 ‘신뢰할 수 있는 정보에 대한 권리 수호’에 주력하고 있다고 설명했다. 그는 저널리즘 시장에 세 가지 위협이 존재한다며 “첫째는 사실과 허구 구분 능력에 대한 위협, 둘째는 저널리즘 지속가능성에 대한 위협, 셋째는 공유된 현실 인식 능력에 대한 위협”이라고 지적했다. 이에 AI 저널리즘 시대를 맞아 언론계의 각별한 주의와 책임이 필요하다고 역설했다.
첫 번째 주제인 ‘사실과 허구를 구별하는 저널리즘의 책임’에 대해 프랑스 AFP 소피 휴엣 편집장은 자사의 다양한 이니셔티브를 소개했다. 휴엣 편집장은 “150명의 전담 글로벌 팩트체커와 니콘(Nikon)이 공동 개발한 사진 워터마크 추적 기술로 출처 입증이 가능해졌다”며 언론사 차원의 진위 구분 기술 개발 필요성을 강조했다. 아울러 “AI 결과물에 대한 인간의 직접 확인과 검증이 필수적”이라고 덧붙였다.
찰리 베켓 교수는 허위 정보의 근본 원인이 기술 자체에만 있는 것이 아니라고 지적했다. 그는 최근 가자지구 분쟁과 관련한 허위 정보들을 예로 들며, 대부분이 비디오 게임 등의 이미지를 가져와 의도적으로 잘못된 라벨을 달아 유포한 인간의 조작 행위에서 비롯된 것이라고 설명했다. 베켓 교수는 “결국 허위 정보의 본질적인 원인은 기술이 아닌 인간의 활동”이라며 “딥페이크 기술만큼이나 우려스러운 것은 이런 종류의 인간 조작”이라고 날카롭게 비판했다.
두 번째 주제인 ‘저널리즘의 지속가능성’에 대해 아서 그리몽퐁은 AI 플랫폼들이 점차 게이트키퍼 역할을 하면서 전통 뉴스미디어의 수익 기반을 위협할 수 있다고 경고했다. 그는 마이크로소프트나 구글 같은 빅테크 기업들이 뉴스 질의에 대한 대답을 직접 제공하는 시스템을 구축하고 있어, 이것이 기존 언론사들의 주요 수익원이었던 뉴스 콘텐츠 유통에 치명타가 될 수 있다고 우려했다.
아냐 쉬프린 역시 이 문제를 지적했다. 그는 구글이 뉴스 콘텐츠에 대해 언론사에 적절한 대가를 지불하지 않고 있다며, 이대로 가면 뉴스 산업 전체가 재정적 위기에 내몰릴 수 있다고 경고의 목소리를 높였다.
하지만 찰리 베켓 교수는 다소 다른 견해를 피력했다. 그는 저널리즘 산업이 변화하는 경제 모델에 능동적으로 대응하고 적응해 나가야 한다고 주문했다 과거 광고 중심 수익 모델에서 벗어나 이제는 대중과의 관계 형성, 소통에 방점을 둬야 한다는 것이다. 베켓 교수는 “뉴스 소비자 데이터를 활용해 관련성 있고 유용하며 재미있는 저널리즘 콘텐츠를 만들어 내는 게 관건”이라며 제품 디자인과 사용자 경험 혁신 등에 주력해 소비자의 삶 속에서 뉴스미디어의 가치를 인정받아야 한다고 역설했다.
소피 휴엣 편집장 역시 이 같은 제품 혁신의 필요성에 공감했다. 하지만 그는 “모든 과정에서 저널리즘 본연의 가치인 사실 확인, 검증, 신뢰성 제고 원칙을 잊어서는 안 된다”고 강조했다. 새로운 뉴스 수요에 부응하려면 혁신이 필수지만, 저널리즘의 핵심 정신은 꼭 지켜내야 한다는 주장이었다.
마지막으로 ‘공유된 현실 인식 능력에 대한 위협’이라는 주제에 대한 토론에서는 AI 추천 콘텐츠가 사람들의 필터버블을 강화하고 사회적 분열을 부추긴다는 우려의 목소리가 있었다. 아서 그리몽퐁은 요즘 정보 공간에서 나타나는 병목 현상의 주된 원인이 소셜 미디어를 통해 소비되는 AI 추천 콘텐츠에 있다고 짚었다. 그는 이러한 상황이 사회 구성원들 간의 분열을 조장하고 있다고 주장했다. 그리몽퐁은 “전 세계 인구의 절반가량이 하루에 2시간 30분 가까이 소셜미디어에서 AI가 추천하는 콘텐츠를 소비하고 있다. 문제는 이런 추천 시스템이 이용자의 참여만을 최우선으로 설계돼 있다는 것이다. 그 결과 오해를 불러일으키고 유해하고 선정적인 불만을 부추기는 내용들이 널리 퍼지게 될 것”이라고 경고했다. 그는 개인화 알고리즘이 만들어 내는 필터버블로 인해 사람들 사이의 건전한 합의와 토론이 점점 어려워질 것이라는 우려를 나타냈다.
반면 찰리 베켓 교수는 이에 대해 다른 견해를 밝혔다. 그는 “사실 온라인에 접속하는 사람들은 오프라인에 비해 훨씬 더 다양하고 폭넓은 관점에 노출되곤 한다”라며 디지털 미디어 시대에 100% 개인화된 정보 소비란 존재하지 않는다고 일축했다. 베켓 교수는 “완벽한 개인화는 하나의 신화에 불과하다”라고 강조하면서, 저마다의 정체성을 가진 뉴스 소비자들이 자신의 관심사나 성향에 맞는 콘텐츠를 선택하는 것은 당연한 권리라고 주장했다. 그는 “문제의 본질은 개별 팩트가 아니라 그런 팩트들을 어떤 맥락에서 해석하고 이해하느냐에 있다”고 역설했다. 나아가 정치적 양극화 문제도 디지털 미디어 발달의 결과로 보기는 어려우며, 이는 오히려 양극화를 정치적 도구로 악용하려는 일부 정치인들에게 그 책임이 있다고 지적했다.
투명성, 리터러시 그리고 저널리즘의 진화
IJF의 참석자들은 AI 저널리즘 시대를 맞아 언론계가 직면한 윤리적 과제에 대해 다양한 의견을 쏟아냈다. 이들 대부분은 AI 기술 그 자체를 넘어 도덕성과 윤리성을 담보할 수 있는 제도적 장치와 구체적인 가이드라인 마련이 시급하다는 데 의견을 모았다. 특히 언론사 차원에서 AI 기술 활용에 대한 투명한 기준과 원칙을 세워야만 저널리즘의 지속가능성을 확보할 수 있다는 지적이 많았다.
또한 언론인 스스로 AI에 대한 이해의 폭을 넓히고 활용 역량을 높여야 한다고 강조했다. AI를 동원해 저품질의 콘텐츠를 쏟아내서는 안 된다는 것이다. 대신 AI를 적절히 활용해 단순 반복 업무에서 벗어나 생산성을 높이고, 저널리즘 본연의 가치를 더욱 강화함으로써 뉴스 소비자들과의 접점을 확대해 나가야 한다고 조언했다. 이를 위해 무엇보다 언론인 개개인이 AI에 대한 리터러시를 갖추고 변화를 관리해 나가는 자세가 중요하다고 입을 모았다.
아울러 급변하는 뉴스 소비 트렌드에 적극 부응해야 한다고 지적했다. 오늘날의 독자들은 이미 널리 알려진 정보의 단순 나열이 아니라 새로운 시각과 깊이 있는 통찰, 다채로운 관점을 담은 기사를 원한다. AI 기술이 발전할수록 기사 작성의 자동화 비중은 높아질 수밖에 없다. 그만큼 언론인들은 AI가 대신하기 어려운 영역, 즉 창의적이고 분석적인 사고를 요하는 작업에 더욱 매진해야 한다. 단순한 사실 전달을 넘어 복잡한 이슈의 맥락과 함의를 깊이 있게 탐구하고 해석하며, 다양한 목소리를 담아내는 데 주력해야 한다는 것이다.
참석자들은 이처럼 저널리즘이 시대 변화에 발맞춰 혁신의 고삐를 늦추지 않는다면 AI 시대에도 충분히 독자들과 의미 있는 유대를 이어갈 수 있으리라 전망했다. 저널리즘 본질에 대한 끊임없는 물음과 도전 정신을 잃지 않는 한, 앞으로도 저널리즘은 우리 사회에서 불가결한 역할을 해낼 수 있을 것이다.
1) 천현진, <페루자에서 보는 저널리즘의 미래 AI에서 벗어날 수 없다>, 《신문과방송》 2023년 7월호
2) 2023년 국경없는기자회와 전 세계 16개 언론 단체, 미디어 및 학계 전문가로 이뤄진 위원회가 작성한 언론인의 인공지능 활용에 대한 최초의 윤리 헌장으로 미디어 기술 선택에서 윤리를 최우선하고, 편집권 결정은 반드시 사람이어야 하며, 미디어는 소비자가 진짜와 합성물을 구분하도록 도울 것 등 10개의 원칙으로 구성된 헌장이다. https://rsf.org/en/rsf-and16-partners-unveil-paris-charter-ai-and-journalism#:~:text=It%20was%20created%20by%20a,Peace%20Prize%20laureate%20Maria%20Ressa.&text=On%20November%2010th%2C%202023%2C%20Reporters,occasion%20of%20Paris%20Peace%20Forum.
저자의 다른 미디어
