국제미디어커뮤니케이션학회(IAMCR)는 해마다 세계 각지에서 콘퍼런스를 개최한다. 세계 최대 규모를 자랑하는 이번 콘퍼런스의 화두는 생성형 AI. 전 세계 연구자들의 다양한 관점을 확인할 수 있었던 이번 행사의 주요 내용을 살펴본다. 편집자 주

지난 6월 30일부터 7월 5일까지 뉴질랜드 남섬의 작은 도시 크라이스트처치(Christchurch)에서 2024 IAMCR(International Association for Media and Communication Research) 콘퍼런스가 열렸다. 이번 콘퍼런스는 세계 최대 규모의 국제 미디어 커뮤니케이션 학술대회로, 70여 개국에서 온 1,300여 명의 학자들이 참석한 가운데 200개 이상의 세션이 진행됐다. 환경, 건강, 젠더, 위기, 국제 및 지역 커뮤니케이션, 미디어 법과 제도, 미디어 리터러시, 저널리즘, OTT, 웹툰, 생성형 AI 등 다양한 주제에 대해 열띤 연구 발표와 토론이 이어졌다.

이번 콘퍼런스에서 연구자들의 관심은 특히 ‘생성형 AI’에 집중됐다. 관련 세션만 20개가 넘었고, 프레젠테이션은 100여 개에 달했다. 연구자들의 관점도 매우 다양해, AI 반대 운동을 다룬 연구부터 미드저니(Midjourney)를 스토리텔링에 활용하는 방안까지 다양한 시선을 엿볼 수 있었다. 이러한 발표들의 공통점은 생성형 AI 기술의 활용보다는, 생성형 AI가 인간의 현재와 미래에 미치는 영향에 대해 철학적이고 윤리적인 측면에서 접근했다는 점이다.

생성형 AI 외에도 페이크 뉴스(fake news)와 허위 정보(disinformation), 오정보(misinformation)도 많이 논의된 주제였다. 주로 플랫폼의 책임 영역을 논의하면서 법·제도적 장치에 대한 고민이 이뤄졌다. 또한, ‘표현의 자유’를 훼손하지 않으면서도 허위 정보와 오정보를 효율적으로 규제하는 방안에 대해서도 다양한 연구 결과와 의견이 제시됐다.

가능성과 더불어 한계 존재하는 AI

중국 칭화대 장 치아오레이(Jiang Qiaolei) 교수는 ‘생성형 인공지능은 인간의 창의성을 향상시킬까, 저해할까? 실험 연구의 증거(Will Generative Arti䞺cial Intelligence Enhance or Impair Human’s Creativity? Evidence of an Experimental Study)’라는 연구에 대해 발표했다. 그는 생성형 AI가 인간의 창의성에 미치는 영향을 실험을 통해 분석했다. 연구 결과, 생성형 AI는 창의성이 부족한 사람들에게 더 많은 창의적 아이디어를 제공하며, 창의성이 이미 높은 사람들에게는 더 많은 아이디어 발현에 도움을 주는 것으로 나타났다. 장 교수는 “더 다양한 시나리오와 복잡한 요인을 고려해 인간과 AI의 협력을 탐구해야 할 필요가 있다”고 밝히면서도 생성형 AI가 인간의 창의성에 미치는 영향력에 대해 긍정적인 전망을 제시했다. 

싱가포르 난양공대(Nanyang Technological University)의 제드 센틸(Jed Senthil) 교수 또한 생성형 AI가 협력적 창의성을 제고하는 데 도움이 된다는 의견을 피력했다. 그는 자신의 연구 ‘협력적 창의성: 콘텐츠 제작과 스토리텔링에서 사회적 정체성 이론과 생성형 AI의 상호작용 탐구(‘Whiria te tangata’ in Collaborative Creativity: Exploring the Interplay of Social Identity Theory and Generative AI in Content Creation and Storytelling)’에서 다양한 팀과 개인이 생성형 AI를 활용해 창의적 프로젝트를 수행하는 과정을 분석하고, 이를 통해 AI가 창의적 과정에서 혁신을 촉진할 수 있다는 결과를 도출했다. 그는 사람들이 생성형 AI를 사용하는 과정에서 창의적 작업 속도가 빨라지고 생산성이 향상됐으며, 서로 AI 전문 지식을 공유하는 과정에서 공통의 정체성을 형성하며 협력하게 됐다고 설명했다. 

미드저니를 활용한 창작 글쓰기와 캐릭터 개발 과정에 대한 연구를 발표한 뉴질랜드 오클랜드대(The University of Auckland)의 파멜라 모로(Pamela Morrow) 교수는 AI가 생성한 이미지가 이야기의 시각적 요소를 강화해 독자의 몰입을 돕는다고 설명했다. 또한 AI를 통해 캐릭터를 정교하게 개발하는 과정을 소개했는데, 반복적인 조정과 프롬프트 엔지니어링을 통해 다양한 이미지를 결합해 공상과학 소설에 걸맞는 캐릭터를 창조했다. 모로 교수에 따르면 AI는 작가의 상상력을 자극하고 독자에게 깊이 있는 경험을 선사하는 도구로서의 가치를 가지고 있었다. 

이러한 연구들은 AI가 인간과 협력해 창의적인 작업을 수행하는 데 도움이 될 것이라는 긍정적인 시각을 바탕으로 한다. 모로 교수는 AI가 차별이나 편견 없이 가치중립적인 이미지를 생성할 수 있는지에 대한 필자의 질문에 “인간의 개입, 즉, 정교하고 반복적인 조정과 프롬프트 엔지니어링을 통해 해결할 수 있을 것으로 생각한다”라며 긍정적 관점을 재차 밝혔다. 

하지만 다른 연구자들은 AI가 사회에 미칠 수 있는 다양한 부작용을 우려하고 있었다. 중국 칭화대의 잉 리우(Ying Liu) 교수는 온라인 참여 관찰, 설문 조사, 심층 인터뷰를 통해 AI 반대 의견을 분석했다. 그 결과, 일반 이용자와 다르게 예술가들은 생성형 AI가 예술의 독창성과 진정성을 훼손한다고 생각하는 것으로 나타났다. 또한 원작 예술 작품을 무단으로 수집해 이미지 생성에 활용함으로써 사생활 침해와 지식재산권 문제를 발생시킬 것을 우려하고 있었다. 이들은 AI를 제한하는 정책에 찬성하며 일부는 AI 생성 이미지에 워터마크를 추가하는 등의 규제 방안을 제안했다. 

호주 시드니 공대(Centre for Media Transition, University of Technology Sydney)의 마이클 데이비스(Michael Davis) 박사는 생성형 AI가 위키피디아(Wikipedia)에 미치는 영향에 대해 발표했다. 그는 생성형 AI가 위키피디아의 콘텐츠를 생성할 경우 검증 가능성, 출처 및 중립성 등 핵심 원칙을 위협할 수 있으며, 반대로 위키피디아의 지식이 AI에 의해 상업적 목적으로 무분별하게 이용될 경우 위키피디아의 지식 생태계가 위협받아 공동체 구성원들의 지식 기여 동기를 저해할 수 있다고 설명했다. 이러한 문제를 해결하기 위해서는 플랫폼 기업의 권력을 제한하고 AI 생성 콘텐츠의 검증 가능성을 보장하는 정책을 모색해야 한다며, 이를 위해 다양한 이해관계자와의 협력이 필요하다고 덧붙였다. 

대규모 언어 모델의 신뢰성 문제에 대한 필자의 질문에는 “AI 기업이 정보 생태계의 주요 행위자 중 하나지만 검증과 개발이 동일한 영역에 있으면, 즉자율 규제만으로는 신뢰성 문제가 발생한다. 따라서 국제적인 협력과 규제가 절실하다”며 강경한 입장을 내비쳤다. 

이러한 관점은 중국 스타트업 립파이브 테크놀로지(LeapFive Technologies)의 프로덕트 디렉터 로렌스 당(Laurence Dang)의 연구에서도 엿볼 수 있었다. 당은 정부, 국제기구, 민간기업 등 다양한 기관의 AI 정책 문서를 분석했다. AI와 관련된 정책은 주로 2017~2020년에 발표됐고 최근에는 논의가 감소했다고 한다. 당은 ‘윤리 세탁(Ethics Washing)’ 이란 용어를 언급하며 기업들이 형식적인 AI 윤리 준수만 선언할 뿐, 실질적 실천으로는 이어지지 않는 문제를 지적했다. 또한 대부분 법적 구속력 없는 권고사항 정도의 정책이라며 AI의 편향성과 데이터 프라이버시, 보안, 책임 소재 문제가 커질 가능성이 있다고 우려했다. 당은 AI 자율 규제에 대한 견해를 묻는 청중의 질문에 AI 자율 규제 시대는 이미 끝났다고 주장하며, 정부 등 제3자의 개입이 필요하다고 역설했다. AI 규제 정책에 대해서는 정부, 민간, 시민사회 간의 긴장이 존재하는데 민간은 비즈니스 모델을 위한 자유를 원하고 정부는 인간이 감독할 필요성을 주장하고 있다며, AI 분야의 다양성을 고려해 추천 알고리즘, 대규모 언어 모델, 생성형 AI 등 분야별로 구체적인 방안을 마련할 필요가 있다고 결론내렸다. 

이처럼 AI의 무한한 가능성과 함께 한계와 문제점도 공존한다는 점을 다양한 세션을 통해 파악할 수 있었다. 그럼에도 불구하고 AI가 예전에 인터넷이 그랬던 것처럼 사회 전체에 변혁을 가져다줄 것이며, 이러한 흐름을 거스를 수는 없다는 사실은 분명하다. 일본 와세다대 타카하시 토시에(Toshie Takahashi) 교수의 일본 Z세대 인터뷰 결과를 보면, 이들 또한 AI로 인해 생길 미래의 일자리, 여가 시간의 증가, 자기실현 등을 주요 기회로 인식하고 있으면서도 오정보와 페이크 뉴스, AI에 대한 과도한 의존 등을 우려했다. 타카하시 교수는 이를 소개하면서 AI에 단순히 적응하거나 반대하는 것이 아닌 적절한 이용을 통해 인간과 사회를 재창조하는 것이 중요하다고 역설했다. 

허위 정보 대응 위한 국제적 기준과 협력 필요

AI에 대한 우려 중 가장 중요한 이슈를 선점한 것은 바로 페이크 뉴스와 허위 정보, 오정보일 것이다. 2024 IAMCR 콘퍼런스에서도 다양한 연구 발표와 토론이 진행됐다. 선거 등 국내 정치 상황과 결부된 이슈가 가장 많이 논의되는 가운데 각국의 정치·사회적 맥락에 따라 다른 규제 접근 방식과 도전 과제가 논의됐다.

가령, 대만의 경우에는 2024년 대만 대선을 기점으로 허위 정보가 조직적 차원에서 생성된 것으로 나타났다. 대만국방대(National Defense University Taiwan)의 푸 웬쳉(Fu WenCheng) 교수는 페이스북과 X(구 트위터)의 200만 개 이상의 게시물과 댓글을 수집해 AI 봇 계정을 식별하고 콘텐츠 유사성 등을 측정해 조직적인 허위 정보 유포를 밝혀내고자 했다. 그 결과, 약 1만 4,000개의 트롤(Troll) 계정을 식별하고 이로 인해 450만 건의 온라인 토론이 유발됐음을 발견했다. 또한 허위 정보의 약 3.5%는 AI로 자동 생성됐으며 약 3,700만 회 가량의 클릭을 유도한 것으로 나타났다. 이러한 허위 정보의 약 25%는 틱톡 등 해외 소셜미디어에서 유입됐으며 선거일이 가까울수록 트롤링이 증가하는 점도 확인했다. 

이처럼 대만은 중국과 미국 간 긴장 속에서 해외로부터 허위 정보 공격의 주요 타깃이 되고 있다고 국립 대만대 첸 링 훙(Chen Ling Hung) 교수는 밝힌다. 2019년 고센버그대의 연구에 따르면, 대만은 세계에서 해외로부터 가장 많은 허위 정보 공격을 받는 나라로 나타났으며, 대만은 이에 적극적으로 허위 정보 규제를 시행하고 있었다. 2018년부터 자율 규제 노드와 필터링 메커니즘을 구축하고 같은 해 외국의 개입 방지법을 통과시켰고, 2019년과 2020년에는 새로운 형태의 허위 정보를 다루기 위한 입법 개정을 제안했다. 

또한, 중앙선거관리위원회는 전통 미디어의 진실성 검증 및 공정성 원칙을 보장하도록 법률을 개정했다. 민간 부문에서도 자율 규제를 통해 허위 정보에 대응하고 있다. 대만의 민간 팩트체크가 어떻게 운영되고 자금을 조달하는지에 대한 질문에 첸 교수는 구글과 같은 다국적 기업의 지원을 받고는 있지만, 자금 확보가 어렵다고 설명했다. 첸 교수는 민간 팩트체커의 역할과 자금 조달의 어려움을 지적하며, 민간의 독립성을 유지하면서도 효과적인 허위정보 대응을 위해 국가나 국제기구의 규제가 필요하다고 강조했다.

유럽과 관련해서는 2024년 2월에 발효한 디지털서비스법(DSA, Digital Service Act)에 대한 논의가 전개됐다. 디지털서비스법은 주로 온라인상의 불법적인 콘텐츠 삭제 등 온라인 플랫폼에 대한 명확한 책임을 구축하기 위한 법으로, 주요 내용을 보면 불법적인 콘텐츠 삭제, 온라인 이용자의 권리 보호 및 강화, 대규모 온라인 플랫폼에 대한 규제 강화 등이 담겨 있다.¹⁾

리타 젠저(Rita Gsenger) 베를린자유대(Free University Berlin, Weizenbaum Institute) 교수는 디지털서비스법 발효와 관련해 독일 내 페이스북, 엑스, 이베이, 아마존, 알리바바, 구글 검색, 빙 등 총 21개 플랫폼의 서비스 약관, 커뮤니티 및 광고 가이드라인에 대한 내용 분석을 실시해 규제 대상인 허위 정보와 규제 시행 방식을 조사했다. 그 결과, 오해의 소지가 있는 콘텐츠, 사기, 유사 과학 및 음모 이론이 가장 많이 규제되는 범주였으며, 삭제가 여전히 가장 일반적인 콘텐츠 중재 방식으로 나타났다. 

유럽위원회(EC)는 콘텐츠 중재를 언급하지만, 구체적인 방법을 지정하지 않은 탓에 주로 삭제 조치만 시행되는 것으로 보인다고 젠저 교수는 부연했다. 아프리카의 경우에는 조금 다른 시각의 허위 정보 규제 전략 탐색이 이뤄졌다. 남아공 케이프타운대(University of Cape Town)의 그레이스 이툼비리(Grace Itumbiri ) 교수는 아프리카 내 콘텐츠, 문서 분석, 전문가 인터뷰를 통해 많은 아프리카 국가가 허위 정보 규제 법률을 오용해 인권을 침해하고 있음을 밝혀냈다. 독재 정권은 선거 기간 동안 정부를 옹호하거나 허위 정보를 퍼뜨리는 데 AI와 딥페이크를 활용하는 경우가 많았다. 이는 허위 정보 규제가 권위주의적 정권에 의해 악용될 수 있는 위험성을 경고한다.

이처럼 각국의 정치적 상황과 문화적 차이에 따라 허위 정보와 오정보에 대한 대응 방식은 다양하다. 페이크 뉴스와 허위 정보 문제는 단순히 기술적인 해결책을 넘어, 사회·정치적 맥락을 고려한 복합적인 접근이 필요하다. 허위 정보와 오정보를 효과적으로 규제하기 위해서는 국가 간 협력과 국제적인 기준 마련이 필수적이다. 대만과 같이 민간과 시민사회, 정부 간의 협력을 통해 규제를 만들어나가는 사례는 다른 국가들에게도 중요한 참고가 될 수 있다. 반면, 아프리카와 같이 권위주의적 정권의 규제 가이드라인 악용 문제를 방지하기 위해서는 국제적인 감시와 압력이 필요하다. 또한, 허위 정보의 기준을 확립하는 것은 여전히 어려운 과제로 남아 있으며, 이를 위해 지속적인 연구와 논의가 이뤄져야 할 것이다. 

2024 IAMCR 콘퍼런스는 생성형 AI와 페이크 뉴스, 허위 정보, 오정보와 같은 미디어 학계의 주요 문제들에 대한 심도 있는 논의의 장이었다. 다양한 연구 발표와 토론을 통해 AI 기술이 미디어와 커뮤니케이션 분야에 가져올 변화와 그에 따른 윤리·철학적 고려 사항들이 중요한 주제로 다뤄졌다. AI 기술이 사회에 미치는 영향은 단순히 기술적 측면을 넘어 철학적, 윤리적 차원에서도 중요한 문제로 대두됐다.

이번 콘퍼런스에서 다뤄진 연구들은 AI가 인간의 창의성과 협력적 혁신을 촉진하는 데 기여할 수 있다는 긍정적 시각을 제시하면서도, 동시에 AI 기술의 오남용에 따른 부작용과 그에 대한 규제의 필요성도 강조했다. 각국의 정치·사회적 맥락에 따라 허위 정보와 오정보에 대한 다양한 규제 접근 방식이 논의됐으며, 이는 국가 간 협력과 국제적인 기준 마련의 중요성을 부각시켰다.

앞으로도 이러한 논의가 지속돼 AI 기술을 올바르게 활용하고, 사회에 긍정적인 영향을 미치는 방안이 마련되기를 기대한다. AI와 인간의 협력은 피할 수 없는 미래이며, 이를 통해 더 나은 사회를 만들어 나가는 것이 우리의 과제가 될 것이다. 

1) 백연식, <[단독] 전기통신사업법 개정 윤곽...디지털서비스기본법으로 바뀐다>, 디지털타임스, 2024.7.22, https://www.digitaltoday.co.kr/news/articleView.html?idxno=433627