기사 상세
다른 국가와 마찬가지로 독일에서도 인공지능(AI) 뉴스 추천 시스템에 대한 우려가 크다. 독일에서는 특히 문화 간 갈등이 극우 경향성을 넘어 실제적 폭력으로 나타나고 있으며, 알고리즘에 의해 조정되는 선택적 뉴스 소비는 극단적 성향을 더욱 강화하는 위험 요소로 인식된다. 이에 대응해 알고리즘의 역이용을 통한 다양한 뉴스 소비, 공공 미디어 강화, 시민들의 디지털 리터러시 강화 등의 대책이 요구되고 있다. 독일 연방하원 인공지능조사위원회(Enquete-Kommission Knstliche Intelligenz)1)는 최근 발표한 보고서에서 이러한 내용을 담은 미디어 분야 AI 현황과 제언을 내놓았다.
독일 연방하원 인공지능조사위원회는 독일 전 영역에 걸쳐 인공지능의 사회적 책임과 사회 경제적 잠재력을 분석한 최종보고서를 지난 10월 28일 연방하원의장에게 제출했다. 본고에서는 최종보고서 중 ‘인공지능과 미디어’ 프로젝트 그룹의 부분 보고서2)를 통해 독일 사회가 미디어 분야 AI 현황을 어느 정도로 파악하고 있으며, 어떻게 전망하고 있는지 소개한다. 이 보고서는 독일 사회가 미디어 분야에서 어떤 원칙을 가지고 AI를 다룰 것인지 해당 분야의 정책 방향성을 설정했다는 데 의의가 있다.
AI에도 바이라인이 필요하다
인공지능조사위원회는 미디어 분야를 콘텐츠 제작, 전파 및 규제 부문으로 나눠 분석했다. 콘텐츠 제작 과정에서 AI가 적용된 부분은 이미 많다. 스포츠 결과나 날씨 데이터 등 기본적인 정보 입력이 대표적인 사례다. AI 생성 문장은 데이터 뱅크에서 수집, 알고리즘에 적용돼 필요시 숫자와 이름 등을 업데이트하는 방식으로 생성된다. 문제는 자동 텍스트 생성기반인 데이터 뱅크가 이윤을 추구하는 사업자에 의해 운영된다는 점이다. 인공지능조사위원회는 “향후 미디어 분야의 인공지능 프로젝트를 추진하기 위해서는 국가 기관에 의한 공공 데이터아카이브 구축이 필요해 보인다”고 밝혔다. 이는 한국언론진흥재단이 운영 중인 빅카인즈 같은 오픈 데이터 소스를 의미하는 것으로 이 분야에서는 독일이 한발 뒤처져 있는 셈이다. 인공지능조사위원회는 이어 AI로 생성된 기사에는 이른바 ‘바이라인’이 필요하다고 강조했다. 조사위원회는 “AI는 기자들이 하는 취재, 취재원 인터뷰, 현장 르포, 오피니언 작성을 할 수는 없다”면서 “언론 활동의 신뢰성을 위해서 AI로 생성된 문장에는 지속적이고 일관적인 표시가 필요하다”고 설명했다.
딥페이크(Deep Fake)라 불리는 음성 및 영상 조작이 AI 작업으로 더욱 정교해짐에 따라 이를 검증할 수 있는 독립적인 기관의 필요성도 강조됐다. 콘텐츠 검증 기관은 미디어 콘텐츠의 출처, 진위, 신빙성(Aussagekraft) 등을 평가하며, 언론 분야는 물론 사법기관, 미디어 기업 및 정치 기관 등이 서비스를 이용할 수 있도록 해야 한다고 인공지능조사위원회는 권고했다. 또한 “인공지능의 저널리즘적인 활용은 기계 판독이 가능한 방대한 양의 데이터를 기반으로 하는데 이는 대체로 상업적인 몇몇 공급자들의 손에 집중돼 있다. 이러한 관점에서 언론인, 학자, 시장 및 감독기관 등이 데이터 풀에 접근할 수 있는 광범위한 중개 개방형 인터페이스를 구축해야 한다. 이는 공공 정보 및 연구 과제를 수행하고, 적절한 통제권을 행사하기 위해 중요하다”고 강조했다.
독일은 미디어 사업자들의 이익단체, 민영방송 허가 등을 담당하는 기구는 있지만, 언론 미디어 분야 지원 정책 전반을 담당하거나 새로운 미디어 분야를 발빠르게 파악하며 관련 정책을 시행할 수 있는 공공기관이 따로 없다. 국가의 경계를 넘나들며 다면화, 상업화되는 미디어 시장을 관리, 규제하며 공공성을 지켜나갈 공공기관의 필요성이 증가하고 있는 이유다.
알고리즘 작동 원리와 데이터 공개해야
전통 미디어가 게이트키퍼(Gatekeeper) 역할을 하던 시기는 지났다. 지금 미디어 콘텐츠의 전파 과정에서 게이트키퍼 역할을 하는 건 알고리즘이다. 인공지능조사위원회는 “알고리즘이 추천하는 개인 맞춤형 뉴스가 저널리즘의 기준보다 알고리즘을 운영하는 기업의 이윤을 따른다는 사실은 미디어 중개자(Intermedi re)3)가 정치적 여론 형성에 미치는 영향에 대해 문제를 제기한다”고 밝혔다. 미디어 중개자의 실질적인 영향을 분석하기 위해서는 데이터에 접근할 수 있어야 하지만, 대부분의 미디어 중개자 플랫폼이 미국을 기반으로 하며 알고리즘이나 데이터 공개가 제대로 이뤄지지 않고 있다. 조사위원회는 독일이나 유럽권에서 관련 연구가 충분치 않다면서 알고리즘의 작동 방식은 물론 수집된 사용자 데이터 등에 대한 투명성을 높이고 연구자들을 위한 접근성을 강화해야 한다는 입장이다.
인공지능조사위원회는 “알고리즘 선택 뉴스가 여론 형성 과정에 미치는 영향, 이러한 정치적 마이크로 타깃팅이 정치적 결정에 미치는 영향에 대한 학제간 연구가 필요하다. 특히 지배적인 중개자 플랫폼은 이를 위한 질적·양적 연구를 가능하게 할 의무가 있다”고 밝혔다.
AI에 기반한 소셜봇의 커뮤니케이션 또한 정치적 토론에 영향을 미칠 수 있는지도 충분히 검증되지 않았다. 인공지능조사위원회는 인공지능에 기반한 소셜봇이 증명될 수 있는지, 있다면 정치적 의견 형성에 어떤 잠재력을 가졌는지, 정치적 결정에 어떤 역할을 할 수 있는지에 대해 자문했지만 “전문가들, 즉 학자, 보안당국, 시민사회의 의견이 모두 달랐다”고 한다. 그만큼 연구에 활용할 수 있는 데이터 기반이 충분하지 않다고 조사위원회는 보고 있다. 따라서 “소셜봇으로 인한 실질적(정치적 결정에 영향을 미치는) 위협을 증명하기 위해서는 플랫폼 운영사와의 협업이 필수적”이며 “미디어 중개자들은 학술적 연구를 위한 접점을 지금보다 더 많이 구축해야 한다”고 지적했다.
결국 AI를 통한 콘텐츠 전파 과정은 다원적 여론 형성에 부정적 영향을 줄 가능성이 높아 보이지만 실증적인 연구가 부족한 상태다. 조사위원회는 일차적으로는 연구를 위한 데이터 공개를 강조하고 있다. 동시에 공개된 데이터를 바탕으로 연구가 이뤄지고 비균형적인 여론 형성에 영향을 미친다는 것이 입증될 경우에는 관련 규제가 적용될 수 있음을 시사하는 부분이기도 하다. 취향에 맞는 콘텐츠 소비, 즉 필터버블은 플랫폼의 이윤 상승에는 도움이 될지언정 민주주의 사회의 다원성에는 부정적인 영향을 미치기 때문이다.
강력하고 포괄적인 관리기구 필요
미디어 분야 AI 관련 규제 부문에서는 최근 발효된 독일 미디어국가협약(Medienstaatsvertrag)4)과 규제를 강화하는 방향으로 개정된 네트워크집행법(Netzwerkdurchsetzungsgesetz)5)이 재차 언급됐다.
독일에서는 지난 11월 7일 기존의 방송국가협약을 대체하는 새로운 미디어국가협약이 발효됐다. 이 미디어법에는 미디어 중개자 개념이 처음으로 도입됐으며, 인공지능 및 알고리즘의 투명성과 작동원리 공개 의무를 이미 명시해 놨다. 미디어 중개자의 콘텐츠 관리 책임을 골자로 하는 네트워크집행법에도 AI와 알고리즘 관련한 사안이 명시돼 있다.
네트워크집행법에 따르면 미디어 중개자는 위법적인 콘텐츠에 대한 신고를 받고, 신고 접수 이후 24시간 내 콘텐츠를 평가하고 삭제할 의무가 있다. 인공지능조사위원회는 온라인 플랫폼에서 매일 이뤄지는 토론의 양을 볼 때 이러한 과제를 알고리즘을 통해서 수행하고 있다고 판단했다. 하지만 AI를 통한 자동필터는 혐오 발언 등을 인식하고 분류하는데 아직 완벽하지 않다. 특히 아이러니, 과장, 풍자, 패러디, 인용 등 역설적이고 경계적인 콘텐츠의 경우 그 사회적 맥락을 평가하지 못한다. 따라서 콘텐츠 검증을 AI에게만 맡겨놓는 경우 과잉 차단(Overblocking)의 위험성이 존재하며 결국 표현의 자유를 제한하는 결과를 낳는다. 조사위원회는 “AI의 취약성을 인식하고 의미론적 영역에서 연구를 계속 추진해야 한다”고 조언했다.
조사위원회는 또한 방송 관리기구인 주미디어청(Landesmedienanstalte)의 역할을 좀 더 강화하고 확대해야 한다고 밝혔다. 조직 구성원들의 AI 전문성이 확보돼야 하며, 지리적 경계가 있는 기존 매체(방송)와는 달리 현재 미디어 시장에는 경계가 없는 만큼 적용 범위 확대가 필요하다는 입장이다. 한편 이로 인해 통신, 카르텔, 공공서비스, 형사 관련법 등 주 정부 관할과 연방 관할이 겹치는 경우 이를 조정하고 협력해 중복된 규제 관리를 방지해야 한다고 밝혔다.
‘외국산’ AI가 결정하는 공론장 막아야
독일 연방하원 인공지능조사위원회는 미디어 분야 AI 활용에 대한 포괄적인 논의의 결과로 SWOT 분석을 제시했다.[표] 여기서 주목할 만한 부분은 AI 알고리즘의 역이용이다. 알고리즘이 사용자의 행태를 파악해 특정 콘텐츠를 선택할 수 있다면, 선택되지 않은 콘텐츠 또한 처리할 수 있다는 뜻이다. 알고리즘을 통해서 역으로 민주주의적 다양성을 보장할 가능성을 엿본 것이다. 이는 독일의 새 미디어법에 나타난 콘텐츠의 ‘노출(Auffindbarkeit)’을 의무화시키는 제도와 일맥상통한다. 온라인 플랫폼에서도 공공성을 가지거나 다양성에 기여하는 콘텐츠가 소비자들에게 넉넉하게 발견될 수 있어야 한다는 취지다.
포털사이트를 중심으로 뉴스를 소비하는 한국과는 달리 독일에서는 미디어 중개자, 즉 소셜네트워크서비스를 통한 뉴스 소비가 더 일반적이며, 이들이 운영하는 알고리즘의 투명성에 대한 문제의식이 크다. 독일이 특히 경계하는 부분은 독일 온라인 공론장을 주도하는 플랫폼이 모두 미국의 사기업이라는 점이다. 현재 구조를 방치할 경우 독일은 기본법이 보장하는 민주주의와 표현의 자유, 공론장에서 이뤄지는 정치적 토론과 결정을 ‘외국산’ 플랫폼에 의존하게 된다. 독일에서 미디어 중개 플랫폼은 가짜뉴스와 극우 콘텐츠의 온상으로 여겨지고, 극우 콘텐츠에서 발화된 물리적 폭력마저 온라인 플랫폼에서 생중계되는 현상이 벌어지고 있다. 최근 발효된 미디어법과 강화된 네트워크집행법 등은 이러한 플랫폼을 정확하게 겨냥한다. 연방하원 인공지능조사위원회 또한 관련법에 다시 한번 힘을 실어주고 있다.
인공지능조사위원회는 “미디어 정책은 인공지능 시대에도 민주주의와 표현의 자유에 필수적인 미디어의 기본 원칙들을 보장해야 한다”면서 “(정치적) 여론 형성에 인공지능 시스템이 미치는 영향을 파악하기 위해 아직 연구하고 밝혀야 할 부분이 많다. 정치와 학술계가 거대한 미디어 중개자와 더욱 협력해야 하며 미디어 중개자들은 데이터와 정보 소스를 공개해야 한다”고 강조했다.
1) 독일 연방하원 조사위원회(Enquete-Kommission)는 독일의 대표적인 정책논의 기구로, 연방 하원의원과 전문가가 동등한 자격으로 참여해 시대적으로 중요한 문제를 장기적 관점에서 조사하고 논의한다. 그동안 헌법개정, 통일 문제, 세계화, 에너지 공급 안전 등 주제로 조사위원회가 꾸려졌으며, 관련 사안에 대한 향후 규정 및 발전 가능성, 정책 대안을 제시하고 있다. 2018년 6월 제안돼 같은 해 9월 설치된 인공지능조사위원회는 경제, 국가, 보건, 노동·교육·학술, 모빌리티, 미디어 분야로 나눠 프로젝트 그룹을 구성했으며, 분야별 AI 적용 현황을 분석하고 정책 방향을 제언했다 (인공지능조사위원회 최종보고서 원문 참조; <Unterrichtung der Enquete-Kommission Künstliche Intelligenz –Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale>, Enquete-Kommission Künstliche Intelligenz, 2020.10.28, https://dip21.bundestag.de/dip21/btd/19/237/1923700.pdf).
2) 인공지능조사위원회의 ‘인공지능과 미디어’ 프로젝트 부문에는 연방하원 및 전문가 총 18명이 참여했다. 참여한 전문가는 뮌헨 철학대(Hochschule f r Philosophie M chen) 학장이자 미디어윤리학 교수 알렉산더 필리포빅(Alexander Filipovi ), AI 스타트업 팔라마인드(Parlamind) 대표 및 컴퓨터언어학자 티나 클뤼버(Tina Kl wer) 박사, 테크 분야 전문 변호사 얀 쿨렌(Jan Kuhlen), 디지털화 관련 시민단체 이니티아티브데21(Initiative D21 e.V)의 대표 레나 소피 뮐러(Lena-Sophie M ller), 알요샤 부르하르트(Aljoscha Burchardt) 독일인공지능연구소(Deutschen Forschungszentrums f r K nstliche Intelligenz) 박사, 카타리나 츠바이크(Katharina Zweig) 카이저스라우턴 공대(TU Kaiserslautern) 컴퓨터공학 교수 및 알고리즘어카운터빌리티랩(Algorithm Accountability Lab) 소장 등이 있다.
3) 미디어 중개자는 뉴스나 정보를 직접 제작하거나 논평하지 않고 기존의 언론 미디어 콘텐츠를 연결하는 서비스로 페이스북, 유튜브 등과 같은 온라인 플랫폼을 의미한다. 여론 형성에 영향을 미치는 제3국의 플랫폼을 관리, 규제하기 위해 도입한 개념이다.
4) 독일 미디어법에 대한 자세한 내용은 다음 참고. 이유진, <새 ‘미디어법’에서 빠져나갈 플랫폼은 없다>, 신문과방송, 2020년 2월호, https://www.kpf.or.kr/synap/skin/doc.html?fn=ALLF_202002040519252560.pdf&rs=/synap/result/upload/newspaper
5) 독일 네트워크집행법에 대한 자세한 내용은 다음 참고. 이유진, <네트워크집행법, 진실이 아닌 표현은 보호의 대상이 아니다>, 신문과방송, 2019년 11월호, https://www.kpf.or.kr/synap/skin/doc.html?fn=ALLF_201911010239562970.pdf&rs=/synap/result/upload/newspaper/
저자의 다른 미디어
![[미디어월드와이드] 독일](static/images/noimg.png)
