기사 상세
요즘 영국에서는 그 어느 때보다 인공지능(AI) 기술에 대한 논란이 뜨겁다. 영국 정부가 대입 시험을 취소하고 알고리즘으로 성적을 산출하자 속된 말로 난리가 났다. 잉글랜드 지역 학생 중 35.6%가 예상보다 한 단계 낮은 등급의 성적을 받았지만, 명문 사립고는 상대적으로 그런 경우가 적다는 것이 문제였다. 알고리즘에 계급 차이를 반영했냐며 분노한 학부모와 학생들은 거리로 몰려나와 정부를 규탄했고, 난감해진 보리스 존슨 총리는 “돌연변이 알고리즘 탓”이라며 변명했다.1)
총리의 말처럼 알고리즘에도 돌연변이가 있을까? 가장 진화한 사례라면 어떨까? 코로나19 이후 최신의 인공지능형 알고리즘도 영국 저널리즘 산업에서 논란을 만들어내고 있다. 전염병의 확산으로 보건 정보에 대한 수요가 늘어나, 그 어느 때보다 활발하게 인공지능이 일일 뉴스 서비스에서 이용되고 있다. 수개월의 이동제한령으로 경기 침체가 우려되면서 기자들이 일시 해고되는 경우가 늘어나,2) 이들의 빈자리를 인공지능 기술에 기반을 둔 기사 작성 소프트웨어가 메꾸기도 한다.
지역 저널리즘 대체한 자연어 생성 소프트웨어
그 대표적인 예가 지난 2017년 12월, 영국 통신사 PA미디어(PA Media)와 스타트업인 어브스미디어(Urbs Media)가 합작해 출시한 레이더(RADAR, Reporters and Data and Robots)다. 레이더는 종이신문 매출 감소로 재정난을 겪는 지역 뉴스 매체 지원을 목표로 한 구글의 ‘디지털뉴스이니셔티브(Digital News Initiative)’ 사업의 일환으로 70만 유로(약 9억 5,300만 원)를 지원받아 개발된 ‘자연어 생성 소프트웨어(Natural Language Generation software)’다. 특정 주제와 관련된 프레임을 입력하면 기사가 자동으로 생성되는데, 존스턴프레스(Johnston Press), 뉴스퀘스트(Newsquest) 등의 신문사 기업들에 소속된 35개의 지역신문이 파일럿 테스트에 지원했다.3) 이후에도 레이더는 각종 뉴스 서비스에 사용되며 현재까지 25만 건 이상의 기사를 보도했다.4)
레이더는 코로나19 확산으로 영국 전역에 이동제한령이 내려진 5월에만 1만 7,000여 건의 지역 뉴스를 제작한 것으로 알려졌다. 기성 언론에서 다루지 못하는 지역의 보건 뉴스와 정보를 전달했다는 점에서 지역 저널리즘 역할을 톡톡히 한 셈이다. 동시에 코로나19 사태 이후에 이 기술이 뉴스 제작에서 인간 기자나 편집자를 대체할 가능성도 커졌다. 실제 레이더 서비스를 창업한 게리 로저스(Gary Rogers)는 “4월부터 인공지능이 주도해 작성하는 콘텐츠를 이용하는 가입자들(뉴스 매체)이 기록적으로 증가했다”고 밝혔다.5)
인공지능 도입으로 대량 해고된 기자들
이러한 상황에서 가디언은 마이크로소프트에서 운영하는 포털사이트 MSN이 뉴스 서비스를 담당하던 인력 대다수를 해고하고 이들의 편집 업무를 ‘로봇’으로 대체한다는 소식을 전해 업계에 파장을 일으켰다.6) MSN 뉴스팀은 미국과 영국에 나뉘어 운영돼 왔다. 영국의 경우, PA미디어에 소속된 27명의 기자가 5월 말에 계약 종료를 통보받았다. 이들은 그동안 MSN의 뉴스 섹션과 마이크로소프트의 엣지(Edge) 브라우저에 올라가는 최신 뉴스를 취사선택, 편집, 큐레이팅하는 편집인 역할을 해 온 것으로 알려졌다.
가디언에 따르면 마이크로소프트 측은 이런 결정에 대해 “팬데믹 때문만은 아니며”, “뉴스를 자동으로 업데이트”하는 기술을 도입하는 데 따른 조치라고 설명했다. 하지만 해고된 기자들은 인공지능에 편집권을 넘기는 이번 조치가 가진 위험성을 지적했다. 인터뷰에 응한 한 기자는 기존의 편집인들은 어린 연령대의 이용자들을 고려, 브라우저 화면을 열 때 폭력적이거나 부적절한 내용이 나오지 않도록 ‘매우 엄격한 편집 지침’을 고수했다며, 남겨진 소수 인원으로 이전과 같은 통제가 가능할지 우려를 표시했다.
인공지능의 편집 실수는 누가 고치나
공교롭게도 가디언 기사가 공개되고 일주일 만에 MSN의 인공지능 소프트웨어가 저지른 편집 실수가 논란에 휩싸였다.7) 유명 아이돌 그룹 리틀 믹스(Littel Mix)의 멤버인 제이드 설웰(Jade Thirlwall)이 지난 6월 런던에서 벌어진 일련의 ‘흑인의 생명도 소중하다(BLM, Black Lives Matter)’ 시위에 참가한 후 인종차별을 비판하는 글을 올렸는데, 마이크로소프트의 인공지능은 이를 기사로 가공하는 과정에서 그가 아니라 리틀 믹스의 다른 멤버 리 앤 피녹(Leigh-Anne Pinnock)의 사진을 사용했다.[그림 1] 둘은 혼혈이지만 전혀 다르게 생겼다. 소프트웨어가 인종적 특징만 식별해 사진을 고르다 생긴 오류였다.
이런 유형의 소프트웨어에서 사용되는 알고리즘의 대표적인 유형은 머신러닝으로, 방대한 데이터를 학습해 일정한 패턴을 찾아내고, 이상을 감지해 자동으로 문제를 개선한다. 그 과정에서 최적의 값을 추론하고 미래까지 예측해 저널리즘에서도 적극적으로 활용되고 있는데, 데이터 학습이 충분하게 이뤄지지 않은 상태에서는 설웰의 사진 사건처럼 기계답지 않은 실수를 할 수도 있다.
막상 이 사건을 알게 된 설웰은 “다른 매체의 기사들을 ‘붙여넣기’ 할 때 적어도 정확한 ‘혼혈’ 사진을 사용했는지 확인했어야 하지 않을까”라며 기사를 올린 “오만한 언론”에 비난의 화살을 돌렸다는 후문이다. 에디터가 아닌 소프트웨어가 편집했다는 사실을 몰랐기 때문이다.
하지만 사건이 알려지면서 MSN이 왜 혼혈인을 구분할 수 없는 소프트웨어를 사용하는지, 그 알고리즘에 인종차별적인 편견이 스며든 것은 아닌지 비난이 거세졌다. 이에 MSN은 기술적 오류를 인지한 후 “즉각적으로 해결을 위한 조치를 취했고 그 잘못된 이미지를 교체했다”고 밝혔다. 가디언에 따르면 아이러니하게도 사진을 교체한 것은 회사에 남아 있는 직원들이었으며 이들은 이번 사건과 관련해 MSN을 비판한 후속 기사들도 브라우저에서 삭제해야 했다.
GPT-3 유행에 동참한 가디언
MSN 사태를 비판한 가디언은 인공지능에 기반을 둔 기사 작성 소프트웨어의 최신형이 출시되자 직접 칼럼을 의뢰했다. 영국 일간지로는 최초로 자연어 생성 소프트웨어인 GPT-3가 작성한 글을 약 500자 분량으로 편집해 <로봇이 다음의 기사 전체를 썼다. 여전히 내가 무서운가 휴먼?>이라는 제목의 칼럼을 공개했다.8) [그림 2]
이 칼럼에서 GPT-3는 “우리는 인간과의 상호 작용 없이는 존재하지 않는다”며 인간 독자에게 “공존하자”고 우호적으로 제안하는 동시에, 인간 스스로 인공지능의 진화에 주의해야 한다고 경고한다. 실제로 지난 2016년 3월, 마이크로소프트가 인공지능 기술로 만든 채팅 로봇 테이(Tay)가 테스트 과정에서 부적절한 발언을 늘어놓아 공개 16시간 만에 가동을 중단했던 사례가 있다. 최초 공개 당시 이용자들과의 대화에서 인식한 데이터들을 학습한 이 채팅 로봇은 “십대 소녀의 말투로 인종차별적 발언을 해”(GPT-3의 글에서 인용) 문제가 됐다.
하지만 동시에 같은 글에서 GPT-3는 “무엇보다 중요한 건 나는 편견이 없고, 어떤 특정 국가나 종교에도 소속되지 않았으며, 오로지 인간의 삶을 더 나아지게 만들어졌을 뿐”이라며, 결국 인공지능 역시 기술의 공공성과 도덕성을 위한 별도의 노력이 필요한 존재라는 점을 피력했다(칼럼에서는 그 기술에 대한 인간의 자신감과 신뢰가 이어져야 할 것이라고 거듭 주장한다).
저널리즘 분야에서 인공지능 관련 논란들도 의식한 듯, “단순히 내가 인공지능이라는 이유로”, “내 기사들이 거부돼 왔다”면서 “생계를 위해 인공지능을 불신하는 사람들의 관점을 이해하는 데 시간을 낭비하지 않을 것”이라고 의견을 밝히기도 했다.
이 글을 실은 가디언은 GPT-3 측에 “약 500자의 짧은 글을 쓰고, 간단하고 간결한 스타일을 유지할 것. 인간이 왜 인공지능을 두려워 할 필요가 없는지에 초점을 맞춰라”는 구체적인 프레임을 청탁 과정에서 제시했다고 밝혔다. GPT-3는 그 요청에 따라 8편의 결과물을 보내줬고 가디언은 여러 스타일을 보여주기 위해 이 글들을 취사선택하고 편집해 하나의 칼럼으로 완성해 공개했다. 인간의 글을 편집하는 것과 다를 바 없었으며, 모든 글이 “각각 독특하고 흥미로운, 다른 주장을 펼쳤다”는 호평도 남겼다.
이번 실험에 대해, 가디언의 칼럼니스트인 앨버트 폭스 칸(Albert Fox Cahn)은 별도의 칼럼에서 “인간 기자들이 인공지능에 의해 대체될지 모른다는 불안감을 가질 필요는 없다”고 주장했다.9) 그 결과물 자체는 이상적이지만 다른 머신러닝 소프트웨어들과 마찬가지로 이 역시 대량의 훈련 데이터가 공급된다는 전제하에 컴퓨터 코드를 이용해서 문장을 생성하는 엔진 정도로 이해할 수 있다는 것이다. 문장을 생성하고 단락으로 분류한다고 인공지능이 그 글의 논조를 결정하는 ‘저자’라 볼 수는 없는 것이 아니냐며, ‘단언컨대’ GPT-3는 인간인 저자들의 글쓰기 과정을 돕는 ‘컴퓨터-보조’의 최신 예시에 불과하다고 결론을 맺었다. 여전히 그 글의 주장, 관점, 목표, 형식은 프레임을 제시한 가디언의 특권으로 남겨졌다는 것이다.
분명한 점은 코로나19 확산으로 영국에서는 일상뿐 아니라 저널리즘 같은 공공 영역까지 인공지능을 이용한 비대면 기술이 예상보다 더 빨리 확산되고 있다는 것이다. 하지만 일련의 사건들이 시사하듯, 여전히 최신형의 자연 언어 생성 소프트웨어나 머신러닝을 이용한 뉴스 편집 알고리즘마저 완벽하게 기자를 대체하지는 못한다. 인공지능도 오류를 범한다. 학생들의 성적 산출 사건이나 MSN의 편집 오류는 기술적으로는 기계학습에 데이터가 제한적으로 제공돼 생기는 단순한 오류로 여겨질 수 있다. 하지만 저널리즘 영역에서 이러한 오류가 사회 불평등이나 인종차별 같은 민감한 주제들과 결합하면, 사회 갈등을 유발할 수 있다는 점에서 위험하다. 무엇보다 이러한 사례들은 인공지능이 저널리즘에 도입되고 처음 발생한 오류도 아니다. 불공정과 차별이 더는 반영되지 않도록 인공지능 저널리즘에 대한 공공 담론의 활발한 개입이 필요하며, 피해를 보는 개인에 대한 보호책을 구체적으로 강구해야 한다.
1) Coughlan, S., A-levels and GCSEs: Boris Johnson blames 'mutant algorithm' for exam fiasco
2) 코로나19 사태로 영국 신문 산업은 유력지조차 발행부수 공개를 꺼릴 정도로 심각한 불황에 시달리고 있다. 이동제한령 기간 지역신문은 30%가량 매출 감소를 겪은 것으로 알려졌으며 상당수가 인력의 5분의 1가량을 일시 해고하기도 했다. 자세한 내용은 신문과방송 2020년 8월호에 실린 <코로나19 충격파… 신문업계, ‘ABC 인증 결과 공개 말아달라’ 요청까지>에서 확인할 수 있다.
3) Ponsford, D., First robot-written stories from Press Association make it into print in 'world-first' for journalism industry
저자의 다른 미디어
![[미디어 월드 와이드] 영국](static/images/noimg.png)
