누구나 ‘완벽한 표현의 자유’를 누리는 플랫폼. 그간 표현의 자유를 앞세워 중립을 외쳐왔던 플랫폼 기업에 규제를 요구하는 목소리가 커지고 있다. 인권과 안전이 보장되는 사회를 만들어가기 위해 플랫폼 기업이 풀어가야 할 과제를 짚어본다. 편집자 주

지난 1월 트위터는 도널드 트럼프 전 대통령의 계정을 12시간 정지시켰다가 며칠 뒤 영구 폐쇄했다. 미국 의회 난입 사태 이후 추가적인 폭력 행위를 선동(incitement)할 위험이 있다는 이유에서였다. 트위터의 이 결정을 두고 ‘표현의 자유 침해’라는 논란이 불거졌다. 미국 수정헌법(the First Amendment)은 정부가 표현의 자유를 침해하는 경우만을 금하고 있다. 때문에 트위터와 같은 사기업이 자사의 이용약관 혹은 커뮤니티 가이드라인 위반을 근거로 특정 게시물을 삭제하거나 계정을 폐쇄하는 것은 헌법상 기본권 침해에 해당하지 않는다는 것이 미국 법학자들의 해석이다. 하지만 법리와는 별개로 개인의 발언권이 제한됐다는 측면에서 표현의 자유 침해를 논하는 이들이 많았다. 대표적으로 독일의 메르켈 총리는 “표현의 자유에 대한 규제는 민간 기업이 아니라 법에 의해 결정돼야 한다”고 했다. 이런 목소리는 몇 가지 흥미로운 논의 지점을 제기한다. 

우선 짚을 부분은 플랫폼이 가진 커다란 힘에 대한 경고다. 주지하다시피 네트워크 효과를 기반으로 한 플랫폼의 지배력은 실로 막강하다. 몇몇 미국 플랫폼 기업들이 유럽 시장을 장악하고 있다 보니 대통령의 발언권까지 좌지우지하는 미국 플랫폼 기업의 결정이 독일 총리의 입장에서 매우 위협적으로 느껴졌을 수도 있지만, 온라인 세상에서 가장 강력한 힘을 발휘하는 주체가 플랫폼 기업이라는 점은 누구도 부인할 수 없는 사실이다. 독점적 권한을 행사하는 지배적 플랫폼 기업의 활동과 결정에 대해 사회적 감시 혹은 법적 제재가 있어야 한다는 목소리가 날로 높아지는 이유다.

다음으로는 플랫폼이 게시물을 규제하는 것이 타당한지에 대한 논의다. 이는 다시 두 가지 측면에서 논의할 수 있는데, 첫째는 플랫폼은 중개자일 뿐, 즉 여러 사람이 발언할 수 있는 판을 깔아주는 역할을 할 뿐, 내용에 개입하지 않는다 혹은 개입해서는 안 된다는 시각이다. 다른 하나는 플랫폼이 내용 규제를 할 수는 있지만 법률에 의해 금지되는 표현물, 즉 불법 정보만을 규제해야 한다는 시각이다.

먼저 플랫폼은 내용에 개입하지 않는다 혹은 내용 규제를 해서는 안 된다는 시각을 살핀다. 지난해 11월 미국 주요 방송사들이 트럼프 당시 대통령의 기자회견 생중계를 중단한 적이 있었다. 그가 아무런 증거 없이 우편투표 조작설 등 허위 주장을 남발하며 선거 부정 의혹을 제기했다는 것이 그 이유였다. 방송사들의 이런 결정을 놓고 ‘트럼프 대통령의 표현의 자유를 침해했다’는 목소리는 없었다. 방송사가 어떤 내용을 방송하고 어떤 내용을 방송하지 않을지를 결정하는 것, 즉 편집권을 행사하는 것은 너무나도 당연한 일로 인식되기 때문이다. 반면 이번 트위터의 결정처럼 플랫폼이 모종의 권한을 행사하는 경우에 대해서는 표현의 자유 침해, 혹은 사적 ‘사적 검열(private censorship)’¹⁾에 대한 비판이 종종 나온다. 

물론 플랫폼과 방송사는 다르다.²⁾ 하지만 편집 관련 판단(editorial judgement)을 하는 방식과 정도가 방송사와 다를 뿐, 플랫폼도 자사 서비스를 통해 제공되는 표현물에 대해 판단을 내리고 개입한다. 특정 이용자를 공격하는 게시물(예: 명예훼손, 모욕), 특정 집단을 공격하는 게시물(예: 혐오표현), 폭력적인 영상, 스팸(spam), 아동 성착취물 등 플랫폼에는 여러 가지 종류의 불법 혹은 유해 게시물이 올라오고 이러한 게시물을 관리하지 않는 플랫폼은 유지될 수 없다. 그래서 탈레톤 길레스피(Tarleton Gillespie)는 플랫폼을 “인터넷 관리인(Custodians of the Internet)”이라 지칭하면서 “플랫폼들은 공식적으로는 (게시물을 관리한다는 사실을) 부인하면서 조율·조정해야만 한다(Platforms must moderate, while also disavowing it)”고 했다.³⁾ 플랫폼은 때로는 법적 책임(liability)을 피하기 위해 게시물을 삭제하고, 때로는 자체 가이드라인(예: 커뮤니티 가이드라인)에 따라 게시물을 삭제하거나 이용자 계정을 차단한다. 다시 강조하자면, 모든 플랫폼은 게시물을 관리하고 있으며 또한 관리해야만 한다.⁴⁾ 플랫폼이 내용에 개입하지 않는다고 보는 것 혹은 내용 규제를 해서는 안 된다고 보는 것은 현실과는 매우 동떨어진 인식이다.

다음으로, 플랫폼에 의한 내용 규제가 법률에 의해 금지되는 표현물, 즉 불법 정보 규제로 한정돼야 한다는 시각을 살핀다. 메르켈 총리의 발언은 헌법상 기본권인 표현의 자유가 법이 아니라 민간기업에 의해 규제돼서는 안 된다는 문제의식을 표현한 것이다. 그런데, 일견 타당해 보이는 이 견해는 그간 인터넷 내용 규제 관련 논의에서 여러 전문가가 주장해 온 바, 즉 자율규제가 정부 규제보다 나은 대안이라는 주장과는 상반되는 것이다. 자율규제는 정부 규제에 비해 전문성, 유연성, 효율성, 신속성, 간이성을 지니며, 피규제자(업계)의 동의 혹은 협력을 구하기가 용이하다는 점, 규제 비용이 절감된다는 점 등이 장점으로 꼽히고, 특히 내용 규제에 있어서는 정부의 간섭을 최소화하는 것이 바람직할 뿐만 아니라 글로벌 매체라는 인터넷의 속성상 자율규제가 더욱 합리적이고 바람직하다는 주장이 지속적으로 제기돼 왔다. 게다가 온라인 허위 정보에 대응하기 위해 플랫폼의 적극적인 역할을 요구하는 입장은 최근 더 강화됐다. 일례로 유럽연합은 2018년 5월 ‘허위 정보 관련 다자이해관계자포럼(Multistakeholder Forum on Disinformation)’을 소집해 업계 자율규제 방안 마련을 요청했고, 이에 페이스북, 구글, 트위터 등은 ‘허위 정보 대응 실천강령(Code of practice against disinformation)’을 2018년 9월에 공표, 시행해 오고 있다.

법적 판단은 멀고 플랫폼의 판단은 가까워

설사 플랫폼의 역할이 불법 정보를 차단하는 것에 그쳐야 한다는 시각을 견지한다고 해도 여전히 남는 문제가 있다. 대부분의 경우, 개별 게시물이 불법 정보에 해당하는지 여부를 판단하는 것은 플랫폼이라는 점이다. 이른바 ‘온라인 가짜뉴스 규제법’으로 국내에 자주 소개된 독일의 네트워크법집행법(NetzDG, Netzwerkdurchsetzungsgesetz)을 살펴보자. 이 법은 소셜네트워크 운영자에게 불법 정보를 삭제 혹은 접속 차단할 법적 의무를 부과하고 있는데, 이용자 신고를 받은 플랫폼은⁵⁾ 신고된 게시물에 대한 심사를 진행한 후 명백한 불법 게시물에 대해서는 24시간 내, 그 외의 모든 불법 게시물에 대해서는 7일 이내에 삭제하거나 접근 차단해야 한다.

네트워크법집행법상의 ‘불법 게시물’은 독일 형법에서 규정하고 있는 21가지 유형의 불법 정보 중 하나에 해당하는 것을 말하는데, ‘국민 선동’은 그러한 불법 정보 유형 중 하나다. 트럼프 전 대통령의 폭력 선동과 같은 트윗에 대해 신고가 들어오면, 그 게시물이 불법 정보에 해당하는지 여부 그래서 해당 게시물을 삭제 혹은 접속 차단할지의 여부는 플랫폼 사업자가 판단하는 것이다.⁶⁾ 게다가 이 법을 위반할 시, 즉 신고된 불법 정보를 24시간 혹은 7일 이내에 삭제하거나 접속차단하지 않았을 경우 플랫폼 사업자는 최고 5,000만 유로(약 650억 원)의 과태료를 물어야 하기 때문에 플랫폼 사업자의 입장에서는 신고된 게시물에 대한 판단이 애매할 경우에는 과태료 납부의 위험부담을 안는 것보다는 삭제를 택하는 것이 안전할 것이다. 따라서 플랫폼 사업자가 과잉차단할 가능성이 높고 이 때문에 유엔 표현의 자유 특별보고관 등은 이 법이 표현의 자유를 과도하게 침해할 위험이 있다고 비판하고 있다.⁷⁾ 즉, 아무리 법에 의해 기준을 세운다고 해도 결국 대다수의 집행은 플랫폼에 의해 이뤄지는 것이 현실이다. 온라인에서 유통되는 절대다수의 표현물에 대해, 법적 판단은 멀고 드문 반면 플랫폼의 판단은 가깝고 빈번하게 이뤄진 지 오래다. 결국 트위터가 트럼프 전 대통령의 계정을 차단한 것은 아주 눈에 띄는 사례였을 뿐, 플랫폼이 상시적으로 행해오고 있는 활동이다.

트위터의 트럼프 전 대통령 계정 폐쇄 결정에 대한 반응 중에는 오히려 플랫폼 기업이 더 적극적으로 개입해야 한다는 주장도 있었다. 법학자인 라이언 칼로(Ryan Calo)와 우드로 하트조그(Woodrow Hartzog)는 LA타임스 기고문에서⁸⁾, 소셜미디어 기업들은 10년이 넘게 자신들이 제공하는 서비스가 폭력으로 이어질 수 있다는 사실을 알고 있었고, 실제 폭력이 발생하는 것을 지켜봤음에도 불구하고⁹⁾ 너무 오랫동안 거의 아무런 조치를 하지 않았다고 비판했다. 칼로와 하트조그는 트위터의 이번 결정을 표현의 자유 침해라고 비판하는 것은 우리가 주목해야 할 중요한 문제를 가리는 것이라면서, 정작 우리가 주목해야 할 점은 플랫폼 기업들이 허위 정보와 증오심이 널리 퍼지는 것을 장려하는 시스템을 구축했고 그런 시스템을 통해 이익을 얻고 있다는 사실이라고 했다. 소셜미디어는 ‘좋아요’와 ‘하트(heart)’ 같은 즉각적인 만족감을 제공하면서 독성이 있는(toxic) 공유 활동을 장려하고, 극단적인 커뮤니티를 추천하고 가장 자극적인 게시물에 보상을 제공하는 알고리즘을 운영해 오고 있다는 것이다. 따라서, 위험한 수사법(dangerous rhetoric)을 증폭시켜 온라인 공간을 화약통처럼 일촉즉발의 상태로 만드는 기술적 디자인(user interface design choices)과 유해한(harmful) 알고리즘 작동 방식을 규제하는 방법을 고민하거나, 혹은 예측 가능한 위험에 대응하지 않았다면 주의 의무(negligence)나 제조물 책임(product liability) 관련 법리를 적용해 책임을 묻는 방안도 생각해 볼 수 있다고 했다. 이들은 플랫폼 사업자가 공동체를 안전하게 유지하기 위한 합리적 조치(reasonable measures to keep the community safe)를 취하지 않는다면 법적 책임을 물을 수 있고 또한 물어야만 한다고 주장했다.

‘증오 발언 근절을 위한 카카오의 원칙’의 시사점

한편, 독일의 네트워크법집행법에 따라 이용자 신고를 접수해 게시물을 삭제해 온 유튜브의 투명성 보고서(transparency report)를 분석해 보니 ‘증오심 표현 혹은 정치 극단주의’로 신고 및 삭제된 게시물의 비중이 가장 높았다.¹⁰⁾ 독일은 혐오표현(hate speech)에 해당하는 발언을 형법으로 금하고 있기 때문에 온라인상의 혐오표현이 이처럼 규제되고 있는 상황이다. 미국의 경우에는 이번 트럼프 전 대통령 계정 삭제 관련 논의가 보여주듯이 폭력 행위를 유발할 수 있는 정치 선동에 대해 플랫폼 사업자가 보다 적극적인 조치를 취해야 한다는 목소리가 힘을 얻고 있다.

이런 맥락에서 지난 1월 13일 카카오가 ‘증오 발언 근절을 위한 카카오의 원칙’을 발표한 것은 반가운 일이다. 카카오는 건강한 디지털 공간을 만들기 위한 ‘기업의 디지털 책임’의 일환으로 이번 원칙을 마련했다고 밝혔는데¹¹⁾, 구체적으로는 “출신(국가, 지역 등)・인종・외양・장애 및 질병 유무・사회 경제적 상황 및 지위・종교・연령・성별・성 정체성・성적 지향 또는 기타 정체성 요인 등을 이유로 인간으로서의 존엄성을 훼손하거나, 폭력을 선동하거나, 차별・편견을 조장하는 행위”를 자사 서비스에서 금지하고 강경하게 대처하겠다고 했다. 더불어 증오 발언 근절을 위해 정책, 기술, 서비스 기획 및 디자인을 고도화해 나가고 사내 교육과 모니터링을 강화하는 활동도 함께 해나가겠다고 밝혔다. 최근 인공지능 챗봇 ‘이루다’가 촉발한 논란을 보며, 카카오가 2018년 1월에 발표한 ‘카카오 알고리즘 윤리 헌장’도 떠올랐다. 이 윤리 헌장에는 ‘차별에 대한 경계’가 포함돼 있는데, 이 원칙은 카카오의 서비스로 구현된 알고리즘 결과가 특정 가치에 편향되거나 사회적인 차별을 강화하지 않도록 노력한다는 내용이다.¹²⁾

카카오는 지난 1월 ‘증오 발언 근절을 위한 카카오의 원칙’을 발표하고 그 숙의 과정을 녹서로 담아냈다. <출처 – 카카오 테크 홈페이지 https://tech.kakao.com>;

필자는 카카오 미디어자문위원으로 ‘증오 발언 근절을 위한 카카오의 원칙’을 수립하는 과정에 참여했는데, 카카오의 이번 작업이 다음의 몇 가지 측면에서 의의가 있다고 본다. 첫째는 디지털 공간에서 발생하고 있는 심각한 문제를 해결하고자 하는 플랫폼 기업의 적극적 노력이라는 점이다. 우리나라는 다른 나라와 비교할 때 인터넷 내용 규제에 있어 다수의 법적 규제 장치는 마련돼 있는 반면 자율규제의 경험과 역사는 일천한 것으로 평가된다. 법이 강제하는 사항을 따라가기도 바쁘다 보니 플랫폼 기업이 자체 규정을 만드는 일에는 오히려 소홀했던 측면이 있었던 것인데, 온라인 혐오표현과 같은 심각한 문제를 해결하기 위해 플랫폼 기업이 적극적으로 나서는 것이 필요하고 타당하다.

둘째는 해당 원칙 수립 과정에서 미디어자문위소속 전문가뿐만 아니라 다양한 이해관계자의 의견을 듣고자 노력했다는 점이다. 특히 혐오표현과 표현의 자유에 대해 고민하고 사회적 변화를 촉구해온 10개 시민사회단체의 활동가들을 초대해 의견을 청취했다. 바람직한 자율규제가 갖춰야 할 요건 중의 하나는 절차적 공정성이고 여기에는 참여자의 대표성 확보도 포함된다. 앞으로 자율규제를 고민하는 플랫폼 기업은 이용자, 시민사회, 전문가 등 여러 이해관계자의 견해를 청취하고 반영하는 절차를 마련해 운용할 필요가 있다.

셋째는 1년여 동안 이뤄진 숙의 과정을 녹서(green paper)로 담아냈다는 점이다. 녹서에는 카카오가 정책 마련에 나선 배경, 국내·외 대응의 현주소, 민·관·학 공동연구의 결과물, 데이터 분석 결과, 회의 녹취록 등이 담겨있고 해당 녹서는 온라인에 공개돼 있다. 날로 다원화하고 여러 가치가 충돌하는 작금의 사회 환경에서는, 또한 디지털 공간에서 발생하는 새로운 유형의 문제에 대응하기 위해서는 최종 결정 사항 못지않게 그러한 결정을 도출하는 데 누가 참여했으며 어떠한 논의 과정을 거쳐 그러한 결정이 도출됐는지가 중요하다. 녹서는 이를 보여주는 기록이라는 점에서 의의가 있고, 또한 향후 논의에 유용한 기초 자료가 된다.

민주주의의 정상적 작동을 위한 플랫폼의 역할

모든 이용자가 모든 종류의 표현물을 아무런 제한 없이 자유롭게 게시하는 플랫폼은 환상 속에 존재하는 공간일 뿐이다. 플랫폼은 법적 책임을 피하기 위해서, 이용자와 시장의 요구를 반영하기 위해서, 자사 서비스 품질 유지를 위해서, 혹은 사회적 책무를 다하기 위해서 표현물을 관리하고 규제한다. 설사 표현물을 규제하지 않는 플랫폼이 있다고 해도 그 플랫폼을 표현의 자유가 최대한 구현되는 공간이라고 볼 수도 없다. 스팸으로 도배되는 게시판을 떠올려보면 쉽게 알 수 있듯이, 소수가 표현의 자유를 독점하고 남용하는 공간에서는 다수의 표현의 자유를 보장하기 위해서라도 규제가 필요하다.

따라서 이제 우리가 해야 할 논의는 플랫폼이 내용 규제를 하는 것이 과연 타당한지가 아니라 플랫폼은 어떠한 경우에 어떠한 방식으로 개입해야 하는가 하는 것이다. 유엔 표현의 자유 특별보고관은 온라인 혐오를 방치했을 때의 결과가 비극적일 수 있다면서, 플랫폼들은 자신들의 기업 활동이 인권에 지대한 영향을 미친다는 점을 인식하고 적절한 조치(due diligence)를 취해야한다고 했다. 구체적으로는 플랫폼 기업이 자사의 혐오표현 대응 정책기준을 명확히 설명하고 투명하고 일관되게 정책을 집행하며 이의제기 절차를 마련할 것, 게시물 삭제뿐만 아니라 빠른 확산을 제한하는 조치·출처 표시·경제적 이윤 추구 제한·봇(bot)의 사용을 막는 조치·대항 표현 장려 조치 등 다양한 방법을 활용해 혐오표현에 대응할 것을 주문했다.¹³⁾ 이제는 트럼프 전 대통령의 표현의 자유가 침해됐다는 우려를 넘어, 트럼프와 같은 자들의 발언 때문에 인권과 안전을 위협받는 사람들을 보호하기 위해서, 또한 민주주의의 정상적인 작동을 위해서 플랫폼 기업이 무엇을 해야 할지를 논의할 때다.

1) 여기서 ‘검열’은 법률 용어, 즉 행정권이 주체가 돼 행하는 사전검열(prior restraint)을 의미하는 용어가 아니라, 영어 ‘censorship’의 번역 표현이다. 

2) 미국이 통신품위법(CDA, Communications Decency Act) 제230조에서 ‘정보서비스 제공자(ISP, Information Service Provider)’는 ‘발행인(publisher)’으로 간주하지 않는다고 명시하고, 따라서 이용자가 게시한 명예훼손 게시물에 대해 정보서비스제공자에게 법적 책임을 지우지 않는 입장을 취하고 있는 것도 트위터와 방송사는 다르다는 구분에서 출발한다. 반면 우리 대법원은 이용자가 게시한 명예훼손 게시물로 인해 포털에게 손해배상 책임이 발생하는 경우도 있다는 입장이다. 2009년에 내린 판결에서 대법원은 ①명예훼손적 게시물의 불법성이 명백하고 ②사업자가 피해자에게서 구체적·개별적 게시물의 삭제와 차단 요구를 받은 경우는 물론 ③피해자에게서 직접적 요구를

받지 않았더라도 게시물이 게시된 사정을 구체적으로 인식하고 있었거나 그 게시물의 존재를 인식할 수 있었음이 외관상 명백히 드러나며 ④기술적·경제적으로 그 게시물에 대한 관리·통제가 가능한 경우에는 그 게시물을 삭제하고 반복 게시를 차단할 주의 의무가 발생하며 상당 기간이 지나도록 삭제 등의 처리를 하지 않아 손해가 발생한 경우에는 불법행위 책임이 성립한다고 했다(2008다53812).

3) 길레스피는 마이크로소프트가 운영하는 연구소(Microsoft Research Lab-New England)의 수석연구원이자 코넬대 커뮤니케이션학과 교수다. 그가 2018년에 출간한 책이 《인터넷 관리인(Custodians of the Internet)》이며 본문에 인용한 문장은 책의 5쪽에 나오는 소제목이다.

4) 영어로는 이러한 활동을 모더레이트(moderate) 혹은 모더레이션(moderation)이라고 하고, 소셜미디어 기업에서 게시물 관리 작업을 담당하는 사람을 ‘콘텐트 모더레이터(content moderator)’라 부른다.

5) 정확히는 ‘독일 국내 등록 사용자가 200만 명이 넘는 소셜네트워크의 운영자’가 이 법의 적용 대상이다.

6) 판단이 어려운 경우 외부 자율규제 기관에 판단을 의뢰할 수는 있으나 거의 대부분의 경우 플랫폼 사업자의 자체 판단이다.

7) Kaye, D., <Mandate of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression>, OHCHR, 2017.6.1, https://www.ohchr.org/Documents/Issues/Opinion/Legislation/OL-DEU-1-2017.pdf

8) Calo, R. & Hartzog, W., <Op-Ed: Banning Trump from Twitter and Facebook isn’t nearly enough>, LA Times, 2021. 1. 15, https://www.latimes. com/opinion/story/2021-01-15/facebook-twitter-extremism-donald-trump violence

9) 대표적인 예는 2016년 미얀마에서 일어난 로힝야족에 대한 인종 학살인데, 미얀마 군부는 700여 명의 군 요원을 동원해 가짜 페이스북 계정을 운영했고 페이스북을 통해 이슬람교를 믿는 소수민족인 로힝야족에 대한 혐오표현과 허위 정보를 널리 유포했다. 페이스북은 2018년이 돼서야 해당 계정들을 폐쇄해 많은 비판을 받았다.

10) 김민정·박한우·정정주, 《해외 인터넷플랫폼의 유해 콘텐츠와 허위정보 대응방안》, 한국언론진흥재단 지정주제 연구보고서, 182-184쪽, 2019.7.

11) 자세한 내용은 카카오 정책산업 연구팀이 운영하는 브런치의 관련 게시글(https://brunch.co.kr/@kakao-it/383)에서 확인할 수 있다.

12) 자세한 내용은 브런치 게시글(https://brunch.co.kr/@kakao-it/186) 참조. ‘카카오 알고리즘 윤리헌장’은 5개의 원칙으로 시작했는데, 두 번의 개정을 거쳐 현재는 총 7개의 원칙으로 구성돼 있다(https://brunch.co.kr/@kakao-it/350).

13) Kaye, D., <Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression>, UN 2019, https://www.ohchr.org/Documents/Issues/Expression/A_74_48050_AdvanceUneditedVersion.docx