기사 상세
지난 9월 보도된 ‘페이스북 파일’은 세계 사람들에게 충격을 안겼다. 민낯이 낱낱이 드러난 페이스북은 거센 비판을 받았고, 전체 빅테크 기업에 대한 규제 논의를 촉발하는 역할을 했다. ‘페이스북 파일’의 구체적 내용은 무엇이며, 이번 사건을 통해 우리 사회가 논의해야 할 것은 무엇인지 알아본다. 편집자 주
‘페이스북 파일’ 보도
2021년 9월, 월스트리트저널에 ‘페이스북 파일(the facebook files)’1)이라는 탐사보도 시리즈가 게시됐다. 페이스북2)에서 근무하던 내부 고발자의 문서를 토대로 작성한 이 기사는 큰 반향을 일으켰다. 페이스북이 서비스와 알고리즘의 폐해를 알면서도 회사의 이익을 위해 얼마나 많은 비도덕적 결정을 내려왔는지를 적나라하게 보여줬기 때문이다. 월스트리트저널이 보도한 내용은 다음과 같다.
△ 정책과 규칙이 이용자 모두에게 적용된다고 말해왔지만, 이로부터 면제되는 비밀 특권층이 있었다: ‘엑스체크(XCheck)’, ‘크로스체크(cross check)’라는 VIP 전용 프로그램을 적용받는 특정인들은 콘텐츠 숨김·삭제와 같은 유해 게시물 차단 정책의 제재를 받지 않았다. 축구선수 네이마르가 페이스북과 인스타그램에 자신과 소송 관계에 있는 여성의 나체사진을 오랜 기간 올려둘 수 있었던 것은 이 때문이었다.
△ 인스타그램의 유해성을 알면서도 묵과했다: 인스타그램이 10대 소녀들의 불안과 우울증, 자살 충동을 증가시키는 등의 악영향을 미친다는 사실을 내부 연구를 통해 파악했지만, 페이스북은 공개석상에서 이를 부인하고 결과를 숨겨왔다.
△ 플랫폼을 더 건강한 장소로 만들려 노력해 왔다고 했지만, 거짓이었다: 페이스북은 친구 및 가족과의 상호작용을 촉진하겠다는 취지로 2018년 알고리즘을 개편했다. 그러나 사실은 선정적이고 증오를 부추기는 콘텐츠가 더 많이 노출되고 이용자의 양극화와 적대감이 심화하는 반대 효과가 나타나고 있었다. 개선 건의가 있었지만, 마크 저커버그는 ‘이용 시간이 줄어들 우려’ 때문에 적극적인 대응을 외면했다.
△ 개발도상국에서 발생하는 플랫폼상의 마약 거래와 인신매매에 대응하지 않았다: 에티오피아의 무장단체가 소수민족에 대해 폭력을 선동하기 위해 페이스북을 사용했고, 중동에서는 여성 인신매매를 위해 페이스북을 활용했다. 페이스북이 장기매매나 포르노물 거래의 장이 되기도 했다. 이러한 사례를 발견한 직원들의 경고가 있었지만, 회사의 대응은 미흡했다.
△ 10대 초반의 어린 이용자들을 유치하기 위해 부적합한 노력을 기울였다: 페이스북은 어린 이용자들을 자사 앱으로 유인하기 위한 계획을 수립하고 계속 이어왔다. 수많은 프로젝트가 진행되는 과정에서 어린 이용자들에게 좋지 않은 결과들이 무시되거나 오히려 활용됐다.
내부 고발자의 등장과 후속 보도
보도 이후, 10월 3일에는 내부 고발자가 CBS 방송의 시사 프로그램 <60분(60 Minutes)>에 출연해 정체를 드러냈다. 고발자는 프랜시스 하우겐(Frances Haugen). 페이스북에서 선거 관련 허위 정보의 확산을 막는 일을 담당했던 데이터 엔지니어였다. 하우겐은 사회적 안전보다 기업의 이익을 우선시하는 페이스북 경영진의 태도를 참을 수 없어 내부 고발을 결심했다고 말했다. 그는 사내 소셜미디어인 ‘페이스북 워크플레이스(Facebook Workplace)’에서 방대한 내부 보고서와 연구 자료 등을 찾아내고 퇴사 후 이를 공개함으로써 페이스북 알고리즘의 위험성을 알리고 경영진의 의도적 방치를 폭로했다. 하우겐은 10월 5일과 25일, 각각 미국 상원과 영국 하원 청문회에 출석해 플랫폼에 대한 규제를 촉구하는 등 활동을 이어가고 있다.
보도도 계속됐다. 10월 22일부터 CNN과 폭스비즈니스, 뉴욕타임스, 폴리티코 등 17개 언론사는 컨소시엄을 구성해 내부 고발 문건을 토대로 <페이스북 페이퍼(Facebook Papers)>라는 시리즈를 보도했다. 이를 통해 페이스북이 작년 미국 대선 과정에서 허위 정보에 미온적으로 대처하거나 잘못된 조치를 내려 의회 폭동 사건 발생에 일조했고, 정치적 콘텐츠 검열에 협력하지 않으면 페이스북을 폐쇄하겠다는 베트남 정부의 협박에 협력했으며, ‘좋아요’나 ‘화나요’ 버튼의 부작용을 충분히 인지하면서도 이용자 참여를 유도하기 위해 오히려 이를 활용했다는 사실이 추가로 밝혀졌다. 콘텐츠 감시 시스템이 비영어권 국가에서는 제대로 작동하지 않는다는 사실도 이 과정에서 드러났다.
드러난 페이스북의 민낯?
일련의 보도가 보여준 것은 페이스북이 기업의 이익을 의사결정의 우선 기준으로 삼아 왔고, 이로 인해 온라인상에서 정치적 극화나 증오, 이용자 불안감이 악화했으며, 내부 직원의 확인과 경고에도 불구하고 페이스북이 이를 의도적으로 묵과했다는 사실이다. 페이스북은 순식간에 ‘도덕적으로 파산한 상태’가 돼 거센 비판에 직면했다. 비영리 단체들은 페이스북의 개인정보 수집에 반대하는 서명을 받는 등 캠페인을 진행했고, 의회는 프라이버시 보호와 반독점법 강화, 온라인상의 어린이 보호, 소셜미디어 알고리즘 투명성 제고, 온라인 플랫폼의 책무성 강화를 이야기했다. 하우겐의 폭로를 계기로 페이스북의 ‘사악한 민낯’이 공개됐다며, 모두가 페이스북에 대한 조사와 빅테크 기업에 대한 규제의 목소리를 높이는 모양이다.
그러나 생각해봐야 할 점은, 이런 스캔들이 처음 있는 일은 아니라는 점이다. 페이스북은 이미 2017년에 이른바 ‘케임브리지애널리티카(Cambridge Analytica)’ 스캔들을 경험한 바 있다. 이는 데이터 기반 정치 컨설팅 업체인 케임브리지애널리티카가 퀴즈 앱을 활용해 5,000만여 계정의 개인정보를 부적절하게 입수하고 이 정보를 도널드 트럼프의 대선 캠페인에 활용했던 사건이다. 플랫폼상의 개인정보가 특정한 목적을 위해 부적절하게 활용되고 그 과정이 묵인될 수 있음이 밝혀지면서 ‘#DeleteFacebook’과 같은 페이스북 삭제 운동이 촉발되기도 했다.
하우겐이 폭로한 내용도 일부는 ‘알고리즘 편향성’과 관련해 우리가 교과서적으로 이미 알고 있거나 상상할 수 있는 사례들에 가깝다. 콘텐츠 알고리즘이 이용자가 플랫폼을 머무는 시간을 최대화하는 방향으로 설계돼 콘텐츠의 ‘극단화(radicalization)’를 일으킬 수 있다는 우려는 지속해서 제기돼 왔고3) 오늘날 이러한 비판에서 완전히 자유로운 플랫폼은 거의 없다.
드러난 알고리즘의 작동
이를 고려하면, 하우겐의 고발과 일련의 기사들을 근거로 페이스북 자체를 ‘악마화’하는 것은 적절치 않은 일이다. 비도덕적인 것은 경영진의 의사결정 기준과 과정이지, 플랫폼 자체는 아니라는 말이다. 오히려 우리는 페이스북 내부에서도 플랫폼의 효과와 알고리즘의 작동을 정확히 알기 위해 수많은 연구를 진행하고 있다는 점, 그리고 내부 고발자가 없다면 외부에서는 그 결과를 알 길이 전혀 없다는 점에 주목할 필요가 있다.
페이스북은 ‘FB러너플로(FBLearner Flow)’라는 내부 도구를 개발해 머신러닝 경험이 없는 엔지니어들도 필요한 모델을 쉽게 개발할 수 있게 했고, 팀마다 목표에 따라 이를 활용하기 때문에 아무도 시스템의 모든 부분은 추적할 수 없는 구조를 하고 있다. 저커버그가 코로나19 백신 접종 촉진을 회사의 최우선 과제로 삼았음에도 백신 배포에 반대하는 메시지들이 페이스북에 유통됐다는 사실은 CEO의 의지에도 알고리즘의 작동을 완전히 통제할 수 없음을 보여준다. 알고리즘의 작동은 블랙박스화돼서 일련의 연구를 통해 부분적으로만 밝혀진다. 플랫폼과 알고리즘이 마치 공기처럼 자연스러운 환경이 된 상황에서는 연구나 내부 고발 같은 ‘이벤트’가 없이는 편향성을 밝혀내거나 이에 주목할 만한 계기가 만들어지지 않는다.
더구나 증오와 분열을 초래하는 페이스북 알고리즘의 문제가 이용자의 참여(engagement)를 최대화하는 ‘참여 기반 랭킹(engagement-based ranking)’에 의존하고 있다는 이번 폭로는 악의적 콘텐츠에 대한 ‘수요’가 존재하고, 이에 대응하는 악의적 이용자들이 존재함을 보여준다. 참여와 공유, 개방을 근간으로 하는 소셜미디어가 트롤링(trolling)이나 혐오 표현과 뗄 수 없는 관계에 있다는 사실을 상기하면, 이용자인 우리가 모두 ‘페이스북 파일’의 사례들에 조금씩은 책임을 지고 있는 셈이다.
페이스북 악마화를 넘어
이러한 맥락에서, ‘페이스북 파일’ 스캔들은 빅테크에 대한 제도적 규제론을 넘어, 빅테크에 대한 사회적, 일상적 감시 체계의 구축이라는 보다 큰 맥락과 연결될 필요가 있다. ‘페이스북 파일’에서 엿보인 한 기업의 비도덕성과 함께 우리가 본 현실은 ‘하우겐이… 고발했다’라는 제삼자적 관점의 인용 보도가 쏟아져 나오는 동안 떨어졌던 페이스북의 주가가 곧바로 반등하고 ‘메타(Meta)’의 출발을 다각도로 분석하는 기사가 쏟아졌다는 사실이다. 언론은 하우겐의 고발과 저커버그의 메타버스 비전을 함께 송고하면서 페이스북의 조회수가 올라가기를 기대했을 것이고, 기사의 ‘좋아요’ 수가 늘어가면서 하우겐이 영웅이 되는 사이 페이스북 경영진에게 수없이 경고를 전했던 이름 없는 연구자들은 존재가 무색해졌을 것이다. ‘#DeleteFacebook’이라는 해시태그를 확산시키고 ‘howtostopfacebook’ 웹사이트 방문을 늘리기 위해 다시금 알고리즘에 의존해야 하는 상황에서, 페이스북을 악마화하고 다른 플랫폼들은 안전할 거라 믿는 것은 얼마나 큰 의미가 있는가? 페이스북만이 유일한 가해자일 거라 믿으며 규제만을 이야기하는 논의는 순진하고 단순한 대응일 뿐이다.
하우겐의 내부 고발은 페이스북의 근본적인 알고리즘 설계와 경영진의 의사결정 과정에 개선이 필요하다는 점을 보여줬다. 그러나 페이스북 AI총괄 담당인 호아킨 퀴노네로 칸델라(Joaquin Quionero Candela)가 AI알고리즘의 공정성과 편향성에 대한 질문에 ‘정말로 모르겠다’고 대답한 것4)이 거짓은 아니었을 것이다. 설계자조차 통제할 수 없는 알고리즘이 작동하는 상황에서 ‘페이스북 파일’이 전해주는 것은 페이스북의 비도덕성 자체가 아니라 우리가 더 이상 이러한 부작용들에 눈감을 수 없고 무언가 방법을 찾아야만 한다는 사실이다. 내부 고발자의 폭로 없이는 알고리즘과 같은 복잡한 사회-기술적 시스템에 관해 질문을 던지는 언어조차 갖지 못한 상황을 벗어나는 일이 무엇보다 시급하다.
이를 위해서는 플랫폼에 대한 사회적 감시 체계를 갖추고 이 체계가 상시로 작동하게 만드는 일이 중요하다. 온라인 플랫폼 기업들이 더 많은 정보를 연구 목적으로 제공하고, 언론이 데이터 분석 등의 새로운 기법을 통해 기술 권력을 감시하며5) 플랫폼 이용자 스스로가 극단적 콘텐츠를 냉정하게 평가하는 능력을 기르는 일이 그 방법이 될 것이다. 하우겐은 자신의 행위가 페이스북을 없애기 위한 것이 아니라 사랑해서 본래의 모습을 지키기 위한 과정임을 강조했다. 마찬가지로 여러 주체의 행위와 노력이 쌓여 제대로 된 감시가 작동할 때, 안개는 걷히고 악마인 줄 알았던 대상은 원래의 미소를 내보일 것이다.
1) https://www.wsj.com/articles/the-facebook-files-11631713039
2) 이후 사명을 메타(Meta)로 바꿨다. 이 글에서는 문서에 명시된 페이스북이라는 사명을 그대로 활용한다.
3) 이소은·최순욱, <유튜브의 콘텐츠 극단화: 알고리즘이 만드는 ‘현실’일까 ‘신화’일까?>, 해외미디어동향, 봄호, 한국언론진흥재단, 2020.
4) Hao, K., <How Facebook got addicted to spreading misinformation>, MIT Technology Review, 2021.3.11, https://www.technologyreview.com/2021/03/11/1020600/facebook-responsible-ai-misinformation/
5) 이성규, <기술 권력 감시하려면 언론도 진화해야 한다>, 《신문과방송》, 2021년 9월호.
저자의 다른 미디어
