기사 상세
애플이 아이폰을 비롯한 자사 단말기에 적용하기로 했던 ‘아동 성학대 방지 기능(CSAM)’ 도입을 연기하기로 했다. 언뜻 누구나 환영할 만한 기능이지만 시민단체와 업계가 크게 반발하는 등 후폭풍이 일었기 때문이다. CSAM 이슈를 둘러싼 쟁점을 짚어본다. 편집자 주
8월은 애플에 영 불편한 달이었다. 칭찬받으리라 예상하고 8월 초 야심차게 발표한 계획이 업계와 시민단체의 집중포화를 맞고 정확히 단 한 달 만에 연기됐기 때문이다.
애플, CSAM 방지 계획 발표
시작은 8월 5일이었다. 애플은 올해 가을 적용되는 아이폰, 아이패드, 애플워치, 맥 OS 업데이트에 아동 성학대(CSAM, Child Sexual Abuse Material)를 방지하는 기능 세 가지를 적용할 것이라고 발표했다.1)
첫 번째는 자체 검색 앱이나 음성비서 서비스 시리(Siri)를 이용해 CSAM와 관련된 주제를 검색할 수 없도록 하는 것이다. 해당 주제를 검색하면 신고 기관이나 관련 아동 보호기관의 연락처 등이 대신 나타난다. 국내 인터넷 서비스를 이용해 방송통신위원회가 지정한 유해 사이트에 접속하려 할 경우 warning.or.kr로 연결되는 것과 비슷하다.
두 번째는 메시지에 첨부된 이미지 분석이다. 아동이 애플 자체 메시지 앱으로 받는 메시지에 “명백하게 성적”인 사진이 첨부돼 있을 경우, 사진을 자동으로 흐릿하게 처리하고 경고와 함께 사진을 정말로 볼 것인지 확인한다. 이미지가 명백하게 성적인지 아닌지는 단말기에서 기계학습(Machine Learning)을 이용한 분석을 통해 결정된다. 앱 차원의 경고에도 불구하고 아동이 사진을 볼 경우 부모에게 알림 메시지가 전송된다. 사진을 보낼 때도 같은 절차가 진행된다.
마지막은 애플의 클라우드 데이터 서비스인 아이클라우드(iCloud)에 업로드되는 이미지 중 CSAM과 관련된 것을 감별하는 것이다. 이 기능이 적용된 후에는 단말기에서 진행되는 CSAM 관련 여부 검사를 통과한 이미지만 아이클라우드에 저장된다. 검사는 원본과 비교하는 방식으로 이뤄진다. 인공신경망을 이용한 뉴럴해시(NeuralHash)라는 기술로, 대상 이미지에서 고정된 길이의 문자열인 해시(Hash)를 도출하는데, 해시는 하나의 이미지에서 단일한 값만 도출되기 때문에 사실상 이미지의 지문과 같은 역할을 한다. 이 해시를 이미 알려진 CSAM 이미지에서 추출된 해시와 비교하는데 비교용 해시의 데이터베이스(DB)는 미국 실종학대아동방지센터(NCMEC, National Center for Missing and Exploited Children)와 같은 아동보호 기관에서 제공하는 이미지들을 이용해 구축한다. 검사에서 발견된 CSAM 의심 이미지는 애플 인력이 직접 확인하는데, 정말 위법한 사진일 경우 이용자 계정을 정지하고 NCMEC에 신고한다.
시민사회의 격렬한 반대, 그리고 무기한 연기
얼핏 보기엔 모두 어린이, 아동을 보호할 수 있는 훌륭한 기능들이다. 하지만 시민단체와 업계는 즉각 반발했다. 메시지 앱인 왓츠앱(WhatsApp)의 윌 캐스카트(Will Cathcart) 대표는 트위터에 “우려스럽다. 잘못된 접근 방법이며, 전 세계 사람들의 프라이버시를 함정에 빠트리는 것”이라고 적었다.2) 시민단체 민주주의와기술센터(CDT, Center for Democracy & Technology)는 애플이 이 계획을 당장 철회해야 한다는 성명을 두 번이나 냈다. 디지털 환경에서의 인권 보호 활동을 전개하는 전자프론티어재단(EFF, Electronic Frontier Foundation)도 애플은 프라이버시에 백도어(침입 경로)를 만들려는 시도를 당장 중지해야 한다는 성명3)을 냈다. 8월 19일에는 90개 이상의 시민단체가 팀 쿡(Timothy D. Cook) 애플 CEO에게 계획 철회를 요구하는 공개서한을 보냈다.4) 결국 9월 3일, 애플은 CSAM 관련 기능의 적용을 무기한 연기한다고 발표했다. 정확히 한 달 만이다.
극렬한 반대의 근거는 당연히 프라이버시 침해와 검열이었다. 그런데, 중요한 것은 그냥 애플이 들여다봐서 싫다는 게 아니라는 점이다. 이 사안에 대해 국내 기사 대부분은 이미지를 분석해서 DB와 대조하는 것 자체가 반발을 사는 것처럼 보도했지만, 그건 사소한 문제였다.
사실 이미지에서 해시를 추출하는 건 전혀 새로운 기술이 아니다. 클라우드 서비스 업체가 저장된 이미지 중 CSAM 관련 이미지를 감별해 당국에 신고하는 것도 이미 오래전부터 하던 일이다. 구글과 마이크로소프트가 자사 메일 서비스를 통해 전송된 CSAM 이미지를 NCMEC에 알려 경찰 체포로 이어지도록 한 사례가 처음 알려진 것이 2014년일 뿐,5) 업계는 훨씬 전부터 비슷한 작업이 진행됐을 것이라 보고 있다. 왓츠앱조차 이 사안으로 애플을 비난하며 2020년에만 NCMEC에 40만 건 이상 신고했다고 밝혔다.
핵심은 단말기에서의 분석 통한 E2EE 위협
핵심은 이미지가 분석되는 ‘장소’다. 설명했듯 메시지나 아이클라우드에서의 CSAM 이미지 분석은 애플의 단말기에서 이뤄진다. 지금까지 이미지 분석을 단말기 차원에서 진행하려는 기업은 없었다. 자체 단말기와 OS를 모두 보유한 애플만 할 수 있는 시도라고 볼 수도 있다.
단말기에서의 이미지 분석이 문제가 되는 건 업계에서 사실상 표준으로 굳어지고 있는 종단간 암호화(E2EE, End-to-End Encryption)를 심각하게 위협할 수 있어서다. E2EE는 어떤 유형이건 간에 메시지를 전송할 때부터 받을 때까지의 모든 과정을 암호화된 상태로 진행하고, 암호화된 메시지를 풀 수 있는 키는 사용자의 단말기에만 저장하는 방식이다. 쉽게 말해 사용자가 아니면 서비스 제공자도 메시지 내용을 열어볼 수 없다는 뜻이다. 그런데 애플이 배포한 기술 설명6)에 따르면, 비록 기계가 하는 것이라고는 하지만 CSAM 분석은 암호화 이전에 메시지를 직접 들여다보는 방식으로 이뤄진다. 비록 애플은 애플이나 당국이 메시지 내용을 볼 수 있는 방법은 없으며, E2EE와 관련된 보안에도 문제가 없다고 설명했지만 말이다. 애플이 전 세계 사람들을 검열하고 감시할 수 있는 백도어를 만들려고 한다는 우려가 제기되는 건 바로 이 때문이다.
빅테크 기업 과연, 믿을 수 있나
우리가 애플의 선의만을 믿는다면 애플의 계획은 쌍수를 들어 환영할 만한 일이었을 것이다. 하지만 지금까지 너무 많은 빅테크 기업의 거짓말 내지 변절 사례를 봐 온 우리는 그렇게 순진하지 않다. 프라이버시 보호를 노래처럼 불러왔던 애플은 2018년 1억 3,000만 명의 개인정보가 담긴 클라우드 계정과 계정 접근 권한 키를 중국 국영 서버로 이전한 바 있다.7) 애플뿐만이 아니다. 페이스북은 10년 가까이 개인정보 유출 가능성을 알면서도 서비스를 방치한 전력이 있다.8) 구글, 아마존, 마이크로소프트도 마찬가지다.
설사 우리가 빅테크 기업의 선의를 믿는다 하더라도 여전히 우려를 거둘 수는 없다. 테크 기업들에 대한 국가권력의 압박이 날로 거세지고 있기 때문이다. 제아무리 가상의 공간과 데이터를 다루는 기업일지라도 국가라는 체제 안에 자리 잡은 이상 이 권력의 요구에서 벗어날 수는 없다. 애플도 아이클라우드의 백업을 완전히 암호화하려는 계획을 세웠었으나, 범죄 수사 어려움 가중 등의 이유로 FBI의 항의를 받고 이를 백지화 한 바 있다.9) 더욱이 중국이나 러시아처럼 국가기관의 언론 탄압, 개인정보 침해가 횡행하는 국가에서라면 애플이 만들려고 한 메시지 분석 기술이 어떻게 사용될지 알 수 없는 일이다. 이미 2006년에 잭 골드스미스(Jack Goldsmith) 하버드대 법학과 교수와 팀 우(Tim Wu) 컬럼비아대 법학과 교수는 공동 저서 《인터넷 권력 전쟁(Who Controls the Internet?)》에서 “정부가 휘두르는 힘은 인터넷의 본질적 특징 자체를 바꿀 수 있으며 이는 중국에서 가장 잘 드러난다”고 말한 바 있다(p.306).
한번 열린 문은 다시 닫기 어렵다. 그리고 그 문으로 나가 버린 것은 대부분 결코 제자리에 돌려놓을 수 없기 때문에 언제, 어떻게 문을 열 것인지 신중하게 결정해야만 한다. 위키리크스의 에드워드 스노든(Edward Snowden)이 이번 사건을 두고 “실수하면 안 된다. 그들이 오늘 아동 포르노를 탐지할 수 있다면, 그다음에는 그 어떤 것이든 탐지할 수 있는 것”10)이라고 말한 것도 비슷한 뜻일 것이다.
1)
2) Will Cathcar, twitter, 2021.8.7, https://twitter.com/wcathcart/status/1423701473624395784
3) Mckinney I. & Portnoy E.,
4) https://cdt.org/wp-content/uploads/2021/08/CDT-Coalition-ltr-to-Apple-19-August-2021.pdf
5) 권오성, <지메일로 야한 사진 보냈다가 ‘덜미’ 구글, 메일 검열...사생활 침해 ‘논란’>, 한겨레, 2014.8.18, https://www.hani.co.kr/arti/economy/it/651708.html
6) https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf
7) 오신혜, <中시장 얻으려 아이폰 고객정보 무더기로 넘긴 애플>, 매일경제, 2018.3.1, https://www.mk.co.kr/news/world/view/2018/03/138994/
8) 이재유, <결국 ‘개인정보 유출’에 무너지는 페이스북···해체수순 밟나>, 서울경제, 2019.6.15, https://www.sedaily.com/NewsVIew/1VKFE8I30V
9) 이정현, <“애플, FBI 항의 받고 아이클라우드 백업 암호화 계획 포기”>, 지디넷코리아, 2020.1.22, https://zdnet.co.kr/view/?no=20200122085545
10) Edward Snowden, twitter, 2021.8.6, https://twitter.com/Snowden/status/1423469854347169798?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1423469854347169798%7Ctwgr%5E%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.macrumors.com%2F2021%2F08%2F06%2Fsnowden-eff-slam-plan-to-scan-messages-images%2F
저자의 다른 미디어
![[미디어 리뷰] 보고서: IPPR <AI’s Got News For You>](static/images/noimg.png)
