기사 상세
아침에 눈을 떠 잠들기까지 우리는 일상의 대부분을 디지털에 의존한다. 각종 플랫폼에서 데이터가 내주는 다양한 결과물을 받아들이지만 정작 그 내용을 검증하긴 어렵다. 플랫폼 기업이 독점하고 있는 데이터 감시가 왜 필요하고 방법은 무엇인지 살펴본다. 편집자 주
나는 지금 “데이터 독점 플랫폼 기업에 대한 사회적 감시를 어떻게 해야 할까”라는 주제로 원고를 청탁받아 이 글을 작성하고 있다. 개인적으로 글을 쓸 때 가장 어려운 것은 쓰기 시작하는 것이다. 이 주제에 대해 다른 사람들은 어떻게 생각하고 있으며, 비슷한 주제로 기존에 나온 글들의 주요 내용은 어떠하며, 그러한 가운데 나는 어떻게 써야 할까 하는 고민이 우선되기 때문이다. 글쓰기 시작의 어려움을 해결해 보고자, 지난해 12월 1일 ‘오픈에이아이(OpenAI)’가 공개한 ‘챗지피티(chatGPT)’에 이 주제에 대해 질문해 봤다.
“데이터 독점은 일반적으로 좋지 않은 상황이며, 사회적 감시를 진행하여 이를 개선하는 것이 좋습니다. 일반적으로 정부 기관이나 제3자 조직이 이러한 감시를 수행합니다. 독점 플랫폼 기업이 데이터를 공정하게 공유하도록 제재할 수도 있습니다. 또한, 이러한 플랫폼 기업에 대한 대체 선택지를 제공하는 다른 기업의 창출을 지원하는 것도 좋은 방법입니다.”
챗지피티가 나의 질문에 답한 내용이다. 매우 그럴듯하다. 새로운 주제가 아닌 만큼 그동안 다른 사람들이 내놓은 답안을 종합해 정리한 것으로 보인다. 같은 주제를 반복해 입력하면 비슷하지만 또 다른 내용으로 답한다. 정부의 역할을 강조하면서 시민사회의 역할, 언론의 역할, 개개인의 역할 등이 번갈아 강조된다. 이 내용을 모두 긁으면 청탁받은 이 글을 해결할 수도 있다는 생각이 들 정도다. 그런데, 챗지피티가 답하는 내용을 읽다 보면 매우 그럴듯하지만 “나는 어떻게 써야 할까”라는 고민을 해결해주지는 못한다. 관련 주제를 연구하는 사람으로서 그동안 어디선가 본 듯한 내용들로만 답한다. 또, 일부 내용은 그동안 내가 알던 것과 다르기도 하다. 여기서 다시 의문이 생긴다. “이제 구글은 필요 없다”1)는 찬양까지 등장하고 있는 챗지피티의 답변 결과는 어떻게 감시할 것인가?
챗지피티는 그동안 인간이 만들어낸 수많은 자료를 학습한 것으로 보인다. 인간은 그 많은 자료를 다 학습하기 어려우며, 학습했다 하더라도 챗지피티만큼 빠르고 간결하게 종합해 답하기 어렵다. 사실 우리는 챗지피티를 비롯해 발전하고 있는 수많은 기술의 결과물에 대해 감시하기 어렵다. 인간이 닿을 수 없을 정도의 수많은 자료를 학습한 기술들의 결과물에 문제를 제기하기에는 인간이 홀로 쌓을 수 있는 지식의 양이 너무 적다.
이번 카카오 ‘먹통’ 사태의 발생 원인과 대책에 대한 설명도 카카오의 설명에 따를 뿐 그 내용을 우리가 일일이 확인하거나 검증할 수는 없었다. 챗지피티뿐만 아니라 현재 검색엔진, 내비게이션의 길 안내, 유튜브의 추천 영상, 택시 호출, 숙소 가격 책정 등 기술이 매개된 다양한 결과물을 우리는 그대로 받아들일 뿐 그 내용을 검증하기는 어렵다. 나를 비롯한 수많은 사람에게서 뽑아낸 데이터, 그동안 인간이 축적한 데이터, 각 기업이 새롭게 만들어 축적한 데이터 등을 바탕으로 나온 결과물이라는 설명에 우리는 말을 잃을 수밖에 없다. 그러한 데이터를 우리는 갖고 있지 않으며, 본 적도 없기 때문이다. 또한, 기업이 영업 비밀을 이유로 제한하고 있어서 데이터에 대한 접근 권한은 해당 기업 외에는 가질 수 없다.
데이터가 없다면 해당 데이터를 처리하는 알고리즘에 대한 검증도 사실 불가능하다. 영업 비밀을 이유로 데이터를 독점하고 있는 기술 기업에 대한 감시는 챗지피티의 답변처럼 쉬운 일이 아니다.
데이터 처리 결과
상식에 부합하는지 질문해야
기술 기업들은 데이터를 기반으로 한 기계적 조치를 통할 경우 가치중립적이기 때문에 그 결과물이 사람보다 객관적이고 공정하다는 점을 강조한다. 만약 자신들이 이용자들을 대상으로 기만행위를 할 경우 이용자들이 자신들의 서비스를 이용하지 않을 것이기에 이 과정에서 어떠한 개입도 이뤄지지 않고 있음도 강조한다. 하지만 이용자들은 검색 결과, 뉴스 배열, 가격 책정 등의 공정성에 의심을 품곤 한다. 기계적으로 조치했기 때문에 그 결과에 설계자들의 가치가 반영되지 않는다고 주장하지만, 결과물에 대한 문제 제기는 계속되고 있다. 이에 따라 기술의 공정성을 확인하기 위해 작동 원리, 과정 등을 모두 투명하게 공개하라는 요구도 나오고 있다.2)
인공지능 등 기술은 최초 설계 후 이용자 행위 데이터를 학습해 이용자에게 최적화된 방향으로 끊임없이 변화한다.3) 기계학습 도입에 따른 결과다. 최초 설계된 알고리즘에 따라 학습을 거듭하면서 필요한 지식을 기계가 갖추게 된다. 챗지피티가 대표적인 기계학습 결과물이다. 이 과정은 사람의 학습 과정과 비슷한데, 그 결과 알고리즘에 따른 인공지능은 사람이 그동안 쌓아 왔고 지속적으로 쌓아 가고 있는 데이터를 학습하면서 점차 인간과 비슷한 성향의 결과물을 만들어내게 된다. 문제는 이 데이터를 만들어내는 사람들이다. 우리 주변에서 완벽한 사람을 본 적이 있는지 물어보고 싶다. 솔직히 나조차도 불완전하다. 나의 부족한 점은 내가 가장 잘 안다. 인간이 만들어내는 데이터는 기본적으로 불완전하다. 기술 기업이 데이터를 기반으로 가치중립적으로 처리하더라도 인간이 만들어낸 데이터를 활용하는 한 그 결과물은 불완전할 수밖에 없다. 챗지피티의 답변이 가끔씩 불완전한 이유다. 하지만, 그 불완전함의 이유를 우리가 찾기는 어렵다. 영업 비밀인 데이터에 대한 접근이 제한되기 때문이다.
그렇다고 기술 기업이 우리에게 주는 결과를 그대로 받아들일 수는 없다. 결과를 검증하기 위해 데이터에 접근할 수는 없더라도 그 데이터를 처리한 결과물에 대한 질문은 할 수 있다. 챗지피티의 답변 결과, 검색 결과, 길 안내 결과, 가격 책정 결과, 뉴스 배열 결과 등에 대해 우리는 그것들이 우리의 상식 수준과 부합하는지 물어볼 수 있다. 인간은 역사적으로 봤을 때 꾸준히 발전해 왔다. 최근 IPTV 채널 등을 통해 자주 방송되는 드라마 <전원일기>에서 남녀를 분리한 밥상 배치는 1980년대 시대상이었지만 현재는 이해할 수 없는 풍경이다. 현재 방송되고 있더라도 <전원일기>는 현재의 데이터가 아니다. 기술이 학습하는 데이터는 현재의 관점에서는 과거의 데이터일 수밖에 없다. 따라서, 현재의 관점에서 기술의 결과물들을 꾸준히 감시하는 것이 필요하다. 기업 등 기술을 만들고 발전시켜 나가는 사람들의 선한 의도는 의심하지 않는다. 다만 조금씩 발전하고 있는 인간이 과거에 만들어낸 데이터 학습으로 인한 문제들이 존재하기 때문에 상식적 수준에서의 감시가 필요하다.
기술 감시에서 저널리스트의 역할
끊임없이 새로운 질문 던져야
감시의 주체는 정부, 시민단체, 학자 등 여럿이 될 수 있지만, 나는 저널리즘에 주목한다. 맥큐(McCue)4)는 인공지능 등 기술의 규제와 통제를 정부가 아닌 훈련받은 저널리스트들이 해야 한다는 주장을 제시한다. 기술이 지켜야 할 원칙들이 저널리즘의 기본 원칙(진실성과 정확성, 독립성, 공정성과 불편부당성, 인류애, 책무성 등)과 유사하다는 것이다. 법·제도 등은 발전하는 기술을 따라가기 어렵고 기술을 통한 자체적인 제어는 인간적 가치와 상충된다는 근본적 문제가 있기 때문에 이를 중재할 역할이 필요하다는 주장이다.
저널리즘은 그동안 민주적 공동체의 유지와 발전을 위해 현재의 상식 수준에서 어떠한 사안의 옳고 그름에 대해 질문하고 감시해 왔으며, 이러한 역할을 수행하기 위해 그동안 다양한 원칙들을 세워왔다.5) 저널리스트들이 전문직으로서 쌓아 온 훈련들은 챗지피티의 답변 결과, 검색 결과, 가격 책정 결과 등 기술의 결과물들이 현재의 상식 수준에 부합하는지를 묻고 따지는 주체가 되기에 적합하다. 워터게이트 특종으로 퓰리처상을 수상한 칼 번스타인(Carl Bernstein)은 “기사는 최선을 다해 얻을 수 있는 진실의 한 조각(getting the best obtainable version of the truth)”6)일 뿐이라고 강조했다. 그 한 조각이라도 얻기 위해 저널리스트들은 사회적 상식 수준에서 질문을 해 왔다. 챗지피티에 대한 열광처럼 인간이 도저히 알 수 없는 방향으로 발전해 가고 있는 인공지능 등 기술에 대해 끊임없이 새로운 질문을 던질 필요가 있다. 그 물음에 대한 답을 요구함으로써 기술이 가질 수 있는 문제에 대한 감시도 가능해진다. 데이터를 독점하고 있는 기술 기업에 대한 감시의 시작은 그 기술 기업이 내놓는 서비스와 제품에 대한 사회적 상식 수준에서 던지는 질문이다.
2016년 설립된 매체인 악시오스(Axios)가 진행한 <그들이 당신에 대해 알고 있는 것(What they know about you)>이라는 연속 기획보도7)가 대표적 사례다. 여기서 ‘그들’은 거대 기술 기업들이다. 이 보도는 그들이 우리의 어떤 데이터를 수집하고 있는지에 대한 질문에서 시작됐다. 악시오스는 연속 보도를 통해 구글, 페이스북, 아마존, 테슬라, 병원 등이 수집하는 개인정보 내역이 무엇인지를 분석해 알렸다. 예를 들어, <아마존이 당신에 대해 알고 있는 것>8)이라는 기사를 통해, 아마존이 인공지능 스피커인 알렉사를 통해 사람들의 대화를 엿듣고 있음을 밝혀냈다. 또한, 알렉사와 대화하는 내용만이 아니라 다른 사람들과의 대화 내용을 수집하고 있음을 확인했다며, ‘에코’를 사용하지 않을 때는 반드시 전원을 끄라고 충고했다.
모든 것이 디지털화된 환경에서 인공지능 등 기술의 발전을 막을 수도 없고 막을 필요도 없다. 다만, 기술이 인간과 조화를 이루며 발전하는 방향으로 유도할 필요가 있다. 이를 위해서는 보다 접근이 쉬운 기술의 결과물들에 대해 끊임없이 감시하고 상식적 수준에서 질문을 던져 잘못된 점을 보완 및 수정해 나가도록 요구하는 것이 필요하다. 이 작업은 비단 저널리스트들만이 아니라 정부, 시민, 학계 등 관련된 모두가 함께 상호 존중을 바탕으로 진행해야 한다. 정책 결정권자, 인공지능 등 기술 설계자들, 연구자들, 일반 시민 등 모두가 협력해 기술이 야기할 수 있는 문제를 해결하기 위해 함께 노력할 필요가 있으며, 민주적 공중을 공적 대화에 참여시켜 공동체의 유지·발전을 도모하는 것은 저널리즘의 핵심 역할이다.
1) 이희욱, <모르는 건 포털 검색? ‘ChatGPT’는 필요한 답만 보여줄게>, 한겨레, 2022.12.8, https://www.hani.co.kr/arti/economy/economy_general/1070770.html
2) Gillespie, T., P. J. Boczkowski & K. A. Foot(Eds.),《<Media Technologies: Essays on Communication, Materiality, and Society>, pp.167-194, The MIT Press, 2014.
3) 오세욱, <자동화 결과물이 드러내는 편향에 대한 대응 방안으로서 저널리즘의 역할에 대한 탐색적 연구>, 커뮤니케이션이론, 16권3호, 5-50쪽, 2020.
5) 오세욱, <자동화 결과물이 드러내는 편향에 대한 대응 방안으로서 저널리즘의 역할에 대한 탐색적 연구>, 커뮤니케이션이론, 16권3호, 5-50쪽, 2020.
6) 2017년 5월 8일 예루살렘 프레스 클럽 개최 더프리덤오브더프레스(The Freedom of the Press) 콘퍼런스 연설 내용(<Best Obtainable Version of the Truth>, https://www.youtube.com/watch?v=16WiuU1Lbdw) 중 일부
7) https://www.axios.com/what-axios-knows-about-you-d941dee9-c496-407e-8e63-9cb18541fcf5.html, 이 연속 기획보도의 마지막은 <악시오스가 당신에 대해 알고 있는 것>이었다.
8) Fried, I., <What Amazon knows about you>, Axios, 2019.5.2, https://www.axios.com/what-amazon-knows-about-you-2df28404-b975-4bc8-b2da-ac702e601cf8.html
저자의 다른 미디어
