기사 상세
디지털 시대, 알고리즘이 우리 일상에 크게 개입하면서 이에 대한 공정성 논란이 사회적 화두가 되고 있다. 공정한 알고리즘은 과연 가능한 것일까. 알고리즘 공정성 논의의 의의와 한계를 짚어보고, 공정한 알고리즘을 위해 우리 사회가 준비해야 할 것들을 살펴본다. 편집자 주
지난 5월 27일 국회에서 열린 과학기술정보방송통신위원회 포털 알고리즘 관련 공청회. 알고리즘 공정성의 확보를 위해서는 지속적인 관심을 갖고 사회적 논의와 판단을 하는 과정 이 필요하다. Ⓒ연합뉴스
최근 국내에서 알고리즘 공정성이라는 개념이 중요한 화두로 부상하고 있다. 공정성이 중요한 가치라는 것에 대한 공감대 형성을 넘어, 공정성이란 무엇이고 이를 어떻게 실현할 수 있는가와 같은 중요한 후속 논의가 이어지는 중이다. 이러한 사회적 분위기 속에 일각에서는 다음과 같은 흥미로운 화두를 제시하기도 한다. 인공지능 알고리즘이 인간의 의사결정을 대체할 수 있다면 사회 전반의 공정성이 향상되리라는 믿음이 그것이다. 언론 영역에서도 이와 비슷한 생각을 종종 접할 수 있다. 또한, 이와 정반대의 시각도 접할 수 있다. 알고리즘을 아예 쓰지 않도록 해야 한다거나, 매우 투명한 유형의 알고리즘만 쓸 수 있도록 할 필요가 있다는 주장이다.
공정성 확보에 알고리즘의 도움을 받을 수 있다는 시각에는 대체로 다음과 같은 근거를 들 수 있다. 첫째, 인간은 기계와 달리 피로나 망각과 같은 생물학적 약점을 가진 것은 물론 심리학적, 생리학적 영향으로부터도 취약하다. 이러한 특성은 의사결정의 정확성과 일관성을 저해해 공정성에도 부정적 영향을 가져올 수 있다. 둘째, 인간은 특별한 이유 없이 누군가에 대해 편견을 가지기도 하고, 전략적 행위를 동원해 부당한 이익을 추구하기도 한다. 반면 인공지능 알고리즘은 독자적 선호를 갖지 않기 때문에 이러한 문제를 일으키지 않는다.
셋째, 기계는 입력과 출력의 일관성이 담보돼 공정성에 대한 사후 검증과 교정이 용이한 편이다. 반면 인간의 판단은 그 근거에 대한 검증이 어렵고 자신의 행위를 사후에 작위적으로 정당화할 수도 있어 투명성이 더욱 떨어진다. 그러므로 이러한 일련의 장단점을 고려해 인간의 의사결정을 인공지능 알고리즘으로 대체한다면 사회적 차원의 공정성이 높아질 것으로 기대할 수 있다는 것이다.
이와 같은 시각에 대해서는 다양한 반응이 나타날 수 있고 한계를 지적하는 것도 어렵지 않다. 무엇보다, 인공지능 알고리즘을 활용해 유용한 효과를 얻을 수 있으려면 ‘공정성’ 개념에 대한 명료한 정의가 마련돼야 하는데, 그러한 개념 정의를 마련하는 것 자체가 간단치 않다. 명확히 규정된 절차에 따라 작동하는 알고리즘의 특성상 엄밀한 개념 정의는 공정성의 달성을 위한 당연하고도 매우 중요한 전제 조건이다. 그리고 이때 공정성 개념은 수치와 데이터를 통해 ‘측정 가능한(measurable)’ 것이어야 한다. 그렇다면 우리 사회는 공정성이라는 개념을 어떻게 이해하고 있는가? 공정성 개념을 명확히 규정하려면 충분한 사회적 논의를 통해 개념을 명확히 하고 서로 다른 견해를 조율하는 과정이 필요할 텐데, 그러한 과정의 진행이 가능한가? 만일 이러한 질문에 대한 답변이 부정적이라면, ‘공정한 알고리즘’을 통해 우리 사회의 공정성을 향상할 수 있을 것이라는 전망 역시 한계가 있을 수밖에 없다. 이하에서는 이러한 문제의식을 바탕으로, 현재 진행되고 있는 알고리즘 공정성 논의의 의의와 한계를 검토하고 이와 관련된 몇 가지 제언을 제시하기로 한다.
구체적·현실적 공정성 개념 도출할 계기
포괄적 지표는 불가능한 한계도
‘인공지능 윤리’에 관한 논의는 종래의 윤리 논의와 어떤 면에서는 유사하지만 어떤 면에서는 크게 다른 모습을 보이기도 한다. 한 가지 중요한 차이점으로, 인공지능은 윤리적 문제를 유발하는 원인으로 이해되기도 하지만 그와 동시에 인공지능 기술은 문제의 치유를 위한 해결책으로 언급되기도 한다는 점을 들 수 있다.
인공지능 윤리 개념화의 핵심 요소 중 하나로 인공지능 공정성이 흔히 언급된다. 그리고 인공지능 공정성 논의의 토대가 되는 작업으로, 인공지능 공정성의 개념을 수학적 지표(metrics)로 정량화하기 위한 작업이 학계에서 진행되고 있다. 이를 통해 알고리즘 공정성이라고 하는 추상적 표현이 사실은 매우 다양한 개념을 내포하고 있는 것임을 체계화해 파악하고자 하는 것이다.
언론과 관련된 예로, 개별 매체가 정당과 관련된 정치 기사를 마련해 송출하는 상황을 생각해 보자. 알고리즘 공정성과 관련된 논의의 출발점이 되는 원칙으로 일종의 통계학적 동등성(parity)을 고려하는 것을 생각해 볼 수 있다. 이를 구체화하는 한 가지 기준은 정당별 지지도에 비례해 각각의 정당에 관한 기사를 마련하는 것이다. 또 다른 기준은 정당별 의석수에 비례해 기사를 마련하는 것이다. 이와는 상당히 다른 기준으로, 개별 매체별로 독자들의 정당별 지지도를 측정해, 그에 비례해 기사를 마련하는 것도 생각해 볼 수 있다. 이러한 기준은 서로 다른 구체성을 가졌지만, 모두 각기 다른 공정성의 개념을 충족하는 것이기도 하다. 또는, 인터넷을 통한 접근을 전제로 할 때, 스마트폰 등 접근 매체의 위치(IP 주소)를 기준으로 해당 지역구 정치인들에 관한 기사가 일정 수준 이상으로 노출되도록 하는 원칙이 제시될 수도 있다. 이러한 기준을 구체화해 측정하는 데 있어서도, 기사의 숫자, 기사의 빈도, 기사의 길이, 기사에 개별 정당에 대한 긍정적 또는 부정적 시각이 반영돼 있는지 여부, 기사 송출 시간대 등 매우 다양한 데이터 항목들이 고려될 수 있고, 평가의 빈도를 포함한 그 이외의 요소가 중요하게 고려될 수도 있다. 여기서 출발해 매우 다양한 평가 기준과 절차의 조합이 만들어질 수 있다.
한편, 이와는 다른 접근으로 개별 독자를 고려하는 방식이 있을 수 있다. 개별 독자들의 인구통계학적 특징과 함께 이들의 선호나 성향을 파악해, 이를 최대한 충실하게 반영하는 것이 공정하다는 시각이다. 웹사이트나 스마트폰 앱을 통해 기사가 제공되는 상황을 상정하면, 협업 필터링(collaborative filtering) 등의 알고리즘 기법을 활용해 개별 독자의 선호와 성향에 부합하는 기사가 주로 노출되도록 하는 시스템을 구상할 수 있다.
이처럼 공정한 알고리즘이라는 개념에 대해서 매우 다양한 기준과 원칙이 제시될 수 있고, 이를 수치화해 측정하는 것에 관해서도 여러 방법론이 나타나고 있다. 알고리즘 공정성에 관해 정량화해 평가할 수 있는 지표를 마련하는 것은 다음과 같은 이점이 있다. 첫째, 공정성이라는 개념의 특성으로 인해, 논의가 추상적이고 피상적인 차원에 머무르거나 제자리걸음 하는 것을 방지하는 데 도움이 될 수 있다. 실무적이고 현실적으로 구현 가능한 개념을 마련하는 데 유의미한 시사점을 제공할 수 있다는 것이다.
둘째, 공정성이라는 인간의 개념을 컴퓨터가 이해할 수 있는 개념으로 변환하는 데 도움을 줄 수 있다. 이는 실무적으로는 핵심적인 역할이 된다. ‘공정한 알고리즘’을 마련해 달라는 요청을 지속적으로 알고리즘 개발자들에게 전달하더라도, 정작 개발자로서는 수치로 표현될 수 있는 개념이 아니거나, 데이터를 통해 측정 가능한 개념이 아니라면 공정한 알고리즘을 구현하는 것은 불가능하기 때문이다.
셋째, 일단 수학적 지표가 마련된 이후에는 점진적 시행착오를 통해 인공지능 모형의 개선을 시도할 수 있다. 인공지능 알고리즘은 처음부터 최선의 결과를 보여주기보다는 일반적으로 지속적인 튜닝(tuning)을 통해 개선이 이뤄지게 되는데, 이러한 과정을 원활하게 해줄 수 있다.
반면 알고리즘 공정성 지표에는 당연히 한계도 있다. 가장 기본적으로, 측정 가능한 데이터의 존재를 전제로 의사결정을 하게 되는 알고리즘과 달리, 인간 사회에는 측정 불가능하거나 매우 단편적으로만 측정할 수 있는 유형의 정보가 무수히 많다는 점을 지적할 수 있다. 예를 들어, 정서나 주관적 견해와 같은 질적 정보를 측정 가능한 지표로 전환해 표현하는 것에는 여러 가지의 한계가 존재한다. 알고리즘 공정성 개념에 대해 일의적인 지표를 만들어내기도 쉽지 않다. 지금까지의 연구는 개별 맥락(context)을 고려해 각기 다른 공정성 지표를 적용할 필요가 있다고 지적하는 것이 많은데, 어떤 식으로 개별 맥락을 고려할 것인지에 관해서는 아직 충분히 체계화가 이뤄지지 않은 상황이다.
개념을 마련하는 데 있어 아마도 가장 큰 한계는 인류가 가지고 있는 공정성에 대한 관념이나 원칙 자체가 다양하다는 점이다. 예를 들어 몇몇 나라의 실정법은 성별, 인종, 국적과 같은 대표적 차별 금지 사유를 근거로 한 불이익한 처우를 직접 차별이라고 규정한 뒤 이를 금지하는 방식의 법 제도를 두고 있다. 다른 한편, 직접 차별이 없다고 해도 특정 개인이나 집단에 대해 결과적으로 불리한 처우가 행해졌다면 공정하지 않다고 보는 방식의 규율도 있다. 결과적 공정성을 강조하더라도, 한편에서는 모종의 능력을 갖춘 개인이나 집단에 대한 동등한 분배를 기준으로 여기는 반면, 다른 한편에서는 능력 대신 필요나 결과의 절대적 평등을 기준으로 삼을 것을 주장하기도 한다. 이러한 관념을 제각기 반영한 수십 개의 다양한 알고리즘 공정성 지표가 개발돼 왔다. 그런데 다양한 공정성 지표의 요건을 동시에 만족시키는 포괄적 공정성 지표는 도출될 수 없다는 것을 수학적으로 증명한 연구가 발표되면서, 결국 인류는 불완전한 공정성 지표 중 어느 하나를 선택할 수 있을 뿐이라는 사실이 밝혀지기도 했다.
우리 사회의 공정성 논의 선행돼야
위에서 알고리즘 공정성의 개념을 구체화하고 구현하기 위한 논의에 대해 살펴봤다. 그렇다면 이러한 상황에서 우리 사회가 나아가야 할 방향은 무엇일까? 먼저 한계에도 불구하고 공정성 지표에 대한 연구를 더욱 심화할 필요가 있다. 이를 통해, 흔히 언급되는 공정성이라는 표현이 사실은 다양한 개념이 혼재된 것임을 파악하고 이를 좀 더 세분화하고 체계화해 정리할 필요가 있다. 공정성 지표와 관련된 연구는 아직은 매우 초기 단계로, 다양한 수학적 공정성 지표에 대해 어떻게 사회적 맥락을 고려해 재해석하고 평가할 것인지에 대해서는 훨씬 더 많은 연구가 필요하다.
한편, 이러한 작업의 진전을 위해서는 꾸준한 사회적 논의가 필요하다. 즉, 인공지능 알고리즘 활용을 전제로 할 경우 우리 사회에서의 공정성의 개념을 어떻게 구체화하고 이를 알고리즘을 통해 어떻게 구현할 것인지에 관해 지속적인 논의가 필요하다. 이는, 사회적 규범 차원에서 공정성 개념을 정립하는 것은 물론, 알고리즘을 실제로 구현하고 코딩하게 될 개발자의 시각에서 볼 때 실현 가능하고 측정 가능한 기준을 마련하는 것 또한 포함한다.
이러한 과정이 중요한 이유는 공정성 개념이 매우 추상적 개념인 동시에 이를 구체화해 구현하는 과정 또한 매우 복잡한 것일 수밖에 없기 때문이다. 인터넷을 통한 추천 알고리즘(recommender system)을 생각해 보면, 고도의 랭킹 알고리즘을 구축하는 것 이외에도 예를 들어 사회적으로 부적절한 내용이 담긴 기사를 식별해 제외하는 기능을 하는 알고리즘을 동시에 구축해 함께 작동하도록 하는 것이 필요할 수 있다. 이로 인해, 동일한 시스템 안에서 두 개 또는 그 이상의 서로 다른 알고리즘이 작동하면서 서로 상충하는 판단을 하는 상황이 나타날 수도 있다. 현실의 알고리즘은 매우 복잡한 것이고, 알고리즘의 구축과 작동 그리고 개선 과정은 지난한 시행착오의 과정이다.
‘공정한 알고리즘이 필요하다’는 요청 자체에 대해 부당함을 주장하는 입장은 찾기 어려울 것이다. 정작 어려운 것은 공정성이라는 개념 자체가 가지는 복잡성이다. 그리고 공정성 개념을 알고리즘을 통해 현실화하기 위해서는 알고리즘을 통해 구현할 수 있고 또한 데이터를 통해 측정 가능한 형태의 개념 지표를 만들어내는 작업이 필요한데, 이 또한 어렵다. 나아가 이러한 작업이 사회적 맥락의 논의와 맞닿아 있고 일관성을 지닐 수 있도록 지속적인 관심을 가지고 사회적 논의와 판단을 하는 과정이 필요하다. 결국, 알고리즘 공정성의 확보는 지속적인 사회적 관심과 논의가 뒷받침될 때만 가능한 것이다. 이 과정은 지루하고 ‘디테일이 중요한’ 과정이 될 수밖에 없다. ‘쉬운’ 해결책 또는 일도양단의 해결책을 추구하는 것은 크게 경계해야 한다.
저자의 다른 미디어
