기사 상세
[미디어 리뷰] 논문: < EU AI 정책의 양면성: 혁신과 규제>
AI 기술 경쟁에서 미국과 중국에 밀린 EU가 2024년 세계 최초의 포괄적 AI 규제법인 「EU AI 법」을 제정했다. AI 산업 혁신을 촉진하면서 동시에 위험을 통제하려는 EU의 선택은 어떤 결과를 가져올지, AI를 활용해 제작·방송된 국내 프로그램 와 을 통해 「EU AI 법」의 규제와 혁신 효과를 살펴본 논문을 소개한다. 편집자 주
인공지능(AI)은 더 이상 낯선 용어도 새로운 발명품도 아니다. 국가·지역·개인별로 차이는 있지만 이미 우리 삶의 일부분으로 받아들이고 있거나 받아들일 수밖에 없다는 주장이 일반적이다. 산업혁명의 핵심 동력이 된 증기기관의 발명으로 인류의 문명이 바뀐 것처럼, 우리는 전자계산기, 컴퓨터, 인터넷, 핀테크, 빅데이터, 그리고 메타버스 등의 신기술이 등장할 때마다 우리의 삶이 어떻게 바뀔 것이고 이 기술이 전 세계에 얼마나 큰 파급력을 초래할지에 관심을 기울였다. 신기술이 차례로 보편화·일상화되는 과정에서, 인간은 매번 새로운 기술에 적응하고 그 부작용에 대응하는 일을 반복해 왔다.
그럼에도 AI의 도입은 지금까지의 신기술이 우리 삶에 편입돼 온 과정과는 사뭇 다른 측면이 있다. AI라는 용어가 처음 사용된 1950년대 중반부터 그 기능이 보편화되기 시작한 2010년 이후까지 우리는 AI와 관련된 새로운 소식의 홍수 속에 살고 있다. 무엇보다 AI와 관련된 기술이 얼마나, 그리고 어느 방향으로 발전할 것인지 예측하기 어려워지고 있다. ‘향후 AI가 대체할 직업’ 또는 ‘AI 시대 유망한 직업’을 다룬 추측성 기사와 보고서가 일반화된 것에서 알 수 있듯 AI가 우리 삶에 끼치는 파급 효과가 어느 정도일지 가늠하기 어렵기 때문이기도 하다. 한 가지 분명한 점은 AI가 초래할 변화가 그 어느 신기술의 출현 때보다 클 수밖에 없다는 것이다.
AI 기술 경쟁과 「EU AI 법」
AI 기술이 국가 경쟁력과 국력의 핵심 요소로 인식되면서 AI가 글로벌 패권 경쟁의 중심이 됐다. 그 중심에는 미국과 중국이 자리 잡고 있다. 미국과 중국이 막대한 투자와 우수한 인적 자원을 바탕으로 전 세계 생성형 AI 시장과 기술 개발을 선도하는 반면, 유럽연합(EU)의 AI 역량은 이들 국가에 비해 상대적으로 취약한 실정이다. 물론 EU 차원에서도 미국·중국과의 기술 격차를 좁히고, 기술 주권을 강화하기 위해 대규모 투자와 규제 혁신, 스타트업과 중소기업 지원 등의 다양한 정책을 내놓고 있다.
특히 EU는 2024년 세계 최초로 포괄적인 AI 규제 법안인 「EU AI 법(EU AI Act)」을 제정해 단계적으로 시행하고 있다.1) AI 기술이 급속도로 발전하면서 다양한 부작용과 폐해가 나타나자, 이를 막기 위한 규제 법안의 필요성이 더욱 커졌다. EU의 이러한 행보는 인권, 민주주의, 사생활 보호와 같은 유럽 고유의 가치를 수호하려는 의지를 보여주는 것으로 인식되는 것도 사실이다. 그러나 다른 한편으론 「EU AI 법」이 기술 혁신과 스타트업 생태계 활성화를 저해할 수 있다는 우려도 발생하고 있다.
이러한 점에서 본 연구는 EU가 채택한 AI 법이 EU의 AI 기술 혁신 목표에 적합한지, 아니면 EU의 AI 기술 발전과 이를 뒷받침할 AI 활성화에 일종의 걸림돌이 될 것인지를 논의하기 위해 진행됐다. 특히 세계 최초로 AI를 방송 제작의 핵심 행위자로 활용한 한국의 예능 프로그램 사례에 「EU AI 법」을 적용함으로써 규제와 혁신의 실제적 충돌 양상을 분석했다.
위험 정도에 따라 의무 부과해
「EU AI 법」 가운데 가장 눈에 띄는 특징은 AI 시스템이 초래할 수 있는 위험의 정도에 따라 차등적인 의무를 부과하는 ‘위험 기반 접근법(risk-based approach)’이다. 이 법은 AI 시스템을 크게 네 가지 등급으로 분류한다. 첫째, ‘허용 불가능한 위험(unacceptable risk)’ 등급은 인간의 기본권을 침해하거나 차별을 조장하는 생체 데이터 무단 추출, 사회적 평점(social scoring)2), 심리적으로 조작하거나 기만하는 기술 등에 부과되며, 이는 원천적으로 금지된다.
둘째, ‘고위험(high risk)’ 등급은 교육, 고용, 필수 서비스 접근 등 인간의 생계와 안전에 중대한 영향을 미치는 영역으로, 시장 출시 전 엄격한 적합성 평가와 데이터 거버넌스 의무를 준수해야 한다. 셋째, ‘제한적 위험(limited risk)’ 등급은 챗봇이나 딥페이크 등 투명성 의무(출처 표시 및 사전 고지)만 이행하면 되는 영역이다.
마지막으로 ‘최소 위험(minimal risk)’ 등급은 스팸 필터나 AI 게임처럼 별도의 규제가 적용되지 않는 영역이다. 특히 이 법은 역외 적용(extraterritorial application) 원칙을 채택하고 있어, AI 시스템이 EU 역외에서 개발됐더라도 EU 시장에 출시되거나 콘텐츠, 의사결정 결과 등 그 산출물이 EU 내 최종 소비자에게 도달하는 경우에만 규제 대상이 된다. 이는 한국을 비롯한 글로벌 미디어 및 콘텐츠 제작사들이 EU 시장 진출을 계획하는 경우 기획 단계부터 「EU AI 법」의 규제 조건을 필수적으로 고려해야 함을 시사한다.
국내 AI 활용 프로그램에 「EU AI 법」 적용하면
본 연구는 「EU AI 법」의 혁신적 또는 규제적 성격을 규명하기 위해 국내 프로그램 두 편을 활용했다. 단순한 제작 보조 도구를 넘어 연출과 심사라는 창작의 핵심 영역까지 AI가 주도한 와 을 활용해 「EU AI 법」의 실제적 영향력을 검증했다. 는 AI PD ‘엠파고’가 기획·캐스팅·미션 구성·실시간 자동 편집 및 참가자의 분량에 따른 출연료 산정까지 총괄한 사회 실험적 예능이다. 「EU AI 법」관점에서 출연료 산정 기능은 AI가 성과를 모니터링하고 보상을 배분한다는 점에서 고위험 등급의 ‘고용 및 노동 관리’ 범주와 부분적으로 교차한다. 그러나 이는 일회성 예능의 게임 규칙 안에서 진행된 엔터테인먼트적 장치이므로 완전한 고위험보다는 고위험과 제한적 위험의 경계에 위치하는 것으로 평가된다. 따라서 인간 제작진의 검토 및 최종 승인 절차를 마련하고, 법적 임금이 아닌 프로그램 내 보상임을 명시하는 등의 보완 조치를 통해 규제 리스크를 완화한다면 EU 내 방영이 가능할 것으로 분석된다.
은 AI 심사자 ‘로디아이’가 참가자의 노래, 안무, 무대 장악력 등 데이터 프로필을 다차원적으로 분석해 아이돌의 선발과 탈락, 그리고 데뷔 유닛 재조합을 직접 결정하는 포맷이다. 이는 참가자의 실제 경력과 직업적 기회에 실질적인 영향을 미치기 때문에 「EU AI 법」 Annex III가 규정한 ‘채용 및 지원자 선발’ 목적의 전형적인 고위험 AI 시스템으로 분류될 가능성이 매우 높다. 따라서 원안 그대로 EU 시장에 진출하려면 학습 데이터의 인종·외모 편향성 부재 입증, 탈락 근거에 대한 설명 가능성 확보, 인간 심사위원의 개입 및 번복 권한 보장 등 막대한 행정적·기술적 비용을 감수해야 한다. 결과적으로 규제를 준수하기 위해 AI의 역할을 조언자로 축소하고 인간이 최종 결정을 내리는 방식으로 재설계해야 하는데, 이는 최초 기획 의도와 프로그램의 몰입성을 훼손하는 요인으로 작용할 수 있다.
규제 장벽과 신뢰 인증의 기회
「EU AI 법」은 새로운 기술이 가져올 사회적 부작용과 위험을 예방하려는 ‘사전 접근법(ex-ante approach)’의 대표적 사례로, 사후 구제 중심인 미국이나 정부 주도의 신속한 사전 예방을 취하는 중국의 방식과 구별된다. 본 연구의 사례 분석을 통해 드러났듯, 「EU AI 법」은 미디어·문화 영역에서 기술 기반의 창조적 시도와 획기적인 창작 혁신에 상당한 규제 장벽과 비용 부담을 안기는 걸림돌이 될 수 있다. 이러한 이유로 구글, 메타, 아마존과 같은 미국의 빅테크 기업들은 물론 EU 역내 AI 관련 기업들도 AI 법이 규제에 집중됐다는 문제를 지적해 왔다.
그러나 다른 한편으로 엄격한 규제의 준수는 시장에서 해당 AI 기술 및 프로그램의 품질과 공정성을 제도적으로 검증받았다는 강력한 ‘품질 신뢰 신호’로 작동할 수 있다. 데이터 거버넌스와 투명성을 확보한 콘텐츠는 유럽 시청자와 미디어 파트너들에게 신뢰도 높은 브랜드 가치를 인정받아 장기적인 경쟁력을 확보하는 기회가 될 수도 있다. 결국 AI 정책의 핵심 과제는 기술 발전을 가로막지 않으면서도 인간의 존엄성과 윤리적 가치를 보호할 수 있는 ‘혁신과 규제 사이의 정교한 균형’을 찾아내는 데 있으며, EU를 비롯한 글로벌 사회는 이 양면적인 과제를 해결하기 위한 지속적인 거버넌스 단순화와 정책적 조율을 이어가야 한다.
1) EU가 세계 최초로 강력한 인공지능 규제를 제정해, EU라는 거대 단일 시장의 영향력이 전 세계 국가와 글로벌 빅테크 기업에 미치는 ‘규제의 세계화 현상’, 즉 ‘브뤼셀 효과(Brussels Effect)’로 이해할 수도 있다.
인공지능(AI)은 더 이상 낯선 용어도 새로운 발명품도 아니다. 국가·지역·개인별로 차이는 있지만 이미 우리 삶의 일부분으로 받아들이고 있거나 받아들일 수밖에 없다는 주장이 일반적이다. 산업혁명의 핵심 동력이 된 증기기관의 발명으로 인류의 문명이 바뀐 것처럼, 우리는 전자계산기, 컴퓨터, 인터넷, 핀테크, 빅데이터, 그리고 메타버스 등의 신기술이 등장할 때마다 우리의 삶이 어떻게 바뀔 것이고 이 기술이 전 세계에 얼마나 큰 파급력을 초래할지에 관심을 기울였다. 신기술이 차례로 보편화·일상화되는 과정에서, 인간은 매번 새로운 기술에 적응하고 그 부작용에 대응하는 일을 반복해 왔다.
그럼에도 AI의 도입은 지금까지의 신기술이 우리 삶에 편입돼 온 과정과는 사뭇 다른 측면이 있다. AI라는 용어가 처음 사용된 1950년대 중반부터 그 기능이 보편화되기 시작한 2010년 이후까지 우리는 AI와 관련된 새로운 소식의 홍수 속에 살고 있다. 무엇보다 AI와 관련된 기술이 얼마나, 그리고 어느 방향으로 발전할 것인지 예측하기 어려워지고 있다. ‘향후 AI가 대체할 직업’ 또는 ‘AI 시대 유망한 직업’을 다룬 추측성 기사와 보고서가 일반화된 것에서 알 수 있듯 AI가 우리 삶에 끼치는 파급 효과가 어느 정도일지 가늠하기 어렵기 때문이기도 하다. 한 가지 분명한 점은 AI가 초래할 변화가 그 어느 신기술의 출현 때보다 클 수밖에 없다는 것이다.
AI 기술 경쟁과 「EU AI 법」
AI 기술이 국가 경쟁력과 국력의 핵심 요소로 인식되면서 AI가 글로벌 패권 경쟁의 중심이 됐다. 그 중심에는 미국과 중국이 자리 잡고 있다. 미국과 중국이 막대한 투자와 우수한 인적 자원을 바탕으로 전 세계 생성형 AI 시장과 기술 개발을 선도하는 반면, 유럽연합(EU)의 AI 역량은 이들 국가에 비해 상대적으로 취약한 실정이다. 물론 EU 차원에서도 미국·중국과의 기술 격차를 좁히고, 기술 주권을 강화하기 위해 대규모 투자와 규제 혁신, 스타트업과 중소기업 지원 등의 다양한 정책을 내놓고 있다.
특히 EU는 2024년 세계 최초로 포괄적인 AI 규제 법안인 「EU AI 법(EU AI Act)」을 제정해 단계적으로 시행하고 있다.1) AI 기술이 급속도로 발전하면서 다양한 부작용과 폐해가 나타나자, 이를 막기 위한 규제 법안의 필요성이 더욱 커졌다. EU의 이러한 행보는 인권, 민주주의, 사생활 보호와 같은 유럽 고유의 가치를 수호하려는 의지를 보여주는 것으로 인식되는 것도 사실이다. 그러나 다른 한편으론 「EU AI 법」이 기술 혁신과 스타트업 생태계 활성화를 저해할 수 있다는 우려도 발생하고 있다.
이러한 점에서 본 연구는 EU가 채택한 AI 법이 EU의 AI 기술 혁신 목표에 적합한지, 아니면 EU의 AI 기술 발전과 이를 뒷받침할 AI 활성화에 일종의 걸림돌이 될 것인지를 논의하기 위해 진행됐다. 특히 세계 최초로 AI를 방송 제작의 핵심 행위자로 활용한 한국의 예능 프로그램 사례에 「EU AI 법」을 적용함으로써 규제와 혁신의 실제적 충돌 양상을 분석했다.
<출처: European Commission, < Shaping Europe’s digital future: AI Act>를 토대로 필자 재구성>
위험 정도에 따라 의무 부과해
「EU AI 법」 가운데 가장 눈에 띄는 특징은 AI 시스템이 초래할 수 있는 위험의 정도에 따라 차등적인 의무를 부과하는 ‘위험 기반 접근법(risk-based approach)’이다. 이 법은 AI 시스템을 크게 네 가지 등급으로 분류한다. 첫째, ‘허용 불가능한 위험(unacceptable risk)’ 등급은 인간의 기본권을 침해하거나 차별을 조장하는 생체 데이터 무단 추출, 사회적 평점(social scoring)2), 심리적으로 조작하거나 기만하는 기술 등에 부과되며, 이는 원천적으로 금지된다.
둘째, ‘고위험(high risk)’ 등급은 교육, 고용, 필수 서비스 접근 등 인간의 생계와 안전에 중대한 영향을 미치는 영역으로, 시장 출시 전 엄격한 적합성 평가와 데이터 거버넌스 의무를 준수해야 한다. 셋째, ‘제한적 위험(limited risk)’ 등급은 챗봇이나 딥페이크 등 투명성 의무(출처 표시 및 사전 고지)만 이행하면 되는 영역이다.
마지막으로 ‘최소 위험(minimal risk)’ 등급은 스팸 필터나 AI 게임처럼 별도의 규제가 적용되지 않는 영역이다. 특히 이 법은 역외 적용(extraterritorial application) 원칙을 채택하고 있어, AI 시스템이 EU 역외에서 개발됐더라도 EU 시장에 출시되거나 콘텐츠, 의사결정 결과 등 그 산출물이 EU 내 최종 소비자에게 도달하는 경우에만 규제 대상이 된다. 이는 한국을 비롯한 글로벌 미디어 및 콘텐츠 제작사들이 EU 시장 진출을 계획하는 경우 기획 단계부터 「EU AI 법」의 규제 조건을 필수적으로 고려해야 함을 시사한다.
AI PD가 프로그램을 연출한다는 콘셉트의 < PD가 사라졌다> <출처 – 방송 화면 갈무리>
국내 AI 활용 프로그램에 「EU AI 법」 적용하면
본 연구는 「EU AI 법」의 혁신적 또는 규제적 성격을 규명하기 위해 국내 프로그램 두 편을 활용했다. 단순한 제작 보조 도구를 넘어 연출과 심사라는 창작의 핵심 영역까지 AI가 주도한 와 을 활용해 「EU AI 법」의 실제적 영향력을 검증했다. 는 AI PD ‘엠파고’가 기획·캐스팅·미션 구성·실시간 자동 편집 및 참가자의 분량에 따른 출연료 산정까지 총괄한 사회 실험적 예능이다. 「EU AI 법」관점에서 출연료 산정 기능은 AI가 성과를 모니터링하고 보상을 배분한다는 점에서 고위험 등급의 ‘고용 및 노동 관리’ 범주와 부분적으로 교차한다. 그러나 이는 일회성 예능의 게임 규칙 안에서 진행된 엔터테인먼트적 장치이므로 완전한 고위험보다는 고위험과 제한적 위험의 경계에 위치하는 것으로 평가된다. 따라서 인간 제작진의 검토 및 최종 승인 절차를 마련하고, 법적 임금이 아닌 프로그램 내 보상임을 명시하는 등의 보완 조치를 통해 규제 리스크를 완화한다면 EU 내 방영이 가능할 것으로 분석된다.
은 AI 심사자 ‘로디아이’가 참가자의 노래, 안무, 무대 장악력 등 데이터 프로필을 다차원적으로 분석해 아이돌의 선발과 탈락, 그리고 데뷔 유닛 재조합을 직접 결정하는 포맷이다. 이는 참가자의 실제 경력과 직업적 기회에 실질적인 영향을 미치기 때문에 「EU AI 법」 Annex III가 규정한 ‘채용 및 지원자 선발’ 목적의 전형적인 고위험 AI 시스템으로 분류될 가능성이 매우 높다. 따라서 원안 그대로 EU 시장에 진출하려면 학습 데이터의 인종·외모 편향성 부재 입증, 탈락 근거에 대한 설명 가능성 확보, 인간 심사위원의 개입 및 번복 권한 보장 등 막대한 행정적·기술적 비용을 감수해야 한다. 결과적으로 규제를 준수하기 위해 AI의 역할을 조언자로 축소하고 인간이 최종 결정을 내리는 방식으로 재설계해야 하는데, 이는 최초 기획 의도와 프로그램의 몰입성을 훼손하는 요인으로 작용할 수 있다.
AI K-POP 서바이벌 오디션 프로그램 < A-IDOL> <출처 – 방송 화면
갈무리>
갈무리>
규제 장벽과 신뢰 인증의 기회
「EU AI 법」은 새로운 기술이 가져올 사회적 부작용과 위험을 예방하려는 ‘사전 접근법(ex-ante approach)’의 대표적 사례로, 사후 구제 중심인 미국이나 정부 주도의 신속한 사전 예방을 취하는 중국의 방식과 구별된다. 본 연구의 사례 분석을 통해 드러났듯, 「EU AI 법」은 미디어·문화 영역에서 기술 기반의 창조적 시도와 획기적인 창작 혁신에 상당한 규제 장벽과 비용 부담을 안기는 걸림돌이 될 수 있다. 이러한 이유로 구글, 메타, 아마존과 같은 미국의 빅테크 기업들은 물론 EU 역내 AI 관련 기업들도 AI 법이 규제에 집중됐다는 문제를 지적해 왔다.
그러나 다른 한편으로 엄격한 규제의 준수는 시장에서 해당 AI 기술 및 프로그램의 품질과 공정성을 제도적으로 검증받았다는 강력한 ‘품질 신뢰 신호’로 작동할 수 있다. 데이터 거버넌스와 투명성을 확보한 콘텐츠는 유럽 시청자와 미디어 파트너들에게 신뢰도 높은 브랜드 가치를 인정받아 장기적인 경쟁력을 확보하는 기회가 될 수도 있다. 결국 AI 정책의 핵심 과제는 기술 발전을 가로막지 않으면서도 인간의 존엄성과 윤리적 가치를 보호할 수 있는 ‘혁신과 규제 사이의 정교한 균형’을 찾아내는 데 있으며, EU를 비롯한 글로벌 사회는 이 양면적인 과제를 해결하기 위한 지속적인 거버넌스 단순화와 정책적 조율을 이어가야 한다.
1) EU가 세계 최초로 강력한 인공지능 규제를 제정해, EU라는 거대 단일 시장의 영향력이 전 세계 국가와 글로벌 빅테크 기업에 미치는 ‘규제의 세계화 현상’, 즉 ‘브뤼셀 효과(Brussels Effect)’로 이해할 수도 있다.
저자의 다른 미디어
![[미디어&AI트렌드]<최강야구> vs <불꽃야구>](static/images/noimg.png)
