기사 상세
인공지능이 일상에 파고들면서 그에 따른 부작용 해결이 과제로 떠오르고 있다. 이에 세계 각국은 앞다퉈 규제 방안을 내놓고 있다. 선진국들이 AI 규제 방안을 발표하며 주도권을 과시하는 가운데, 중국에 대한 견제 또한 만만치 않다. 세계 각국의 AI 규제 현황을 짚어본다. 편집자 주
생성형 인공지능(Generative AI) 서비스가 일상에 급속도로 퍼지면서 저작권 침해, 환각(hallucination), 여론 조작 등 각종 부작용이 생기고 있다. 이에 따라 세계 각국 정부는 경쟁적으로 AI 관련 규제를 내놓으며 주도권을 놓고 경쟁하고 있다. 미국을 비롯해 소위 선진국 클럽인 G7(독일, 미국, 영국, 이탈리아, 일본, 캐나다, 프랑스), 중국은 함께, 또 따로 전략을 취한다. 이들은 서로 연합해 공동선언을 발표하는가 하면 개별 국가 차원에서도 AI 산업 진입에 관한 허들을 만들며 이를 국제 표준으로 정착시키려 하고 있다.
치고 나간 미국, AI 규제 주도권 과시
2023년 10월 30일(현지 시각) 미국 백악관은 조 바이든 행정부가 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)’에 서명했다고 밝혔다. 미국이 AI 관련 규제 장치를 마련한 건 이번이 처음이다.
행정명령에는 첨단 AI 시스템 및 서비스를 개시하기 전 당국의 안정성 평가를 받도록 하는 내용이 담겼다. 국방물자생산법(DPA, Defense Production Act)에 따라 국가 안보, 공중보건, 경제에 심각한 위험을 초래하는 AI 시스템을 개발하는 기업들은 모델 출시 전 미국 상무부 산하 국립표준기술연구소(NIST, National Institute of Standards and Technology)의 안전성 평가 결과를 의무적으로 제출해야 한다.
이때 기업은 NIST 테스트 결과를 공유해야 하지만 외부에 공개할 필요는 없다. NIST는 시스템이 사이버 공격에 대한 방어력을 갖췄는지, 이용자에게 차별·편견을 조장할 위험성이 없는지 등을 중점적으로 평가한다. 상무부는 딥페이크나 허위 정보 확산을 방지하기 위해 AI 콘텐츠에 워터마크를 부착하는 시스템 관련 지침을 개발할 예정이다.
AI 가드레일을 만든다는 게 목표지만, AI 숙련 인력을 미국에 유치하는 조항도 담았다. 해외 AI 인력에 대한 비자 발급 요건을 완화하고 수용 인원도 확대하는 방식이다. 이밖에 AI로 인한 노동자의 피해는 줄이고 혜택을 극대화하기 위한 원칙을 개발한다. 의료, 기후변화 등 중요 분야에 대한 AI 연구 보조금도 증액하기로 했다.
규정은 일전에 이뤄진 오픈AI·마이크로소프트(MS)·구글·엔비디아 등 주요 15개 사의 자발적 합의에 기반했다. 행정명령에 따른 규제와 지침은 권고사항이 아니라 실제 법적 효력을 갖는다. 다만 나머지 민간 기업에 대해 강제력을 행사하려면 입법적 보완이 필요하다는 점에서 아직 한계가 있다. 조 바이든 대통령은 “이 명령은 대담한 행동”이라고 자평하면서도 (법적 규제를 위해서는) “의회가 움직여야 한다”고 인정했다.
선진국 클럽, G7과 유럽 움직였다
같은 날, G7과 유럽연합(EU)도 움직였다. 미국이 행정명령 서명 소식을 발표한 2023년 10월 30일(현지 시각), G7과 EU는 AI 기업 대상 국제 행동강령을 내놨다. AI 기술의 위험과 잠재적 오용 가능성을 완화하기 위해 첨단 AI 시스템을 개발하는 기업에 대한 행동강령이다.
강령에는 기업이 AI 제품 배포 전후로 내·외부 테스트를 통해 보안 취약점을 확인하고 AI 시스템의 기능·제한 사항·사용 및 오용에 관한 보고서를 공개하며 이에 대해 개인정보 보호 및 위험관리 정책을 공개해야 한다는 내용이 담겼다. 구체적으로는 AI 생성 콘텐츠를 구분할 수 있도록 하는 워터마크 도입, AI 안전성 연구 투자, 세계적 과제 해결을 위한 AI 시스템 개발 우선순위 지정, 테스트 및 콘텐츠 인증에 대한 국제 표준 마련, 지식재산(IP)·개인정보 보호를 위해 시스템으로 유입되는 데이터 제어 등의 내용이다.
이번 행동강령은 2023년 5월 일본 G7 정상회의에서 합의한 각료급 협의체 ‘히로시마 AI 프로세스’에서 나온 결과물이다. 자발적인 행동강령으로 구속력은 없지만, 주요 국가가 AI를 관리하는 기준점 역할을 할 가능성이 있다. 이 같은 의지를 보여주듯 우르줄라 폰데어라이엔(Ursula von der Leyen) EU 집행위원회 집행위원장은 성명에서 “AI 규제 선두 주자인 EU는 글로벌 수준의 AI 가드레일과 거버넌스에도 기여하고 있다”면서 “이번 G7 행동강령을 환영하며 AI 개발자들이 가능한 한 빨리 여기에 서명하고 시행할 것을 촉구한다”고 강조했다.
유럽의회는 2023년 6월 AI 기술을 규제하는 법안을 세계 최초로 가결해 주목받았다. 2023년 12월 9일(현지 시각)에는 해당 법안에 최종 합의했다. 다만 AI 법이 발효되기까지는 상당한 시간이 걸릴 것으로 보인다. 법의 세부 사항은 추가 논의가 필요하기 때문이다. 유럽의회와 회원국들의 공식 승인을 거친 뒤 이르면 2026년 전면 발효될 것으로 예상된다.
법안에는 가장 논란이 됐던 ‘생체인식 기술에서 AI 사용 금지’가 포함됐다. 이 조항에 따르면 AI 기업들은 안면 인식 데이터베이스를 구축하기 위해 인터넷에서 이미지를 모으거나 정치·종교·인종 등의 특성으로 사람을 분류할 수 없다. 다만 테러 수사, 범죄 용의자 추적 등에는 예외 조항이 적용된다. AI로 생성된 콘텐츠를 구분할 수 있는 장치 마련과 AI 및 불법 콘텐츠에 대한 안전장치를 지원하는 조항도 포함됐다.
또 생성 AI 훈련 데이터세트에 대한 저작권을 명시해 공개하고 오남용을 방지할 수 있는 안전장치를 마련하도록 의무화하고 있다. 당시 기업들은 기술적으로 지키기 어려운 사항이라고 반발했다. 앞서 EU는 2018년 세계에서 가장 엄격한 수준의 개인정보 보호법인 일반정보보호법(GDPR)을 발효, 국제사회에서 관련 논의를 주도했던 경험이 있다.
AI의 재앙적 위험 억제를 위한 협력
미국과 EU가 치고 나가자 다급해진 건 EU를 탈퇴한 영국이다. 이에 질세라 영국은 2023년 11월 1일 첫 AI 정상회담으로 꼽히는 ‘인공지능 안전 정상회담 2023(AI Safety Summit 2023)’을 개최했다. 세계 주요국이 AI 위험에 대한 공동 합의와 책임을 논의하고 추가 회의를 개최하기로 약속했다는 점에서 의미가 있다는 평가다.
미국, EU, 중국, 일본, 한국 등 28개국 대표단은 11월 1일 AI의 급속한 발전으로 인해 발생할 수 있는 재앙적 위험을 억제하기 위해 협력하기로 합의한, 이른바 블레츨리선언(Bletchley Declaration)을 내놨다. 선언문은 주로 프론티어 AI 모델, 즉 오픈AI·구글·마이크로소프트·엔트로픽(Anthropic)·코히어(Cohere) 등에서 개발한 고성능 대규모 언어모델(LLM)에 초점을 맞췄다.
선언문은 “이러한 AI 모델의 가장 중요한 기능으로 인해 고의적이든 아니든 심각하고 심지어 재앙적인 피해가 발생할 가능성이 있다”면서 “AI로 발생하는 많은 위험을 막기 위해서는 국제 협력이 필요하다. 이에 인간 중심적으로 신뢰할 수 있으며 책임감 있는 AI를 위해 협력하기로 했다”고 밝혔다. 다만 문서는 구체적인 정책 목표나 AI 개발 규제 방법은 제안하지 않았다.
회담을 주최한 리시 수낵(Rishi Sunak) 영국 총리는 친 기술기업 성향 정치가다. 이번 회담으로 국제 무대에서 영국이 기술 중심지로 떠오르려는 야심을 보여줬다는 평가다. 그는 이번 선언에 대해 “세계 최고 AI 강국들이 AI의 위험을 이해하는 것이 시급하다는 데 동의하고 자녀의 미래를 장기적으로 보장하는 데 도움이 된다는 점에 동의하는 획기적인 성과”라고 추켜세웠다.
반면 외부 시각에는 온도 차가 있다. 조 바이든 미국 대통령, 에마뉘엘 마크롱 프랑스 대통령, 올라프 숄츠 독일 총리 등 다수의 주요 정치 지도자들이 불참했다. 미셸 도넬런(Michele Donelan) 영국 기술부 장관은 첫 인공지능 안전 정상회담 개막식에서 6개월 후에 한국에서 소규모 가상 인공지능 안전 정상회담을 개최한다고 밝혔다. 세 번째 회의는 1년 후 프랑스에서 오프라인으로 개최된다. 영국은 지난해 9월 AI 혁신을 가로막는 기업의 독과점 행위를 금지하는 AI 규제 원칙을 내놓았다.
영국에서 진행된 인공지능 안전 정상회담에서는 영국의 야심이 드러남과 동시에 미국, 중국 간 신경전도 있었다. 로이터통신에 따르면 회담에 참석한 우 자오후이(Wu Zhaohui) 중국 과학기술부 차관은 2023년 11월 1일(현지 시각) 공식 발언에서 AI 모델 개발 및 사용 과정에서 국가 간 공정성(equal rights)을 강조했다. 그는 발언에서 “우리는 상호 존중, 평등, 상호 이익의 원칙을 지지한다”면서 “규모에 관계없이 각국은 AI를 개발하고 사용할 수 있는 동등한 권리를 가지고 있다”고 말했다.
이는 2023년 8월 미국 정부가 발표한 반도체·초미세 전자공학(microelectronics), 양자(quantum) 정보 기술, 특정 AI 시스템에 대한 대중 투자를 금지하는 내용의 행정명령을 암시한 것으로 보인다. 조 바이든 미국 대통령은 당시 중국을 ‘우려 대상국’으로 지정했다.
이에 따라 반도체·초미세 전자공학, 양자 정보 기술, 특정 인공지능 시스템 등 3가지 분야에서 미국 법인이나 개인이 ‘중국 내에 있거나, 중국의 관할하에 있거나, 중국인이 소유한 단체들에 연관된 특정 거래’를 하지 못하도록 했다. 중국의 회담 참가는 줄곧 논쟁의 대상이 됐다. 리즈 트러스(Liz Truss) 전 영국 총리는 후임자인 현 리시 수낵 총리에게 중국의 정상회담 초대 철회를 촉구하며 “중국에서 AI는 국가 통제 수단이자 국가 안보를 위한 도구”라고 경고하기도 했다.
중국은 전폭 지원
관할권 둘러싼 내부 경쟁도
중국 정부는 대규모 언어모델 등의 출시 전 안전 평가 등을 의무화하긴 했지만, 규제보다는 개발을 지원하는 데 적극적이다. 2023년 7월 13일 생성형 인공지능 서비스 관리에 관한 임시조치(生成式人工智能服务管理暂行办法)를 발표하고 한 달 후인 8월 15일 바로 이행에 들어갔다.
중국 규제 기관 간에도 AI 관할권과 AI 접근을 둘러싼 경쟁이 있다는 점이 특징이다. 중국에서 AI를 규제하는 주요 기관은 중국 사이버 공간 관리국(CAC)과 과학기술부(MOST)다. 두 기관은 모두 인터넷 활동 관리·감독 기관이다. CAC는 국내 인터넷 콘텐츠를 관할하는 반면, 과학기술부는 중국이 서방국가로부터 기술 자립을 달성할 수 있도록 고차원 기술 발전에 자금을 지원하는 부처다.
CAC는 시진핑 국가주석이 조성한 글로벌 AI 거버넌스 이니셔티브를 주도하는 기관이자, AI 규제 3종을 만든 장본인이다. MOST는 이니셔티브의 수정 권한을 가지며, 연구개발(R&D) 정책 등을 관장하고 있다. 영국 회담에 참여한 대표단은 MOST 차관이 이끌었다. 매트 시핸(Matt Sheehan) 카네기국제평화기금(Carnegie Endowment for International Peace) 연구원은 X(전 트위터)에 “여러 부처가 중국 AI 거버넌스를 주도하기 위해 경쟁하고 있다”면서 “CAC는 역사적으로 국내 인터넷을 감시하는 기관으로 국제적으로 참여하는 데 적합하지 않을 수 있고, MOST는 AI 관리보다 홍보에 중점을 두고 있다. 이번 정상회담의 목표를 생각하면 CAC나 MOST는 완벽한 파트너가 아니다”라고 평했다.
오픈AI 사태 이후, 미국 주도 공동선언
규제 판은 바쁘게 돌아간다. 최근 오픈AI 이사회와 샘 올트먼(Sam Altman) 공동창업자의 내분이 시장에 파장을 몰고 온 이후, 미국의 주도로 18개국이 인공지능 관련 규제안을 내놨다. 전 세계 각국이 안전을 위해 AI 개발 규제안을 속속 마련하는 가운데 설계 단계에서 ‘안전’을 최우선으로 한 최초의 세부 국제 합의안이다.
2023년 11월 27일(현지 시각) 로이터통신 보도에 따르면 11월 26일 미국, 영국 등 18개국은 국제 AI 합의를 공개했다. 새로운 지침에 서명한 18개국은 한국과 나이지리아, 노르웨이, 독일, 미국, 싱가포르, 에스토니아, 영국, 이스라엘, 이탈리아, 일본, 체코공화국, 칠레, 캐나다, 폴란드, 프랑스, 호주 등이다. 중국은 없다. 미국은 인공지능을 악성 행위자로부터 안전하게 보호하는 방법에 대해 상세히 다룬 국제 합의는 이번이 최초라고 강조했다. 20페이지 분량의 문서에서 18개국은 AI 설계 단계에서 가장 중요한 것은 보안이라고 합의했다. 이에 AI를 설계하고 사용하는 기업은 기업 고객과 개인 사용자를 오용으로부터 안전하게 보호하는 방식으로 AI를 개발하고 배포해야 한다.
이 합의는 AI 시스템 남용을 모니터링하고, 데이터를 보호하며 소프트웨어 공급업체를 통제한다는 내용 등 일반적인 보안 권장 사항을 대부분 담고 있다. 가령 해커가 AI 기술을 탈취하는 것을 방지하는 방법을 다루는 조항 혹은 적절한 보안 테스트 후에만 모델을 출시하는 조항 등이다.
다만 법적 구속력은 없다. AI의 적절한 사용이나 모델에 제공되는 데이터가 어떻게 수집되는지에 대한 까다로운 요건도 포함되지 않았다. 이를 의식한 듯, 옌 이스터리(Jen Easterly) 미국 사이버 보안 및 인프라 보안국(CISA) 국장은 로이터통신과의 인터뷰에서 “단지 멋진 기능을 갖추거나, 얼마나 빨리 시장에 출시할 수 있는지, 비용을 절감하기 위해 경쟁할 수 있는지가 최우선이 아니라고 확인한 것에 의의가 있다”면서 “AI 시스템이 안전을 최우선으로 여겨야 한다는 논지에 최대한 많은 국가가 힘을 실어야 한다”고 강조했다. AI 규제를 둘러싼 국가들의 함께 또 따로 경쟁이 시작됐다.
저자의 다른 미디어
