기사 상세
지난 1월 22일부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 시행됐다. 인공지능 기술 발전에 따른 국민 권익과 존엄성 보호, 국민 삶의 질 향상, 국가 경쟁력 강화가 그 목적이다. 세계 최초 전면 시행이라는 이 법안의 주요 내용을 톺아본다. 편집자 주
우스개가 있었다. 수비수나 공격수, 어느 쪽으로든 손색이 없는 국가대표 축구 선수 이야기다.
상대 문전을 향해 중원서부터 그 선수가 폭풍 질주했다. 골대는 텅 비어 있었으나 그는 골을 넣지 못했다. 동료가 뒤에서 길게 차 준 공이 그의 뒤통수를 맞고 우리 편 진영으로 튕겨 나왔기 때문이다. 패스한 공보다 그 선수가 더 빨랐다. 공격수가 빠르면 대부분 좋은 일이지만, 자기편 선수와 호흡이 맞지 않으면 공격수가 아무리 빨라도 좋은 결과를 얻지 못할 수 있다는 교훈이 담긴 이야기다.
1년여 전 제정·공포된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 「인공지능기본법」)이 지난 1월 22일 시행됐다. 법을 제정한 표면적인 목적은 법률 이름에 명료하다. 인공지능의 건전한 발전과 신뢰 기반을 조성하는 데 필요한 사항을 법적으로 정하기 위함이다. 법률 시행을 통해 달성하려는 궁극의 목적 역시 거창하다. 국민의 권익과 존엄성 보호, 국민 삶의 질 향상, 국가 경쟁력 강화다. 입법자가 국민을 위해 제정한 법률의 목적이라면 무릇 이런 정도의 외피를 둘러야 하겠지만, 정작 이 법이 구체적으로 어떻게 쓰이고, 어떤 성과나 부산물을 낳을 것인지에 대해서는 우려와 기대가 분분하다. 법률을 제정하고, 시행령을 만들고 관련 고시나 가이드라인을 만드는 등의 입법 절차가 진행되는 동안, 산업계는 이 법이 규제적 성격을 갖고 있는 데다가 기술 진흥을 위한 지원은 부족하다고 비판했다. 시민사회는 인공지능 사업자에게 일방적으로 유리하게 설계된 점과 기본권 침해 가능성 등을 들어 법의 위험성을 우려했다.
인공지능의 개발과 이용, 투명성과 신뢰성 등을 다루는 까닭에 관련 법률의 제·개정을 포함한 시행 과정에서 한국이나 일본, 유럽연합(EU) 모두 부산한 듯, 신속한 듯, 과감한 듯, 멈칫하는 듯한 정책 현상들이 나타나고 있다. 언론이나 호사가들은 인공지능 관련 법 제정과 시행 부문의 나라별 주자 간 순위 경쟁에서 어느 나라가 ‘최초’인가를 다투기도 한다. 이마저 순위 매김이 쉬운 일은 아니다. EU는 2024년 「AI법」을 가장 먼저 제정했으나, 시행은 더디고 핵심 규정 시행도 한국보다 훨씬 늦다. 더욱이 EU 집행위원회는 작년 11월 19일 ‘고위험 AI 시스템’에 대한 규제 적용 시점을 최대 2027년 12월까지 연기했다. 해당 규제는 애초 올 8월부터 적용될 예정이었다. 2025년 5월 관련 법률을 제정한 일본은 작년 6월에 일부, 9월에 나머지 조항을 시행했다. 한국은 EU에 이어 2025년 1월 관련 법을 제정했으나 전면적인 시행 차원에서 EU에 앞선다. 한국 언론은 ‘세계 최초’라고 보도했다.
인공지능기본법, 주요 내용은?
한국에서는 본격적인 법률 시행을 불과 한 달여 앞두고 개정안이 국회를 통과했다. AI 분야 창업 활성화 지원, 공공데이터의 학습용 데이터 제공의 근거를 마련하고, AI 취약계층의 접근성 보장과 비용 지원의 근거 등을 마련했다. 일단 내용부터 살펴봐야 할 일이다. 의견 수렴을 위해 이 법의 시행령 제정안이 입법 예고된 뒤에 개정안이 국회를 통과했으므로, 개정 법률의 취지와 시행령 간 조화 여부도 톺아봐야 한다. 2025년 1월 제정법, 2025년 12월 개정법, 동법시행령 그리고 과학기술정보통신부(이하 과기정통부)가 제정한 관련 고시와 가이드라인 등을 종합해 이해할 필요가 있다. 시행일 기준 이 법의 주요 내용은 다음과 같다.
첫째, 인공지능과 관련한 기술, 산업, 인공지능 사업자, 이용자, 영향받는 자, 국가와 지방자치단체(이하 지자체) 등에 적용할 ‘법 원칙 5가지’를 천명했다. 인공지능 기술과 산업은 안전성과 신뢰성을 제고해 국민 삶의 질을 향상해야 한다는 것, 인공지능 제품이나 시스템에 의해 생명과 신체 안전·기본권에 중대한 영향을 받은 사람들은 인공지능의 최종 결과 도출에 활용된 주요 기준과 원리 등에 대해 명확하고 의미 있는 설명을 제공받아야 한다는 것, 국가와 지자체는 인공지능 사업자의 창의 정신을 존중하고 안전한 인공지능 이용 환경 조성을 위해 노력해야 한다는 것, 국가와 지자체는 인공지능이 가져올 모든 영역에서의 변화에 국민이 적응하도록 시책을 강구해야 한다는 것, 국가와 지자체는 인공지능 취약계층의 참여를 보장하고 의견이 반영될 수 있도록 노력해야 한다는 것 등이다. 이러한 5대 원칙에도 불구하고 시행령의 내용이나 시행령을 마련하는 과정에서 정부가 취한 입장은 ‘최소 규제 원칙’으로 귀결됐다고 볼 수 있다. 과기정통부는 과태료 부과 유예 기간도 1년 이상 두겠다는 입장을 밝혔다.
둘째, 인공지능의 개발과 사업 지원, 고위험 인공지능이나 생성형 AI 등과 관련한 ‘정책 체계 구축’이다. 이를 위해 대통령 소속으로 ‘국가인공지능전략위원회’가 구성됐다. 이 위원회는 인공지능 관련 정책 사항, 투자 방향 설정과 투자 전략, 산업 발전과 경쟁력을 저해하는 규제 발굴·개선, 인프라 구축과 제도 개선, 전문 인력 양성과 지원, 학습용 데이터 등의 수집·관리·활용 촉진, 예산에 관한 중요 사항, 고영향 인공지능 규율과 정책 대응 등 인공지능 관련한 대부분의 사항을 다룬다. 개정법에서 담당 기능이 훨씬 강화됐는데, 위원 수도 늘었다. 위원장 1인과, 상임 1인이 포함된 부위원장 3인까지 60명 이하의 위원으로 구성·운영한다.
셋째, 인공지능 기술 개발과 산업 육성을 위한 기반을 제공하고, 산업 활성화를 위해 국가와 지자체가 해야 할 책무를 마련했다. 법 제3장에 해당하는 내용으로 제1절은 인공지능 산업 기반을 조성하는 내용, 제2절은 인공지능 기술 개발과 산업 활성화를 규정한다. 기술 표준화, 학습용 데이터 시책, 창업 활성화, 산업 간 융합 촉진, 법령 정비 및 제도 개선 등 인공지능 기술개발과 산업 활성화 관련 거의 대부분의 사항을 규율하고 있다.
개정법에서 저소득층과 청소년층의 인공지능 이용과 관련한 비용 지원 규정이 추가됐다.
넷째, 정부와 민간사업자, 사업자 단체가 인공지능의 안전성·신뢰성·접근성 등에 대한 윤리 원칙을 준수하고 자율적인 규제를 시행할 수 있도록 규정했다. 인공지능 윤리와 관련된 일종의 공동 규제 모델을 법에 도입한 셈인데, 정부가 윤리 원칙을 제정·공표하고, 인공지능 사업자나 인공지능 관련 교육·연구기관 등은 윤리원칙 준수를 위한 ‘민간 자율위원회’를 두도록 한 구조를 취했다. 인공지능기술의 연구·개발·활용의 안전이나 윤리 원칙 준수, 인권침해, 윤리 지침 마련 등 제반 쟁점에 대해 민간 자율위원회가 업무를 자율적으로 수행한다고 규정하면서도, 과기정통부가 그 구성·운영에 관한 표준 지침을 마련해 보급하는 체계를 구성했다.
다섯째, 인공지능 사업자의 투명성과 안전성 확보, 고영향 인공지능과 관련한 책무를 부여했다.
고영향 인공지능이나 생성형 인공지능을 이용하려는 경우 사전고지해야 하고, 생성형 인공지능을 이용한 경우에는 그 사실을 표시해야 하며, 인공지능을 이용한 딥페이크 결과물에 대해서는 고지나 표시하도록 하되, 그 방법과 예외 사항은 대통령령으로 정하도록 규정했다. 또 인공지능 사업자로 하여금 ‘고영향 인공지능’에 해당하는지 여부를 사전 검토하도록 규정하고, 필요한 경우 과기부 장관에게 해당 여부 확인을 요청할 수 있도록 규정했다. 정부는 시행령에서 사전 고지의 경우 제품에 직접 기재하는 것 외에도 계약서, 이용약관 기재도 가능하도록 정했다. 생성형 인공지능의 경우 사람의 인식 외에 ‘기계’가 판독할 수 있는 방법도 허용했다.
여섯째, 국내에 사무소나 영업소가 없는 사업자에게 국내 대리인을 지정하도록 규정했다. 이용자 수와 매출액 등을 기준으로 대통령령에서 해당 사업자를 정하도록 했는데, 시행령은 전년도 매출액 1조 원 이상 인공지능 사업자, 인공지능 서비스 부문 전년도 매출액 100억 원 이상 사업자, 전년도 국내 이용자 수 1일 평균 100만 명 이상 사업자, 인공지능 안전성을 현저하게 해치는 사건이나 사고가 발생했거나 발생할 가능성이 있는 경우로 과기부 장관의 서류 제출 요구를 받은 사업자 등을 대상으로 규정했다.
일곱째, 책무를 위반한 인공지능 사업자에게 형벌이 아닌 과태료 행정벌을 부과하도록 규정했다. 형벌 조항이 있긴 하지만 이는 ‘국가인공지능전략위원회’ 위원이 사무와 관련해 알게 된 비밀을 누설한 때 처벌하는 것에 불과하고, 책무를 위반한 사업자에게는 3,000만 원 이하의 과태료를 부과하도록 규정했다.
법적 근거 갖췄지만, 투명성과 안정성 확보 아쉬워
갓 시행된 「인공지능기본법」의 성과나 위험을 섣불리 예단하기 어렵지만, ‘세계 최초’라거나 ‘일등’ 따위의 속도 경쟁의 잣대로 법률의 제·개정과 시행의 의미를 평가해서는 안 된다. 인공지능기술 개발이나 산업 활성화, 기업이나 창업자 등에 대한 지원 부문 등은 비록 산업 현장 종사자가 보기에 성에 차지 않을지언정, 법안은 최소한 법적 근거는 풍성하게 갖췄다. 인공지능 사업자에 대한 투명성과 안전성 확보 의무, 고영향 인공지능 지정과 사전 검토 책무 등은, 비록 시민사회 단체나 비판자 입장에서 볼 때 여전히 불투명하고 부족하겠지만, 그 절차와 방법에 대해 규제 근거를 갖췄다는 사실은 작지만 의미 있다.
그러나 정부가 시행령에서 인공지능 이용자나 영향받는 사람들을 고려하기보다 기술 개발과 산업 활성화에 더 큰 비중을 두면서 인공지능의 투명성이나 안전성 확보를 위한 입법자들의 고민을 무색하게 만든 것은 아쉬운 부분이다. 입법자들 역시 시행 전 법률 개정을 통해 인공지능 취약계층에 대한 배려와 지원을 법률에 새로 추가했으나 집 구조물의 실질적 뼈대는 그대로 둔 채 지붕 색깔만 슬쩍 돋보이게 하여 생색만 냈다는 비판을 감수해야 한다. 법률과 시행령에 여전히 모호한 표현이 많아 사업자로서 법적 안정성에 대한 불안감을 갖고 있다는 비판이나 정부가 윤리적 자율성을 표방하지만 실질적으로 강제력을 발휘할 가능성이 있다는 비판 등에 대해서는 입법자와 정부 모두 귀담아들어야 할 것이다. 법적인 강제로 자율적 윤리를 실행해 내기 어렵다는 사실, 적절하게 공을 공급해 주는 동료가 있어야 너무 빠른 국가대표 축구 선수 뒤통수에 공이 튕겨 나올 일이 없다는 사실을 잊지 말아야 할 것이다.
1) 제2조 제4호에서 정한 각 호 영역은 에너지법, 먹는물관리법, 보건의료기본법, 의료기기법 및 디지털의료제품법, 원자력시설 등의 방호 및 방사능 방재 대책법, 교통안전법 등에서 정한 내용을 비롯해 범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용, 교육기본법상 유아·초등·중등교육에서 학생 평가, 그 밖에 대통령령으로 정한 영역 중 하나의 영역 활용을 말한다.
저자의 다른 미디어
