기사 상세
일본이 인공지능(AI) 산업 발전을 위한 새로운 법 제도를 도입했다. AI 분야 선두 다툼에서 뒤지고 있다는 판단에서다. 지난 5월 28일 참의원 본회의를 통과한 ‘AI 관련 기술의 연구개발 및 활용 촉진법’(AI 신법)1)은 AI 기술의 국제 경쟁력 향상에 초점을 맞추고 있다. 이와 함께 AI를 활용한 인권 침해 등 위험을 억제하기 위해 정부가 조사를 시행해 민간사업자에게 시정을 촉구하는 내용도 포함됐다.
하지만 다소 복잡한 조사 방식과 실효적인 처벌 규정 부재 등으로 논쟁이 일고 있다. 특히 미디어 업계에서는 사실상 저작권 보호에 대한 규정이 없다는 점에서 크게 우려하고 있다. 생성형 AI 개발 과정에서 사업자들이 신문 기사 등을 동의나 계약 없이 무분별하게 학습 데이터로 사용하고 있는 상황에서, 최소한의 규제 장치도 마련하지 않았다는 비판이 나온다.
AI 활용도·민간 투자 모두 뒤처져 위기의식 고조
일본이 AI 개발 촉진과 규제를 다루는 국내법을 정비한 것은 이번이 처음이다. 지난 6월 4일부터 시행에 들어간 AI 신법은 국가가 AI 연구개발 및 인재 양성 등에 개입할 법적 근거를 마련해 기술 혁신을 지원하는 것을 골자로 하고 있다. 이를 위해 총리가 주재하고 각료 전원이 참여하는 AI 전략본부에서 기본 계획을 수립하도록 했다.
AI 신법에선 AI를 ‘국가안보상 중요한 기술’로 규정하고 있는데, 그만큼 일본 정부의 위기의식도 강하다. 일본 정부가 법제도 마련을 더는 미뤄선 안 된다고 판단한 배경도 이와 관련이 깊다. 일본의 현실은 주요 선진국이나 중국 등에 비해 너무 뒤처져 있기 때문이다.
AI 활용도나 민간 투자만 봐도 그렇다. 일본 총무성의 <2024년도 정보통신 백서>에 수록한 설문조사 결과에 따르면 일본의 개인별 생성형 AI 이용률은 9.1%다. 이에 반해 중국은 56.3%, 미국은 46.3% 수준이다. 영국(39.8%), 독일(34.6%) 등과 비교해도 매우 낮다. 또 기업의 생성형 AI 업무 활용도 역시 46.8%로 미국(84.7%)이나 중국(84.4%), 독일(72.7%) 등에 비해 떨어지는 것으로 나타났다.2)
민간 투자 상황도 마찬가지다. 스탠퍼드대 인간중심 AI 연구소(HAI)의 <2025 AI 지수 보고서>에 따르면 지난해 일본의 민간 AI 투자액은 9억 3,000만 달러(약 2조 2,940억 원)였다. 미국(1,090억 800만 달러), 중국(92억 9,000만 달러), 영국(45억 2,000만 달러)과는 큰 차이를 보였다. 또 아랍에미리트(UAE), 이스라엘, 한국, 인도 등에도 뒤지는 상황이다.3)
일본 정부는 AI 신법에 앞서 가이드라인을 먼저 내놨다. 일본 경제산업성과 총무성은 지난해 4월 <AI 사업자 가이드라인(제1.0판)>을 발표했다. 이는 기존 가이드라인인 <AI 개발 가이드라인>(2017년, 총무성), <AI 활용 가이드라인>(2019년, 총무성), <AI 원칙 실천을 위한 거버넌스 가이드라인 Ver1.1>(2022년, 경산성) 등을 통합하고 업데이트한 것이다.4)
하지만 가이드라인은 각 사업자에게 AI 거버넌스 구축 등을 위한 구체적인 조치를 자율적으로 추진하도록 권고할 뿐이다. 한마디로 법적 구속력이 없다는 뜻이다.
이와 별도로 지난해 6월 일본 디지털청은 <텍스트 생성 AI 활용에서의 리스크 대책 가이드북(α판)>을 냈다.5) 이 가이드북에는 생성형 AI 사용 시 발생할 수 있는 할루시네이션(환각) 현상 등 허위 정보 생성, 기밀정보 유출 등의 위험 요소를 줄이기 위한 일반적인 대응책이 담겨 있다. 그러나 이 역시 규범적인 성격이 강해, 기업 등의 입장에서 큰 도움이 되지 않는다는 평가가 많았다.
EU 모델과 다른 ‘소프트 로(soft law)’ 선택
AI 신법은 국가가 민간과 협력해 연구개발, 시설 유지, 인재 양성, 교육 등 전방위 역할을 맡는다는 내용을 명시하고 있다. 이를 위해 AI 관련 기술의 기초 연구부터 실용화를 위한 연구개발에 이르기까지 일관성 있는 연구 방향을 제시하고, 해당 기술을 정부 기관에서 민간으로 이전하는 체제를 정비하는 내용도 들어가 있다.
AI 시대를 맞아 각국 간 첨예해지고 있는 인재 확보 경쟁에 대한 비전도 담았다. 법에 따라 일본 정부는 AI 인재 확보와 양성을 위해 지방자치단체 및 민간과 협력해 정책을 수립하고, AI 교육을 촉진하는 정책을 마련할 계획이다.
일본 정부는 사이버 사기나 딥페이크(deep fake) 기술을 악용한 성범죄·명예훼손 등 AI 발전에 따른 위험을 어떻게 다룰지도 AI 신법에 넣었다. AI 관련 기술을 연구개발하고 활용하는 과정에서 개인에 대한 권리 침해가 발생하면 국가가 이를 분석해 대책을 검토하도록 했다. 다만 “지도, 조언,
정보 제공 등 필요한 조치를 취한다”고만 명시해 따로 처벌 규정을 두진 않았다.
심각한 인권 침해가 발생해도, 정부 당국이 해당 사업자를 공개할 순 있어도 처벌할 수는 없다는 얘기다. 이는 위험이 현실화하면 강제력이 없다는 뜻이기도 하다. 사실상 기존과 마찬가지로 법적 구속력이 없는 ‘소프트 로(soft law)’ 형태로 운영하겠다는 것이다.
반면 유럽연합(EU)의 경우, 지난해 6월 ‘AI법(Artificial Intelligence Act)’6)을 제정하면서 처벌 규정을 명시한 ‘하드 로(hard law)’ 방식을 택했다. 이 법에선 위험 발생 가능성과 영향도에 따른 일종의 규제 로드맵까지 정했다.
가장 악성으로 분류되는 ‘허용할 수 없는 위험(Unacceptable Risk)’의 경우, 개인·집단에 대한 차별을 조장하는 시스템, 무차별적 얼굴 인식 시스템이나 서브리미널 효과(subliminal effect)를 이용한 잠재의식 조작 프로그램 등이 해당된다. EU에선 이미 지난 2월부터 이런 행위가 원칙적으로 금지되고 있다. 또 중요 인프라, 채용 심사, 교육 등의 분야에서 사용되는 AI는 ‘고위험(High Risk)’ 대상으로 리스크 관리, 데이터 거버넌스, 인적 감시 조치, 로그(log) 기록 보관 등이 내년 8월부터 단계적으로 의무화된다. AI 채팅봇과 같은 대화형 서비스, 이미지 생성 서비스, 감정 인식 시스템 등은 ‘제한적 위험(Limited Risk)’ 대상이다. 해당 사업자는 내년 8월부터 이용자에게 AI 사용 사실을 공개해야만 한다. 이들을 제외한 일반 AI 애플리케이션에 대해선 특별한 규제는 없다.
위와 같은 규정을 어길 시 처벌은 무겁다. AI법에 따르면 “중대한 위반의 경우 3,500만 유로(약 566억 원) 또는 해당 기업의 전 세계 연간 매출액의 7% 중 더 높은 금액”을 벌금으로 부과할 수 있다. 시행은 올 8월부터다.7)
EU의 AI법은 저작권을 보호하기 위한 조항도 두고 있다. 범용 AI 개발자가 모델의 학습, 테스트 및 검증에 사용한 데이터 정보를 공개하도록 했으며, 저작권자의 권리 유보(Opt-out)를 확인해 이를 준수하도록 했다.8) 이는 신문사가 생성형 AI의 학습에 자사 기사가 사용되지 않도록 막을 수 있는 안전장치로 평가된다.
미국의 경우, 연방정부 차원의 AI 규제법은 아직 없다. 대신 조 바이든 행정부 시절인 지난 2023년 10월 ‘AI의 안전하고 신뢰할 수 있는 개발 및 활용(Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)’에 관한 행정명령(EO14110)9)을 통해 AI에 대한 규제를 강화했다.
하지만 도널드 트럼프 대통령은 지난 1월 취임 직후 이 행정명령을 철회하는 내용의 또 다른 행정명령(EO14179)10)인 ‘AI 분야에서 미국의 리더십을 방해하는 장벽 제거(Removing Barriers to American Leadership in Artificial Intelligence)’에 서명했다. 이와 별도로 트럼프 행정부는 ‘하나의 크고 아름다운 법안(One Big Beautiful Bill Act)’11)을 통해 각 주에서 실시 중인 AI 규제까지 유예하려고 했다. 하지만 미 상원에서 딥페이크를 이용한 AI 기술 악용, 아동 안전 등을 이유로 해당 조항을 삭제한 수정안을 통과시켰고, 하원에서 지난 7월 3일 이를 통과시켰다.
이처럼 트럼프 행정부 하에서 미국은 AI 발전을 위해 관련 규제를 없애는 방향으로 정책을 전환하고 있는 실정이다. 결국 관련 기업들은 자율적으로 AI 관련 행동 규범이나 윤리 규범을 마련할 것으로 전망된다. 전반적으로 일본의 AI 신법은 EU 모델보다 현재 미국 모델과 지향점이 유사하다고 할 수 있다.
“생성형 AI가 대신 취재·보도해 주나”
AI 신법에 가장 예민하게 반응하는 곳은 일본 신문사들이다. 특히 범용 생성형 AI 개발 과정에서 아무런 동의 없이 무분별하게 신문 기사 등이 활용되는 실태를 반영하지 않고 있다는 불만이 크다.
정부 입장에선 보도물 등 저작권에 대한 규제나 처벌 규정을 둘 경우 AI 연구개발의 큰 장애 요인이 될 수 있다고 판단하지만, 신문사들은 이런 행위가 사유재산을 침해하는 것과 다름 없다는 입장이다.
이와 관련, 일본신문협회는 지난 1월 AI 신법 제정 과정에서 신문사들의 입장을 대변하는 의견서12)를 냈다. 당시 일본 정부의 AI전략회의 AI제도연구회가 발표한 ‘중간 정리안’에 대한 것이었다.
협회는 우선 중간 정리안에 나와 있는 “규제를 수반하지 않는 법령이라도 법령에 사업자의 의무와 책임이 명시됨으로써 국내외 사업자에 대해 일정한 실효성을 확보할 수 있다”는 내용을 문제 삼았다. 협회는 이에 대해 “AI 사업자에게 생성형 AI를 보도 콘텐츠에 이용할 경우 허락을 받으라고 거듭 요구하고 있지만, 개선이 이뤄지지 않은 채 서비스는 계속 확대되고 있다”며 “이러한 사업자에 대해 ‘소프트 로’로 대응하는 것은 어렵다.
생성형 AI 시대에 걸맞는 새로운 법 정비가 시급하다”고 했다. 협회는 또 “지식재산 보호에 있어 대가 환원도 중요하다”며 “국제적인 동향을 고려해 저작권 보호를 강화하는 한편, AI 사업자에게 학습 데이터 공개 의무를 부과하는 등의 대응을 해야만 한다”고 했다.
하지만 이런 바람과 다른 내용의 AI 신법이 공표되자, 협회는 지난 6월 4일 성명13)을 발표해 저작권 보호를 다시 한번 강조했다. 협회는 성명에서 “그동안 생성형 AI 서비스가 보도 콘텐츠를 학습·이용할 경우 저작권자의 허락을 받도록 요구해 왔다”며 “회원사의 주요 뉴스 사이트(기사를 제공받는 포털 사이트 포함)는 ‘robots.txt’를 설정해 콘텐츠 보호 의사를 표시하고 있다”는 점을 적시했다. ‘robots.txt’는 검색 로봇이 사이트 및 웹페이지를 수집할 때 허용 여부를 알려주는 프로토콜(protocol)로 국제 권고안이다. 즉 신문사가 기사의 무단 이용을 제한하기 위해 이러한 설정을 했을 때는 생성형 AI 학습 등에 써서는 안 된다는 의미다.
하지만 일본에서는 이를 어겨도 법적으로 제어할 수 없는 상황이라는 점을 협회 측은 성명에서 재차 강조했다. 그러면서 “이대로라면 콘텐츠 재생산 사이클이 손상돼 보도기관은 취재 체제를 축소할 수밖에 없는 상황이 될 수 있다”며 “생성형 AI가 보도기관을 대신해 취재·보도를 담당하는 일은 결코 없을 것”이라고 했다. 이어 “뉴스 전달의 중요한 주체인 언론사의 기능이 약화되면 국민의 ‘알 권리’를 침해할 수 있다”며 “민주주의의 본질 등과도 관련된 매우 중요한 문제로, 저작권법이나 경쟁법 등 기존의 틀을 넘어 종합적인 대응이 요구된다”고 했다.
스스로 가이드라인 만드는 신문사
이와 별도로, 일부 신문사들은 AI 활용에 대한 자체적인 규정이나 대안 모색을 서두르고 있다.
일례로 요미우리신문은 지난 4월 일본 최대 통신사업자인 NTT와 함께 ‘생성형 AI의 본질에 관한 공동제언’14)을 발표했다. 양사는 공동제언을 통해 “현재로서는 (생성형 AI의) 결과에 대한 정확성을 담보할 수 없고, 이를 무제한 활용할 경우 인간과 사회에 다양한 문제를 야기할 수 있다”는 점을 상기시켰다. 그러면서 “선거·안보와 관련해서는 강력한 제한이 필요하다”며 “(저작권법의 경우) 시대에 맞게 적정화를 검토해 생성형 AI 자체의 활용과 양립할 수 있는 형태로 제도와 기술 양면에서 추진할 필요가 있다”고 내다봤다.
이와 관련, 제언에서는 ①미디어와 산업계가 중심이 된 규율과 공동 규제의 도입, ②실효성 있는 기술의 확립과 보급, ③법 개정에 대한 노력 등을 중요한 과제로 제시하기도 했다.
1) https://laws.e-gov.go.jp/law/507AC0000000053
2) 総務省(2024), 《令和6年版情報通信白書》, pp.67-69, https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/pdf/00zentai.pdf
3) Stanford HAI(2025), <The 2025 AI Index Report>, p.38, https://hai.stanford.edu/assets/files/hai_ai-index-report-2025_chapter4_final.pdf
4) https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
5) https://www.digital.go.jp/resources/generalitve-ai-guidebook
6) http://data.europa.eu/eli/reg/2024/1689/oj
7) https://artificialintelligenceact.eu/article/99/#:~:text=Non%2Dcompliance%20with%20certain%20AI%20practices%20can%20result,or%201%25%20of%20a%20company‘s%20annual%20turnover
8) Nordemann, J., B. & Rasouli, A., <The AI Act provisions relating to copyright – Possibility of private enforcement? Germany as an example - Part 1>, Kluwer Copyright Blog, 2025.2.3, https://copyrightblog.kluweriplaw.com/2025/02/03/the-ai-act-provisionsrelating-to-copyrightpossibility-of-private-enforcement-germany-as-an-example-part-1/
9) <Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence>, Federal Register, 2023.11.1, https://www.federalregister.gov/documents/2023/11/01/2023-24283/safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence
10) <Removing Barriers to American Leadership in Artificial Intelligence>, Federal Register, 2025.1.31, https://www.federalregister.gov/documents/2025/01/31/2025-02172/removing-barriers-to-american-leadership-in-artificial-intelligence
11) https://www.congress.gov/bill/119th-congress/house-bill/1/text
12) <AI戦略会議 AI制度研究会「中間とりまとめ案」に対する意見>, 日本新聞協会, 2025.1.23, https://www.pressnet.or.jp/statement/broadcasting/250123_15692.html
13) <生成AIにおける報道コンテンツの保護に関する声明>, 日本新聞協会, 2025.6.4, https://www.pressnet.or.jp/statement/broadcasting/250604_15900.html
14) https://info.yomiuri.co.jp/news/yomi_NTTproposalonAI_jp.pdf
저자의 다른 미디어
