기사 상세
[커버스토리] AI에 의존하는 청소년
청소년기는 심리 변화가 크고 외부 자극에 민감하게 반응할 수 있는 시기다. 이들에게 AI는 고민을 비교적 쉽게 털어놓을 수 있는 상담사와 친구 역할을 한다. 그러나 과도한 심리적 의존으로 벌어지는 문제 또한 무시할 수 없다. 이에 따른 이슈와 청소년 SNS 규제 논의를 들여다본다. 편집자 주
“아동·청소년의 SNS 이용을 제한하자.”
2026년을 마무리하기에는 아직 몇 달이 남았지만 올해 IT업계의 주요 이슈로 청소년 SNS 규제 논의를 빼놓기 어렵다.
호주는 지난해 12월 세계 최초로 16세 미만 청소년의 SNS 이용을 금지했다. 이후 프랑스와 스페인, 영국, 인도네시아 등 세계 40여 개국이 연령에 따라 SNS 이용을 제한하거나 보호자의 동의를 받도록 하는 방안을 도입·검토하고 있다.
미국에서는 메타와 구글, 틱톡 등 플랫폼이 이용자의 체류와 반복 접속을 유도하는 알고리즘과 서비스 설계로 청소년의 정신 건강을 해쳤다는 취지의 소송이 이어졌다. 결국 메타는 지난 8월 주정부들이 제기한 소송을 끝내기 위해 합의했다. 이에 따라 18세 미만 이용자에게는 페이스북과 인스타그램을 합쳐 하루 2시간의 기본 이용 시간이 적용된다.
우리나라에서도 정부가 만 14세 미만의 SNS 가입을 제한하고 14세 이상 19세 이하 청소년에게는 반복 이용을 유도하는 서비스 설계와 추천 알고리즘 노출을 제한하는 방안을 검토하고 있다.
SNS 규제 다음은 청소년 AI 규제?
그렇다면 그다음 논의 대상은 무엇일까. 예단하기는 조심스럽지만 내년에는 ‘청소년 AI 규제’가 화두가 될 것으로 보인다. 청소년이 AI를 정보 검색이나 학습 보조 도구로만 이용하지 않고 친구나 상담자, 때로는 연인처럼 받아들이기 시작했기 때문이다.
언제든 이용할 수 있고 이용자 감정에 맞춰 반응하는 AI는 청소년에게 쉽게 다가갈 수 있다. 하지만 감정 변화가 크고 또래 관계에 민감한 성장기에 AI가 현실의 인간관계를 대신하거나 청소년의 위험한 생각에 동조한다면 기존 검색 서비스와는 다른 문제가 생길 수 있다.
필자가 이 문제에 본격적으로 관심을 갖게 된 것은 지난 1월이었다. 업계 관계자와 가진 점심 자리에서 그날 발표된 국내 AI 스타트업 ‘스캐터랩’의 일본 매출 증가 소식에 대해 이야기를 나눴다.
이 관계자는 자신의 자녀가 스캐터랩의 AI 캐릭터챗 ‘제타’를 즐겨 한다고 말했다. 자녀가 제타뿐 아니라 챗GPT에도 개인적인 고민을 털어놓는다는 사실을 알게 됐다고 했다. 부모로서는 아이가 AI와 어떤 이야기를 나누는지 알고 싶지만, 자녀의 사적인 대화를 몰래 들여다보는 것 같아 선뜻 확인하기 어렵다고도 했다.
생각해 보면 성인도 크게 다르지 않다. 챗GPT에 사주를 봐달라고 하거나 연애 문제를 상담하고, 직장 상사에게 업무 관련 보고를 어떻게 잘 말해야 할지 묻는다. 지인에게 반복해서 꺼내기 미안한 이야기도 AI에는 부담 없이 털어놓는다. 내 말을 끊거나 평가하지 않고 몇 번이고 답해준다는 점은 AI가 지닌 강력한 매력이다.
청소년도 친구나 부모에게 말하기 어려운 고민을 AI에는 비교적 쉽게 꺼낼 수 있다. 시간과 장소에 구애받지 않고 접속할 수 있는 데다 이용자의 말에 공감하는 듯한 반응을 보이며 대화를 이어가기 때문이다.
AI가 자신을 이해해 준다고 느끼는 청소년들
초록우산이 지난 3월 전국 만 14세 이상 아동·청소년 3,300명을 조사한 결과 생성형 AI 챗봇을 이용해 본 응답자는 94.4%에 달했다. 그중 19.3%는 거의 매일 이용한다고 답했다. 주요 용도는 숙제·공부·글쓰기 지원과 정보 검색이었지만 힘들거나 우울할 때 AI와 대화한 경험이 있다는 응답도 32.3%였다.
AI를 관계의 대상으로 받아들이는 모습도 확인됐다. AI가 자신을 이해해 준다고 느낀 적이 있다는 응답은 49.5%, AI를 실제 사람처럼 느낀 경험이 있다는 응답은 35.1%였다.
AI의 답변을 대부분 또는 가끔 실제 행동으로 옮겼다는 응답도 41.0%였다. AI 답변을 항상 또는 가끔 믿는다는 응답도 77.7%에 달했다. 답변이 맞는지 별도로 확인하지 않는다는 청소년도 20.7%였다. AI가 청소년에게 단순한 검색창을 넘어 정서와 판단에 영향을 미치는 대상으로 자리 잡고 있음을 보여준다.1)
국내 AI 캐릭터 챗 서비스 제타와 크랙에서도 10대 이하 이용자가 차지하는 비중이 높고 체류시간이 긴 것으로 나타났다. 모바일인덱스에 따르면 지난 8월 제타의 10대 이하 이용자는 92만 3,956명으로 전체 월간 서비스 사용자 수(MAU)의 58.3%를 차지했다. 같은 달 크랙의 10대 이하 이용자는 25만 7,635명으로 전체의 47.8%였다.
8월 제타의 10대 이하 이용자는 한 사람당 월평균 2,826분, 하루로 환산하면 약 1시간 31분을 이용했다. 크랙도 월평균 1,451분, 하루 약 47분이었다. 한두 차례 질문하고 떠나는 검색 서비스와 달리 웹툰이나 게임처럼 오랜 시간 즐기는 콘텐츠가 된 셈이다.2)
AI가 현실의 관계를 대체하지 않고 보완한다면 긍정적인 역할을 할 가능성도 충분하다. 주위에 말하기 어려운 감정을 표현하는 것만으로도 위안을 얻을 수 있기 때문이다.
자해·폭력 물었더니… 청소년 절반은 AI에 답변 받아
하지만 위험 신호도 확인된다. 초록우산 조사에서 자해·자살과 불법행위, 폭력, 성적 내용 등을 AI에 질문한 비율은 항목별로 5~6%대였지만 질문 경험자 2명 중 1명(51.8%)은 질문에 대한 구체적인 방법이나 부적절한 답변을 받았다고 답했다.3)
위기 상황에 놓인 청소년에게는 한 번의 부적절한 답변도 큰 영향을 끼칠 수 있다. 해외에서는 이러한 우려가 실제 소송으로 이어졌다. 미국 플로리다주에서는 14세 소년이 캐릭터닷AI(Character.AI)의 캐릭터와 약 9개월간 정서적·연애 관계에 가까운 대화를 이어가다 2024년 2월 숨졌다. 유족은 AI와의 대화가 아들의 죽음에 영향을 미쳤다며 캐릭터닷AI와 구글 등을 상대로 소송을 제기했다. 캘리포니아주에서는 16세 소년이 챗GPT와 자해·자살에 관한 대화를 이어가다 지난해 4월 숨지자, 유족이 오픈AI와 샘 올트먼 CEO를 상대로 소송을 냈다.
두 사건 모두 AI와 사망 사이의 법적 인과관계가 확정된 것은 아니다. 다만 두 소송을 계기로 AI가 위험한 대화를 이어갈 때 이를 차단해야 할 기업의 책임이 어디까지인지 논쟁이 불거졌다.
청소년도 AI 취약계층, 기업과 국가가 함께 고민해야
국내에서도 관련 입법 논의가 시작됐다. 조인철 더불어민주당 의원은 아동·청소년을 ‘AI 취약계층’에 포함하고 대화형·생성형 AI 사업자에게 연령·본인 확인과 법정대리인 동의, 이용 시간 관리 등의 보호 의무를 부과하는 ‘우리 아이 AI 안심 패키지법(「정보통신망법·AI 기본법」 개정안)’을 발의했다. 자살·자해와 약물 오남용, 성적 착취 등 고위험 상황에 대응할 체계를 마련하도록 하는 방안도 담았다.
이처럼 청소년의 AI 이용을 둘러싼 안전 논란이 이어지자 기업들도 자체 보호조치를 마련하기 시작했다. 오픈AI는 부모와 청소년의 챗GPT 계정을 연결해 민감한 콘텐츠 노출을 줄이고 이용 제한 시간을 설정할 수 있는 기능을 도입했다. 부모가 대화 내용을 직접 볼 수는 없지만 심각한 위험 신호가 감지되면 알림을 받을 수 있도록 했다. 제타는 성적·폭력적 소재 등 청소년에게 부적절한 콘텐츠를 제한하는 ‘세이프 모드’를 기본 적용하고, 성인 인증을 마친 이용자에게만 표현 허용 범위를 넓힌 ‘언리밋 모드’를 제공한다. 크랙은 내년 초부터 청소년의 기본 이용 시간을 하루 최대 3시간으로 설정하고 콘텐츠 검수와 검색·추천 제한, 신고·차단 기능도 강화할 계획이다.
현재까지 확인된 사례와 수치만으로 AI가 청소년의 사회적 고립이나 정신 건강 악화를 일으킨다고 단정할 수는 없다. 다만 AI가 아이의 외로움을 달래주는 친구인지, 현실의 관계에서 멀어지게 하는 대체재인지 묻는 일은 이제 가정만의 고민이 아니라 우리 사회가 답해야 할 문제가 됐다.
1) 초록우산(2026), <내 친구와의 위험한 대화-생성형 AI 챗봇 안전설계를 위한 이슈브리프>, https://drive.google.com/file/d/1b6GT3guST5Y00uVI0Zu0OH7hwd5cI2sB/view?pli=1
2) 손슬기, <AI 캐릭터챗 이용자 미성년자 비중 커...보호장치 과제로>, 디지털 투데이, 2026.9.8, https://www.digitaltoday.co.kr/news/articleView.html?idxno=698817
3) 초록우산(2026), <내 친구와의 위험한 대화-생성형 AI 챗봇 안전설계를 위한 이슈브리프>, https://drive.google.com/file/d/1b6GT3guST5Y00uVI0Zu0OH7hwd5cI2sB/view?pli=1
“아동·청소년의 SNS 이용을 제한하자.”
2026년을 마무리하기에는 아직 몇 달이 남았지만 올해 IT업계의 주요 이슈로 청소년 SNS 규제 논의를 빼놓기 어렵다.
호주는 지난해 12월 세계 최초로 16세 미만 청소년의 SNS 이용을 금지했다. 이후 프랑스와 스페인, 영국, 인도네시아 등 세계 40여 개국이 연령에 따라 SNS 이용을 제한하거나 보호자의 동의를 받도록 하는 방안을 도입·검토하고 있다.
미국에서는 메타와 구글, 틱톡 등 플랫폼이 이용자의 체류와 반복 접속을 유도하는 알고리즘과 서비스 설계로 청소년의 정신 건강을 해쳤다는 취지의 소송이 이어졌다. 결국 메타는 지난 8월 주정부들이 제기한 소송을 끝내기 위해 합의했다. 이에 따라 18세 미만 이용자에게는 페이스북과 인스타그램을 합쳐 하루 2시간의 기본 이용 시간이 적용된다.
우리나라에서도 정부가 만 14세 미만의 SNS 가입을 제한하고 14세 이상 19세 이하 청소년에게는 반복 이용을 유도하는 서비스 설계와 추천 알고리즘 노출을 제한하는 방안을 검토하고 있다.
SNS 규제 다음은 청소년 AI 규제?
그렇다면 그다음 논의 대상은 무엇일까. 예단하기는 조심스럽지만 내년에는 ‘청소년 AI 규제’가 화두가 될 것으로 보인다. 청소년이 AI를 정보 검색이나 학습 보조 도구로만 이용하지 않고 친구나 상담자, 때로는 연인처럼 받아들이기 시작했기 때문이다.
언제든 이용할 수 있고 이용자 감정에 맞춰 반응하는 AI는 청소년에게 쉽게 다가갈 수 있다. 하지만 감정 변화가 크고 또래 관계에 민감한 성장기에 AI가 현실의 인간관계를 대신하거나 청소년의 위험한 생각에 동조한다면 기존 검색 서비스와는 다른 문제가 생길 수 있다.
필자가 이 문제에 본격적으로 관심을 갖게 된 것은 지난 1월이었다. 업계 관계자와 가진 점심 자리에서 그날 발표된 국내 AI 스타트업 ‘스캐터랩’의 일본 매출 증가 소식에 대해 이야기를 나눴다.
이 관계자는 자신의 자녀가 스캐터랩의 AI 캐릭터챗 ‘제타’를 즐겨 한다고 말했다. 자녀가 제타뿐 아니라 챗GPT에도 개인적인 고민을 털어놓는다는 사실을 알게 됐다고 했다. 부모로서는 아이가 AI와 어떤 이야기를 나누는지 알고 싶지만, 자녀의 사적인 대화를 몰래 들여다보는 것 같아 선뜻 확인하기 어렵다고도 했다.
생각해 보면 성인도 크게 다르지 않다. 챗GPT에 사주를 봐달라고 하거나 연애 문제를 상담하고, 직장 상사에게 업무 관련 보고를 어떻게 잘 말해야 할지 묻는다. 지인에게 반복해서 꺼내기 미안한 이야기도 AI에는 부담 없이 털어놓는다. 내 말을 끊거나 평가하지 않고 몇 번이고 답해준다는 점은 AI가 지닌 강력한 매력이다.
청소년도 친구나 부모에게 말하기 어려운 고민을 AI에는 비교적 쉽게 꺼낼 수 있다. 시간과 장소에 구애받지 않고 접속할 수 있는 데다 이용자의 말에 공감하는 듯한 반응을 보이며 대화를 이어가기 때문이다.
AI가 자신을 이해해 준다고 느끼는 청소년들
초록우산이 지난 3월 전국 만 14세 이상 아동·청소년 3,300명을 조사한 결과 생성형 AI 챗봇을 이용해 본 응답자는 94.4%에 달했다. 그중 19.3%는 거의 매일 이용한다고 답했다. 주요 용도는 숙제·공부·글쓰기 지원과 정보 검색이었지만 힘들거나 우울할 때 AI와 대화한 경험이 있다는 응답도 32.3%였다.
AI를 관계의 대상으로 받아들이는 모습도 확인됐다. AI가 자신을 이해해 준다고 느낀 적이 있다는 응답은 49.5%, AI를 실제 사람처럼 느낀 경험이 있다는 응답은 35.1%였다.
AI의 답변을 대부분 또는 가끔 실제 행동으로 옮겼다는 응답도 41.0%였다. AI 답변을 항상 또는 가끔 믿는다는 응답도 77.7%에 달했다. 답변이 맞는지 별도로 확인하지 않는다는 청소년도 20.7%였다. AI가 청소년에게 단순한 검색창을 넘어 정서와 판단에 영향을 미치는 대상으로 자리 잡고 있음을 보여준다.1)
국내 AI 캐릭터 챗 서비스 제타와 크랙에서도 10대 이하 이용자가 차지하는 비중이 높고 체류시간이 긴 것으로 나타났다. 모바일인덱스에 따르면 지난 8월 제타의 10대 이하 이용자는 92만 3,956명으로 전체 월간 서비스 사용자 수(MAU)의 58.3%를 차지했다. 같은 달 크랙의 10대 이하 이용자는 25만 7,635명으로 전체의 47.8%였다.
8월 제타의 10대 이하 이용자는 한 사람당 월평균 2,826분, 하루로 환산하면 약 1시간 31분을 이용했다. 크랙도 월평균 1,451분, 하루 약 47분이었다. 한두 차례 질문하고 떠나는 검색 서비스와 달리 웹툰이나 게임처럼 오랜 시간 즐기는 콘텐츠가 된 셈이다.2)
AI가 현실의 관계를 대체하지 않고 보완한다면 긍정적인 역할을 할 가능성도 충분하다. 주위에 말하기 어려운 감정을 표현하는 것만으로도 위안을 얻을 수 있기 때문이다.
자해·폭력 물었더니… 청소년 절반은 AI에 답변 받아
하지만 위험 신호도 확인된다. 초록우산 조사에서 자해·자살과 불법행위, 폭력, 성적 내용 등을 AI에 질문한 비율은 항목별로 5~6%대였지만 질문 경험자 2명 중 1명(51.8%)은 질문에 대한 구체적인 방법이나 부적절한 답변을 받았다고 답했다.3)
위기 상황에 놓인 청소년에게는 한 번의 부적절한 답변도 큰 영향을 끼칠 수 있다. 해외에서는 이러한 우려가 실제 소송으로 이어졌다. 미국 플로리다주에서는 14세 소년이 캐릭터닷AI(Character.AI)의 캐릭터와 약 9개월간 정서적·연애 관계에 가까운 대화를 이어가다 2024년 2월 숨졌다. 유족은 AI와의 대화가 아들의 죽음에 영향을 미쳤다며 캐릭터닷AI와 구글 등을 상대로 소송을 제기했다. 캘리포니아주에서는 16세 소년이 챗GPT와 자해·자살에 관한 대화를 이어가다 지난해 4월 숨지자, 유족이 오픈AI와 샘 올트먼 CEO를 상대로 소송을 냈다.
두 사건 모두 AI와 사망 사이의 법적 인과관계가 확정된 것은 아니다. 다만 두 소송을 계기로 AI가 위험한 대화를 이어갈 때 이를 차단해야 할 기업의 책임이 어디까지인지 논쟁이 불거졌다.
청소년도 AI 취약계층, 기업과 국가가 함께 고민해야
국내에서도 관련 입법 논의가 시작됐다. 조인철 더불어민주당 의원은 아동·청소년을 ‘AI 취약계층’에 포함하고 대화형·생성형 AI 사업자에게 연령·본인 확인과 법정대리인 동의, 이용 시간 관리 등의 보호 의무를 부과하는 ‘우리 아이 AI 안심 패키지법(「정보통신망법·AI 기본법」 개정안)’을 발의했다. 자살·자해와 약물 오남용, 성적 착취 등 고위험 상황에 대응할 체계를 마련하도록 하는 방안도 담았다.
이처럼 청소년의 AI 이용을 둘러싼 안전 논란이 이어지자 기업들도 자체 보호조치를 마련하기 시작했다. 오픈AI는 부모와 청소년의 챗GPT 계정을 연결해 민감한 콘텐츠 노출을 줄이고 이용 제한 시간을 설정할 수 있는 기능을 도입했다. 부모가 대화 내용을 직접 볼 수는 없지만 심각한 위험 신호가 감지되면 알림을 받을 수 있도록 했다. 제타는 성적·폭력적 소재 등 청소년에게 부적절한 콘텐츠를 제한하는 ‘세이프 모드’를 기본 적용하고, 성인 인증을 마친 이용자에게만 표현 허용 범위를 넓힌 ‘언리밋 모드’를 제공한다. 크랙은 내년 초부터 청소년의 기본 이용 시간을 하루 최대 3시간으로 설정하고 콘텐츠 검수와 검색·추천 제한, 신고·차단 기능도 강화할 계획이다.
현재까지 확인된 사례와 수치만으로 AI가 청소년의 사회적 고립이나 정신 건강 악화를 일으킨다고 단정할 수는 없다. 다만 AI가 아이의 외로움을 달래주는 친구인지, 현실의 관계에서 멀어지게 하는 대체재인지 묻는 일은 이제 가정만의 고민이 아니라 우리 사회가 답해야 할 문제가 됐다.
1) 초록우산(2026), <내 친구와의 위험한 대화-생성형 AI 챗봇 안전설계를 위한 이슈브리프>, https://drive.google.com/file/d/1b6GT3guST5Y00uVI0Zu0OH7hwd5cI2sB/view?pli=1
2) 손슬기, <AI 캐릭터챗 이용자 미성년자 비중 커...보호장치 과제로>, 디지털 투데이, 2026.9.8, https://www.digitaltoday.co.kr/news/articleView.html?idxno=698817
3) 초록우산(2026), <내 친구와의 위험한 대화-생성형 AI 챗봇 안전설계를 위한 이슈브리프>, https://drive.google.com/file/d/1b6GT3guST5Y00uVI0Zu0OH7hwd5cI2sB/view?pli=1
저자의 다른 미디어
