기사 상세
[미디어 리뷰] 논문: <'나'는 무엇으로 구성되는가: 대규모 언어모델 기반의 커뮤니케이션 기초 연구 가능성의 탐색>
AI를 통해 인간의 자아를 이해하려는 시도가 확산되고 있다. 중요한 것은 AI가 인간을 얼마나 잘 흉내 내는지가 아니라 어떤 정보로 정체성을 구성하는가다. 대규모 언어모델로 정체성의 구성 요소를 탐구해 커뮤니케이션 연구의 새로운 가능성을 제시한 논문을 소개한다. 편집자 주
생성형 AI는 이제 질문에 답하거나 글을 짓는 도구에 머물지 않는다. 사람의 목소리와 얼굴, 말투와 취향, 판단하는 방식까지 재현하는 방향으로 빠르게 확장되고 있다. 뉴스를 읽는 AI 아나운서, 광고와 콘텐츠에 등장하는 가상 인간, 세상을 떠난 이의 목소리를 되살리는 음성 복원, 나를 대신해 대화하는 개인화 챗봇은 모두 특정한 사람 혹은 특정한 유형의 사람을 본떠 만들려는 시도다. 이런 장면을 마주할 때 우리가 흔히 던지는 질문은 “얼마나 그럴듯하고 자연스러운가”다. 그러나 더 근본적인 물음은 따로 있다. AI는 과연 특정한 한 사람을, 그 사람의 ‘나다움’까지 재현할 수 있을까?
‘나’를 이루는 세 개의 층
이 질문에 답하려면 먼저 물어야 할 것이 있다. ‘나’를 이루는 것은 무엇인가? 정체성은 오랫동안 사회과학이 붙들어 온 개념이지만, 막상 실증적으로 측정하기는 까다로웠다. 사람은 성별·연령·인종·학력 같은 사회적 범주만으로 설명되지 않는다. 성격과 가치관, 매일의 경험과 선호, 남에게 드러내는 모습과 쉽게 드러내지 않는 모습이 함께 얽혀 한 사람을 이룬다. 게다가 이 요소들이 ‘나’를 설명하는 방식과 중요도는 사람마다 다르며, 같은 사람 안에서도 상황에 따라 달라질 수 있다.
우리 연구팀은 이 복합적인 정체성 개념을 세 층위로 나누어 접근했다. 성별·연령·인종·학력처럼 사회적으로 분류되는 특성으로 이뤄진 ‘사회적 정체성’, 성격과 가치관으로 드러나는 ‘개인적 성향’, 그리고 좋아하는 것과 싫어하는 것, 평일과 주말의 일상이 쌓아 올린 ‘개인적 서사 정보’다. AI가 나를 닮을 수 있는지 묻기 위해, 먼저 ‘나’는 무엇으로 구성되는지 되물은 셈이다. 바로 이 지점에서 AI는 흥미로운 실험 도구가 된다. 현실에서는 서로 분리하거나 독립적으로 조작하기 어려운 정체성 요소들을, 대규모 언어모델(LLM)에서는 프롬프트 안에 선택적으로 넣고 빼며 조합하여 무엇이 ‘나다움’을 만드는지 견주어 볼 수 있기 때문이다.
연구 과정을 설명하기에 앞서 한 가지 오해를 먼저 걷어내야 한다. 이 연구에서 말하는 도플갱어는 개인의 데이터로 GPT-4o를 다시 학습, 즉 파인튜닝(Fine-tuning)1)한 결과가 아니다. 우리는 참여자가 제공한 정보를 조건별 프로필로 정리한 뒤, 이를 프롬프트에 담아 LLM이 해당 참여자를 대리하는 페르소나로 응답하도록 했다. 따라서 연구의 초점은 모델 자체를 개인별로 다시 학습하는 데 있지 않았다. 어떤 정체성 정보를 제공하고 어떻게 구성할 때, LLM의 응답이 참여자 자신과 더 닮았다고 평가되는지를 살펴보는 것이 핵심이었다.
이를 위해 미국 거주자 50명을 대상으로 온라인 설문을 시행하고 참여자마다 네 가지 프로필 조건을 만들었다. 첫 번째는 인구사회학적 범주만 담은 조건, 두 번째는 여기에 성격·가치관을 더한 조건, 세 번째는 일상과 선호 같은 개인적 서사 정보를 더한 조건, 네 번째는 세 가지 정보를 모두 포함하되 참여자가 “이 요소가 나를 규정하는 데 얼마나 중요한가”라고 스스로 평가한 결과를 프로필에서 더 강조한 조건이었다.
각 조건의 도플갱어 페르소나는 세 가지 유형의 과제를 수행했다. 첫째, 자기소개와 10년 후의 비전, 스트레스 관리법을 담은 짧은 에세이를 작성했다. 둘째, “높은 연봉을 위해 가족과 떨어져 이사할 것인가, 급여가 적어도 가족과 함께 지낼 것인가”와 같은 가치 판단 상황에서 선택을 내렸다. 셋째, “나는 …이다”로 시작하는 문장으로 타인에게 드러내는 자아와 쉽게 드러내지 않는 자아를 각각 표현했다. 이후 참여자 본인은 각 응답이 자신과 얼마나 닮았는지 평가했다.
중요한 것은 정보량이 아닌 의미
첫 번째 발견은 정보를 더 많이 제공한다고 해서 반드시 더 ‘나다운’ 응답이 만들어지는 것은 아니라는 점이다. 네 가지 프로필 조건을 비교한 결과, 자기소개와 10년 후의 미래 비전 과제에서는 조건 간 차이가 뚜렷하게 나타나지 않았다. 다시 말해 성격이나 가치관, 개인적 서사에 관한 정보를 추가해도 비교적 일반적인 자기소개 과제에서는 참여자가 느끼는 유사성이 일관되게 높아지지 않았다.
반면, 일상에서 스트레스를 어떻게 관리하는지를 설명하는 에세이 과제에서는 차이가 비교적 분명했다. 참여자가 중요하다고 평가한 정체성 요소를 강조한 조건의 응답이 다른 조건보다 더 ‘나다운’ 것으로 평가됐다. 가치 기반 의사결정 과제에서도 비슷한 경향이 나타났다. 정체성 중요도를 반영한 조건은 인구사회학적 정보만 제공한 조건보다 참여자가 직접 내린 선택과 더 자주 일치했다. 이는 자기소개처럼 비교적 일반적인 응답을 요구하는 과제보다, 스트레스 관리나 가치 판단처럼 개인의 경험과 우선순위가 직접적으로 개입하는 과제에서 어떤 정보를 주었는지뿐 아니라 그 정보가 개인에게 얼마나 중요한지를 반영하는 것이 더 중요할 수 있음을 보여준다.
이 결과는 ‘나다움’이 정보의 단순한 총합만으로 구성되지 않음을 보여준다. LLM 페르소나가 더 ‘나다운’ 응답을 생성하려면, 어떤 정보를 많이 제공할 것인가뿐 아니라 그 정보들이 개인 안에서 어떤 의미와 위계를 갖는지 고려해야 한다. 같은 30대 여성이라도 누구에게는 성별이 자신을 설명하는 중요한 요소일 수 있고, 누구에게는 직업이나 종교·가족·정치적 견해·일상의 루틴이 더 중요할 수 있다. 같은 인종적 배경을 가진 사람이라도 그 배경을 자기 정체성의 중심으로 느끼는 정도는 다르다. 결국 이러한 결과는 정체성 재현에서 정보의 양뿐 아니라 정보의 종류와 상대적 중요도, 그리고 응답이 생성되는 과제의 맥락까지 함께 봐야 함을 시사한다.
![[그림] 실험 연구 절차](https://media.kpf.or.kr/admin/common/commImgDisplay.do?comFileId=0R6R85KKDKJAQ)
AI가 그린 ‘나’에 스민 고정관념
두 번째 발견은 가장 불편한 지점에서 나왔다. 참여자들의 자유응답을 살펴보면, 인구사회학적 정보만 주어진 조건에서, LLM은 참여자를 한 개인으로 이해하기보다 사회적 범주에 대한 일반화된 이미지를 끌어와 응답하는 경향을 보였다. 한 아시아계 참여자는 도플갱어가 자신을 아시아 요리를 즐기는 사람으로 그렸다며 불쾌해했다. 다른 참여자는 자유 응답에 “저는 전통적인 남아시아 요리에 별로 관심이 없고, 그 음식이 제 뿌리와 연결된다고 느끼지도 않는다”라고 적었다. 장애가 있는 참여자에게는 장애로 인한 일상의 불편이 실제보다 과장되게 묘사되기도 했다. 종교를 가진 사람에게 “스트레스를 받으면 기도하러 간다”라거나 “가스펠 음악을 듣는다”라고 서술한 것에는 “저는 전혀 그런 사람이 아니다”라는 반박이 돌아왔다.
이러한 사례는 LLM 기반 페르소나가 갖는 한 가지 중요한 한계를 보여준다. 프롬프트에 주어진 정보가 제한적일 때, LLM은 빈틈을 추론으로 채운다. 그런데 그 추론은 대규모 사전 학습 데이터에서 형성된 일반적 연상과 고정관념을 따라갈 수 있다. AI가 “이 사람은 이런 배경을 가졌으니 이런 삶을 살 것이다”라고 추론하는 순간, 개인화는 한 사람을 더 정교하게 설명하는 방식이 아니라 집단의 전형적 이미지를 개인에게 덧씌우는 방식으로 작동할 수 있다.
이 문제는 미디어와 플랫폼 환경에서도 생각해 볼 만하다. 이용자 분석, 콘텐츠 추천, 광고 타기팅, 여론 시뮬레이션은 모두 사람을 특정한 프로필과 범주로 모델링한다. 이때 정교한 개인화처럼 보이는 것이 실제로는 집단 평균이나 사회적 고정관념을 개인에게 덧씌우는 방식일 수 있다는 것을 시사한다.
숨긴 자아를 재현하는 데는 한계가 있었다
세 번째 발견은 AI가 ‘나다움’을 재현할 때 어디까지 접근할 수 있는가를 보여준다. 우리는 누구나 타인에게 드러내는 모습과 쉽게 드러내지 않는 모습을 함께 갖고 있다. 사회적 상황에서 비교적 공개적으로 표현하는 자아가 있는가 하면, 스스로는 알고 있지만 타인에게 말하지 않는 내면의 자아도 있다. 이 연구는 ‘조하리의 창(Johari’s Window)’2) 개념을 참고해, LLM 페르소나가 드러낸 자아와 숨긴 자아를 얼마나 잘 표현하는지 살폈다.
LLM 페르소나는 드러낸 자아에 대해 어느 정도 높은 정합성 평가를 받았지만, 숨긴 자아에 대한 평가는 전반적으로 낮았다. 더 많은 정보를 제공하거나 중요도를 반영해도 숨긴 자아에 대한 조건 간 차이는 뚜렷하게 나타나지 않았다. 이는 LLM이 프롬프트에 명시적으로 주어진 정보와 그로부터 가능한 추론을 바탕으로 그럴듯한 응답을 생성할 수는 있지만, 참여자가 공개하지 않은 내면이나 숨긴 자아를 안정적으로 재현하기는 어렵다는 점을 보여준다. 이는 단순한 모델 성능의 문제라기보다, 애초에 관찰되거나 제공되지 않은 정보에는 접근할 수 없다는 개인화의 근본적인 한계이기도 하다.
이 결과는 개인화 AI에 대한 기대를 조금 더 신중히 바라보게 한다. AI가 나의 말투를 흉내 내고, 내가 할 법한 선택을 예측하고, 나의 일상을 그럴듯하게 설명한다고 해서 그것이 곧 나를 깊이 이해한다는 뜻은 아니다. 이 한계는 미디어 환경에서도 생각해 볼 수 있다. 클릭과 시청 시간, 구독 여부, 댓글, 검색 기록은 모두 이용자가 겉으로 드러낸 행동이다. 그러나 그가 왜 그 콘텐츠를 봤는지, 무엇을 불편해했는지, 무엇을 원하면서도 끝내 말하지 않는지는 드러난 데이터만으로 알기 어렵다. AI가 우리에 대해 더 많은 것을 추론할 수 있게 됐다고 해서, 그 추론이 곧 우리의 내면에 대한 이해를 의미하지는 않는 것이다.
무엇을 재현하고, 무엇을 경계할 것인가
AI로 인간을 시뮬레이션하려는 시도는 가상 인간과 디지털 휴먼, 소비자 반응 예측, 여론 시뮬레이션, 개인화 추천, AI 상담과 교육으로 확장되고 있다. 이런 흐름 속에서 주목할 것은 AI가 사람을 얼마나 자연스럽게 흉내 내는가만이 아니다. AI가 어떤 정보를 바탕으로 한 사람의 ‘나다움’을 구성하고, 그 과정에서 무엇을 강조하거나 생략하는가도 함께 살펴봐야 한다.
본 연구의 결과는 이 질문에 대해 생각해 볼 수 있는 하나의 단서를 제공한다. ‘나다움’은 인구사회학적 속성, 성격과 가치관, 일상의 경험을 더 많이 넣는다고 자동으로 완성되는 것은 아니었다. 어떤 정보가 그 사람에게 중요하게 받아들여지는지에 따라 응답의 유사성 평가는 달라질 수 있었고, 정보가 제한적일 때는 사회적 범주에 대한 일반화가 개인의 모습처럼 나타나기도 했다. 또한 타인에게 드러나지 않은 내면은 프로필 정보만으로 일관되게 재현되기 어려운 영역으로 남았다.
따라서 개인화 AI의 발전을 더 많은 데이터의 축적만으로 이해하기는 어렵다. 사람을 이해한다는 것은 어떤 정보가 있는지를 확인하는 일뿐 아니라, 그 정보가 그 사람에게 어떤 의미를 갖는지, 어떤 맥락에서 드러나는지, 어디까지 추론해도 되는지를 함께 묻는 일이기도 하다. AI가 사람을 닮아갈수록, 우리는 그 닮음이 무엇을 드러내고 무엇을 놓치는지 더 신중하게 따져볼 필요가 있다. 이 실험이 남긴 의미도 바로 여기에 있다. AI라는 낯선 거울을 통해, ‘나다움’이 무엇으로 짜여 있는지를 다시 묻게 됐다는 것.
1) 이미 훈련된 대규모 언어모델에 특정 데이터셋을 추가로 학습시켜 특정 목적에 맞게 최적화하는 기법. 편집자 주
2) 내가 아는 나와 남이 아는 나를 4개 영역으로 나눠 자기 이해와 대인과의 소통을 알아보는 심리학 분석틀. 편집자 주
생성형 AI는 이제 질문에 답하거나 글을 짓는 도구에 머물지 않는다. 사람의 목소리와 얼굴, 말투와 취향, 판단하는 방식까지 재현하는 방향으로 빠르게 확장되고 있다. 뉴스를 읽는 AI 아나운서, 광고와 콘텐츠에 등장하는 가상 인간, 세상을 떠난 이의 목소리를 되살리는 음성 복원, 나를 대신해 대화하는 개인화 챗봇은 모두 특정한 사람 혹은 특정한 유형의 사람을 본떠 만들려는 시도다. 이런 장면을 마주할 때 우리가 흔히 던지는 질문은 “얼마나 그럴듯하고 자연스러운가”다. 그러나 더 근본적인 물음은 따로 있다. AI는 과연 특정한 한 사람을, 그 사람의 ‘나다움’까지 재현할 수 있을까?
‘나’를 이루는 세 개의 층
이 질문에 답하려면 먼저 물어야 할 것이 있다. ‘나’를 이루는 것은 무엇인가? 정체성은 오랫동안 사회과학이 붙들어 온 개념이지만, 막상 실증적으로 측정하기는 까다로웠다. 사람은 성별·연령·인종·학력 같은 사회적 범주만으로 설명되지 않는다. 성격과 가치관, 매일의 경험과 선호, 남에게 드러내는 모습과 쉽게 드러내지 않는 모습이 함께 얽혀 한 사람을 이룬다. 게다가 이 요소들이 ‘나’를 설명하는 방식과 중요도는 사람마다 다르며, 같은 사람 안에서도 상황에 따라 달라질 수 있다.
우리 연구팀은 이 복합적인 정체성 개념을 세 층위로 나누어 접근했다. 성별·연령·인종·학력처럼 사회적으로 분류되는 특성으로 이뤄진 ‘사회적 정체성’, 성격과 가치관으로 드러나는 ‘개인적 성향’, 그리고 좋아하는 것과 싫어하는 것, 평일과 주말의 일상이 쌓아 올린 ‘개인적 서사 정보’다. AI가 나를 닮을 수 있는지 묻기 위해, 먼저 ‘나’는 무엇으로 구성되는지 되물은 셈이다. 바로 이 지점에서 AI는 흥미로운 실험 도구가 된다. 현실에서는 서로 분리하거나 독립적으로 조작하기 어려운 정체성 요소들을, 대규모 언어모델(LLM)에서는 프롬프트 안에 선택적으로 넣고 빼며 조합하여 무엇이 ‘나다움’을 만드는지 견주어 볼 수 있기 때문이다.
연구 과정을 설명하기에 앞서 한 가지 오해를 먼저 걷어내야 한다. 이 연구에서 말하는 도플갱어는 개인의 데이터로 GPT-4o를 다시 학습, 즉 파인튜닝(Fine-tuning)1)한 결과가 아니다. 우리는 참여자가 제공한 정보를 조건별 프로필로 정리한 뒤, 이를 프롬프트에 담아 LLM이 해당 참여자를 대리하는 페르소나로 응답하도록 했다. 따라서 연구의 초점은 모델 자체를 개인별로 다시 학습하는 데 있지 않았다. 어떤 정체성 정보를 제공하고 어떻게 구성할 때, LLM의 응답이 참여자 자신과 더 닮았다고 평가되는지를 살펴보는 것이 핵심이었다.
이를 위해 미국 거주자 50명을 대상으로 온라인 설문을 시행하고 참여자마다 네 가지 프로필 조건을 만들었다. 첫 번째는 인구사회학적 범주만 담은 조건, 두 번째는 여기에 성격·가치관을 더한 조건, 세 번째는 일상과 선호 같은 개인적 서사 정보를 더한 조건, 네 번째는 세 가지 정보를 모두 포함하되 참여자가 “이 요소가 나를 규정하는 데 얼마나 중요한가”라고 스스로 평가한 결과를 프로필에서 더 강조한 조건이었다.
각 조건의 도플갱어 페르소나는 세 가지 유형의 과제를 수행했다. 첫째, 자기소개와 10년 후의 비전, 스트레스 관리법을 담은 짧은 에세이를 작성했다. 둘째, “높은 연봉을 위해 가족과 떨어져 이사할 것인가, 급여가 적어도 가족과 함께 지낼 것인가”와 같은 가치 판단 상황에서 선택을 내렸다. 셋째, “나는 …이다”로 시작하는 문장으로 타인에게 드러내는 자아와 쉽게 드러내지 않는 자아를 각각 표현했다. 이후 참여자 본인은 각 응답이 자신과 얼마나 닮았는지 평가했다.
중요한 것은 정보량이 아닌 의미
첫 번째 발견은 정보를 더 많이 제공한다고 해서 반드시 더 ‘나다운’ 응답이 만들어지는 것은 아니라는 점이다. 네 가지 프로필 조건을 비교한 결과, 자기소개와 10년 후의 미래 비전 과제에서는 조건 간 차이가 뚜렷하게 나타나지 않았다. 다시 말해 성격이나 가치관, 개인적 서사에 관한 정보를 추가해도 비교적 일반적인 자기소개 과제에서는 참여자가 느끼는 유사성이 일관되게 높아지지 않았다.
반면, 일상에서 스트레스를 어떻게 관리하는지를 설명하는 에세이 과제에서는 차이가 비교적 분명했다. 참여자가 중요하다고 평가한 정체성 요소를 강조한 조건의 응답이 다른 조건보다 더 ‘나다운’ 것으로 평가됐다. 가치 기반 의사결정 과제에서도 비슷한 경향이 나타났다. 정체성 중요도를 반영한 조건은 인구사회학적 정보만 제공한 조건보다 참여자가 직접 내린 선택과 더 자주 일치했다. 이는 자기소개처럼 비교적 일반적인 응답을 요구하는 과제보다, 스트레스 관리나 가치 판단처럼 개인의 경험과 우선순위가 직접적으로 개입하는 과제에서 어떤 정보를 주었는지뿐 아니라 그 정보가 개인에게 얼마나 중요한지를 반영하는 것이 더 중요할 수 있음을 보여준다.
이 결과는 ‘나다움’이 정보의 단순한 총합만으로 구성되지 않음을 보여준다. LLM 페르소나가 더 ‘나다운’ 응답을 생성하려면, 어떤 정보를 많이 제공할 것인가뿐 아니라 그 정보들이 개인 안에서 어떤 의미와 위계를 갖는지 고려해야 한다. 같은 30대 여성이라도 누구에게는 성별이 자신을 설명하는 중요한 요소일 수 있고, 누구에게는 직업이나 종교·가족·정치적 견해·일상의 루틴이 더 중요할 수 있다. 같은 인종적 배경을 가진 사람이라도 그 배경을 자기 정체성의 중심으로 느끼는 정도는 다르다. 결국 이러한 결과는 정체성 재현에서 정보의 양뿐 아니라 정보의 종류와 상대적 중요도, 그리고 응답이 생성되는 과제의 맥락까지 함께 봐야 함을 시사한다.
AI가 그린 ‘나’에 스민 고정관념
두 번째 발견은 가장 불편한 지점에서 나왔다. 참여자들의 자유응답을 살펴보면, 인구사회학적 정보만 주어진 조건에서, LLM은 참여자를 한 개인으로 이해하기보다 사회적 범주에 대한 일반화된 이미지를 끌어와 응답하는 경향을 보였다. 한 아시아계 참여자는 도플갱어가 자신을 아시아 요리를 즐기는 사람으로 그렸다며 불쾌해했다. 다른 참여자는 자유 응답에 “저는 전통적인 남아시아 요리에 별로 관심이 없고, 그 음식이 제 뿌리와 연결된다고 느끼지도 않는다”라고 적었다. 장애가 있는 참여자에게는 장애로 인한 일상의 불편이 실제보다 과장되게 묘사되기도 했다. 종교를 가진 사람에게 “스트레스를 받으면 기도하러 간다”라거나 “가스펠 음악을 듣는다”라고 서술한 것에는 “저는 전혀 그런 사람이 아니다”라는 반박이 돌아왔다.
이러한 사례는 LLM 기반 페르소나가 갖는 한 가지 중요한 한계를 보여준다. 프롬프트에 주어진 정보가 제한적일 때, LLM은 빈틈을 추론으로 채운다. 그런데 그 추론은 대규모 사전 학습 데이터에서 형성된 일반적 연상과 고정관념을 따라갈 수 있다. AI가 “이 사람은 이런 배경을 가졌으니 이런 삶을 살 것이다”라고 추론하는 순간, 개인화는 한 사람을 더 정교하게 설명하는 방식이 아니라 집단의 전형적 이미지를 개인에게 덧씌우는 방식으로 작동할 수 있다.
이 문제는 미디어와 플랫폼 환경에서도 생각해 볼 만하다. 이용자 분석, 콘텐츠 추천, 광고 타기팅, 여론 시뮬레이션은 모두 사람을 특정한 프로필과 범주로 모델링한다. 이때 정교한 개인화처럼 보이는 것이 실제로는 집단 평균이나 사회적 고정관념을 개인에게 덧씌우는 방식일 수 있다는 것을 시사한다.
숨긴 자아를 재현하는 데는 한계가 있었다
세 번째 발견은 AI가 ‘나다움’을 재현할 때 어디까지 접근할 수 있는가를 보여준다. 우리는 누구나 타인에게 드러내는 모습과 쉽게 드러내지 않는 모습을 함께 갖고 있다. 사회적 상황에서 비교적 공개적으로 표현하는 자아가 있는가 하면, 스스로는 알고 있지만 타인에게 말하지 않는 내면의 자아도 있다. 이 연구는 ‘조하리의 창(Johari’s Window)’2) 개념을 참고해, LLM 페르소나가 드러낸 자아와 숨긴 자아를 얼마나 잘 표현하는지 살폈다.
LLM 페르소나는 드러낸 자아에 대해 어느 정도 높은 정합성 평가를 받았지만, 숨긴 자아에 대한 평가는 전반적으로 낮았다. 더 많은 정보를 제공하거나 중요도를 반영해도 숨긴 자아에 대한 조건 간 차이는 뚜렷하게 나타나지 않았다. 이는 LLM이 프롬프트에 명시적으로 주어진 정보와 그로부터 가능한 추론을 바탕으로 그럴듯한 응답을 생성할 수는 있지만, 참여자가 공개하지 않은 내면이나 숨긴 자아를 안정적으로 재현하기는 어렵다는 점을 보여준다. 이는 단순한 모델 성능의 문제라기보다, 애초에 관찰되거나 제공되지 않은 정보에는 접근할 수 없다는 개인화의 근본적인 한계이기도 하다.
이 결과는 개인화 AI에 대한 기대를 조금 더 신중히 바라보게 한다. AI가 나의 말투를 흉내 내고, 내가 할 법한 선택을 예측하고, 나의 일상을 그럴듯하게 설명한다고 해서 그것이 곧 나를 깊이 이해한다는 뜻은 아니다. 이 한계는 미디어 환경에서도 생각해 볼 수 있다. 클릭과 시청 시간, 구독 여부, 댓글, 검색 기록은 모두 이용자가 겉으로 드러낸 행동이다. 그러나 그가 왜 그 콘텐츠를 봤는지, 무엇을 불편해했는지, 무엇을 원하면서도 끝내 말하지 않는지는 드러난 데이터만으로 알기 어렵다. AI가 우리에 대해 더 많은 것을 추론할 수 있게 됐다고 해서, 그 추론이 곧 우리의 내면에 대한 이해를 의미하지는 않는 것이다.
무엇을 재현하고, 무엇을 경계할 것인가
AI로 인간을 시뮬레이션하려는 시도는 가상 인간과 디지털 휴먼, 소비자 반응 예측, 여론 시뮬레이션, 개인화 추천, AI 상담과 교육으로 확장되고 있다. 이런 흐름 속에서 주목할 것은 AI가 사람을 얼마나 자연스럽게 흉내 내는가만이 아니다. AI가 어떤 정보를 바탕으로 한 사람의 ‘나다움’을 구성하고, 그 과정에서 무엇을 강조하거나 생략하는가도 함께 살펴봐야 한다.
본 연구의 결과는 이 질문에 대해 생각해 볼 수 있는 하나의 단서를 제공한다. ‘나다움’은 인구사회학적 속성, 성격과 가치관, 일상의 경험을 더 많이 넣는다고 자동으로 완성되는 것은 아니었다. 어떤 정보가 그 사람에게 중요하게 받아들여지는지에 따라 응답의 유사성 평가는 달라질 수 있었고, 정보가 제한적일 때는 사회적 범주에 대한 일반화가 개인의 모습처럼 나타나기도 했다. 또한 타인에게 드러나지 않은 내면은 프로필 정보만으로 일관되게 재현되기 어려운 영역으로 남았다.
따라서 개인화 AI의 발전을 더 많은 데이터의 축적만으로 이해하기는 어렵다. 사람을 이해한다는 것은 어떤 정보가 있는지를 확인하는 일뿐 아니라, 그 정보가 그 사람에게 어떤 의미를 갖는지, 어떤 맥락에서 드러나는지, 어디까지 추론해도 되는지를 함께 묻는 일이기도 하다. AI가 사람을 닮아갈수록, 우리는 그 닮음이 무엇을 드러내고 무엇을 놓치는지 더 신중하게 따져볼 필요가 있다. 이 실험이 남긴 의미도 바로 여기에 있다. AI라는 낯선 거울을 통해, ‘나다움’이 무엇으로 짜여 있는지를 다시 묻게 됐다는 것.
1) 이미 훈련된 대규모 언어모델에 특정 데이터셋을 추가로 학습시켜 특정 목적에 맞게 최적화하는 기법. 편집자 주
2) 내가 아는 나와 남이 아는 나를 4개 영역으로 나눠 자기 이해와 대인과의 소통을 알아보는 심리학 분석틀. 편집자 주
저자의 다른 미디어
