기사 상세
AI 시대로 접어들면서 오정보 확산의 위험성도 커지고 있다. 특히 공중 보건 정보는 건강과 직결되는 만큼 오정보에 노출되면 심각한 결과를 초래할 수 있다. 동일한 오정보를 챗GPT와 SNS로 접했을 때 이용자들은 어느 쪽을 신뢰할까. 연구 결과를 통해 오정보 대응 전략을 확인해 본다. 편집자 주
연구: <정보 출처에 따른 오정보 신뢰성 판단 연구>1)
디지털 시대 정보의 홍수 속에서 우리는 어떻게 정보를 신뢰할 수 있을까? 특히 공중 보건과 관련된 정보는 개인의 건강과 안전에 직결되므로 신뢰성을 확보하는 것이 매우 중요하다. 오늘날 우리는 TV나 신문 같은 전통적인 매체보다는 소셜미디어와 인공지능(AI) 기술을 통해 정보를 얻는 경우가 늘고 있다. 이러한 변화는 편리함을 제공하지만, 동시에 정보의 정확성과 신뢰성에 대한 새로운 문제를 야기하고 있다.
노엄 촘스키(Noam Chomsky) MIT 명예교수는 챗GPT를 ‘첨단 기술 표절 시스템’이라 평가하며 그 한계를 지적했다.2) 챗GPT는 인터넷상의 방대한 데이터를 학습하여 답변을 생성하지만, 이 과정에서 잘못된 정보나 오정보를 학습하게 되면 틀린 내용을 마치 정확한 정보인 것처럼 자연스럽게 전달할 수 있다. 이와 같은 환각(hallucination)3) 발생으로 인해 챗GPT와 같은 AI는 오정보의 새로운 유포 경로로 떠오르고 있으며, 이는 특히 소셜미디어를 통해 빠르게 확산될 때 그 문제의 심각성이 더욱 두드러진다.
공중 보건과 오정보의 확산
오정보는 특히 공중 보건 영역에서 그 심각성이 극대화된다. 과거 건강 정보는 주로 TV, 신문과 같이 신뢰할 수 있는 매체를 통해 제공됐고, 이러한 정보들은 전문가에 의해 검증된 내용이었다.
그러나 현재는 챗GPT와 같은 AI 에이전트가 새로운 건강 정보 채널로 주목받고 있으며, 페이스북, 유튜브와 같은 소셜미디어 플랫폼은 누구나 쉽게 건강 정보를 검색하고 공유할 수 있는 환경을 제공한다. 이로 인해 사람들은 더 다양한 출처에서 건강 정보를 접하게 되었으나, 그 정보의 신뢰성은 반드시 보장되지 않는다. 특히 검증되지 않은 정보가 확산되면서, 개인 건강에 심각한 위험을 초래할 수 있다. 이는 코로나19 팬데믹 동안 백신에 대한 가짜뉴스가 빠르게 퍼져 많은 사람의 건강에 부정적인 영향을 미친 사례를 통해서도 알 수 있다. 가짜뉴스는 공중 보건 위기를 심화시키며, 따라서 정확한 정보 전달의 중요성이 더욱 부각된다.
챗GPT와 SNS: 오정보 신뢰성의 차이
이러한 배경에서 이 연구는 챗GPT와 SNS라는 두 가지 정보 제공 채널을 비교해, 동일한 오정보의 신뢰성이 정보 출처에 따라 어떻게 달라지는지를 분석했다. 연구는 엠폭스(Mpox)라는 감염병을 주제로 설정했으며, 이는 최근 국내에서 논란이 된 주제이기도 하다. 엠폭스는 원숭이두창 바이러스에 의해 발생하는 급성 발열 발진성 질환으로, 2023년 4월 이후 국내에서 환자가 급증하면서 다양한 오정보가 확산됐다.
연구는 두 가지 실험 메시지를 제작했는데, 두 메시지는 모두 동일한 내용의 오정보를 포함하되, 챗GPT와 SNS라는 서로 다른 미디어 유형을 통해 전달됐다. 구체적으로, 챗GPT 조건의 메시지는 이용자의 질문에 대한 응답 형식으로 오정보를 제시했으며, 실제 챗GPT가 이전에 생성했던 응답을 실험 참가자들이 클릭 형태로 경험할 수 있도록 구현했다. SNS 조건의 메시지는 동일한 오정보를 타인이 페이스북에 게시한 포스팅 형식으로 구성했다.
연구 결과, 동일한 오정보라도 챗GPT를 통해 접한 경우 SNS를 통해 접했을 때보다 신뢰성이 더 높게 나타났다. 챗GPT는 인간과 유사한 자연스러운 대화를 통해 이용자의 이해 수준에 맞춘 정보를 제공할 수 있으며, 이는 이용자가 챗GPT를 보다 신뢰하게 만드는 요인이 된다. 챗GPT는 이용자가 단순한 질문을 통해 정보를 즉각적으로 얻을 수 있는 환경을 제공하기 때문에, 정보가 정확하지 않더라도 이용자는 이를 쉽게 받아들이게 된다.
사회적 실재감과 상황적 동기의 영향
그렇다면 챗GPT가 SNS보다 오정보의 신뢰성을 높이는 이유는 무엇일까? 연구는 그 원인으로 ‘사회적 실재감’과 ‘상황적 동기’라는 두 가지 요인을 제시했다. 사회적 실재감은 개인들이 가상의 존재나 상호작용에 현실적인 의미와 존재감을 부여하는 경향을 뜻한다. 무엇보다 자연어 이해와 생성 능력이 발달된 챗GPT는 이용자에게 매우 개인화된 상호작용 환경을 제공할 수 있다.
예를 들어, 챗GPT는 이용자의 이전 발언에 대한 문맥을 이해하고 기억하여, 이를 반영한 응답을 생성할 수 있다. 이로 인해 이용자는 챗GPT와의 상호작용을 더 자연스럽게 느낄 수 있고, 높은 대화의 지속성으로 이어진다. 이러한 특성은 이용자가 챗GPT와의 상호작용을 실제 소통과 유사한 경험으로 인식하게 만들며, 높은 사회적 실재감을 느끼게 한다. 이는 오정보에 대한 신뢰성을 높이는 효과로 이어진다. 반면, SNS상에서 제공되는 정보는 특정 게시물과 이에 대한 댓글들이 시간의 흐름에 따라 순차적으로 표시되기에 문맥의 지속성이 떨어질 수 있으며, 정보의 개인화가 어려워 사회적 실재감이 상대적으로 낮아질 수 있다.
상황적 동기는 개인이 특정 상황에서 정보를 얻고자 하는 동기의 크기를 의미한다. 이는 개인이 어떤 문제에 대해 얼마나 궁금해하고 더 알고 싶어하는지를 나타내며, 상황적 동기는 해당 정보가 자신과 얼마나 관련이 있다고 느끼는지, 문제를 해결할 수 있다고 생각하는지에 따라 달라질 수 있다.
챗GPT는 SNS보다 이용자에게 더 높은 사회적 실재감을 제공함으로써 정보에 대한 인식 및 처리 동기를 높인다. 챗GPT는 이용자와의 상호작용에서 실시간으로 정보를 제공하며, 이는 이용자가 정보를 더 실제적이고 가치 있는 것으로 인식하게 만든다. 이로 인해 이용자는 챗GPT가 제공하는 정보를 더 알고자 하는 동기를 갖게 되며, 상황적 동기가 높아진다. 따라서 챗GPT가 오정보를 제공하더라도, 이용자는 이를 더 쉽게 받아들이고 신뢰하는 경향이 있다.
비판적 사고와 미디어 리터러시의 필요성
그러나 모든 이용자가 챗GPT가 제공하는 정보를 무조건적으로 신뢰하는 것은 아니다. 연구는 또한 이용자의 인지적 능력과 자기 신념이 정보 신뢰성 판단에 중요한 역할을 한다는 점을 발견했다. 자기효능감과 비판적 이해 역량이 높은 이용자들은 챗GPT가 제공하는 정보를 더 깊이 이해하고 평가하는 경향이 있었다.
이들은 챗GPT와의 상호작용에서 사회적 실재감이 높아지거나 상황적 동기가 강화되더라도, 정보를 신중하게 평가하고 비판적으로 사고하는 능력을 보였다. 이는 챗GPT가 제공하는 정보가 오정보임을 인지하고 이를 무조건적으로 수용하지 않도록 도와주는 중요한 요소다. 이러한 결과는 이용자들에게 비판적 사고와 미디어 리터러시 교육이 얼마나 중요한지를 다시 한번 일깨워준다.
미디어 리터러시 교육은 이용자들이 다양한 정보 출처에서 제공되는 정보를 비판적으로 평가하고, 그 신뢰성을 판단하는 능력을 기르는 데 중점을 둔다. 특히 AI 기술의 발전으로 정보가 더욱 빠르게 생성되고 유통되는 오늘날, 이러한 교육은 필수적이다. 이용자들은 AI를 정보 탐색의 보조적인 도구로 인식하고, 제공되는 정보를 무조건적으로 받아들이기보다 그 출처와 신뢰성을 검증하는 습관을 길러야 한다.
이 연구는 챗GPT가 생성하는 오정보에 대한 대응 전략의 필요성을 제기한다. 대화형 AI는 탁월한 문장 생성 능력과 자연스러운 대화를 통해 오정보의 신뢰성을 높일 수 있는 잠재력을 지니고 있으며, 이는 공중 보건 정보 전달에 있어 중요한 고려 사항이 된다. 따라서 이용자들이 AI와의 대화를 비판적으로 접근하고, 제공된 정보를 신중하게 평가하도록 교육하는 것이 필수적이다.
결국, AI와의 상호작용에서 신뢰할 수 있는 정보를 선택하는 능력을 기르는 것이 중요하다. 미디어 리터러시 교육을 통해 이용자들은 AI 기술을 정보 탐색에 있어 보조적인 도구로 인식하고, 제공된 정보를 비판적으로 평가하는 능력을 강화해야 한다. AI 기술의 발전은 피할 수 없는 흐름이지만, 그 부작용을 최소화하고 정보의 신뢰성을 확보하기 위한 노력이 지속적으로 이뤄져야 한다.
1) 오지현·김영욱(2024), <정보 출처에 따른 오정보 신뢰성 판단 연구 : 챗GPT와 소셜 미디어 비교 중심 분석>, 방송과 커뮤니케이션, 25(1)
2) Chomsky, N., Roberts, I., & Watumull, J., <Noam Chomsky: The false promise of ChatGPT>, The New York Times, 2023.3.8, https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html
3) 인공지능(AI) 서비스가 주어진 데이터 등에 근거하지 않고 정보를 처리하는 과정에서 오류를 생성하는 현상
저자의 다른 미디어
