사용자가 적절한 정보를 입력하면 계획서나 논문은 물론 소설 같은 예술 작품도 써내는 인공지능을 저자라 부를 수 있을까? 글이란 무엇이고 글을 쓰는 사람의 정체성은 어디에서 나올까? 글쓰는 인공지능 챗GPT를 둘러싼 쟁점들을 살펴본다. 편집자 주

스마트폰 사용자들에게 친숙한 글쓰기 보조 도구가 있다. 한 단어를 입력했을 때 그 다음 단어(연쇄)를 예측해 선택지를 보여주는 ‘자동완성’ 기능이다. 예를 들어 “새해”를 입력하면 “복”이나 “복 많이 받으세요”를, “낫”을 입력하면 “놓고”를, 뒤이어 “기역자도 모른다”를 제안하는 식이다.

텍스트를 작성할 때 선택을 제안하는 기능의 폭과 깊이를 비약적으로 확장하는 알고리즘(algorithm)이 있다고 해보자. 이 알고리즘은 사용자 개인의 언어 사용을 넘어 자신이 접근할 수 있는 모든 언어 용례를 축적해 모니터한다. 개별 단어 수준의 추천은 물론이고 해당 단어를 둘러싼 여러 단어들을 동시에 보여준다. 이뿐만이 아니다. 특정 문장의 앞뒤 연쇄까지 예측하고, 이들 문장 간에 어떤 연결어를 사용해야 할지도 친절하게 알려준다. 나아가 언어 연쇄와 네트워크를 맥락에 맞게 조정하는 방법까지 꿰뚫고 있다. 예를 들어 영단어 ‘construction’을 건축학에서 사용했을 경우에는 ‘건설’, 심리학에서 사용했을 경우에는 ‘구성’으로 그 의미가 완전히 달라질 뿐 아니라 앞뒤에 나오는 단어, 문장, 개념어의 배치, 글의 내용까지 달라진다는 것을 모두 ‘알고 있는’ 것이다.

2022년 11월 말, 오픈AI(OpenAI)사가 선보인 챗GPT(Chat Generative Pre-trained Transformer)는 이상에서 묘사한 기능을 충실히 수행한다. 몇몇 개념어를 통해 학부 수준의 강의계획서를 만들어주고, 간단한 발문을 재료 삼아 중등교육에서 종종 부과되는 ‘5단 에세이’를 순식간에 작성하기도 한다. 등장 인물에 대한 설명, 주제 의식과 갈등 구조를 간략하게 입력하면 초단편 소설을 뚝딱 ‘창작’하고, 특정 학문 분야를 지정해 키워드를 제공하면 학회에 투고할 초록을 제법 그럴듯하게 써낸다. 심지어 학자들조차 그 정교함에 허를 찔리는 상황이 벌어지기도 한다(Else, 2023). 스마트폰 단어 추천 기능의 ‘궁극의 확장판’이라고 할 수 있는 챗GPT의 위세는 많은 이를 놀라게 하고 있다.

챗GPT가 생산한 텍스트: 세계의 부재, 윤리의 탈각

하지만 챗GPT에는 치명적인 결함이 있다. 종종 ‘허언증’에 가까운 행태를 보이는 것이다. 필자는 작가인 미셸 보이치에호프스키(Wojciechowski, 2021)의 영어 트윗을 한국어로 각색해 유머 섞인 질문을 던져보았다.

“상상을 해봐. 네가 미팅에 나갔는데, 상대방이 ‘~은 제 인생책이에요’라고 말했어. 그 말을 들은 너는 바로 자리를 박차고 나왔지. ‘~’에 들어갈 만한 한국어 책 열 권을 들고 그 이유를 설명해줄 수 있어?”

답변은 몹시 실망스러웠다. 열 권도 아닌 여덟 권의 책을 이야기했는데, 대부분은 존재하지 않는 책이었고 저자의 이름 또한 지어낸 것이었다. 일례로 “《나는 자신을 사랑하는 사람》 by 니콜라 카네기”라는 답은 처음부터 끝까지 어떠한 사실도 담고 있지 않은 헛소리였다. 간단한 사실이 아닌 거짓도 뚝딱 창작하는 정도라면, 전문적인 지식의 영역에서는 문제가 더욱 심각할 수밖에 없다.

왜 이런 일이 일어나는 것일까? 챗GPT의 위험성을 경고하는 게리 마커스(Gary Marcus) 뉴욕대 심리학 및 뇌과학과 명예교수는 그 이유를 다음과 같이 설명한다.

“기술적인 용어를 사용하자면, (챗GPT와 같은) 플랫폼들은 세계가 어떻게 작동하는지에 대한 모델이 아니라, 단어 연쇄(sequence, 사람들이 언어를 사용하는 방식) 모델이다. 언어가 종종 세상을 반영하기 때문에 이 시스템들은 종종 옳지만 실제로 세상과 그것이 작동하는 방식에 대해 추론하지는 않는다. 따라서 그들이 말하는 바의 정확성은 어느 정도 확률의 문제가 된다.”(Marcus, 2022)

마커스 교수가 지적하듯 챗GPT는 정교하고 방대한 ‘단어 시퀀스 예측 및 생산 모델’로서 기능할 뿐, 세계의 수많은 개체들과 그들 간의 관계, 이에 대한 개념 체계를 이해하지는 못한다. 챗GPT는 언어 데이터를 기반으로 작동하기에 언어 패턴을 가져오고, 단어를 교체하고, 단어들의 연쇄를 변주하고, 문법 구조를 변형하고, 문장을 연결하고, 스타일을 흉내낼 뿐, 자신이 생산한 언어와 세계가 맺는 관계는 고려하지 않는다. 오로지 언어 데이터를 통해 훈련받은 모델은 언어 밖을 ‘상상’하거나, 비언어적 개념체계를 ‘이해’할 수 없는 것이다. 비유적으로 말하자면 챗GPT와 같은 언어모델은 무슨 뜻인지도 모르면서 말을 지어내고, 삶은 도무지 알지 못한다.

이는 말글을 사용함에 있어 진실과 거짓, 즉 윤리적 기준을 고민하는 인간과의 결정적인 차이를 만든다. 인간은 신체적·정서적·문화적 경험을 갖고 있기에 자신의 말이 세계와 어떻게 조응하는지, 나아가 어떤 사회적 파장을 미칠지 관심을 둘 수밖에 없지만, 챗GPT는 사용자의 언어와 기존의 방대한 데이터에서 학습한 바를 정렬해 텍스트를 생산하는 데서 자신의 임무를 마친다. 즉, 인간은 말을 함으로써 사회문화적·정치적·윤리적 행위를 수행하지만 챗GPT는 순수히 텍스트에 대응하는 텍스트를 생산할 뿐이다.

결국 챗GPT는 “인간 내면에서 일어나는 이해에 대한 감도 없고, 도덕이나 진실성이 무엇인지도 알지 못 한다(Klein & Marcus, 2023).” ‘대화형 인공지능’에 진정한 대화는 없다. 윤리와 책임이 탈각된 순수한 수리통계적 텍스트의 세계, 그곳에 챗GPT가 산다.

챗GPT는 저자가 될 수 있는가?

이처럼 세계와 지식, 경험과 언어의 관계를 살피며 글을 쓰는 사람과 몇 개의 키워드나 몇 차례의 정보 교환으로 텍스트를 생산하는 챗GPT의 차이는 분명하다. 문제는 글쓰기 및 내용 전문가가 보기에도 인간과 AI가 비슷한 수준의 결과물을 내는 경우가 존재한다는 것이다. 과정은 완전히 다르지만 결과가 대동소이하다면, 챗GPT를 저자(writer)로 인정할 수 있을까?

먼저 챗GPT는 스스로를 어떻게 규정하는지 질문해보았다. 자신의 정체성을 실제로 인식하지 못 하고 그저 훈련된 데이터에 따라 단어의 연쇄를 생산하는 알고리즘이 스스로를 어떻게 ‘이해’하는지 궁금했기 때문이다.

“챗GPT야, 너는 쓰는 존재(writer)니?”

“나는 언어모델로서 독창적인 글을 만들거나 생산할 능력이 없지만, 나에게 제공된 입력을 바탕으로 텍스트를 생성하는 것을 도울 수는 있어. 나는 네가 발문을 작성하는 것을 돕고, 요약문을 제공하고, 너의 질문에 답할 수 있지만, 쓰는 존재라고 주장할 수는 없어.”

적어도 챗GPT는 자신의 정체성을 쓰는 존재, 즉 필자로 규정하지 않는다. 하지만 이 또한 몇 가지 우회를 거친 결론이다. ‘독창적인 글’은 생산하지 못하지만 ‘텍스트의 생성’을 지원할 수 있으며, 다양한 방식으로 텍스트 작성을 지원할 수 있다. 그런 면에서 챗GPT는 자신을 ‘필자’가 아닌 ‘쓰기 보조 도구(writing assistant)’로 ‘보고 있다’. 이러한 규정에도 불구하고, 챗GPT는 기존에 이 명칭으로 불려온 프로그램들과는 양과 질 모두에서 사뭇 다른 역할을 수행한다. 대표적인 쓰기 보조 도구로는 워드 프로세서에 내장된 ‘철자 및 문법 체크기’, ‘Grammarly’와 같은 진화된 문법 체크 프로그램, ‘Quillbot AI’와 같은 고쳐쓰기(paraphrasing) 도구 등이 있다. ‘COCA(Corpus of Contemporary American English)’나 ‘SketchEngine’과 같은 대규모 말뭉치 검색 플랫폼 또한 넓은 의미의 쓰기 보조도구에 포함된다.

여기에 명백한 개념적 혼선이 있다. 이들이 ‘보조도구’라고 불리는 것은 주어진 문장을 개선하거나 약간의 수정을 가하는 기능만을 수행하기 때문인데, 이와 달리 챗GPT는 텍스트를 통째로 생성(generate)해낸다. 인간의 글을 부분적으로 수정하는 보조 도구와 텍스트를 순식간에 생산해내는 인공지능은 상당히 다르다. 바로 이 지점에서 저자성과 관련해 챗GPT에 내재된 모순 혹은 딜레마가 드러난다. 챗GPT는 텍스트 생산을 보조할 뿐이라고 주장하지만 인간 필자의 글과 거의 유사한 텍스트를 독립적으로 완성한다. 산출물의 질은 울퉁불퉁하며 잘못된 정보를 ‘뻔뻔하게’ 제시할 때도 있지만, 양적인 측면에서 인간 필자를 압도함으로써 생산성의 비약적 증대를 가능케 한다.

이미 저자가 된 챗GPT

최근 한 학술지에 공저자로 챗GPT가 등장하면서 연구자 커뮤니티가 술렁거렸다(O'Connor, 2023). 인공지능 에이전트는 저자가 될 수 없다고 주장하는 다수와 충분한 기여를 했다면 공저자 정도로는 인정할 수 있다는 소수가 대립했다. 이 글의 범위를 넘어서지만 논문의 고안, 자료의 수집, 글쓰기와 수정, 전체 내용 검증, 해당 논문의 내용에 대한 책임 등을 포함하는 학술장의 전통적인 기준을 따른다면 해당 저널이 인정한 챗GPT의 저자성(authorship)은 지극히 의심스럽다(The BMJ, 2023).

하지만 일상이나 교육의 맥락에서 쓰이는 글은 ‘그럭저럭 쓸 만한 글’ 혹은 ‘점수를 받을 만한 글’이면 족한 경우가 많다. 기계 번역 사용자들이 완벽한 번역을 위해 번역기를 찾는 것이 아니듯, 챗GPT를 비롯한 텍스트 생산 AI에게 노련한 작가가 쓸 만한 글을 요구하는 일은 드물다. 적절한 구조와 내용으로 질문을 던졌을 때 실용적인 목적을 달성할 수 있고, 자신이 쓰는 글보다 더 나은 텍스트를 생산해주기를 바랄 뿐이다. 이미 많은 사람들은 성공적인 발문(prompt)을 공유하고 있으며, 이를 변형해 자신이 원하는 결과에 좀 더 근접한 산출물을 생산하고 있다(Akin, 2023). 앞으로 이런 경향은 더욱 커질 가능성이 크다.

이 상황에서 챗GPT의 사용을 불허하는 교육기관이 증가하고 있고(Cassidy, 2023), 챗GPT 등의 인공지능 텍스트 생산도구의 사용을 감지하는 알고리즘이 등장하기도 했다(Huang, 2023). 교수자들은 이 상황에서 어떻게 새로운 형태의 과제를 부여하고 AI에 대한 비판 리터러시를 함양할 수 있을지 고민하기 시작했으며(Roose, 2023), 일부는 강의 계획서에 챗GPT의 사용을 불허한다는 항목을 추가하고 있다.

기술 변화에 대응하는 교육기관의 정책 행보, 교수자 개개인의 방향 설정과 새로운 교육적 실천이 분명한 가치를 지님에도 불구하고 챗GPT의 확산을 막기는 힘들 것이다. 챗GPT는 서비스를 시작한 지 한 주도 되지 않아 100만 명 이상의 사용자를 끌어들였고, 기존 검색엔진의 구조와 기능에 상당한 변화를 몰고 올 것으로 예상된다(Mollman, 2022). 전문가들은 GPT-4를 탑재한 새로운 버전이 공개되면 현재 수준보다 훨씬 더 정교한 ‘대화’가 가능해질 것이라고 예측한다.

가짜뉴스를 넘어 가짜 정체성의 시대로

이러한 상황에서 필자가 챗GPT에 대해 우려하는 것은 소위 ‘가짜뉴스(fake news)’의 질이 비약적으로 ‘개선’될 수 있다는 사실이다. 구조와 스타일, 개념어의 활용과 어휘, 문법적 특징 등에서 최고의 전문가 집단이 쓴 글과 가짜뉴스 유포자가 생산한 텍스트를 구별하는 것이 거의 불가능해지는 시나리오에 대비해야 할 이유다. 의도적으로 혹은 자기도 모르게 ‘탈진실(post-truth)’을 실천하고 있는 이들이 권위 있는 텍스트의 조악한 모사를 넘어 빙의하는 수준에 이를 때, 문해력과 시민성 교육은 어떤 방향으로 나아가야 하는가? 챗GPT와 같은 시스템이 ‘있어 보이는’ 텍스트를 쉽사리 만들어낸다면, 근대 이후 책이 누려왔던 ‘사실 정보원’이라는 최소한의 권위는 유지될 수 있을 것인가?

한발 더 나아가, ‘가짜뉴스’의 시대를 지나 ‘가짜 정체성(fake identity)’이 사회문화적 담론의 핵심 이슈로 부상할 가능성이 높다. 가짜뉴스가 정보를 왜곡하고 교묘하게 뒤집는 차원의 문제라면, 가짜 정체성은 인공지능에 의해 생산된 말글의 진원지를 자신이라 주장하는 차원의 문제다. 가짜 뉴스의 제작자는 종종 자신을 숨기지만, 가짜 정체성의 담지자는 적극적으로 자신을 어필한다. 가짜 뉴스는 오정보(misinformation)를 확산시켜 사실과 진실의 체계를 뒤흔들지만, 가짜 정체성은 인간과 말의 연결고리를 끊어냄으로써 사회적·문화적 자본을 소유하려는 욕망을 충족시킨다. 소셜미디어에서 선망의 대상이 되는 화려한 모습을 보여주려는 일부의 욕망이 ‘탁월한 글쓰기를 통한 성취’를 넘보는 데는 그리 긴 시간이 필요하지 않을 것이다.

고리타분하게 들릴지 모르지만 인공지능이 ‘자유’와 ‘수월성’을 획득할 때 언론과 교육을 포함한 사회의 제반 영역에서 핵심적으로 논의돼야 할 것은 윤리적 주체로서의 삶이다. 자신과 타자, 기계와 세계의 관계를 성찰적으로 조망하며, 편리함에 가려진 위험을 비판적으로 드러내고 직시하는 역량을 키우는 일 말이다. 화려함과 속도의 경연장에서 ‘윤리’와 같이 지루하기 짝이 없는 주제가 힘을 얻을 수 있을까?

회의적이다.

하지만 그렇기에 더더욱 끈질기게 질문해야 한다. 글쓰기란 무엇이고 또 무엇이어야 하는가? 저자됨은 어떠한 인지적·정서적·사회문화적 과정을 수반해야 하는가? 결과로서의 텍스트가 아니라 과정으로서의 글, 완성된 상품이 아니라 언제까지나 미완성일 수밖에 없는 글, 온전히 교환 가치로 평가되는 텍스트가 아니라 분투과 협상 및 좌절의 과정으로서의 글, 바벨탑이 되어 내려다보는 텍스트가 아니라 다리가 되어 타인의 삶에 접속하고 연대하는 글은 어떤 모습이어야 하는가? 이어지는 질문의 과정에서 챗GPT와 같은 도구를 배제할 이유는 없다. 글쓰기 방법론을 넘어 쓰는 주체의 존재론적 탐구가 필요한 지금, 우리에게 주어진 과제는 인간과 기계가 힘을 합쳐 인간뿐 아니라 생명과 사물, 자연에 복무할 수 있는 글을 써낼 수 있도록 하는 리터러시의 발명이다.