본문 바로가기
기사 상세
[미디어현장] 수학GPT 개발에 도전하는 일론 머스크의 xAI
미디어현장 | 등록일 : 2023-09-27

인공지능 시대, 빅테크 기업들은 관련 분야 최고 자리를 놓고 지금도 치열하게 경쟁하고 있다. 생성 AI의 최첨단 기술 도입에 도전하고 있는 xAI, 구글 등 실리콘밸리의 AI 관련 연구 개발 현황과 최신 이슈를 살펴본다. 편집자 주

 

챗GPT는 기술적으로 진보하고 있는가? 사용자 입장에선 그렇다. 전문가 입장에선 아니다. 지난 9월 25일 오픈AI는 챗GPT에 음성 채팅 기능을 탑재했다. 사용자가 음성으로 질문하면 일단 텍스트로 변환하고, 챗GPT의 대규모 언어모델이 텍스트로 된 내용을 이해한다. 챗GPT는 답변을 텍스트로 출력한다. 출력된 내용은 다시 음성으로 변환된다. 음성의 종류는 다섯 가지다. 사용자의 취향에 따라 하나를 선택할 수 있다. 오픈AI는 또 보고 답하는 기능도 더했다. 이미지를 보여주고 관련 질문을 하면 대답을 해준다. 사용자 입장에선 분명 편리한 업데이트다. 대화 상대에게 입과 눈이 생겼기 때문이다. 

 

기술적으로도 챗GPT가 유니모달(unimodal)에서 멀티모달(multimodal)로 업그레이드됐다는 의미가 있다. 모달리티(modality)는 사전적으로 무언가를 실행하거나 경험하는 특정한 방식을 뜻한다. 인간은 사물을 멀티모달로 인식한다. 오감을 통해 사물의 존재를 인식하기 때문이다. 반면 챗GPT까지의 인공지능은 유니모달로, 한 가지 방식으로만 세상을 인지했다. 챗GPT의 경우엔 그 방식이 텍스트였다. 여기에 사운드와 이미지가 더해졌다. 

 

그렇다고 이것이 생성 AI 기술의 근본적 혁신이냐는 전혀 다른 문제다. 사용성을 편리하게 만드는 것과 파운데이션 기술을 혁신하는 것은 수준이 다른 문제기 때문이다. 사실 이번에 챗GPT가 선보인 음성 채팅 기술은 애플의 시리나 아마존의 알렉사도 지원하는 기능이다. 음성 인식은 전혀 새로운 기술이 아니다. 게다가 챗GPT는 음성 정보를 다시 텍스트로 변환해서 인식한다. 입출력 방식만 바뀌었을 뿐 기본적인 모달리티는 여전히 유니모달인 것이다. 

 

이미지 인식도 마찬가지다. 챗GPT는 엄밀히 말하면 GPT-3.5다. 지난 3월 14일 공개된 GPT-4를 통해 이미 이미지 인식 기술은 공개됐다. 화면을 스크린 캡처해서 GPT-4에 입력하면 텍스트로 내용을 설명해줬다. 챗GPT에 더해진 말하고 보는 기능은 기존 기술을 좀 더 다듬어서 상업화한 것이다. 그것을 오픈AI의 대표 상품인 챗GPT에 더해 상품성을 높인 것이다.


일론 머스크의 목표는 ‘수학GPT’ 제작

 

현재 생성 AI의 기술적 최첨단에 도전하고 있는 건 일론 머스크의 ‘xAI’다. 물론 일론 머스크에 대한 대중적 찬반은 여전하다. 머스크는 분명 럭비공 같은 인물이다. 하지만 확실한 건 머스크가 매우 유능한 창업가이자 CEO라는 사실이다. 그는 제로투원(zero to one)을 만들어 내는 데 탁월한 능력을 갖고 있고, 테슬라와 스페이스X를 통해 능력을 인정받았다. 무엇보다 xAI의 기술적 최전선은 생성 AI 업계에서도 전인미답의 영역인, 수학이다. 

 

머스크를 포함한 xAI 공동창업자 12인은 7월 트위터 스페이스에서 일종의 창업설명회를 열었다. 트위터 스페이스는 트위터판 클럽하우스다. 그 자리에서 머스크는 ‘우주의 본질을 이해하기 위해’ xAI를 창업했다고 설명했다. 그는 스페이스X를 창업할 때도 화성 정복을 얘기했었고, 그래서 적잖은 소비자들이 스페이스X의 비전을 오해했었다. 스페이스X의 비전은 재활용 로켓을 통해 우주발사체의 비용을 획기적으로 낮추는 것이다. 그렇게 비용을 낮추다 보면 민간 기업의 유인 화성 탐사도 가능해진다는 얘기였다. xAI도 마찬가지다. 우주의 본질을 이해한다는 건 뜬금없는 목표가 아니다. 생성 AI가 복잡한 수학 문제를 이해하고 답을 제시할 수 있게 된다면 물리학이 진일보할 것이고, 결국 우주를 이해할 수 있게 된다는 뜻이다. 머스크식 화법은 현실적 문제를 공상과학으로 보이게 만든다. 

 

그래서 신의 뜻을 이해하기 위해 xAI를 창업했다는 머스크의 말을 글자 그대로 믿어서는 안 된다. 화성에 간다던 스페이스X도 실제론 지구의 우주발사체 시장을 장악했다. 실마리는 공동창업자 중 한 사람인 로스 노르딘(Ross Nordeen)이 쥐고 있다. 그는 테슬라에서 xAI에 합류한 인물이다. 최근까진 테슬라에서 슈퍼컴퓨팅과 머신러닝 기술팀을 이끌었다. 

 

정작 노르딘의 전공 분야는 지상이 아니라 우주에 있는데, 그는 천체물리학과 우주론의 전문가다. xAI에서 노르딘은 천체물리학 연구에 요구되는 수학적 문제를 제시하는 역할을 할 가능성이 높다. 인류의 우주에 대한 이해 확장은 결국 우주를 설명하는 수학의 발전과 정비례한다. 뉴턴의 만유인력은 방정식 F=ma로 설명된다. 힘은 질량 곱하기 가속도다. 아인슈타인의 일반상대성이론은 E=mc2이다. 시간은 질량과 속도의 제곱이다. 수학을 통해 뉴턴과 아인슈타인은 각각 힘과 시간을 설명해 냈다. 아직 인류는 137억 년 전 빅뱅이 발생했을 때 최초의 1초 동안 무슨 일이 벌어졌는지 이해하지 못한다. 이 문제를 풀려면 무한대에 가까운 수학 문제를 풀어야만 한다. 이것은 인간의 지능만으론 한계가 있고, 인공지능이 인간지능을 도와야 한다. xAI가 말하는 인간에게 도움이 되는 AI란 이것이다. 

 

xAI의 목표는 ‘우주 기원을 푸는 것’이라고 쓰고 ‘수학 문제를 푸는 것’이라고 읽으면 된다. 쉽게 말해 머스크는 ‘수학GPT’를 만들려고 하는 것이다. 우주의 수수께끼를 푸는 천체물리학이야말로 가장 고도의 수학 문제들이 즐비한 분야기 때문이다. 노르딘이 이런 문제들을 제시한다면 답을 찾는 핵심 역할은 토니 우(Tony Wu)와 크리스천 세게디(Christian Szegedy) 그리고 그레그 양(Greg Yang)이 할 가능성이 높다. 토니 우는 크리스천 세게디와 함께 구글 딥마인드에서 수학에 특화된 생성 AI 개발 프로젝트를 이끌었으며 오픈AI도 거쳤다. 토론토대에서 박사 학위를 받았고, 수학 특화 생성 AI와 관련된 두 개의 주요 논문을 썼다. 

 

첫 번째 논문은 AI가 자연어로 설명된 수학 공식과 용어들을 이해하도록 머신러닝시키는 과정에 대한 것이다. 두 번째 논문은 이렇게 훈련된 초거대 언어모델이 수학적 추론을 통해 새로운 문제를 해결하고 답하도록 이끄는 것이다. 이것은 오픈AI가 주도해 온 초거대 언어모델, 즉 LLM과 비슷해 보이지만 전혀 다른 방향이다. 챗GPT가 내놓는 대답은 말은 되지만 참이 아닌 경우가 많다. 오픈AI의 이론적 기반인 트랜스포머 모델이 결국 특정 단어 다음에 연결된 가장 적절한 단어를 제시하는 방식으로 작동하기 때문이다. 챗GPT는 인간의 질문에 인간의 언어로 답을 한다. 그렇지만 결코 정답을 제시해 주진 않는다. 그럴듯한 대답을 해줄 뿐이다. 가짜 정보 양산은 오픈AI 기반 생성 AI들의 결정적 약점이다. 토니 우는 트위터 스페이스에서 “우리는 인간처럼 말하는 언어모델을 만들고 싶지 않다”고 말했다. 말은 앵무새도 할 수 있다. xAI의 수학 생성 AI는 진짜 수학 문제에 대한 실제 정답을 생성하는 게 궁극적 목표다.


알파고에 이어 스타크래프트에 도전하는 알파스타

 

컴퓨터의 탄생 목표는 1936년 수학자 앨런 튜링(Alan Turing)이 처음 튜링 머신을 개발했을 때부터 계산기였다. 당시 이름은 A머신으로, A는 오토매틱의 약자였다. 오늘날 컴퓨터에서 인공지능에까지 이르렀지만 AI의 장기는 역시나 계산이다. 정작 수학은 좀 다르다. 수학은 산수가 아니기 때문이다. 일단 AI에게 수학 용어와 기호, 개념을 머신러닝시키는 것도 쉽지 않다. 인간이 쓰는 자연어에는 하나의 단어에 하나의 정의가 있다. 다른 언어로 치환시킬 수도 있다. 반면 수학은 언어처럼 가르칠 수 없다. 사과는 애플이라고 외우는 방식으로는 이해가 안 되는 것이다. 인간의 지능도 마찬가지다. 언어 영역과 수리 영역은 다르다. 크리스천 세게디가 구글에서 씨름했던 난제다. 세게디는 저명한 수학자이면서 동시에 구글에선 인공지능의 눈에 해당하는 컴퓨터 비전 분야를 이끌었던 전문가다. 구글은 초거대 언어모델 팜(PaLM)을 이용해 수학 생성 AI 미네르바를 개발했다. 미네르바는 2022년 폴란드 국가 수학 시험에 응시했는데, 대수학은 잘했지만 기하학은 못 했다. 최종 성적조차 미덥지 않았다. 미네르바가 수학 문제를 정말 푼 것인지 무수한 수학 문제를 학습해서 답을 미리 외운 것인지 구분이 어려웠다. 

 

세게디와 토니 우는 xAI에서 이 문제를 풀어내야만 한다. 쉽진 않다. 당장 데이터 세트를 확보하는 것부터가 어렵다. 효율적인 머신러닝을 위해선 양질의 빅데이터가 필요하다. 좋은 기출 수학 문제집이 필요한 것이다. 인공지능이 학습할 수 있도록 코드화된 수학 문제를 확보하는 작업부터 필요하다. 아직은 GPT-3 기반으로 고등학교 수학 문제 4,000개를 학습시킨 수준이다. 문제만 풀어선 안 된다. 궁극적으론 수학적 추론을 할 수 있게 훈련시켜야만 한다. 그런데 수학적 추론력은 인간 중에서도 천재들만 갖고 있는 능력이다. 가공할 계산 능력에 천재적 수학 추론 능력까지 겸비하게 된다면 xAI의 수학 AI는 아인슈타인의 환생이 된다. 우주선을 화성에 보내고, 유전자의 구조를 꿰뚫고, 우주의 비밀을 풀 수 있게 된다. 세게디는 2026년엔 생성 AI가 수학 논문의 공동 저자가 될 것이라고 예언했다.

 

인공지능이 학습할 수학 데이터 부족 문제를 풀어내는 건 이고르 바부슈킨(Igor Babuschkin)이 맡게 될 가능성이 높다. 이고브 바부슈킨은 2017년부터 2020년까지 구글 딥마인드에서 일했고, 2021년엔 오픈AI에 합류했다가 이번에 xAI로 옮겼다. 그는 xAI 멤버들 가운데 가장 먼저 외부에 존재가 드러난 인물이다. 바부슈킨은 구글에서 알파고의 후속작인 알파스타 프로젝트에 참여했었다. 알파고가 바둑에 도전했다면 알파스타는 스타크래프트 게임에 도전했다. 2016년 6월 19일 순다르 피차이(Sundar Pichai) 구글 CEO가 구글 I/O 행사에서 알파스타 개발 계획을 발표했을 때만 해도 반응은 열광적이었다. 아직 알파고와 이세돌 9단의 대국이 가져다준 충격이 여전했기 때문이다. 그러나 정작 2019년 1월 25일 알파스타가 등장했을 때는 알파고만큼의 센세이션을 일으키지 못했다. 알파스타와 인간 프로게이머의 경기는 싱겁게도 알파스타의 10대 0 완승으로 끝났다. 

 

구글은 스타크래프트에 적용한 인공지능 기술을 포커와 외교 등에 적용할 방법을 고민하고 있다. 바부슈킨은 알파스타 프로젝트를 끝으로 오픈AI로 자리를 옮겼고, 2022년 그가 쓴 주요 논문의 주제가 인공지능에 수학 커리큘럼을 머신러닝시키는 것이었다. 알파스타를 훈련시킬 당시 알파스타는 인간 게이머보단 다른 알파스타와의 대전을 통해 실력을 키웠다. 수학에도 같은 원리가 적용될 수 있다. 생성 AI끼리 서로 문제를 내고 푸는 훈련 방법을 쓰며 AI가 수능 출제위원과 수능 응시생 역할을 모두 하는 것이다. 바부슈킨의 논문 공저자 중 한 사람은 오픈AI의 최고과학자인 일리야 수츠케버(Ilya Sutskever)다. 오픈AI 역시 수학GPT 연구를 이미 시작했다고 봐도 된다. 머스크는 오픈AI의 핵심 인재를 빼 온 것이다. 

 

인공지능의 대부로 불리는 제프리 힌튼(Geoffrey Hinton) 교수는 최근 구글을 떠났다. 1947년생인 힌튼 교수는 올해 75세로 적지 않은 나이다. 그렇지만 힌튼 교수가 구글을 떠난 건 나이 때문만은 아니다. 순다르 피차이가 이끄는 구글에 대한 불신이 컸다. 힌튼 교수는 “나는 일생을 후회한다”며 구글과 오픈AI가 인류를 위협할 수 있는 인공지능을 만들 수 있다고 우려했다. 그는 2006년 머신러닝 알고리즘의 근간이 된 논문을 발표했고 2013년 구글에 합류했다. 지금 구글이 순다르 피차이 CEO 중심의 수직적 조직으로 변화한 건 공공연한 비밀이다. 구글이 앞서가던 인공지능 분야에서도 오픈AI와 MS에 잇따라 추월당하면서 경직성은 오히려 더 커졌다. 사실 힌튼 교수의 존재는 AI 인재들이 구글로 몰리는 구심점이 됐다. AI 개발에선 브레인 파워가 승부처다. 소수의 천재가 겨루는 전쟁터라서다. 이번에 xAI에 합류한 지미 바(Jimmy Ba)는 인공지능 명문 토론토대 컴퓨터공학과의 조교수이자 캐나다 베이스의 글로벌 리서치 조직인 CIFAR의 의장이다. 머신러닝 전문가이면서 교육자이자 학자인 그는 인공지능 학계에서 상당한 영향력을 갖고 있는 인물로, 앞으로 천재급 인재가 xAI를 선택하게 만드는 역할을 할 수 있다.


실리콘밸리에 펼쳐진 AI 인재 쟁탈전

 

이미 실리콘밸리에선 오픈AI와 구글 그리고 MS의 AI 인재 쟁탈전이 펼쳐지고 있다. 여기에 xAI까지 가세한 형국이다. 앞으로 10년은 이어질 전쟁이다. 지금의 공동 창업자들을 도울 인재들을 확보할 수 있느냐가 xAI의 또 다른 승부처다. 현재까지는 힌튼 교수의 직계 제자들이 인공지능 산업을 이끌었다. 오픈AI의 일리야 수츠케버가 대표적이다. 앞으론 힌튼 교수의 제자와 그 제자들이 이끌게 될 것이다. 지미 바와 그의 제자들 얘기다. 누가 세대교체에 먼저 성공하느냐가 승부처다. 

 

일론 머스크는 xAI의 기업 가치를 200억 달러 이상으로 평가하고 있다. 한화로는 25조 2,500억 원 정도다. 오픈AI를 공동창업했을 때 머스크는 샘 알트만(Sam Altman)과 언어의 문제를 풀고자 했다. 인간은 거짓말을 하지만, 진실을 학습한 생성 AI는 진실만을 말하게 만들 수 있었다. 챗GPT는 할루시네이션(환각) 문제를 아직 해결하지 못했다. 세상을 모르고 책만 읽은 탓에 인공지능이 논리에 따라 아무 말 대잔치를 벌이는 게 인공지능 할루시네이션 현상이다. 머스크가 챗GPT에 대항하는 트루스GPT를 만들겠다고 나섰던 배경이다. 챗GPT는 머스크가 꿈꿨던 생성 AI가 아니다. 머스크는 이제 전선을 바꿔서 말이 아니라 숫자에 도전하고 있다. 머스크의 재산은 2,540억 달러(약 320조 원) 정도 된다. 탄알은 충분하다. 이제 승부처는 국어가 아니라 수학이다. 

저자의 다른 미디어
  • 필자 : 신기주
  • 소속 :
  • 직함 :
  • 발행 : 2023-09-27
  • 조회수 : 11
  • 키워드 :
블로그 공유 트위터 공유