Artificial general intelligence Are we close, and does it even make sense to try

인공일반지능(AGI), 시도해도 될까

사람처럼 생각할 수 있는 기계는 초창기부터 인공지능 연구의 등불 역할을 했으며, 가장 논란이 많은 분야이기도 하다.

오늘날 우리가 알고 있는 인공일반지능이라는 개념은 브로드웨이의 닷컴 버블 폭발로부터 시작된다.

20년 전 셰인 레그가 신경과학 전공 대학원생인 데미스 하사비스와 인공지능에 동시에 매료되기 전, 두 사람이 하사비스의 어린 시절 친구인 급진파 무스타파 술리만과 만나 딥마인드라는 회사를 창업하기 전, 4년 후 구글이 딥마인드를 5억 달러 이상에 인수하기 전에, 셰인 레그는 인공지능 분야 연구원인 벤 괴르첼이 설립한 뉴욕의 신생회사 웹마인드에서 근무하였다. 인공지능의 미래 측면에서 볼 때 오늘날 두 사람은 매우 다른 분야를 표방하지만, 결국 한 뿌리에서 출발하였다.

닷컴 거품이 한창이던 시절에도 웹마인드는 야심찬 목표를 세우고 있었다. 괴르첼은 디지털 아기 두뇌를 만들어 온라인에 공개하고 싶어했는데, 이 디지털 두뇌가 온전히 자기 인식이 가능하고 사람의 두뇌보다 훨씬 똑똑해질 것으로 믿었다. 괴르첼은 1998년 크리스천사이언스모니터와의 인터뷰에서 “우리는 지능의 출현, 즉 언어의 출현과 같은 수준의 전환기에 직면해 있다”고 말했다.

웹마인드는 금융 시장의 양상을 예측하는 수단을 비밀리에 구축하여 스스로 자금을 조달하려 했지만 마음 속에 자리잡은 커다란 꿈은 결코 사라지지 않았다. 2000만 달러에 달하는 돈을 날린 뒤, 웹마인드는 맨해튼 남쪽 끝 사무실에서 쫓겨나 직원 월급도 줄 수 없는 형편이었고, 2001년 결국 파산 신청했다.

벤 괴르첼
위키미디어 커먼스

그래도 레그와 괴르첼은 서로 연락을 유지하였다. 몇 년 후 괴르첼이 초인적 인공지능에 대한 에세이집을 준비하고 있을 때, 책 제목을 생각해 낸 사람은 바로 레그였다. 딥마인드의 수석 연구원인 레그는 “괴르첼과 얘기하면서 ‘인공지능 시스템이 아직 갖추지 못한 일반성(generality) 에 관한 것이라면 인공일반지능이라고 불러야 돼. AGI는 인공 일반 지능의 약어로 일반성과 일종의 연결고리가 있잖아’”라고 했다.

인공일반지능이라는 용어는 그렇게 굳어졌다. 괴르첼의 책과 2008년 괴르첼이 시작한 AGI 연례 컨퍼런스에서 AGI는 인간과 같거나 초인적 인공지능과 관련된 화두가 되었지만, 동시에 큰 골칫거리도 되었다. 페이스북의 인공지능 담당 책임자 제롬 페센티는 “AGI라는 용어가 마음에 들지 않는다. 무슨 뜻인지 모르겠다”고 했다.

그런 말을 하는 사람이 페센티 뿐은 아니다. 문제는 AGI가 전체 기술을 둘러싼 희망과 두려움을 모두 포괄한다는 점이다. 일반적인 생각과는 달리, (여러 AGI 관계자들이야 그런 꿈을 꾸겠지만) AGI는 실제로 기계 의식이나 생각하는 로봇에 관한 것이 아니다. 오히려 크게 생각하는 것이다. 기후 변화부터 추락하고 있는 민주주의와 공중 보건 위기에 이르기까지 오늘날 우리가 직면하고 있는 많은 문제들은 상당히 복잡하다. 만약 사람처럼 또는 그 이상으로 더구나 지치지도 않고 빨리 생각할 수 있는 기계가 있다면, 위와 같은 문제들을 해결할 수 있는 가능성은 높아지리라 본다. 1965년 컴퓨터 과학자 I.J. 굿은 “초지능 기계는 사람이 마지막으로 만들어야 할 발명품이다.”라고 언급한 바 있다.

초창기 딥마인드에 투자하고 피터 티엘, 샘 알트먼 등 소수의 큰손들과 팀을 이뤄 오픈AI(OpenAI) 에 10억 달러를 투자한 일론 머스크는 엉뚱한 예측으로 본인만의 브랜드를 만들었다. 일론 머스크가 한마디만 해도, 수많은 사람들이 귀를 기울인다. 몇 달 전 뉴욕타임즈와의 인터뷰에서 초인적 인공지능이 5년도 채 남지 않았다고 말했다. 렉스 프리드먼 팟캐스트에 출연해서는 “초인적 인공지능은 엄청나게 빠른 속도로 우리에게 다가올 것이라며, 선택권이 있다면 어떻게 해야할 지 생각해봐야한다”고 덧붙였다.

그러자 5월에 페센티는 반격에 나섰다. “일론 머스크는 본인이 무슨 말을 하는지 전혀 모른다. AGI 따위는 없으며 우리는 사람의 지능에 필적할 만한 위치에 있지 않다”고 트윗한 것이다. 머스크는 “거지 같은 페이스북”이라고 맞받아쳤다.
이렇게 감정이 격앙되는 일은 흔하다. 전 바이두 인공지능 담당 책임자 겸 구글 브레인 공동창업자 앤드류 응은 “AGI같은 헛소리는 집어치우고 급한 문제에나 시간을 더 내자”고 했다.

그리고 줄리안 토겔리우스 뉴욕대 인공지능 연구원은 다음과 같은 발언을 했다. “AGI에 대한 믿음은 마술에 대한 믿음과 같다. 합리적 사고를 버리고 이해할 수 없는 일에 대한 희망과 공포를 표현하는 방식이다.” 트위터에서 #noAGI 해시태그를 검색하면, 2018년 튜링상을 수상한 페이스북의 수석 인공지능 과학자 얀 르쿤을 비롯해 인공지능의 거물들이 대거 눈에 띈다.

그러나 보드게임 챔피언 알파제로부터 그럴듯하게 텍스트를 만들어내는 GPT-3에 이르기까지 최근 인공지능의 연속적인 성공으로 AGI에 대한 대화도 덩달아 급증했다. 비록 그러한 도구들이 여전히 “일반적인” 지능과는 거리가 멀지만 (이야기와 체스가 왜 사람들에게 중요한 지에 대해서 지능적으로 생각하기는커녕, 알파제로는 실제로 이야기를 쓸 수 없고, GPT-3는 체스를 할 수 없음) 한 때 정신 나간 생각으로 치부되었던 AGI를 구축하려는 목표가 다시 받아들여지고 있다.

세계적으로 규모가 크고, 명성이 자자한 일부 인공지능 연구실은 이 목표를 매우 진지하게 받아들이고 있다. 오픈AI는 인간다운 추리력을 보유한 기계를 제일 먼저 만들고 싶다고 밝힌 바 있다. ‘지능 해결’이라는 문구는 딥마인드의 비공식적이지만 널리 반복되는 사명이다. 양사 최고 경영진은 AGI 관점에서 이러한 목표를 논의하게 되자 화색을 띠었다.

반세기가 지난 지금, 사람은 고사하고 곤충만큼이라도 여러가지 일을 동시에 처리할 수 있는 인공지능을 만들 수 있는 곳은 여전히 없다.

레그는 “2000년대 초반에는 AGI에 대해 이야기하면 미치광이 취급을 받았다”고 했다. “2010년 딥마인드를 창립했을 때도 컨퍼런스에 참석한 사람들이 의아한 눈초리를 굉장히 많이 보냈다.” 하지만 상황은 변하고 있다. “불편해하는 사람도 있겠지만, 점차 받아들이고 있다”고 말한다.

그렇다면 AGI는 무슨 이유로 논란이 되며, 왜 문제가 되는가? 무모하고 사람을 현혹시키는 꿈에 불과한가, 아니면 이뤄야 할 궁극적인 목표인가?

AGI는 무엇인가?

이 용어가 대중적으로 사용된 지는 10년이 조금 넘었지만, AGI로 요약되는 아이디어는 지속적으로 존재해 왔다.

1956년 여름, 열명 남짓한 과학자들이 뉴햄프셔 다트머스대에 모여, 괜찮은 연구 프로젝트가 될 것이라고 기대한 작업에 착수했다. 워크숍을 앞두고, 인공지능 분야의 선구자인 존 매카시, 마빈 민스키, 냇 로체스터, 클로드 섀넌은 다음과 같이 썼다. “본 연구는 학습의 모든 측면이나 지능의 다른 특징을 원칙적으로 굉장히 꼼꼼하게 묘사하여 기계가 시뮬레이션하게 할 수 있다는 추측을 토대로 진행하는 것이다. 기계가 어떻게 언어를 사용하고, 추상적인 관념과 개념을 형성하며, 현재 사람들이 당면한 여러 문제를 해결하고, 스스로를 계발하는 지 방법을 모색하려는 시도를 한다. ” 이 연구에는 10명의 인원과 두 달이 소요될 것으로 내다봤다.

1970년으로 재빨리 거슬러 가서 민스키의 여전히 흔들림없는 의견을 들어보자. “3~8년 후면 우리는 평범한 사람들이 하는 일반 지능이 가능한 기계를 만나게 될 것이다. 셰익스피어를 읽고, 차에 기름을 칠하고, 회사에서 정치적 행동을 하고, 농담도 하고, 싸움도 할 수 있는 기계 말이다. 그렇게 되면 기계는 엄청난 속도로 스스로 학습을 시작하게 된다. 몇 달 후면 천재 수준이 되고, 그로부터 몇 달이 더 지나면 기계의 힘은 측정 불가능해진다.”

이들의 AI 비전에서 눈에 띄는 것이 3가지 있다. 사람처럼 일반화 할 수 있는 능력 , 기하급수적 속도로 자기계발이 가능한 초인적 능력, 엄청난 크기의 소망적 사고다. 반세기가 지났지만, 우리는 사람은 고사하고 곤충만큼의 멀티태스킹 능력을 가진 인공지능을 만들 수 있는 곳은 아직 없다.

그렇다고 해서 엄청난 성공 사례가 없었던 것은 아니다. 초창기 버킷 리스트 중 많은 부분이 해결되었다. 우리에게는 말을 하고, 눈으로 보며, 여러 문제를 해결할 수 있는 기계가 있다. 그러나 오늘날의 인공지능은 인공지능 분야의 개척자들이 상상했던 면에서는 인간답지 않다. 인공지능 붐의 견인차 역할을 하는 딥러닝 기술은 가짜 스토리 지어내기, 체스 두기와 같은 다양한 분야를 기계가 마스터하도록 훈련시키지만, 기계는 한 번에 한 가지 밖에는 못한다.

2007년 출간한 저서에서 레그가 괴르첼에게 AGI라는 용어를 제안했을 때, 레그는 범위가 좁은 주류 인공지능 개념과 대비되는 인공일반지능 개념을 세우려 했다. 사람들은 민스키의 비전과 대신 찾아온 인공지능을 구분하기 위해 ‘강인공지능(strong AI)’, ‘진짜인공지능(real AI)’ 등 관련 용어를 여러 개 사용해 왔다.

베를린 헤티 스쿨의 인공지능 연구원인 조안나 브라이슨은 “AGI를 얘기하는 것은 종종 인공지능의 실패를 뜻할 때가 있다”고 한다. “머신비전처럼 이렇게 지겨운 일만 하는 사람들이 있었다는 뜻이었다. 당시에는 나도 그런 사람들 중 하나였지만, 우리는 여전히 인간의 지능을 이해하려고 노력하고 있다. 강인공지능, 인지과학, 일반인공지능은 ‘여러분은 실패했다. 하지만 우리는 계속 전진하고 있다’라는 같은 말을 다르게 표현하는 방식일 뿐이다”라고 덧붙였다.

AGI가 인공지능 연구의 진정한 목적이라는 생각은 지금도 여전하다. 인공지능 작동 시스템은 소프트웨어의 일부에 지나지 않는다. 브라이슨이 말하는 지겨운 일일 뿐인 것이다. 반면에 AGI는 우리가 아직 개발하지 못한, 항상 손에 닿지 않는, AI를 곧 대신할 존재가 된다.

때때로 레그는 다목적 도구의 한 종류, 즉 각각의 추가적인 도전에 맞게 새로 설계할 필요 없이 다양한 문제를 해결하는 하나의 기계로서 AGI를 언급한다. 이런 관점에서 볼 때, AGI는 알파고나 GPT-3보다 더 지능적이지는 않을 것이다. 다만 능력이 더 많을 뿐이다. 본격적인 지능이 아니라 범용 인공지능이 될 것이다. 레그는 다른 사람처럼 소통할 수 있는 기계에 대해서도 이야기한다. 제일 좋은 놀이 상대가 될 수 있는 기계에 대해서 설명한다. “기계와 직접 교류하여 새로운 카드 게임을 알려주고 이해하고 질문하며 같이 게임을 한다면 얼마나 좋을까. 꿈은 이루어지겠지.”

사람들이 AGI에 대해 이야기할 때, 보통은 AGI가 얼마나 사람처럼 행동할 수 있는지에 관한 능력이다. 레그 동료인 딥마인드 소어 그래펠은 공상과학 소설가 로버트 하인라인의 말을 즐겨 인용한다. “사람이라면 기저귀를 갈고, 침입을 계획하고, 돼지를 잡고, 배를 결박하고, 건물을 설계하고, 소네트를 쓰고, 장부를 계산하고, 벽을 세우고, 뼈를 맞추고, 죽어가는 것을 위로할 수 있어야 한다. 명령을 받고/내리고, 협력하고, 혼자 행동하고, 방정식을 풀고, 새로운 문제를 분석하고, 거름을 주고, 컴퓨터를 프로그래밍하고, 맛있는 음식을 만들고, 효율적으로 싸우고, 용감하게 죽는다. 전문화는 곤충들이나 하는 일이다.”

그럼에도 불구하고, 재미있는 사실은 그래펠의 실감나는 묘사는 1973년 하인라인의 소설 “사랑을 위한 충분한 시간”에서 라자루스 롱이라는 캐릭터를 통해 볼 수 있다는 점이다. 롱은 슈퍼맨 같은 존재로, 유전자 실험 덕분에 수백 년을 살고 있는 인물이다. 오랜 기간 동안 롱은 다양한 삶을 살고 여러 기술을 마스터한다. 다시 말하자면 민스키는 전형적인 인간의 능력을 묘사했고 그래펠은 그렇지 않다.

AGI가 추구하는 궁극적인 목표는 이러한 스타일로 끊임없이 이동하고 있다. 사람 같은 인공지능이라고 이야기할 때, 여기서 사람이라 함은 여러분과 나 같은 사람을 뜻할까 아니면 라자루스 롱 같은 사람을 의미할까? 페센티에게는 이런 모호함이 문제로 다가왔다. 페센티는 “그것이 무엇인지 아무도 모르는 것 같다. 사람이라고 모든 일을 다 할 수 없다. 모든 문제를 다 해결할 수도 없고 스스로 더 나아질 수도 없다.”라고 했다.

이세돌(왼쪽) 바둑 챔피언이 딥마인드
공동창업자 데미스 하사비스와 악수하고 있다.

그렇다면 AGI는 실제로 어떤 모습일까? AGI를 “인간다운”이라고 부르는 것은 모호한 동시에 너무 구체적이다. 인간은 우리가 가진 일반 지능을 잘 보여주는 제일 좋은 예지만, 또한 고도로 전문화된 존재이다. 개미에서 볼 수 있는 집단 인지에서부터 까마귀나 문어의 문제해결 기술, 침팬지의 인지도는 높지만 여전히 외계에 가까운 지능에 이르기까지 다양한 동물의 지능 세계를 살짝 들여다보면 일반적인 지능을 쌓을 수 있는 방법이 많다는 것을 알 수 있다.

AGI를 구축한다 해도, AGI를 완전히 이해하지 못할 수도 있다. 오늘날의 머신러닝 모델은 보통 “블랙박스”로, 그것은 어떤 사람도 이해할 수 없는 계산 경로를 통해 정확한 결과에 도달한다는 것을 의미한다. 여기에 자가발전 초지능을 더한다면, 공상과학 소설 속에 왜 가장 알기 쉬운 사례들이 주로 등장하는지 이유가 분명해진다.

어떤 사람은 또한 AGI의 요건에 의식이나 지각력을 포함시킬 수 있다. 그러나 지능을 분명히 정의하기 어렵다면 의식은 더욱 심해진다. 철학자와 과학자들은 컴퓨터 속에 무엇이 있을지는 말할 것도 없고, 우리 안에 무엇이 있는지에 대해서도 명확히 알 수 없다. 지능은 아마도 어느 정도의 자기 인식, 즉 자신의 세계관을 성찰하는 능력을 요구하지만, 반드시 의식과 동일하지는 않다. 세상을 경험하거나 자신의 관점을 성찰하는 것이 어떤 느낌인지를 말이다. AGI의 열성 팬들조차도 기계 의식에 대해서 알지 못한다.

AGI는 어떻게 만들까?

레그는 지능 탐구에 일생을 보내고 있다.

셰인 레그

웹마인드 이후 레그가 박사학위 논문 “기계 초지능”을 쓸 때, 스위스 루가노대의 마르쿠스 후터와 공동 작업했다. 현재 딥마인드에서도 근무 중인 후터는 궁극적인 일반지능인 물리 법칙에 의해서만 제한되는 지능의 수학적 정의를 연구하고 있었다.
두 사람은 자신들이 보편지능이라고 부르는 공식을 발표했는데, 레그는 이것을 광범위한 환경에서 목표를 달성할 수 있는 능력을 측정하는 척도로 묘사하고 있다. 레그와 후터는 본인들의 수학적 정의가 심리학에서 발견되는 여러 지능 이론과 비슷하다는 것을 보여주었는데, 지능을 일반성의 관점에서 정의하기도 한다.

딥마인드에서 레그는 게임에서 단백질 접힘에 이르기까지 특정 환경에서 특정 목표를 달성하는 인공지능을 시작으로, 이론 작업을 실질적인 시연으로 전환하고 있다.

다음으로는 여러 능력을 함께 연마하는 까다로운 부분이 있다. 딥러닝은 하나의 딥러닝 알고리즘을 사용하여 한 가지 이상의 과제를 학습할 수 있다는 점에서 가장 일반적인 접근법이다. 알파제로는 바둑, 장기, 체스를 배우는데 동일한 알고리즘을 사용했다. 딥마인드의 Atari57 시스템은 모든 아타리 비디오 게임을 마스터하기 위해 똑같은 알고리즘을 사용했다. 하지만 인공지능은 여전히 한 번에 딱 한 가지만 배울 수 있다. 체스를 익힌 알파제로는 기억을 지우고 쇼기를 새로 배워야 한다.

레그는 이를 ‘하나의 알고리즘(one-algorithm)’에 의한 일반성이라고 불렀다. 이는 인간이 가진 ‘하나의 두뇌(one-brain)’에 의한 일반성과 대비된다. 단일 알고리즘의 일반성은 매우 유용하지만 단뇌 종류만큼 흥미롭지는 않다. “사람이라면 뇌를 바꿀 필요가 없다. 체스를 하기 위해 체스용 두뇌를 따로 집어넣지는 않으니까”라고 주장한다.

하나의 알고리즘에서 하나의 두뇌로 이동하는 것은 인공지능에서 아직 풀리지 않은 큰 문제 중 하나이다. 두뇌가 하나인 인공지능은 여전히 진정한 지능이 아니라 더 나은 범용 인공지능, 즉 레그가 말하는 다목적 도구일 뿐이다. 하지만 AGI를 목표로 정했는지 여부와 관계 없이, 연구원들은 오늘날의 시스템이 조금 더 범용적으로 만들어져야 하며, AGI를 목표로 하는 사람들에게는 범용 인공지능이 필요한 첫 단계라는 데 동의한다. 도움이 될만한 접근법이 많은데 이미 있는 신흥 기술에서부터 좀 더 급진적인 실험에 이르기까지 다양하다 . 대략적이긴 하지만, 오랜 정도에 따라 다음과 같다.

비지도학습 또는 자가지도학습 . 훈련 중에 보고 있는 것을 인공지능에게 알려 주려고 데이터 세트(예: 고양이 사진 전부에 ‘고양이’라고 붙이는 것)에 라벨을 붙이는 것이 이른바 지도학습의 핵심이다. 이 과정은 여전히 대부분 수작업으로 이루어지며 따라서 일이 상당히 더디다. 예를 들어 고양이와 개의 사진을 보고 사람의 도움 없이 구별하는 법을 배우거나, 금융 거래에서 플래그가 붙어있지 않아도 이상 징후를 포착하는 등 인공지능이 사람의 지도 없이 스스로 학습할 수 있어야 한다. 위와 같은 비지도학습 은 이제 더 흔히 볼 수 있다.

퓨샷(few shot) 학습을 포함한 전이학습. 오늘날 대부분의 딥러닝 모델은 한 번에 한 가지 일만 하도록 훈련가능하다. 전이학습의 목표는 인공지능이 체스 같은 한 과제에서 학습된 일부 능력을 바둑 같은 다른 학습에 이용하는 것이다. 사람은 이러한 방식으로 학습을 한다.

상식과 인과 추론. 인공지능이 상식적으로 시작할 수 있는 기반이 있다면 업무 간 전이학습은 더 수월하리라고 본다. 원인과 결과를 이해하는 것이야 말로 상식의 근간을 이루는 부분이다. 인공지능에 상식을 부여하는 것은 현재 굉장히 이슈가 되는 연구 주제인데, 여기에는 단순 규칙을 신경망으로 인코딩하는 것에서부터 인공지능이 할 수 있는 가능한 예측을 제한하는 것까지 다양한 접근 방법이 있다. 아직 초기단계이긴 하지만 말이다.

학습 최적화. 학습 최적화는 인공지능의 학습 방식을 구체화하고, 더 효율적으로 훈련할 수 있도록 안내하는 도구이다. 최근의 연구에서는 이런 도구들이 스스로 훈련 가능함을 보여주는데, 하나의 인공지능이 다른 인공지능 훈련에 활용된다는 의미이다. 이로써 AGI의 목표라고 할 수 있는 자가발전 인공지능에 한 발 더 다가서게 되었다.

이렇게 모든 연구 분야는 딥러닝을 바탕으로 형성되어 현재 인공지능 구축을 위한 가장 유망한 방안으로 남아 있다. 딥러닝은 신경망에 의존하는데, 디지털 신경세포가 생물학적 신경세포에서 영감을 받는다는 점에서 흔히 뇌처럼 묘사된다. 사람의 지능은 일반 지능을 설명하는 가장 좋은 사례인 만큼, 어떠한 영감을 얻기 위해서 자신을 한번 바라보는 것은 어떨까.

뇌는 신경세포가 하나로 크게 엉겨붙어 있지만, 파트 별로 공동 작업을 한다.
예를 들자면, 레그와 만났을 때 하사비스는 기억을 처리하는 해마를 연구 중이었다. 하사비스는 사람의 일반 지능이 부분적으로 해마와 피질의 상호작용에서 나온다고 생각한다. 이 아이디어로 딥마인드의 아타리 게임 인공지능이 나오게 되었다. 아타리 게임 인공지능은 해마에서 영감을 받은 알고리즘인 DNC(differential neural computer) 를 사용하여 신경망과 전용 메모리 구성요소를 결합한다.

DNC처럼 인공 뇌 같은 요소들은 인지 구조로 알려지는 경우가 있다. 그들은 알파고와 알파제로와 같은 딥마인드 인공지능에서 역할을 수행하는데, 이 인공지능은 두 개의 분리된 전문 신경망을 검색 트리에 결합하는 것으로, 마치 의사 결정 흐름도처럼 작동하는 오래된 형태의 알고리즘이다. GPT-3같은 언어 모델은 텍스트처럼 일련의 데이터 처리 변환기라고 불리는 조금 더 전문화된 네트워크를 신경망과 결합한다.

궁극적으로, AGI에 도달하는 모든 접근방식은 다음과 같은 두 개의 광범위한 학설로 귀결된다. 첫번째는 알고리즘을 제대로 설정하면, 어떤 인지 구조에서든 원하는 대로 배열할 수 있다는 학설이다. 오픈AI와 같은 연구실은 이러한 접근 방식을 고수하는 것으로 보이며, 억지로라도 AGI를 달성할 수 있는 점점 더 큰 머신러닝 모델을 구축한다.

두번째는 딥러닝에 대한 집착이 우리를 방해하고 있다고 생각하는 학설이다. 만약 AGI의 성공 비결이 인공 두뇌를 구성하는 요소가 어떻게 함께 작동해야 하는지를 파악하는 것이라면, 구성 요소들 자체, 즉 딥러닝 알고리즘에 지나치게 집중하는 것은 나무만 보고 숲은 보지 못하는 격이다. 인지 구조를 잘 파악하면 알고리즘은 나중에 생각이 나서 연결된다. 이 방법이 바로 괴르첼이 선호하는 접근방식이다. 개방형 인지(OpenCog) 프로젝트는 서로 다른 퍼즐 조각을 AGI라는 큰 그림에 맞출 오픈 소스 플랫폼을 구축하는 것이다. 딥마인드가 알파고 신경망과 검색 트리를 결합할 때 탐색한 경로이기도 하다.

언스플래시


“개인적인 생각에는 둘 사이에 뭔가 있다. 정말 강력해지기 위해서 함께 결합할 수 있는, 섬세히 설계된 알고리즘의 수가 상대적으로 적은 것 같다”라고 레그는 전했다.

괴르첼은 동의하지 않았다. “구글과 딥마인드 가 AGI를 얼마나 심도 있게 생각하는 지 보면 감동적이다. AGI를 손에 넣을 수 있는 대기업이 있다면, 그 주인공은 바로 구글과 딥마인드일 것이다. “

그러나 기대는 금물이다. 수십 년 동안 도전을 과소평가한 것에 기분이 상한 머스크를 제외하고는 설사 AGI시대가 도래한다 하더라도 그 시기가 과연 언제가 될지 짐작해보는 것을 좋아하는 사람은 거의 없다. 심지어 괴르첼이 아무리 조만간이라고 얘기했어도, 자신의 목표를 특정 시기에 맞춰 내거는 위험을 감수하지는 않을 것이다. 딥러닝, 특히 GPT-3의 급속한 발전으로 사람의 특정 능력을 모방함으로써 기대감을 높였다는 데는 의심의 여지가 없다. 하지만 단순한 흉내내기가 지능을 나타낸다고 볼 수는 없다. 여기저기 구멍이 숭숭 나있는데, 연구원들은 어떻게 하면 메울 수 있는지 알아내기는커녕 정확한 깊이조차 가늠하지 못하는 실정이다.

“아마 계속 발빠르게 한다면… 몇 십 년 내에, 진짜 진짜 유능한 시스템을 갖추게 될 것이다”라고 레그는 말했다.

AGI는 왜 논란이 되는가?

어느 누구도 AGI 구축 방법을 모르는 이유에는 AGI가 도대체 무엇인지에 대해 동의하는 사람이 거의 없기 때문이기도 하다. 다양한 접근 방식은 다목적 도구에서 초인적 인공지능에 이르기까지 우리가 추구하는 지향점에 대해 다양한 생각을 반영한다. 인공지능을 조금 더 범용적으로 만들기 위한 작은 발걸음이 진행 중이다. 하지만 여러 가지 문제를 해결할 수 있는 범용 도구와 I.J. 굿이 언급했던 “사람의 마지막 발명품”처럼 사람이 해결할 수 없는 문제를 처리할 수 있는 범용 도구 사이에는 엄청난 간극이 있다. 앤드류 응은 “인공지능 분야에 상당한 진전이 있었지만 그렇다고 AGI에도 어떤 진척이 있다는 뜻은 아니다”라고 설명했다.

AGI의 달성 여부에 대하여 양측이 내놓는 증거가 없다면, 이는 신념의 문제이다. “마치 바늘 위에 몇 명의 천사가 동시에 올라갈 수 있는가와 같은 중세 철학 논쟁처럼 느껴진다. 말도 안되는 소리일 뿐 ”이라고 토겔리우스는 부연했다.

괴르첼은 논쟁에 대해서는 크게 걱정하지 않으면서, “어느 쪽이든 극단적인 사람들이 있다. 중도파도 많은데, 중도파들은 또 그렇게 나서서 떠들어대는 편은 아니다”고 덧붙였다.

AGI 세상은 초지능 구축 방법에 대한 실마리를 탐구하는 연구자들로 가득하다.

신흥 인텔리전스
크리스틴 토리손은 간단한 프로그램이 다른 간단한 프로그램을 다시 써서 더 많은 프로그램을 만들 때 과연 무슨 일이 일어나는지 연구 중이다. 토리손은 자기 개발을 위해 남겨진 단순 과정에서 발생하는 복잡한 행동에 관심을 표출한다.

보편지능
아서 프란츠는 무제한 컴퓨팅 성능을 가정한 마르쿠스 후터의 AGI 수학적 정의를 받아들여서 실제 작동하는 코드로 분해하려 하고 있다.

개방형(open-ended) 지능
데이비드 와인바움은 특정 목표 없이 진행되는 지능을 연구하는 연구원이다. 일반적으로 강화 학습에 활용되는 것과 같은 보상 기능이 인공지능의 초점을 좁힌다는 생각이다. 와인바움은 특정 문제 영역 외에서 활동하며, 환경에 그저 아무런 목적 없이 적응하는 지능을 개발하는 법을 연구하고 있다.

괴르첼은 응과 같은 AGI 회의론자를 이쪽에, 자신을 저쪽에 놓는다. 웹마인드 시절부터 괴르첼은 언론을 AGI의 유명무실한 허수아비로 내세웠다. 괴르첼은 AGI 컨퍼런스를 운영하며 싱귤래리티넷이라는 단체를 이끌고 있는데, “블록체인 위의 웹마인드”라 칭하는 조직이다. 2014년부터 2018년까지 핸슨 로보틱스 수석 연구원으로도 근무했으며, 핸슨 로보틱스는 2016년 말하는 사람형 로봇 소피아를 공개한 홍콩 소재 기업이다. 첨단 연구보다 테마파크형 마네킹인 소피아 덕분에 괴르첼은 전 세계 뉴스의 헤드라인을 장식했다. 그러나 괴르첼은 소피아가 진정한 인공지능이 아닌 “연기형 로봇”에 불과하다는 것을 시인한다. 소피아라는 특별 브랜드가 보여준 괴르첼의 화려한 쇼맨십으로 인해 진중파 인공지능 연구원 다수가 괴르첼에게 등을 돌리게 되었다.

중간에 괴르첼은 2018년 얀 르쿤, 제프리 힌튼과 함께 튜링상 공동 수상자인 몬트리올대 인공지능 연구원 요수아 벤지오 같은 사람들을 투입했다. 벤지오는 AGI 컨퍼런스 2014년 기조연설에서 인간의 뇌는 기계, 즉 이해만 하면 되는 기계이기 때문에 인간 수준의 지능으로 인공지능을 구축하는 것이 가능하다고 했다. 그러나 사람의 마음을 능가하는 기계, 다시 말해서 초지능에 대해서는 확신하지 않는다. 어느 쪽이든, 컴퓨터에 상식과 인과 추론을 부여할 방법을 찾지 못하면 AGI는 달성되지 못할 것이라고 생각한다.

그러나 응은 AGI에도 반대하지 않는다고 주장한다. “AGI는 너무 신나는 주제이며, 꼭 됐으면 좋겠다. 시간만 많으면, 직접 해보고 싶다.”고 전했다. 응이 구글 브레인에서 근무하고, 딥러닝이 승승장구하고 있을 때, 오픈AI처럼 응은 신경망을 단순 확대하는 것이 AGI로 통하는 경로가 될 수 있는지 궁금했다. “이런 이야기들은 단순한 질문에 불과하지 구체적인 진술은 아니다. AGI가 논란이 된 것은 사람들이 AGI에 대해 구체적으로 발언하기 시작했을 때부터다”라고 주장했다.

AGI가 얼마나 빨리 달성될 수 있는지에 대한 자만심보다 훨씬 더 논란이 가중된 문제는 AGI가 봉인해제되면 과연 무엇을 할 수 있는지에 대한 유언비어다. 여기서 추측과 공상과학소설의 경계가 모호해진다. 머스크는 AGI가 핵보다 더 위험할 것이라고 한다. 현재 중국 우한대학교의 인공지능 연구원 휴고 드 가리스는 2000년대에, 세기말에는 AGI가 세계 전쟁과 떼죽음을 초래할 것으로 전망했다. 가리스가 “인공지성(artilect)”이라고 부른 신과 같은 기계는 반인공지능파 테란에 대항하여 친인공지능파 코스미스트와 동맹을 맺을 것이다.

“AGI에 대한 믿음은 마술에 대한 믿음과 같다. 합리적 사고를 버리고 이해할 수 없는 일에 대한 희망과 공포를 표현하는 방식이다 “
남성우위, 반유대주의적 견해를 거침없이 지지하는 드 가리스 같은 사람이 괴르첼의 AGI 관련 저서에 “현대 인공지능의 아버지”라고 불리는 기사를 싣는 것은 분명 친AGI 진영에 도움이 되지 않는다. 그것도 후터나 위르겐 슈미드후버 같은 진중파 연구원들의 기사와 나란히 말이다. AGI파 사람 대부분이 스스로를 인공지능의 선구자로 본다면, 외부 사람들은 그들을 미치광이 광신도로 보며, 인공지능에 대한 생각을 싱귤래리티(자가발전 기계가 인간의 지능을 능가하는 돌이킬 수 없는 시점), 마인드 업로딩, 트랜스휴머니즘, 종말론과 함께 믹서기로 드르륵 갈아버리고 싶게 만든다.

“지능과 관련한 흥미로운 논의는 개의치 않지만, 어느 날 갑자기 우리 소프트웨어가 벌떡 일어나 세계를 장악할 것이라는 말도 안 되는 생각에는 신경이 쓰인다”라고 토겔리우스는 얘기한다.

그게 왜 중요한가?

수십 년 전 인공지능이 민스키 등의 과대광고에 부응하지 못하자 관련 분야는 몇 번이나 와르르 무너져 내렸다. 지원금은 사라졌고, 연구원들은 이탈했다. 인공지능이라는 기술이 혹독한 겨울을 지나 재정비하기까지는 실로 수년이 걸렸다. 그러나 인공지능을 둘러싼 과대 광고는 지금도 여전하다.

“혹독한 겨울은 비현실적인 기대감으로 생겼기 때문에, 우리는 고비 고비마다 합리적 판단과 실증적 검증을 통해 싸워 넘겨야 한다 “고 응은 설명했다. “무성한 소문들을 관리해야 한다”고 말하며 페센티도 동의한다.

더 시급한 과제는 이렇게 비현실적인 기대가 정책 입안자들의 의사결정에 영향을 미친다는 점이다. 브라이슨은 사람들이 인공지능에 대해 공상과학에서나 볼 수 있는 견해를 가지고 있기 때문에 이사회실과 정부에서 뒤죽박죽이 되어버리는 현실을 많이 목격했다고 말한다. 덕분에 사람들은 로봇 인수 같은 더 환상적인 문제를 위해 매우 현실적인 미해결 문제들은 신경쓰지 않아도 된다. 예를 들어, 인종에 대한 편견이 왜곡된 훈련 데이터에 의해 인공지능으로 인코딩되는 방법, 알고리즘이 어떻게 작동하는지에 대한 투명성 부족, 또는 인공지능이 잘못된 결정을 했을 때 누구에게 책임을 물을 것인지에 대한 질문처럼 말이다.

과대 포장은 또한 투자자들을 흥분시킨다. 머스크의 돈은 진정한 혁신을 금전적으로 지원하는데 도움을 주었지만, 실존적 위험에 대한 연구를 지원하고 싶다고 말하자, 모든 연구원들이 먼 미래의 위협이라는 관점에서 이야기하게 만들었다. 브라이슨은 “어떤 사람은 진짜 믿고 있고, 어떤 사람은 돈, 관심, 다른 것을 쫓는다. 사람들은 자기가 진짜 어느 쪽인지 정말 솔직하게 말할 수 있을까”라고 브라이슨은 이야기한다.

AGI의 매력도 놀랍지 않다. 자아 성찰과 자기 창조 이 두 가지는 사람의 모든 활동 중 가장 인간다운 행위이다. 머리 속에서 기계를 만들어보고자 하는 욕구는 거부하기 어렵다. 지금 AGI에 비판적인 시선을 보내는 많은 사람들이 초반에는 AGI에 관심의 추파를 보냈었다. 브라이슨은 괴르첼처럼 인공 아기를 만들려고 여러 해 동안 노력했다. 응은 2005년 세계 주요 인공지능 컨퍼런스인 신경정보처리시스템학회(당시 NIPS라고 불린 NeurlPS)에서 ‘인간 수준의 인공지능이라고?’라는 주제의 워크숍을 준비하였다. 응은 “미쳤다”고 했다. 현재 AGI와 관련하여 자주 비판을 일삼는 르쿤이 거기서 기조연설을 했다.

이 연구원들은 좀 더 실용적인 문제로 넘어갔다. 그러나 이 사람들을 포함하여 다른 이들이 이뤄낸 성과 덕분에 기대감은 또 다시 상승하고 있다. “현장의 많은 사람들은 지난 몇 년간 우리가 실질적으로 이룬 만큼의 진전을 기대하지 않았다. 그래서 AGI를 훨씬 더 신뢰할 수 있게 한 원동력이 되었다”고 레그는 전했다.

심지어 AGI에 회의적이었던 사람들조차 이러한 논쟁으로 적어도 연구원들은 앞으로 발생할 신경망 해킹이나 벤치마크에 집중하기보다 어떻게 전반적으로 현장의 방향을 정립할 지에 대해 생각하게 된다는 것을 인정한다. “AGI를 진지하게 생각하는 것 만으로도, 아주 황홀한 경험을 맛보게 될 것이다. 꿈을 실현하기 위해 마음을 가다듬고, 도대체 어떤 꿈일지 기대한다면 그것이야 말로 가장 큰 소득이 아닐까 “라고 토겔리우스가 언급했다.



미리보기 3회1회

MIT Technology Review 구독을 시작하시면 모든 기사를 제한 없이 이용할 수 있습니다.