청년포럼: AI 시대, 다시 '나-우리'로

AI가 빠르게 발전할수록 오히려 더 중요해지는 것은 '나'와 '우리'의 문제다.

김성재

들어가며: AI 시대, 변화는 이미 시작됐다.

알파제로는 인간의 기보 없이 바둑의 규칙만으로 인류가 3,000년간 쌓아온 지혜를 단 사흘 만에 추월했다. 이세돌은 이제 인간이 알파제로의 바둑을 이해하지 못한다고 단언한다. 어떤 한 수를 이해하지 못하는 게 아니라, 처음부터 끝까지 전부를 봐도 각각의 수를 이해하지 못한다는 것이다. 이것은 단순히 바둑의 이야기가 아니다. 지능이 특정 기질이나 과거의 데이터에 귀속되는 것이 아니라, 목표를 달성하기 위한 최적의 정보 배열을 스스로 찾아낼 수 있는 능력을 갖추고 있다는 뜻이다.

CES 2026에서 AI는 단순한 도구를 넘어 스스로 판단하고 실행하는 에이전트로 등장했다. 레노버와 AMD가 선보인 에이전틱 AI는 "보고서를 마무리해줘"라는 추상적 명령 하나로 스스로 데이터를 탐색하고 정보를 요약하며 작업을 완수한다. 피지컬 AI는 가상 시뮬레이션 속에서 수억 번의 물리적 시행착오를 단 몇 시간 만에 거치며 인류가 도달하지 못한 효율적인 동작을 완성해낸다. 냉장고와 세탁기가 사용자의 습관을 분석하고, 차량 AI가 운전자의 긴장 상태를 읽고 주행 모드를 바꾼다.

ai-2027 시나리오는 더 구체적이다. 2026년, AI가 슬랙이나 팀즈 안에서 인간 직원처럼 업무를 할당받고 며칠씩 독립적으로 코딩이나 연구를 수행한다. AI가 스스로의 코드를 개선하기 시작하면서 AI 연구 개발 속도가 인간만 있을 때보다 50% 이상 빨라진다. 2027년이면 AI가 스스로 새로운 신경망 아키텍처를 설계하고 학습 효율을 높이는 연구를 주도한다. 10년 치의 알고리즘 진보가 단 1년 만에 일어난다.

변화, 기술의 발전은 지금 이 순간에도 진행되고 있다. 그런데 우리는 이 변화를 얼마나 이해하고 있는가. AI가 빠르게 발전하고 있다는 것은 안다. 그런데 그것이 정확히 무엇을 바꾸고 있는지, 인간의 어떤 부분을 대체하고 어떤 부분을 위협하는지는 생각보다 분명하지 않다.

지능인가. 창의성인가. 감정인가. 인간성 자체인가. AI가 위협하는 것이 무엇인지를 모르면, 우리가 무엇을 지켜야 하는지도 알 수 없다. 그리고 그것을 알기 위해서는 결국 인간과 AI의 차이를 이해해야 한다.

1월: <LIFE 3.0> 우리는 재설계하고 있는가

AI는 이미 스스로를 재설계하기 시작했다. 그렇다면 인간은?

테그마크는 생명을 세 단계로 나눈다. 진화에 의해서만 변하는 라이프 1.0, 학습을 통해 소프트웨어를 스스로 설계하는 라이프 2.0, 그리고 하드웨어까지 스스로 재설계하는 라이프 3.0. 인간은 라이프 2.0이다. 유전자의 족쇄에서 벗어나 언어, 문자, 과학, 기술을 통해 공유된 소프트웨어를 축적해왔고, 그 문화적 진화가 인류를 지구의 지배적 존재로 만들었다. 그리고 지금 이 순간에도 라이프 3.0을 향해 달려가는 사람들이 있고, 그 흐름을 설계하려는 사람들이 있다.

그런데 이 분류에서 중요한 것은 라이프 3.0이 아직 오지 않은 미래가 아니라는 점이다. 이미 그것을 향해 달려가는 사람들이 있다. 설계하는 사람들이 있다. 그리고 그들에 의해 세계는 지금 이 순간에도 재편되고 있다. 라이프 3.0은 우리 모두에게 동시에 열린 가능성이 아니라, 이미 누군가가 주도하고 있는 현실이다. 그 사실을 인식하는 것과 인식하지 못하는 것 사이에는 엄청난 차이가 있다.

포럼에서 이 지점에 오래 머물렀다. 우리는 그 현실을 인식하고 있는가. AI의 발전을 알면서도, 세계가 바뀌고 있다는 것을 알면서도, 우리는 재설계하고 있는가. 아니면 설계하는 사람들이 만들어놓은 환경 속에서 그저 반응하고 있는가. 그리고 우리는 왜 이렇게 되었을까? 역사적으로 두 가지 문제를 짚을 수 있다.

먼저 구조의 문제다. 문서가 만들어지고 관료제가 등장한 이래로, 그리고 산업혁명 이후로 사회는 사람을 효율적으로 분류하고 배치하는 방향으로 발전해왔다. 유발 하라리는 관료제의 핵심을 '서랍'이라는 개념으로 설명한다. 관료제는 세상을 분류하고 구획하며, 어떤 사람이 어느 서랍에 들어가야 하는지를 결정함으로써 사람들을 관리한다. 사람들의 삶은 직업, 학력, 소득, 직급이라는 한 줄의 기록이나 한 칸의 체크박스로 치환된다.

그리고 산업혁명은 그 서랍을 더욱 촘촘하게 만들었다. 공장은 생산 과정을 잘게 쪼개고, 각각의 노동자에게 단순하고 반복적인 한 가지 동작만을 요구했다. 애덤 스미스가 핀 공장의 사례로 설명한 분업은 생산성을 폭발적으로 높였지만, 동시에 사람을 전체를 보지 못하는 부품으로 만들었다. 전체 공정을 이해하고 설계하는 사람은 소수였고, 나머지는 자신이 무엇을 만들고 있는지조차 알 필요가 없었다. 이에 따라 학교는 그 구조에 맞는 사람을 길러내는 방향으로 조직되었다. 정해진 커리큘럼 안에서 정해진 서랍에 들어갈 사람을 만들어내고, 직장은 그 서랍을 더욱 좁혀간다. 기획은 기획만, 개발은 개발만, 영업은 영업만. 오랫동안 한 서랍에 최적화된 사람은 그 서랍 밖의 가능성을 상상하기 어렵다. 자신이 어떤 구조 속에 놓여 있는지조차 볼 수 없다. 이렇게 관료제와 분업화는 재설계해야 한다는 생각 자체를 지워버리는 방식으로 작동했다.

또 다른 하나는 무오류성의 환상이다. 스스로에게 오류가 없다고 가정할 때 재설계의 동기는 사라진다. 오류를 인정하지 않는 체계는 스스로를 수정할 수 없다. 이것은 개인에게도, 조직에게도, 사회에게도 동일하게 적용된다. 변화하는 환경을 인식하면서도 자신을 수정하지 않는 것, 그것은 무오류성의 환상 속에 머무는 것이다.

테그마크는 에필로그에서 두 종류의 낙관주의를 구분한다. 태양이 내일도 떠오를 것이라는 무조건적 낙관주의와, 주의 깊게 계획하고 열심히 실행하면 좋은 일이 일어날 것이라는 유념하는 낙관주의. 그는 런던과학박물관을 나오며 울었다. 인류가 기술을 발견해온 경이로운 과정과, 우리가 우리 자신을 쓸모없게 만들고 말 것이라는 두려움이 동시에 밀려왔기 때문이다. 그러나 그 두려움이 그를 움직였고 LIFE 3.0을 원하는, 바라는 사람들을 모으기 시작했다. 재설계는 두려움에서 시작되는 것이 아니라, 원하는 것을 알 때 시작된다. 그렇다면 우리는 무엇을 두려워하고, 원하는가.

2월: <넥서스> AI 시대, 이야기와 네트워크는 어떻게 작동하는가

하라리는 《사피엔스》에서 인간이 세상을 지배하게 된 이유를 인지혁명에서 찾았다. 약 7만 년 전, 호모 사피엔스는 상상력과 복잡한 언어를 획득하면서 신, 국가, 돈 같은 허구를 공유할 수 있게 됐다. 침팬지는 무리의 규모가 수십 명을 넘지 못한다. 서로를 직접 알고 신뢰를 쌓는 데는 한계가 있기 때문이다. 그런데 인간은 같은 허구를 믿는 것만으로 수백만, 수억 명이 협력할 수 있었다. 서로를 한 번도 만난 적 없는 사람들이 같은 화폐를 사용하고, 같은 법을 따르고, 같은 국가를 위해 싸웠다. 《사피엔스》에서 하라리의 관심은 인류의 협력 자체였다.

《넥서스》에서 하라리는 그 협력의 구조를 정보 네트워크의 언어로 풀어낸다. 협력을 가능하게 한 것은 이야기였다. 그런데 그 이야기는 어떻게 작동하는가. 하라리는 정보를 바라보는 관점을 전환한다. 정보의 핵심은 진실을 재현하는 것이 아니라 사람들을 연결하는 것이라고 그는 주장한다. 성경이든 화폐든 국가든, 그것들은 물리적으로 존재하지 않지만 같은 이야기를 공유하는 사람들 사이에서 강력한 힘을 갖는다. 하라리는 이것을 상호주관적 현실이라고 부른다. 이야기는 단순한 서술이 아니라 공동의 질서를 만들어내는 장치다. 그렇다면 지금 우리를 연결하는 이야기는 무엇인가. 그리고 그 이야기는 어떤 질서를 만들어내고 있는가.

사회가 커지면서 이야기만으로는 충분하지 않은 순간이 찾아왔다. 문서가 등장하면서 조세, 행정, 재산 관리 같은 복잡한 체계가 그 자리를 채웠다. 문서는 단순히 현실을 기록하는 도구가 아니라 사회를 조직하고 통제하는 핵심 장치로 작동했다. 계약서, 면허증, 법률 문서는 사실을 기록하는 것이 아니라 새로운 권리와 의무를 만들어냈다. 이야기가 감정과 정체성을 통해 사람들을 연결한다면, 문서는 분류와 기록을 통해 사람들을 조직한다. 그리고 그 문서 체계 속에서 사람들은 점점 더 특정 역할과 기능에 고정되어갔다. 1월에서 물었던 "우리는 왜 재설계하지 않는가"의 답이 여기에도 있다.

그렇다면 지금 우리의 정보 환경은 어떤 이야기를 만들어내고 있는가. 디지털 플랫폼은 더 많은 정보를 더 빠르게 유통시키지만, 그 정보들은 파편화된 채 빠르게 소비될 뿐 공통의 의미를 축적하는 서사로 이어지지 못한다. 한병철이 《서사의 위기》에서 진단한 것처럼, 문제는 이야기가 부족한 것이 아니라 과잉이다. 발화와 콘텐츠는 쏟아지지만, 경험을 엮어 공동의 세계를 구성하는 힘을 가진 이야기는 만들어지지 않는다. 정보가 넘쳐날수록 사람들은 더 지혜로워지기보다 서로 다른 해석과 가치관 속에서 더 깊이 분열된다.

그런데 문제는 그 분열 속에서도 각자는 자신이 옳다고 확신한다는 것이다. 자신의 신념을 강화해주는 정보만을 선택적으로 소비하고, 그 바깥의 정보는 오류나 거짓으로 간주한다. 스스로에게 오류가 없다고 가정하는 순간, 네트워크는 자정할 수 없게 된다. 과학혁명이 중요한 이유는 오류를 피하려 한 것이 아니라 오류를 발견하고 교정하는 과정 자체를 제도화했기 때문이다. 동료 평가, 반복 실험, 학술지 같은 장치는 그 제도화의 산물이다. 개인도 마찬가지다. 재설계는 스스로의 오류를 인정하는 데서 시작된다. 그런데 AI 시대 파편화된 정보 환경 속에서 우리 자신의 자정 가능성은 점점 줄어든다.

재설계하지 않는 개인, 자정하지 않는 시스템. 그 구조가 어떻게 만들어지고 유지되는지를 정보 네트워크의 언어로 읽어보았다. 그리고 그 구조를 바꾸려면 단순히 더 많은 정보가 아니라, 사람들을 연결하고 공동의 방향과 목표를 드러내는 이야기가 필요하다.

3월: <넥서스> AI가 민주주의를 위협할 때

민주주의의 역사는 시민의 확산 과정이었다. 고대 그리스 아테네에서 민주주의는 소수의 자유 시민에게만 열려 있었다. 노예는 배제됐고, 여성은 배제됐다. 그러나 역사는 그 경계를 조금씩 넓혀왔다. 노예제가 폐지되고, 여성이 참정권을 얻고, 더 많은 사람이 시민의 자리로 들어왔다. 민주주의의 역사는 곧 누가 시민인가의 경계를 확장해온 역사였다.

시민이 많아지면서 민주주의의 형태도 바뀌었다. 인쇄술을 비롯한 기술의 발전과 함께 정보가 더 넓게 유통되기 시작했고, 직접민주주의는 대의민주주의로 전환됐다. 엘리트 중심의 대의제가 되면서 시민의 직접 참여는 줄어들었지만, 그렇다고 시민의 역할이 사라진 것은 아니었다. 시민사회의 목소리가 응축되고 모아지면서 대의제를 통해 반영되는 구조가 유지됐다. 시민과 엘리트의 연결, 그 긴장과 견제가 민주주의를 작동시키는 핵심이었다.

이 구조를 가능하게 한 것이 분산된 정보 네트워크였다. 하라리는 민주주의와 전체주의를 정치적 가치의 차이가 아니라 서로 다른 정보 네트워크 구조로 분석한다. 언론, 사법부, 시민사회, 학계가 각각 독립적인 정보 채널을 가지고 서로를 견제하면서 오류를 교정하는 자정 장치가 작동했다. 이 구조는 내부적으로 느리고 복잡하며 무엇이 옳은지 명확하게 정리되지 않는 상태를 지속적으로 만들어낸다. 반면 정보가 집중된 네트워크는 초기에는 빠르고 안정적인 것처럼 보인다. 독재 체제는 이 독립적인 정보 노드들을 위협으로 간주하고 제거하려 한다. 그러나 외부 충격이 왔을 때 회복탄력성을 가진 것은 언제나 민주주의였다. 자정할 수 있는 구조가 장기적 관점에서 더 강했고, 우리의 역사에서 이를 확인할 수 있다.

그리고 이 분산된 구조 속에서는 언제나 다양한 목소리들이 존재했다. 공유된 경험과 내러티브는 서로에게 힘을 실어주었고, 그 목소리들은 대안이 되고 변화의 자양분이 되었다. 소외된 이들의 이야기가 쌓여 제도를 흔들고, 그것이 다시 새로운 시민의 탄생으로 이어졌다. 민주주의가 확장되어온 역사는 바로 그 과정이었다.

그런데 지금 이 구조가 흔들리고 있다. 그 이유 중 하나는 속도다. 분산된 정보 네트워크가 제대로 작동하려면 목소리들이 논의되고 응축되는 시간이 필요하다. 시민사회의 다양한 목소리들이 각자의 채널에서 발화되고, 서로 부딪히고, 걸러지고, 모아지면서 방향을 만들어가는 과정. 민주주의의 느림은 결함이 아니라 그 과정을 위한 시간이 필요함을 역설하는 것은 아닐까.

그런데 AI와 디지털 기술의 발전은 그 시간을 압축해버렸다. 모든 목소리가 동시에, 같은 공간으로 쏟아진다. 논의되고 응축되는 것이 아니라 집중되면서 정리되지 않고 뒤섞인다. 분산되어야 할 네트워크가 몇 개의 거대 플랫폼으로 수렴되면서, 정보는 넘쳐나지만 그것을 처리하고 의미화하는 구조는 오히려 단순해진다. 속도가 빨라질수록 자정의 가능성은 줄어든다. 생각할 시간이 없기 때문이다.

자정 기능이 작동하려면 수정할 대상을 이해할 수 있어야 한다. 관료도 인간이었을 때는, 규칙과 절차가 인간의 머리에서 나온 것이었을 때는, 틀렸다는 것을 파악하고 바로잡을 수 있다는 희망이 있었다. 그런데 지금 소셜 미디어 알고리즘은 인간의 다면적인 감정을 단 하나의 지표인 '참여도'로 환원했다. 거짓이 진실보다, 혐오가 연민보다 더 많은 참여를 유도한다는 것을 알고리즘은 학습했고, 그에 맞게 정보 환경을 재편해왔다. 아무도 의도하지 않았지만 결과는 실재한다. 거대 소셜 미디어 기업들은 진실을 장려하는 자정 장치에 투자하는 대신, 사실상 거짓과 허구에 보상을 주는 오류 증폭 장치를 개발했다.

하라리가 경고하는 새로운 실리콘 장막은 과거의 냉전처럼 민주주의와 전체주의를 나누는 경계가 아니다. 인간과 불가해한 알고리즘 지배자 사이의 분리다. 중국에서 AI의 가장 중요한 목표는 국가 권력의 강화다. 미국에서는 기술 기업의 부를 늘리는 것이다. 두 진영은 서로 다른 목표 아래 알고리즘을 설계하고, 그 알고리즘이 사람들의 정보 환경을 구성한다. 사람들이 별개의 정보 고치에 갇혀 서로 달라지면 인류는 더 이상 같은 현실을 공유하지 않을 것이다. 최근 수십 년간의 핵심 은유가 웹이었다면, 미래의 은유는 고치가 될지도 모른다.

분산된 민주주의 정보 구조는 자정 능력은 갖추고 있지만 방향을 제시하지 못한다. 권력을 분산해야 한다는 것은 알지만, 어디로 가야 할지는 말하지 않는다. 그 공백을 강한 이야기가 채운다. 미국의 MAGA가, 혹은 한국의 극우적 움직임이 파편화된 사람들을 강하게 묶어내는 이유도 여기에 있다. 사람들이 사회를 이해하지 못할 때 포퓰리즘과 극우의 메세지는 명확한 방향이 되어 구심력을 만든다.

그렇다면 보편적 가치를 지향하는 네트워크는 왜 그만한 힘을 갖지 못하는가. 노동 언론, 여성주의 언론, 환경 언론 같은 대안 언론들도 명확한 목표와 방향을 가지고 있다. 그런데 왜 더 큰 힘을 갖지 못했는가. 민주주의가 확장되어온 역사 속에서 분산된 목소리들이 힘을 가질 수 있었던 것은 공유된 경험과 내러티브가 있었기 때문이었다. 공유된 목표만으로는 충분하지 않다. 함께 겪은 경험, 그것을 함께 언어화하는 과정이 필요하다. 그리고 지금 알고리즘은 바로 그 공유된 경험의 가능성을 잠식하고 있다.

나가며: AI가 발전할수록, 다시 '나-우리'로

세 달의 논의를 돌아보면 역설적인 결론에 이른다. AI가 빠르게 발전할수록, 알고리즘이 점점 더 많은 결정을 대신할수록, 오히려 더 중요해지는 것은 '나-우리'다.

나-우리의 이야기. 알고리즘은 참여도를 학습하지만, 살아온 맥락을 가진 이야기는 만들어내지 못한다. 하라리가 말한 것처럼 이야기는 상호주관적 현실을 만들어내는 장치다. 그 이야기는 데이터에서 나오는 것이 아니라 경험에서 나온다. 내가 무엇을 겪었고, 그것을 어떻게 언어화하며, 누구와 공유하는가. 모든 목소리가 거대 플랫폼으로 집중되고 뒤섞이는 지금, 나의 이야기를 잃지 않는 것은 단순한 자기표현이 아니다. 분산된 네트워크를 유지하는 가장 작은 단위의 실천이자 우리의 이야기를 만드는 실천이다.

시민성. 민주주의의 역사는 시민의 확산 과정이었다. 아테네의 소수 자유 시민에서 시작해, 노예제 폐지와 여성 참정권을 거쳐 더 많은 사람이 시민의 자리로 들어왔다. 그 확장은 저절로 이루어진 것이 아니었다. 분산된 네트워크 속에서 공유된 경험과 내러티브가 응축되고, 그 목소리들이 제도를 흔들면서 가능했다. 지금 AI 시대의 시민성은 무엇인가. 불가해한 알고리즘 앞에서도 설명을 요구하고, 감시하고, 개입하는 능력. 내가 속한 정보 환경을 이해하려는 의지, 그것에 참여하려는 태도. 시민성은 거창한 것이 아니라 바로 거기서 시작된다.

재설계. 환경이 바뀌었는데 나만 바뀌지 않는다면, 그것은 선택이 아니라 멈춤이다. 그리고 멈추는 사이, 누군가는 이미 방향을 설정하고 있다. 라이프 3.0을 향해 달려가는 사람들이 있고, 그들에 의해 세계는 지금 이 순간에도 재편되고 있다. 그 현실을 인식하는 것이 재설계의 출발점이다. 재설계는 거대한 전환이 아니라, 무오류성의 환상을 내려놓고 지금 내 소프트웨어의 어느 부분이 낡았는지를 직면하는 것에서 시작된다.

경험. 알고리즘이 효율을 최적화하는 동안, 인간만이 할 수 있는 것은 직접 부딪히고 실패하고 다시 시도하는 경험의 축적이다. 테그마크가 우주를 발견한 시간을 '행운'으로 여긴다고 했을 때, 그 감정은 AI의 데이터에는 존재하지 않는 것이다. 경험은 효율화될 수 없다. 그리고 그 경험이 쌓여 이야기가 되고, 이야기가 연결을 만들고, 연결이 방향을 만든다. 민주주의가 확장되어온 것도 결국 그 과정의 반복이었다.

AI 시대에 인간으로 존재한다는 것은 무엇인가. 2026년 세 달의 포럼이 남긴 질문이다. 그 답은 기술의 발전 속도에 달려 있는 것이 아니라, 그 속도 앞에서 내가 무엇을 선택하느냐에 달려 있다. 역설적이게도 AI가 더 강력해질수록 이 '나'의 문제는 더 절박해진다. 나의 이야기를 쌓고, 시민으로서 참여하고, 스스로를 재설계하고, 경험을 축적하는 것. 그것이 알고리즘이 설계한 환경 속에서 인간이 인간으로 남는 방식이 아닐까.