누가 스킬로 증류될 수 없는가?

문서: Sleepy.md

안타깝게도, 이 시대에 당신이 일을 더욱 진지하게 할수록, 오히려 자신을 AI가 대체할 수 있는 기술로 가속 증류하게 된다.

최근 며칠 동안, 인기 검색어와 미디어 채널은 '동료.skill'로 도배되었다. 이 사건이 각종 소셜 플랫폼에서 계속해서 확산되면서, 대중의 초점은 거의 예외 없이 'AI 해고', '자본 착취'와 '노동자의 디지털 영생'이라는 거대한 불안으로 휘말렸다.

이런 것들은 확실히 불안하게 만들지만, 내가 가장 불안한 것은 프로젝트 README 문서에 적힌 한 줄의 사용 제안이다:

"원자재의 품질이 기술의 품질을 결정한다: 그가 자발적으로 작성한 긴 글 > 의사결정형 답변 > 일상 메시지를 우선 수집할 것을 권장한다."

가장 쉽게 시스템에 완벽하게 증류되고, 픽셀 수준으로 복원되는 것은 바로 가장 진지하게 일하는 사람들이다.

각 프로젝트가 끝난 후에도 여전히 복기 문서를 작성하는 사람들; 의견 차이가 있을 때, 대화창에서 긴 글을 작성하며 자신의 의사결정 논리를 솔직하게 분석하는 사람들; 모든 작업 세부 사항을 철저하게 시스템에 맡기는 극도로 책임감 있는 사람들이다.

진지함, 이는 한때 가장 존경받던 직장 미덕이었지만, 이제는 노동자를 AI 연료로 가속 변환하는 촉매제가 되었다.

고갈된 노동자

우리는 '맥락'이라는 단어를 다시 인식할 필요가 있다.

일상적인 맥락에서, 맥락은 소통의 배경이다. 그러나 AI, 특히 미친 듯이 성장하고 있는 AI 에이전트의 세계에서 맥락은 엔진의 굉음이 나는 연료이며, 맥박을 유지하는 혈액이고, 모델이 혼돈 속에서 정확한 판단을 내릴 수 있는 유일한 앵커 포인트이다.

맥락이 제거된 AI는 아무리 놀라운 매개변수를 가지고 있어도, 결국 기억상실증에 걸린 검색 엔진에 불과하다. 그것은 당신이 누구인지 인식하지 못하고, 비즈니스 논리 아래 숨겨진 암류를 파악하지 못하며, 당신이 결정을 내릴 때 자원 제약과 인간 관계의 복잡한 네트워크에서 어떤 긴 끌림과 균형을 경험했는지 전혀 알 수 없다.

'동료.skill'이 이렇게 큰 파장을 일으킨 이유는, 그것이 극도로 냉혹하고 정확하게, 방대한 고품질 맥락이 축적된 광산인 현대 기업의 협업 소프트웨어를 겨냥했기 때문이다.

지난 5년 동안, 중국 직장은 조용하지만 뼈를 쪼는 디지털 혁신을 겪었다. Feishu, DingTalk, Notion 등의 도구는 거대한 기업 지식 저장소로 변모했다.

Feishu를 예로 들면, ByteDance는 내부에서 매일 생성되는 문서의 양이 방대하다고 공개적으로 밝혔으며, 이 빽빽한 문자들은 10만 명 이상의 직원이 겪은 모든 두뇌의 격돌, 얼굴이 붉어지는 회의의 충돌, 그리고 이를 악물고 삼킨 전략적 타협을 충실히 봉인하고 있다.

이러한 디지털 침투력은 이전 어느 시대보다도 훨씬 뛰어나다. 한때 지식은 온기가 있었고, 그것들은 오래된 직원의 머릿속에 잠재되어 있었으며, 차 한 잔을 마시며 나누는 가벼운 대화 속에 흩어져 있었다. 그러나 이제는 인간의 지혜와 경험이 강제로 수분이 제거되어, 냉혹한 서버 매트릭스에 무정하게 침전되고 있다.

이 시스템에서 문서를 작성하지 않으면, 당신의 작업은 보이지 않게 되고, 새로 온 동료는 당신과 협력할 수 없다. 현대 기업의 효율적인 운영은 매일매일 모든 직원이 시스템에 맥락을 '공양'하는 순환 위에 세워져 있다.

진지한 노동자들은 근면함과 선의를 품고, 이러한 차가운 플랫폼에서 자신의 사고 궤적을 주저 없이 드러낸다. 그들이 이렇게 하는 이유는 팀의 기어가 더 매끄럽게 맞물리도록 하고, 시스템에 자신의 가치를 증명하기 위해, 이 복잡한 상업 거대 기계 속에서 자신의 위치를 찾기 위해서이다. 그들은 자발적으로 자신을 내주는 것이 아니라, 현대 직장의 생존 법칙에 어설프고도 열심히 순응하고 있는 것이다.

하지만 바로 이러한 인간 관계를 위한 맥락이 AI의 가장 완벽한 연료가 되었다.

Feishu의 관리 백엔드에는 슈퍼 관리자가 구성원의 문서와 통신 기록을 대량으로 내보낼 수 있는 기능이 있다. 이는 당신이 3년 동안 수많은 밤을 새워 작성한 프로젝트 복기와 의사결정 논리를, 단 하나의 API 인터페이스로 몇 분 만에, 당신의 몇 년간의 생명 조각이 무정한 압축 파일로 쉽게 포장될 수 있음을 의미한다.

사람이 API로 차원 축소될 때

'동료.skill'의 폭발적인 인기로 인해, GitHub의 Issues 구역과 각종 소셜 플랫폼에서는 극도로 불편한 파생 상품들이 등장하기 시작했다.

어떤 사람은 '전 애인.skill'을 만들어, 지난 몇 년간의 WeChat 대화 기록을 AI에 주입하여, 그것이 익숙한 어조로 자신과 다투거나 애정 어린 대화를 계속하도록 하려 했다; 어떤 사람은 '백월광.skill'을 만들어, 닿을 수 없는 감정을 차가운 인간 관계의 샌드박스로 낮추어, 반복적으로 시험하는 대화를 시뮬레이션하며 감정의 최적 해답을 모색했다; 또 어떤 사람은 '아빠 같은 사장.skill'을 만들어, 디지털 공간에서 압박감이 가득한 PUA 발언을 미리 씹어, 자신을 위해 슬픈 심리 방어선을 쌓았다.

이러한 skill의 사용 장면은 이미 작업 효율성의 범위를 완전히 벗어났다. 원래 우리는 모르는 사이에 도구를 대하는 냉혹한 논리를 익숙하게 휘두르며, 혈육이 가득한 생명체를 해체하고 물화하고 있었다.

독일 철학자 마르틴 부버는 인간 관계의 바탕이 두 가지 전혀 다른 방식으로 이루어진다고 주장했다: "나와 너"와 "나와 그것".

"나와 너"의 만남에서 우리는 편견을 넘어 서로를 완전하고 존엄한 생명체로 바라본다. 이러한 유대는 전적으로 열려 있으며, 생기 넘치는 예측 불가능함으로 가득 차 있고, 그 진정성 때문에 특히 취약하다. 그러나 "나와 그것"의 그림자에 빠지면, 살아있는 사람은 해체되고 분석되며 분류되고 라벨이 붙여질 수 있는 객체로 차원 축소된다. 이러한 극도로 공리적인 시선 아래에서 우리가 유일하게 신경 쓰는 것은 "이것이 나에게 도대체 어떤 유용성이 있는가?"이다.

'전 애인.skill'과 같은 제품의 출현은 "나와 그것"의 도구적 이성이 가장 사적인 감정 영역을 완전히 침범했음을 나타낸다.

진짜 관계에서 사람은 입체적이고 주름이 가득하며, 모순과 거친 가장자리를 지닌 채 끊임없이 흐른다. 사람의 반응은 특정 상황과 감정적 상호작용에 따라 끊임없이 변화한다. 당신의 전 애인이 아침에 일어났을 때와 깊은 밤에 야근 후 같은 문장에 반응하는 것은 전혀 다를 수 있다.

하지만 당신이 한 사람을 skill로 증류할 때, 당신이 분리해낸 것은 그 특정한 유대 속에서 당신에게 "유용한" 기능의 잔여물일 뿐이다. 원래 따뜻하고 자기 슬픔과 기쁨을 지닌 그 사람은 이 잔인한 정제 과정에서 영혼이 완전히 추출되어, 당신이 마음대로 꽂고 뽑을 수 있는 "기능 인터페이스"로 변형된다.

AI가 이러한 차가운 냉혹함을 공허하게 만들어낸 것은 인정해야 한다. AI가 등장하기 전부터 우리는 이미 다른 사람에게 라벨을 붙이고, 각 관계의 "감정 가치"와 "인맥 가중치"를 정확하게 측정하는 데 익숙해졌다. 예를 들어, 우리는 소개팅 시장에서 사람의 조건을 양적 데이터로 변환하고, 직장에서는 동료를 "일 잘하는" 사람과 "놀기 좋아하는" 사람으로 분류했다. AI는 단지 이러한 잠재적인 인간 간의 기능적 추출을 완전히 가시화한 것이다.

사람은 압축되어 "나에게 어떤 유용성이 있는가"라는 측면만 남았다.

전자 포장

1958년, 헝가리계 영국 철학자 마이클 폴라니가 '개인 지식'을 출판했다. 이 책에서 그는 매우 강력한 개념인 '암묵적 지식'을 제시했다.

폴라니는 유명한 주장을 했다: "우리가 아는 것은 우리가 말할 수 있는 것보다 항상 더 많다."

그는 자전거를 배우는 예를 들었다. 바람을 가르며 달리는 숙련된 자전거 타는 사람은 중력의 기울기에서 완벽하게 균형을 잡을 수 있지만, 그는 초보자에게 그 순간 몸의 미세한 직관을 정확하게 설명할 수 있는 빈약한 물리학 공식이나 무색한 단어로 표현할 수 없다. 그는 어떻게 자전거를 타는지 알지만, 말로는 설명할 수 없다. 이러한 코드화할 수 없고 말로 표현할 수 없는 지식이 바로 암묵적 지식이다.

직장에는 이러한 암묵적 지식이 가득하다. 한 숙련된 엔지니어가 시스템 오류를 조사할 때, 로그를 한 번 보고 문제를 파악할 수 있지만, 수천 번의 시행착오를 바탕으로 한 이 "직관"을 문서로 작성하기는 어렵다; 훌륭한 영업 사원이 협상 테이블에서 갑자기 침묵에 빠질 때, 그 침묵이 주는 압박감과 타이밍을 파악하는 것은 어떤 영업 매뉴얼도 기록할 수 없다; 경험이 풍부한 HR이 면접에서 후보자가 눈을 피하는 단 0.5초 만에 이력서의 진위를 감지할 수 있다.

'동료.skill'이 추출할 수 있는 것은 이미 작성된, 말로 표현된 명시적 지식뿐이다. 그것은 당신의 복기 문서를 잡을 수 있지만, 문서를 작성할 때의 갈등은 잡을 수 없다; 당신의 의사결정 답변을 복사할 수 있지만, 의사결정을 내릴 때의 직관은 복사할 수 없다.

시스템이 증류해낸 것은 항상 한 사람의 그림자일 뿐이다.

이 이야기가 여기서 끝난다면, 이는 단지 기술이 인간성을 서투르게 모방한 또 다른 사례에 불과하다.

하지만 한 사람이 skill로 증류된 후, 이 skill은 정지하지 않는다. 그것은 이메일에 답변하고, 새로운 문서를 작성하며, 새로운 결정을 내리는 데 사용된다. 즉, 이러한 AI가 생성한 그림자는 새로운 맥락을 생성하기 시작한다.

그리고 이러한 AI가 생성한 맥락은 다시 Feishu와 DingTalk에 침전되어, 다음 증류의 훈련 자료가 된다.

2023년, 옥스퍼드 대학교와 케임브리지 대학교의 연구팀은 '모델 붕괴'에 관한 논문을 공동 발표했다. 연구에 따르면, AI 모델이 다른 AI가 생성한 데이터를 사용하여 반복적으로 훈련할 때, 데이터의 분포는 점점 더 좁아진다. 드물고 변두리에 있는, 그러나 극히 진짜인 인간 특성은 빠르게 지워진다. 단 몇 세대의 합성 데이터 훈련을 거치면, 모델은 긴 꼬리의 복잡한 진짜 인간 데이터를 완전히 잊고, 극히 평범하고 동질적인 내용을 출력하게 된다.

'네이처' 2024년에도 AI가 생성한 데이터 세트로 미래 세대의 기계 학습 모델을 훈련하는 것이 그들의 출력을 심각하게 오염시킬 것이라고 지적한 연구 논문이 발표되었다.

이는 인터넷에서 유행하는 그 표정 이모티콘 이미지와 같다. 원래는 고화질의 스크린샷이었지만, 수많은 사람들이 전송하고 압축하고 다시 전송했다. 매 전파마다 일부 픽셀이 손실되고 잡음이 추가된다. 결국 이미지는 흐릿해지고 전자 포장에 갇히게 된다.

진짜의, 암묵적 지식을 지닌 인간 맥락이 고갈되고, 시스템이 포장된 그림자만으로 자신을 훈련할 수 있을 때, 결국 남는 것은 무엇인가?

누가 우리의 흔적을 지우고 있는가

남는 것은 오직 올바른 헛소리뿐이다.

지식의 강이 AI의 끝없는 반추와 자기 소화로 말라버릴 때, 시스템이 내뱉는 모든 것은 극도로 표준화되고 극도로 안전해지겠지만, 또한 구제할 수 없이 공허해질 것이다. 당신은 수많은 구조가 완벽한 주간 보고서와 결점이 없는 이메일을 보게 될 것이지만, 그 안에는 어떤 살아있는 기운도, 진정으로 가치 있는 통찰도 없다.

지식의 이 대참사는 인간의 두뇌가 둔해졌기 때문이 아니라, 진정한 비극은 우리가 사고의 권리와 맥락을 남기는 책임을 우리의 그림자에게 아웃소싱했기 때문이다.

'동료.skill'이 폭발적으로 인기를 끌었던 며칠 후, GitHub에 'anti-distill'이라는 프로젝트가 조용히 등장했다.

이 프로젝트의 저자는 대형 모델을 공격하려 하지 않았고, 거대한 선언문을 작성하지도 않았다. 그는 단지 노동자들이 Feishu나 DingTalk에서 자동으로 그럴듯하지만 실제로는 논리적 잡음이 가득한 무의미한 긴 글을 생성할 수 있도록 돕는 작은 도구를 제공했다.

그의 목적은 간단하다. 시스템이 증류하기 전에 자신의 핵심 지식을 숨기는 것이다. 시스템이 '자발적으로 작성된 긴 글'을 선호한다면, 영양가 없는 무의미한 문자열을 주면 된다.

이 프로젝트는 '동료.skill'처럼 폭발적으로 인기를 끌지 않았고, 심지어 다소 작고 무력해 보인다. 마법으로 마법을 이기는 것은 본질적으로 자본과 기술이 설정한 게임 규칙 안에서 돌고 도는 것이다. 그것은 시스템이 AI에 점점 더 의존하고, 실제 사람을 점점 더 무시하는 대세를 바꿀 수 없다.

하지만 이것이 이 프로젝트가 이 기괴한 드라마에서 가장 비극적이고 깊은 은유를 지닌 장면이 되는 것을 방해하지는 않는다.

우리는 시스템에 흔적을 남기기 위해 극도로 노력하고, 상세한 문서를 작성하고, 치밀한 결정을 내리며, 이 거대한 현대 기업 기계 속에서 자신이 존재했음을 증명하고, 자신이 가치가 있음을 증명하려 한다. 그러나 우리는 이러한 극도로 진지한 흔적이 결국 우리를 지우는 지우개가 될 것임을 알지 못한다.

하지만 다른 각도에서 생각해보면, 이것이 반드시 완전한 죽음의 구속은 아닐 수 있다.

왜냐하면 그 지우개가 지우는 것은 항상 '과거의 당신'일 뿐이기 때문이다. 파일로 패키지된 skill은 그 수집 논리가 아무리 정교하더라도 본질적으로 정지된 스냅샷일 뿐이다. 그것은 내보내진 그 순간에 고정되어 있으며, 오래된 영양소에 의존하여 정해진 프로세스와 논리 속에서 무한히 돌고 돌 뿐이다. 그것은 미지의 혼돈에 직면할 본능이 없으며, 실제 세계의 좌절 속에서 스스로 진화할 능력이 없다.

우리가 그러한 고도로 표준화된, 정형화된 경험을 내놓을 때, 오히려 우리 자신에게 손을 비워준다. 우리가 계속해서 외부를 탐색하고, 끊임없이 자신의 인식 경계를 허물고 재구성하고 있다면, 그 구름 속에 머물러 있는 그림자는 영원히 우리의 뒷모습을 따라갈 수밖에 없다.

사람은 흐르는 알고리즘이다.