인공지능은 '일반적인 기술'인가?
팀 오라일리 2025년 8월 19일 • 11 minute read
우리는 세상을 있는 그대로 본다고 생각하지만, 사실은 습득한 지식과 아이디어라는 짙은 안개 속을 통해 세상을 바라본다. 그 안에는 옳은 것도 있고 틀린 것도 있다. 지도처럼, 아이디어와 신념은 우리의 세계 경험을 형성한다. 인공지능이 전례 없는 존재이며, 인공 일반 지능이 코앞에 다가와 모든 것이 달라지는 특이점으로 이어진다는 생각은 바로 그런 지도 중 하나다. 이는 기술 투자뿐만 아니라 정부 정책과 경제적 기대까지 형성해왔다. 하지만 만약 그것이 틀렸다면? 가장 훌륭한 아이디어는 과대포장의 안개를 뚫고 세상을 더 선명하게 보게 해준다. 그래서 아르빈드 나라야난과 사야쉬 카푸르의 에세이 "평범한 기술로서의 인공지능"을 읽으며 매우 흥분했던 것이다 그들은 인공지능이 확실히 변혁적이지만 전례 없는 것은 아니라고 주장한다. 오히려 전기화, 자동차, 인터넷과 같은 다른 중대한 기술 혁명과 거의 동일한 패턴을 따를 가능성이 높다는 것이다. 즉, 기술 변화의 속도는 혁신의 속도가 아니라 도입 속도에 의해 결정되며, 이는 경제적·사회적·인프라 요인과 인간이 변화에 적응해야 하는 필요성에 의해 좌우된다는 것이다. (어떤 면에서 이 아이디어는 스튜어트 브랜드의 "속도 계층" 개념을 연상시킨다.)
"일반 기술"이란 무엇을 의미하는가?
아빈드 나라야난은 프린스턴 대학교 컴퓨터과학 교수로, 기술이 사회에 미치는 영향과 이를 둘러싼 정책적 문제에 대해 깊이 고민하는 학자다. 지난주 Live with Tim O’Reilly에 출연해 자신의 아이디어를 논의했다. 저는 먼저 그에게 "일반적인 기술"이 무엇을 의미하는지 설명해 달라고 요청했습니다. 다음은 그의 답변을 요약한 내용입니다. (더 자세한 영상 답변과 제 답변은 여기에서 시청하실 수 있습니다.)
기술이 사회 전반에 채택되고 확산되는 방식에 대해 잘 확립된 이론이 존재합니다. 핵심은 기술 역량의 발전 속도를 이끄는 논리와 기술이 채택되는 방식 및 속도를 이끄는 논리가 다르다는 점입니다. 후자는 인간 행동이 변화하는 속도와 조직이 새로운 비즈니스 모델을 도출해내는 속도에 달려 있습니다. 여기서 말하는 AI 기업이 아닙니다. AI의 미래를 생각할 때 AI 기업에 지나치게 집중하는 경향이 있습니다. 제가 말하는 것은 AI를 도입할 다른 모든 기업들입니다.
따라서 우리는 4단계 프레임워크를 제시합니다. 첫 번째 단계는 발명입니다. 이는 모델 능력의 개선을 의미합니다.…모델 능력 자체를 제품으로 전환해야 합니다. 이것이 두 번째 단계입니다. 이것이 바로 제품 개발입니다. 그리고 우리는 아직 두 번째 단계인 '올바른 추상화'를 찾아가는 초기 단계에 있습니다. 대규모 언어 모델(AI의 한 주요 유형)이라는 매우 불안정한 기술을 우리가 소프트웨어에 기대하는 기준, 즉 매우 결정론적으로 작동해야 하며, 사용자가 한 번 사용법을 익히면 기대가 충족되어야 한다는 기준에 맞추기 위한 추상화입니다. 이러한 기대가 저버려질 때, 우리는 AI 제품 출시가 얼마나 끔찍하게 실패했는지 목격합니다.…세 번째 단계는 확산입니다. 초기 사용자들이 사용 사례, 워크플로, 위험 요소, 이를 우회하는 방법을 찾아내는 것으로 시작됩니다.…그리고 마지막이자 가장 시간이 많이 소요되는 단계는 적응입니다. 개별 사용자가 적응해야 할 뿐만 아니라 산업 전체가 적응해야 합니다. 경우에 따라 법도 적응해야 합니다.
과거에 이런 과정이 어떻게 진행되었는지, 잘 알려진 사례인 전기화를 예로 들어 잠시 논의했습니다. 산업 혁명 초기 단계는 석탄과 증기로 구동되었으며, 공장에 대형 중앙 집중식 발전소가 있었습니다. 공장 전기화의 초기 시도는 그다지 큰 이점을 제공하지 못했습니다. 전기가 소형 특수 기계에 전력을 쉽게 분배하여 다양한 공장 기능에 활용할 수 있게 해준다는 점을 깨달았을 때 비로소 제2차 산업 혁명이 본격적으로 시작되었습니다.
아빈드는 AI가 소프트웨어를 어떻게 변화시킬지 설명하며 이를 현실화했습니다. 그는 프로그래머를 대체하는 것이 아니라 소프트웨어 맞춤화의 영역을 확장하는 것이라고 생각합니다.
그래서 어떤 사람들은 미래에 소규모 앱을 코드로 쉽게 만드는 것처럼, 프롬프트만으로도 훨씬 복잡한 기업용 소프트웨어를 구축할 수 있게 되길 희망합니다. 좋습니다, 그게 가능하다고 가정해 봅시다.…저는 그런 세상에서는 기업용 소프트웨어 회사들이 소프트웨어를 한 번만 구축한 뒤 수천 개의 서로 다른 고객사들에게 그 소프트웨어에 정의된 추상적 개념에 맞춰 업무 흐름을 조정하도록 강요하는 방식이 전혀 의미가 없을 것이라고 주장합니다. 미래 세상에서 우리가 소프트웨어를 사용하는 방식은 그렇게 되지 않을 것입니다.
실제로 일어날 일은 개발자가 각 하위 고객사와 협력하여 요구사항을 파악한 후, 특정 팀이나 기업, 심지어 개인의 필요에 맞춰 즉석에서 소프트웨어를 생성해 주는 형태일 것입니다. 이는 기업용 소프트웨어의 개념 자체를 완전히 재정의하는 것입니다. 이런 변화는 수십 년이 걸릴 것으로 예상됩니다. 이는 AI 능력 향상 속도와는 거의 무관합니다.
이는 제가 말하는 '아이디어가 세상을 더 효과적으로 보고 대응하는 도구'라는 개념의 훌륭한 사례입니다. '일반 기술' 지도를 따르는 투자자와 기업가는 'AI 특이점' 지도를 따르는 이들보다 다른 선택을 하게 될 것입니다. 장기적으로 더 정확한 지도를 따르는 이들은 지속 가능한 비즈니스를 구축하게 될 것이며, 나머지는 거품의 희생양이 될 것입니다.
9월 9일 개최 예정인 두 번째 AI 코드콘에서 AI가 소프트웨어 산업을 어떻게 변화시키고 있는지 더 깊이 논의할 예정입니다:_ 행동 주체적 세계를 위한 코딩_.
AI 도입의 물리적·행동적 제약
우리는 물리적 제약에 대해서도 약간 논의했습니다(비록 이 부분이 제 관심사였다는 점을 고백해야겠지만요). 예를 들어, 20세기 자동차 경제의 꽃을 피우기 위해서는 더 나은 도로, 더 나은 타이어, 브레이크·조명·엔진의 개선, 휘발유 정제 및 유통망 구축, 도시 재편 등이 필요했습니다. 오늘날 우리는 GPU, 데이터 센터 건설, 전력 공급과 관련된 병목 현상에서 이를 목격합니다. 이 모든 것들은 구축하는 데 시간이 걸립니다. 아르빈드의 주요 초점은 도입을 지연시키는 행동적 문제에 있었습니다. 그는 훌륭한 예를 들었습니다:
그래서 이런 "추론 모델"들이 있습니다. (그들이 실제로 추론하는지는 별개의 문제입니다.)… o3 같은 모델들은 실제로 매우 유용합니다. 추론 기능을 갖추지 않은 모델들이 할 수 없는 많은 일을 해냅니다. 이 모델들은 약 1년 전부터 출시되기 시작했습니다. 그런데 샘 알트먼의 직접적인 고백에 따르면, ChatGPT 무료 계층에서 하루에 이 모델들을 사용하는 사용자는 1% 미만이었습니다. 유료 계층에서도 7% 미만이 사용했죠.…이것이 바로 확산 속도가 능력 발전 속도를 얼마나 뒤처지는지 보여주는 사례입니다. 이는 확산 과정—사용자 작업 흐름 변화, 새로운 기술 습득 등—이 진정한 병목 지점임을 정확히 보여주는 사례입니다.
물론 GPT-4의 '개성' 상실에 대한 사용자 반발은 이 점을 더욱 부각시키며 수많은 새로운 불확실성을 야기합니다. 아르빈드가 개성 변화를 "완전히 새로운 전환 비용"이라고 표현한 것은 핵심을 정확히 짚었다고 생각합니다
AI가 평범한 기술이기 때문에 아르빈드는 AI가 통제 불능 상태가 될 것이라는 우려도 과장되었다고 생각합니다:
예를 들어 재귀적 자기 개선의 도래가 실제로 발생하더라도, 이러한 패턴의 예외가 될 것이라고 생각하지 않습니다. 논문에서 우리는 AI 안전성에 대해 많이 논의합니다. 많은 사람들이 AI 안전성을 신중히 고민하는 것을 환영합니다. AI 개발 중단이나 오픈소스 AI 금지 같은 특별한 조치가 필요하다고 보지 않습니다. 안전성은 잘 이해된 시장 및 규제 개입으로 해결 가능합니다.
우리가 AI를 일반 기술로 규정할 때, 이는 단순한 미래 예측이 아닙니다. 본 논문의 핵심 주장 중 하나는 우리가 AI를 일반 기술로 형성할 주체성을 지녔다는 점입니다. 우리는 AI가 사회에 확산되는 경로가 기술 자체의 논리가 아닌 인간과 제도에 의해 지배되도록 보장할 주체성을 지녔습니다.
동의합니다. AI 앞에서 인간의 주체성은 제 책 WTF? What’s the Future and Why It’s Up to Us에서도 다루는 핵심 주제입니다..
AI 핵심 성과 지표(KPI)와 "황금률"
참석자 중 한 분이 "AI 기업들이 사용하는 KPI의 좋은 지침은 그들이 자신과 자녀, 사랑하는 이들을 위해 AI가 해 주길 바라는 것이 아닐까?"라고 질문한 순간이 가장 인상 깊었습니다. 이는 물론 여러 종교와 철학에서 발견되는 황금률의 변형일 뿐만 아니라, 실용적인 비즈니스 조언으로도 탁월합니다. 나의 철학적 스승 노자는 이렇게 썼다. "사람을 존중하지 않으면, 사람도 너를 존중하지 않는다." 그리고 또 이렇게: "삶의 길을 잃으면, 사람들은 선함에 의지한다. 선함을 잃으면, 그들은 법에 의지한다." (이것은 위터 바이너의 번역을 내가 자유롭게 재번역한 것이다.)) 이 인용구의 관련성을 처음 깨달은 것은 제가 오픈소스 운동에 처음 참여하던 시절이었습니다. 다른 사람들이 오픈소스 성공의 열쇠로 자유 및 오픈소스 라이선스(법)에 집중할 때, 저는 오픈소스가 단순히 사람들에게 더 나은 것—말하자면 "삶의 방식"에 부합하는 것—으로 승리할 수 있는 이유를 이해하는 데 관심이 있었습니다. 종교가 아닌 과학이었습니다.
AI 정의의 열쇠는 저작권이 아닌 노동법일 수 있는 이유
AI와 저작권에 관한 한 참석자의 질문에 대해, 아르빈드는 다시 한번 문제를 생산적으로 재구성하는 능력을 보여주었습니다:
비록 이 사건에서 원고 측에 도덕적 동정을 표하지만, 저작권법이 저작자, 사진작가, 출판사 등 해당 기업들이 동의나 보상 없이 그들의 데이터를 사용함으로써 진정으로 피해를 입은 이들에게 정의를 실현하는 올바른 방법은 아니라고 생각합니다. 그 이유는 이 문제가 노동 문제이기 때문입니다. 저작권은 이런 문제를 해결하기 위해 만들어진 제도가 아닙니다. 설령 향후 판결이 다른 방향으로 나간다 해도, 기업들은 저작권법을 회피하면서도 본질적으로 비즈니스 모델을 유지할 수 있도록 프로세스를 조정할 수 있을 것입니다. 그들의 비즈니스 모델을 바꾸지 않고, 이 창작자들—기본적으로 소규모 창작자들—과 협상하도록 강제하며 공정한 보상 합의를 이끌어내지 않는 한, 정의가 실현되리라 생각하지 않습니다.
스크린라이터 길드가 AI 문제를 두고 파업을 벌여 승리했을 때, 그들은 이러한 재구성의 정확성을 입증했습니다. 그 사건은 헤드라인에서 사라졌지만, 더 공정한 AI 경제로 나아가는 길을 제시합니다.
AI와 지속적 학습
우리는 또 다른 참석자의 질문으로 마무리했습니다. 아이들이 미래를 준비하기 위해 지금 무엇을 배워야 하는지에 대한 질문이었습니다.
제 생각에 우리는 기묘한 교육 체계를 가지고 있습니다. 교수로 재직해 온 동안 공개적으로 말해왔듯이, 20년이나 되는 기간 동안 학교에 머물다가 대학을 졸업하면 완전히 훈련이 끝난 상태가 되어, 그 후 직장에 나가 한때 배운 기술만을 사용한다는 개념이죠.
물론 현실은 그렇지 않다는 걸 우리 모두 알고 있습니다. 바로 이 점이 수많은 학생들에게 대학 생활이 고통스러운 주된 이유이기도 하죠. 그들은 사실 무의미한 환경에서 수동적으로 정보를 흡수해 언젠가 미래에 활용하라는 식의 교육을 받는 것보다, 실제로 무언가를 해내고 싶어 합니다.
따라서 AI는 이렇게 근본적으로 결함이 있는 교육 방식을 고칠 기회라고 생각합니다. 아이들이 기대보다 훨씬 일찍 세상에 의미 있는 기여를 시작할 수 있을 거라 봅니다.
이것이 이야기의 절반입니다. 유용한 것을 만들어내려는 동기가 있을 때 훨씬 더 잘 배울 수 있습니다. 이야기의 나머지 절반은 우리가 결코 배움을 멈춰서는 안 된다는 점이 그 어느 때보다 진실이라는 점입니다.
하지만 요약은 여기서 멈추겠습니다! 구독자이거나 에피소드 시청을 신청하신 분이라면 여기에서 전체 녹화본을 시청하실 수 있습니다.
AI 도구는 채팅 UX를 넘어 정교한 에이전트 상호작용으로 빠르게 진화하고 있습니다. 다가오는 AI 코드콘 행사인 에이전트 중심 세계를 위한 코딩에서는 개발자들이 이미 에이전트를 활용해 혁신적이고 효과적인 AI 기반 경험을 구축하는 방법을 조명할 예정입니다. 9월 9일, 차세대 프로그래밍을 정의할 도구, 워크플로우, 아키텍처를 함께 탐구하는 자리에 참여해 주시길 바랍니다. 무료 참석 가능합니다. 지금 등록하여 자리를 확보하세요