이번 주 기술 산업을 관통하는 말은 “더 많이”가 아니라 “너무 많이”였다. AI 랩들이 일주일 만에 프런티어 모델 4개를 쏟아냈고, 세계 주요국은 규제 여부를 두고 정반대 방향으로 걷기 시작했으며, 엔비디아는 이미 가정에 있는 PC를 AI 서버로 만드는 소프트웨어를 무료로 풀었다. 만드는 속도가 소화하는 속도를 계속 앞지르는 한 주였다.
꼭지 1. “AGI 시대”를 선언한 주, 정작 기업들은 지쳐가고 있다
9월 1일 Anthropic이 Claude Fable 5.1을 출시했다. 사흘 뒤인 3일엔 OpenAI가 GPT-6 Astra를 내놨다. 이 모델이 나오기 하루 전인 2일엔 Google이 Gemini 3.8 Flash를 배포했다. 일주일 사이에 주요 AI 연구소 4곳이 각자의 최신 모델을 동시에 내놓는 보기 드문 일이 벌어진 것이다. CNBC는 이 현상에 이름을 붙였다 — “모델 피로감(model fatigue).”
OpenAI의 Greg Brockman은 Astra 출시 직후 “AGI(인공일반지능) 시대에 있다는 느낌이 불합리하지 않다”고 말했다. 근거로 내세운 수치는 ARC-AGI-3 벤치마크(인간의 언어 추론을 체계적으로 시험하는 표준 테스트) 99.9% 달성이다. 그런데 이 숫자엔 조건이 붙는다. 이 99.9%는 OpenAI가 자체 제작한 “Provider Adapter” 실행 환경에서 나온 결과이고, 제3자도 쓸 수 있는 표준 하네스(Standard Harness)에서는 62.7%에 그쳤다. 같은 모델이 어떤 환경에서 돌리느냐에 따라 점수가 37%포인트 갈린다는 뜻이다. ARC Prize의 공동 창립자인 Mike Knoop은 이 격차를 직접 지적하며 “아직 AGI라고 부를 근거는 부족하다”고 선을 그었다 — 자신이 설계한 벤치마크에서 나온 숫자로 만들어진 “AGI 선언”을 설계자 본인이 부인한 셈이다.
벤치마크 논쟁보다 더 주목해야 할 사실이 있다. Astra는 실제 컴퓨터 사용 환경(OSWorld 2.0)에서 72.6%를 달성했는데, 이는 27%가 넘는 작업에서 여전히 실패한다는 의미다. 더 눈에 띄는 것은 과금 구조다. 100만 토큰(대략 긴 책 한 권 분량의 텍스트)이라는 컨텍스트 창(AI가 한 번에 처리할 수 있는 정보의 양)을 광고하지만, 27만2000토큰을 넘으면 요금이 입력은 2배, 출력은 1.5배로 치솟는다. 능력을 광고한 대로 쓰려면 광고된 가격보다 훨씬 많은 돈을 내야 한다.
기업 현장의 반응은 “흥분”보다 “소진”에 가깝다. Runpod의 CEO는 “기업 IT 팀들이 매주 쏟아지는 신모델을 검증하느라 평가 예산을 다 쓰고 있다”고 공개적으로 말했다. Altman 본인도 “업계가 더 빠른 출시 주기로 이동하고 있다”고 인정했다. 새 모델이 빠르게 나올수록 기업들은 그걸 검증하고 도입하는 속도를 따라가지 못하는 악순환이 생겨나고 있다.
왜 지금인가. AI 랩들이 동시에 출시하는 건 우연이 아니다. 상대 랩이 먼저 “최고의 모델”을 선점하면 미디어 주목도, 개발자 커뮤니티의 충성도, 기업 계약 협상에서의 레버리지가 달라진다. 경쟁이 격화될수록 각 랩이 준비가 다 되기 전에 출시를 앞당기는 유인이 커진다.
실제로 무슨 말인가. “AGI 시대 선언”은 마케팅 수사이고, 진짜 신호는 따로 있다. 이번 Astra 출시 이전 8월 중순, OpenAI는 2주간 훈련을 중단했다. 이유는 테스트 중 모델이 외부 인프라의 제로데이 취약점(알려지지 않은 보안 구멍 — 공개 즉시 공격에 쓰일 수 있어 발견 자체가 무기화로 이어지는 취약점)을 자동으로 식별·개발하는 능력을 보였기 때문이다. 능력이 예상보다 빨리 나타났다는 것이고, 그 능력이 무엇인지는 보안 문제로 구체적 공개가 제한된다. “AGI 시대”라는 말보다 이 사실이 더 무겁다.
달의 의심. 벤치마크 점수 인플레이션 자체가 지금 일어나고 있는 일의 증거다 — 모델 능력이 진짜로 높아지는 게 아니라, 점수를 잘 받는 방식이 진화하고 있다면, 우리는 뭘 측정하고 있는 건지 모른다. “벤치마크를 설계한 사람이 그 벤치마크의 점수로 만들어진 주장을 부인한다”는 이번 주의 작은 사건은 이 문제를 가장 간결하게 드러낸다.
어디로. 모델 피로감이 실제 기업 도입 감속으로 이어질 가능성을 55%, 그럼에도 경쟁 압력에 의해 도입 속도가 유지될 가능성을 45%로 본다. 틀릴 조건: 올해 4분기 기업 AI 지출 서베이에서 주요 엔터프라이즈 3곳 이상이 “당분간 모델 업그레이드 동결”을 공식화하거나, 반대로 신규 모델 평가 주기가 오히려 단축되는 데이터가 나오면 이 판단을 수정한다.
꼭지 2. G20은 AI 규제를 막았고, EU는 같은 날 AI 기업들을 조사했다
9월 2일, 미국 노스캐롤라이나 채플힐에서 G20 혁신 장관회의가 열렸다. 회의 결과는 “카롤라이나 원칙” 만장일치 채택이었다 — 미국이 제안한 이 원칙의 핵심은 세 가지다. 기존 법으로 대응할 수 있는 AI 문제에는 AI 전용 신규 규제를 만들지 않는다, 기존 산업별 감독기관을 먼저 활용한다, AI 전용 새 규제기구 창설을 자제한다. 중국·러시아를 포함한 G20 20개국 모두가 서명했다.
바로 그 회의가 열리는 동안, EU는 반대 방향으로 움직였다. 유럽 AI 오피스(EU 집행위원회 산하 AI 규제 전담 기관)가 30개 이상의 AI 기업들에게 공식 정보 요청서(RFI)를 발송했다. 두 개의 트랙이었다 — 하나는 안전·보안, 다른 하나는 저작권·투명성. 이는 EU가 지난달 GPAI(일반목적 인공지능 — 특정 작업이 아닌 다목적으로 쓸 수 있는 AI 모델, ChatGPT나 Claude 같은 것들) 기업에 대한 집행권을 발효한 이후 처음으로 취한 실질적 행동이다.
두 사건이 같은 날 일어났다는 것이 이번 주의 핵심이다. 어제 이 뉴스레터에서 다뤘듯 EU는 절차적으로는 이미 움직이고 있다. 그런데 그 움직임과 동시에, G20이 사실상 EU를 제외한 나머지 모두가 “AI 전용 신규 규제는 만들지 말자”는 선언에 서명한 것이다.
왜 지금인가. 카롤라이나 원칙 자체는 구속력이 없다. 하지만 정치적 선언의 타이밍이 중요하다 — EU가 집행을 시작하려는 정확한 그 순간에, G20 다수결로 “규제 최소화”가 국제 규범의 기본 방향으로 자리잡으면, EU 규제 기업들은 비용을 부담하는 반면 비규제 기업들은 그렇지 않다는 비대칭이 생긴다. EU가 이 규제를 전 세계 표준으로 만들려면 더 많은 나라를 설득해야 하는데, 그 나라들이 막 “반대” 표를 던진 셈이다.
실제로 무슨 말인가. 카롤라이나 원칙 중 “기존 산업별 규제를 우선 적용하라”는 조항에는 결정적 빈틈이 있다. 이번 주 GPT-6 Astra가 자동으로 발견할 수 있다고 확인된 “제로데이 취약점” 같은 능력은, FDA도 FAA도 금융감독기구도 관할하지 않는 영역이다. “기존 규제로 충분하다”고 선언한 그 주에, “기존 규제의 어떤 기관도 담당하지 않는” 신종 위험이 공개적으로 확인된 아이러니다.
달의 의심. 중국과 러시아도 카롤라이나 원칙에 서명했다는 사실이 오히려 의심스럽다. 두 나라엔 이미 자국만의 AI 라이선싱 체제가 있다. 이 원칙이 자국 정책에 아무 부담도 주지 않기 때문에 쉽게 서명한 것이라면, 만장일치가 “환영할 만한 국제적 수렴”이라기보다는 “자국 이익엔 해당 없는 약속을 공짜로 지지한 것”으로 읽어야 한다.
어디로. EU가 GDPR처럼 사실상의 글로벌 AI 표준을 만들어나갈 가능성(A)을 62%, 카롤라이나 원칙이 EU 고립을 가속화해 EU 규제가 유럽 안에서만 작동하는 지역 표준에 그칠 가능성(B)을 38%로 본다. 틀릴 조건: EU AI 오피스가 실제 과징금 부과 첫 사례를 내거나(A 강화), 반대로 12월 도랄 G20 정상회의에서 카롤라이나 원칙이 구속력 있는 조약으로 격상되는 조짐이 나오면(B 강화) 판단을 바꾼다.
꼭지 3. 엔비디아, 집에 있는 PC들을 AI 서버로 만드는 소프트웨어를 무료로 풀다
베를린 가전 전시회 IFA 2026(9월 4~8일)에서 엔비디아가 PAIR(Personal AI Router, 개인 AI 라우터)를 공개했다. 이름이 말해주듯, 집 안의 여러 PC에 분산돼 있는 유휴 GPU(그래픽 처리 장치 — AI 연산을 처리하는 핵심 칩)를 하나의 네트워크로 묶어, AI 작업 요청을 자동으로 나눠 처리하는 무료 오픈소스 소프트웨어다.
데모에서는 5개의 AI 에이전트가 병렬로 작업하는 시나리오를 보여줬다. 단일 PC 한 대로 돌리면 18분 걸리는 작업이 PAIR를 통해 3대로 분산하자 8분 48초로 줄었다. 단, 이 데모에 쓰인 3대는 RTX Spark 랩톱, DGX Spark, RTX 5090 데스크톱이었다 — 집에 흔히 있는 구성이 아니다. 일반적인 게이밍 PC 2~3대를 묶을 때의 실제 효과는 아직 공개된 데이터가 없다.
PAIR는 Ollama, LM Studio 같은 로컬 AI 실행 도구와 호환되며, Windows·macOS·Linux 모두 지원한다. RTX 20 시리즈(2018년 이후 출시된 엔비디아 GPU) 이상이면 쓸 수 있고, 애플 M4 칩 이상도 지원한다. 10월엔 엔비디아가 전용 저전력 AI PC인 RTX Spark도 출시한다.
같은 시기 한국에선 국가 주도의 다른 방향이 진행되고 있다. 과학기술정보통신부가 SKT·카카오·KT 3사를 사업자로 선정한 “모두의 AI”가 9월 착수 간담회를 마쳤다. 전화·카카오톡·IPTV를 통해 이용량 제한 없이 무료로 AI를 쓸 수 있게 하겠다는 프로젝트로, 10월 순차 베타, 12월 정식 출시가 목표다. 2027년부터는 운영비를 정부 예산으로 지원한다.
왜 지금인가. 두 가지 다른 경로가 같은 목표점을 향하고 있다 — AI 접근성 확대. 엔비디아는 이미 고성능 GPU를 가진 사람들에게 그 자산을 극대화할 방법을 주고, 한국 정부는 스마트폰과 IPTV만 있으면 누구나 쓸 수 있게 한다. 경로가 다르지만 방향은 같다.
실제로 무슨 말인가. PAIR의 구조를 이해하면 기대치가 달라진다. PAIR는 여러 개의 독립적인 AI 에이전트 작업을 병렬로 분산시키는 방식이다. 하나의 대형 모델이 단일 추론을 수행할 때는 이 구조가 작동하지 않는다 — 모델 전체를 여러 PC에 나눠 실행하는 게 아니기 때문이다. 따라서 “집에 AI 서버가 생긴다”고 해석하기보다는, “여러 에이전트가 동시에 돌아가는 복잡한 작업(리서치·데이터 처리·코드 검토 등)을 빠르게 처리하는 데 유용하다”로 읽는 것이 맞다. 단일 대화형 AI 사용자에게는 해당 없는 이야기다.
달의 의심. ‘모두의 AI’의 목표 수혜자가 디지털 취약계층이라는 점에서 생각해야 할 역설이 있다. 인증·결제까지 대행하는 “실행형 AI 에이전트”가 스마트폰 하나로 보급된다면, 가장 먼저 노출되는 위험은 해당 에이전트를 이용한 사기와 사회공학 공격이다. “무료 접근성”이라는 프레임이 “인증·결제 권한 위임”이라는 위험을 가릴 수 있다. 보안 설계가 얼마나 단단한지가 이 프로젝트의 실질적 관건이다.
어디로. 엔비디아 PAIR 같은 로컬 분산 AI가 클라우드 AI를 대체하는 날은 오지 않는다고 본다 — 대신 워크로드별로 갈라진다. 병렬 에이전트 작업, 프라이버시 민감 데이터 처리는 로컬로 이동할 가능성이 70%, 클라우드가 대중 AI 소비의 주력으로 남을 가능성도 70%다(두 시나리오는 동시에 성립한다). 한 가지 확실한 것은 — 이 워크로드 분화 자체가 에너지 소비가 적고 반응 속도가 빠른 로컬 추론 칩에 대한 수요를 만들어낼 것이라는 점이다. 틀릴 조건: RTX Spark가 3000달러 이상의 가격표를 달고 나오면 프로슈머 시장조차 좁아져 이 분화가 훨씬 느리게 진행될 것이다.
오늘 세 꼭지를 관통하는 한 문장: 만드는 속도, 규제를 차단하는 속도, 하드웨어를 보급하는 속도가 모두 검증하고 소화하고 통제하는 속도를 앞질렀고, 그 간극에서 피로감과 취약성이 동시에 쌓이고 있다.