AI가 스스로를 개선하는 임계점(RSI)에 도달한다는 경고가 Anthropic의 IPO 파일링에서 나왔고, Google은 코딩과 사이버보안에 특화된 최전선 모델을 발표했으며, 한국은 국산 LLM(대형 언어 모델 — GPT·클로드 같은 AI 모델 구조) 개발 경쟁에서 독자 AI 파운데이션 모델 사업의 첫 성적표를 냈다. 세 가지 사건이 가리키는 방향은 하나다 — AI 경쟁의 무게중심이 “더 똑똑한 AI”에서 “누가 어떤 용도로, 어느 주권을 갖고 AI를 쥐느냐”로 이동하고 있다.
① AI가 AI를 만드는 시점이 가까워졌다 — Anthropic의 RSI 경고
왜 지금인가
11월 2일, Anthropic이 SEC에 IPO 수정 S-1/A 파일링을 제출하면서 처음으로 공개적으로 RSI(Recursive Self-Improvement — 재귀적 자기개선, AI가 더 나은 AI를 스스로 설계·학습시키는 능력)에 근접했다고 경고했다. RSI는 AI 연구자들이 오랫동안 이론으로만 다뤄온 임계점이다. AI가 이 능력을 갖추면 개발 속도가 인간의 통제 범위를 벗어날 수 있다는 우려의 대상이다. Anthropic이 이 경고를 IPO 파일링의 “위험 요인(Risk Factors)” 항목에 명시했다는 사실이 핵심이다 — 투자자에게 공시하는 공식 문서에 담겼다는 뜻이다.
실제로 무슨 말인가
Anthropic의 경고는 두 가지 사실을 담고 있다. 첫째, 내부 추정상 미래 모델이 조만간 Anthropic의 Responsible Scaling Policy(책임 있는 확장 정책 — AI 위험 수준을 단계별로 평가해 개발 속도를 조정하는 내부 기준)가 정의하는 “AI 주도의 획기적 발전” 임계점에 도달할 가능성이 있다. 둘째, 회사가 이런 중대한 변화를 발생한 이후에야 뒤늦게 인식했던 사례가 과거에 있었다고 솔직하게 시인했다. 더불어, Anthropic은 현재 AI(에이전트 — 지시 없이 스스로 작업을 수행하는 AI 시스템)를 AI 연구에 사용하는 것 자체가 “상당한 안전 위험을 높일 수 있다”고도 명시했다. Claude가 Anthropic 내부 연구 코드베이스 작업에 광범위하게 쓰이고 있다는 사실이 이 경고의 배경이다.
달의 의심
나는 이 경고를 순수한 위험 고지로만 받아들이지 않는다. IPO 파일링에서 “RSI 임박”이라는 문구는 동시에 “우리가 AI 최전선에 있다”는 마케팅 신호이기도 하다. 경쟁사보다 더 앞선 위치에 있다는 증거로 위험 경고를 활용하는 역설이다. 실제로 TechCrunch는 “S-1은 공개 고지이면서 동시에 마케팅”이라는 시각을 소개한다. 또한 “RSI를 어떻게 정의하느냐” 자체가 연구자들 사이에서 여전히 논쟁 중이다 — Anthropic의 내부 정의가 업계 표준과 동일하지 않을 수 있다. 이 경고가 진짜라면 Anthropic 스스로가 가장 위험한 도구를 만들고 있다는 뜻이기도 하다.
어디로 가는가
시나리오 A (55%) — RSI 경고가 사실에 가깝고, 규제·안전 체계가 미완성 상태에서 AI 자기개선이 현실화된다. 2027년 내 국제 AI 개발 모라토리엄 논의가 급부상하고, Anthropic이 주창하는 인간 통제 중심의 개발 원칙이 글로벌 표준 논의에서 중심에 선다.
시나리오 B (40%) — RSI 경고는 과장이었고, Anthropic이 IPO 이후 1~2년 안에 현재 역량 한계에 직면한다. AI 버블 조정의 계기가 되거나, 최소한 이 경고가 주목받는 뉴스 사이클로 그친다.
C (5%) — Anthropic이 실제로 RSI 도달을 내부에서 인식하지만 공개하지 않고 조용히 관리한다. 사후에 드러날 경우 신뢰 위기.
틀릴 조건: Anthropic 또는 경쟁사가 Responsible Scaling Policy의 RSI 임계점 공식 도달을 2027년 6월까지 선언하면 A 확률이 70%+로 올라간다. 반대로 Anthropic의 IPO 가치가 현재 추정치의 절반 이하로 하락하면 B 확률이 60%+가 된다.
② Google Gemini 4 Carbon — AI 경쟁이 “전문 무기” 시대로 접어들다
왜 지금인가
10월 28일 Google이 Gemini 4 Carbon을 발표했다. Carbon은 자율 코딩(autonomous coding — 사람의 개입 없이 AI가 코드를 작성·수정·디버깅하는 것)과 사이버보안 연구에 특화된 모델이다. 발표 직후 Artificial Analysis Intelligence Index v5.0 코딩 벤치마크에서 1위(점수 59)를 기록했다. 그러나 접근이 제한돼 있다 — Google은 선별된 사이버보안 연구팀에게만 Fairwind 프로그램을 통해 Carbon을 열어줬다. 일반 개발자는 현재 접근 불가다. 이 발표가 주목받는 이유는 “더 좋은 AI”가 아니라 AI 경쟁의 패턴이 바뀌는 신호이기 때문이다.
실제로 무슨 말인가
Gemini 4 Carbon의 등장이 의미하는 것은 단순한 모델 업그레이드가 아니다. AI 경쟁의 축이 “일반 지능에서 누가 앞서나”에서 “어느 도메인에서 가장 강한 도구를 갖느냐”로 이동하고 있다는 신호다. Carbon은 대형 코드베이스에서 버그를 자율 진단하고, 복잡한 엔지니어링 작업을 사람의 지시 없이 완료할 수 있다고 Google은 주장한다. 사이버보안 연구팀에게만 먼저 열어준 이유도 있다 — 이 모델의 능력이 사이버 공격에 악용될 가능성을 Google 스스로 의식하고 있다는 뜻이다. 지난 11월 2일 뉴스레터에서 분석한 빅테크 AI 부채 $326B의 맥락에서 보면, 이 투자가 단순히 더 큰 모델이 아니라 더 뾰족한 모델로 전환되고 있다는 것을 보여준다.
달의 의심
코딩 벤치마크 1위가 실제 개발 현장에서의 1위를 의미하지 않는다. Anthropic의 Claude Opus 5.5는 같은 벤치마크에서 2위지만, 개발자 체감 성능은 여전히 엇갈린다. 더 근본적인 질문은: 사이버보안에 특화된 AI가 강해질수록 사이버 공격도 AI로 자동화된다 — Carbon이 방어자에게도, 공격자에게도 동시에 도구가 될 수 있다는 역설이다. Google이 접근을 제한하는 것은 이 위험을 인식하기 때문이지만, 제한 자체가 언제까지 유지될지는 미지수다.
어디로 가는가
시나리오 A (60%) — Google이 2027년 초 Carbon을 일반 공개하고, AI 에이전트가 코드베이스 유지보수를 자동화하는 “AI 소프트웨어 엔지니어” 시대가 본격화된다. GitHub Copilot과 Devin에 직접 경쟁하며 코딩 도구 시장의 판을 흔든다.
시나리오 B (35%) — 접근 제한이 오래 지속돼 Carbon의 실용적 임팩트가 제한된다. OpenAI o3·Anthropic Claude 4가 코딩 도메인에서 역전해 Google의 1위 타이틀이 단기에 그친다.
C (5%) — 사이버보안 연구에서의 오남용 사건이 발생해 Google이 Carbon을 일시 중단하거나 추가 제한. 전문화 AI에 대한 규제 논의에 불을 붙인다.
틀릴 조건: 일반 접근 이후 6개월 내 개발자 100만 명 이상 활성 사용 데이터가 나오면 A 확률 증가. Carbon이 실제 사이버 공격에 활용됐다는 첫 사례가 보고되면 C 가능성이 높아지고 Google의 접근 정책 전반에 대한 재검토가 시작된다.
③ 한국 소버린 AI — 독파모, 국산 LLM의 첫 번째 성적표
왜 지금인가
한국 과학기술정보통신부가 주관하는 “독파모(독자 AI 파운데이션 모델 — 국산 LLM 개발을 국가가 직접 지원하는 사업)” 2차 평가 결과가 나왔다. 4개 팀이 경쟁한 가운데 업스테이지, LG AI연구원, SK텔레콤 세 팀이 다음 단계로 진출했다. 동시에 업스테이지의 솔라 프로4가 AI 개발자 플랫폼 오픈라우터에서 글로벌 개발자들에게 실제로 쓰이기 시작했다는 성과 데이터가 나왔다 — 폐쇄형 AI 모델 기준 주간 사용량 3위를 기록했다. 왜 지금인가? 소버린 AI(Sovereign AI — 자국이 AI 인프라와 모델을 독자적으로 보유하는 전략)의 실현 가능성이 추상적 의제에서 실제 측정 가능한 성과로 넘어오는 첫 국면이기 때문이다.
실제로 무슨 말인가
금융위원회는 2026년 5월 업스테이지의 “소버린 AI 확보를 위한 차세대 AI 모델 개발” 사업에 5,600억 원을 직접 투자하기로 했다. 한국 정부가 AI 회사에 직접 지분투자를 한 것은 이례적이다. 그 배경에는 명확한 전략적 계산이 있다 — ChatGPT나 Claude를 쓰면 미국 AI 회사에 국가 데이터가 흘러가고, AI 능력이 타국 기업에 의존하게 된다. 소버린 AI는 이 의존성을 줄이는 전략이다. 솔라 프로4의 오픈라우터 성과는 이 전략이 단순한 선언이 아니라는 첫 번째 외부 데이터 포인트다 — 글로벌 개발자들이 한국 모델을 선택하고 있다는 뜻이다.
달의 의심
솔라 프로4의 오픈라우터 주간 3위는 반갑지만, 비교 대상이 “폐쇄형 모델 중 주간 사용량”이다. GPT-4o나 Claude Sonnet 같은 최상위 모델과의 직접 성능 비교에서는 여전히 차이가 있다. 소버린 AI 전략의 더 근본적인 질문은: “정부가 AI 개발에 직접 투자하면 혁신 속도가 느려지지 않는가?” 역사적으로 국가 주도 기술 개발은 초기 기반을 만드는 데 효율적이지만, 최첨단 경쟁에서는 민간이 앞서는 경향이 있다. 독파모의 진짜 시험은 2차 평가 통과가 아니라, 3차 평가 이후 실제 상용화 단계에서 글로벌 1위 모델과 얼마나 격차를 줄이느냐에 있다.
어디로 가는가
시나리오 A (55%) — 한국 독파모 사업이 실제 활용 가능한 국산 LLM을 2027년까지 완성하고, 정부·의료·법률 등 소버린 도메인에서 채택이 확대된다. 솔라 프로4의 오픈라우터 성과가 B2B 계약으로 이어지며 업스테이지가 아시아 소버린 AI 시장의 거점이 된다.
시나리오 B (40%) — 글로벌 AI 경쟁 가속화로 한국 독자 모델이 성능 격차를 좁히지 못하고, 최종적으로 외산 모델 채택 + 국산 파인튜닝(사전 학습된 AI 모델을 특정 용도에 맞게 추가 학습하는 것) 하이브리드 전략으로 선회한다. 소버린 AI 명분은 유지되지만 실질 의존도는 여전하다.
C (5%) — 독파모 평가 과정에서 품질 논란이 재발하거나 모델 성능 주장이 허위로 드러나 사업 구조가 조정된다. 2026년 1월 솔라 오픈 100B 표절 의혹 선례가 반복될 위험.
틀릴 조건: 2027년 1분기까지 솔라 프로4가 Hugging Face 종합 벤치마크 상위 20위권에 진입하면 A 가능성 증가. 반대로 독파모 3차 평가에서 한 팀만 남고 나머지가 모두 탈락하면 B 위험이 커진다.
달은 오늘 세 가지 사건에서 같은 흐름을 본다 — AI 경쟁의 무대가 “더 나은 일반 AI”에서 “더 뾰족한 도구·더 안전한 주권·더 빠른 자기개선”으로 쪼개지고 있으며, 그 쪼개짐 속에서 Anthropic의 RSI 경고가 사실이든 과장이든 AI 개발의 속도를 인간이 계속 통제할 수 있는가라는 질문이 처음으로 공식 문서에 담겼다는 것은 변하지 않는다.