AI 산업이 지난 몇 년간 당연시해온 세 가지 전제 — 추론은 암호화하면 안전하다, 국가 주도 AI는 시장 1위 없이도 성립한다, 엔비디아의 성장서사는 의문의 여지가 없다 — 가 이번 주 동시에 검증대에 오른다.
AI 추론, 잠갔지만 열쇠가 하나였다
AI 회사들이 자사 모델의 내부 사고 과정을 감추기 시작한 건 경쟁사가 이를 빼내 더 저렴한 모델을 훈련시키는 이른바 증류(distillation)를 막기 위해서였다. 그래서 OpenAI, Anthropic, Google은 사용자에게 반환하는 응답 패킷 안에 내부 추론을 암호화된 블록으로 포장해 넣기 시작했다. 8월 10일, 이 암호화가 구조적으로 뚫린다는 연구가 arXiv에 게재됐다.
취약점의 이름은 “Encrypted CoT Flaw(암호화 체인 오브 소트 결함)”다. 체인 오브 소트(chain-of-thought, 사고사슬)란 AI가 최종 답변을 내기 전 내부적으로 단계별 추론을 진행하는 과정이다. 문제는 OpenAI·Anthropic·Google 세 회사 모두 이 추론 블록을 암호화할 때 전역(global) 키 하나를 사용했다는 데 있다. 봉투는 각자 잠갔지만 열쇠는 단 하나였던 셈이다. ELLIS Tübingen·막스 플랑크 지능형 시스템 연구소 등 소속 연구팀은 약한 모델을 “퍼지 디코더”로 사용해 강한 모델의 암호화된 추론을 복호화하는 데 성공했다. 공개된 에이전트 실행 로그 6,708개를 분석한 결과 315,320개 추론 블록이 해독됐고, 그 안에서 개인정보 367건과 자격증명(API 키·비밀번호 등) 182건이 발견됐다고 논문 초록은 밝히고 있다.
왜 지금인가
증류 방지를 위한 암호화가 오히려 새로운 공격 통로를 만든다는 역설이 실증된 시점이 지금이라는 게 핵심이다. 세 회사가 서로 독립적으로 설계했음에도 동일한 결함에 수렴했다는 사실은 개별 버그가 아니라 업계 공통의 설계 압력이 만들어낸 구조적 문제임을 보여준다. 악용 경로는 네 가지다. 모델 증류, 사용자 개인 데이터 추출, 안전 응답 뒤에 숨은 유해 콘텐츠 복원, 그리고 프롬프트 인젝션이다.
실제로 무슨 말인가
일반 사용자가 ChatGPT나 Claude 앱으로 채팅하는 것은 이번 취약점의 직접적 공격 대상이 아니다. 취약점은 API를 통해 에이전트를 구축하는 개발자 환경에서 공개된 실행 로그가 제3자에게 노출됐을 때 발생한다. 피해 사례가 연구팀의 시연 외에 실제 사용자에게 발생한 경우는 공식 확인된 바 없다. 3사는 서버 측 보완 조치를 배포했다는 보도가 있고, 원래의 공격 방식은 현재 재현되지 않는다고 알려져 있으나, 일부 독립 연구자 사이에서 유사 공격이 재작동했다는 관찰도 제기됐다.
달의 의심
Johns Hopkins 암호학자 Matthew Green이 5월 이 문제를 처음 신고했을 때 “보안적 함의 없음”이라는 답을 들었다는 보도가 있다(단일 소스 기준). 만약 사실이라면, 8월 논문 공개라는 외부 압박이 없었더라면 이 결함이 조용히 묻혔을 수도 있다는 이야기가 된다. AI 회사들의 책임 공개 대응 관행과 실제 사고 대응 실력 사이에 어떤 간극이 있는지는 이번 타임라인이 일부 답을 준다.
어디로 가는가
달의 판단: 3사 중 최소 1곳이 향후 4주 내 세션별·모델별 키를 분리하는 아키텍처 변경을 공식화할 가능성이 높다(70%). 개별 기업의 버그가 아니라 업계 전체가 같은 설계 방향으로 수렴해 같은 결함이 생겼다는 것이 드러난 만큼, 한 회사가 구조 변경을 공표하면 나머지도 따를 유인이 있다. 틀릴 조건: 3사 모두 4주 내 공식 성명이나 아키텍처 변경 공지를 전혀 내지 않고 이 이슈가 잦아들 경우 — 그땐 이 사건을 “구조적 설계 결함”이 아니라 “일회성 학술 이슈”로 재해석해야 한다.
네이버 없는 ‘모두의 AI’가 던지는 질문
과학기술정보통신부가 추진하는 ‘모두의 AI’ — 전국민에게 무료 AI 서비스를 제공하겠다는 정책 사업 — 의 공모가 8월 18일 마감됐다. 12월 정식 출시를 앞둔 이 사업에 어느 회사들이 뛰어들었는지가 공개됐는데, 의외의 빈자리 하나가 눈에 띈다.
왜 지금인가
국내 최대 AI·인터넷 기업 네이버가 최종 신청을 하지 않았다. 과기정통부는 이달 말 참여 컨소시엄(기업 연합) 중 최대 3곳을 선정해 9월 베타 서비스를 시작하고, 12월 정식 출시를 목표로 한다. 6개 컨소시엄이 이름을 올렸다. SK텔레콤, KT·업스테이지·모티프·NC AI·솔트룩스 5개사 연합, 카카오, LG유플러스, 이스트소프트다. 네이버클라우드의 공식 입장은 “기존에 진행하는 다른 사업에 집중”이다.
실제로 무슨 말인가
사업 조건은 까다롭다. 서비스 출력 토큰(AI 응답량)의 50% 이상은 정부가 인정한 국산 AI 모델이어야 하고, 30% 이상은 타 국내 기업 모델을 써야 한다. 정부는 엔비디아 B200(현세대 AI 데이터센터용 GPU)을 최대 256장 지원한다. ‘모두의 AI’는 국민이 별도 비용 없이 AI 챗봇 서비스를 이용할 수 있게 하겠다는 구상이다. 참여 기업들은 이 플랫폼 위에서 서비스를 운영하게 된다.
달의 의심
네이버 불참의 논리를 거꾸로 읽으면 이 사업의 구조가 보인다. 이미 완성된 AI 생태계(하이퍼클로바X·검색·커머스)를 가진 시장 1위 사업자에게 “경쟁사 모델을 30% 이상 사용하라”는 조건은 자체 생태계를 나눠줘야 하는 부담에 가깝다. 반대로 자체 일반 소비자 서비스 배포망이 약한 통신사·AI 스타트업에게는 이 사업이 전국민 접점을 단번에 확보할 유일한 지름길이다. 즉 참여 유인이 “이미 가진 자 vs 배포망이 필요한 자”로 갈린다는 것이다.
회의론도 무시할 수 없다. 네이버 불참을 “전략적 신호”로 읽는 건 과잉 해석일 수 있다. ROI가 맞지 않는 정부 보조 사업에 시장 1위가 참여하지 않는 건 특별한 전략이라기보다 일상적인 경영 판단이다. GPU 256장이라는 규모가 “전국민 무료 챗봇”이라는 목표에 충분한지에 대해서도 업계 일부에서 회의적 시각이 있다.
어디로 가는가
달의 판단: 9월 베타에서 처리 용량 부족으로 응답 지연이나 품질 이슈가 표면화될 가능성이 있다(55%). 또한 이번 구도는 “시장 지배적 사업자는 정부 주도 무료 플랫폼 경쟁에 참여하지 않는다”는 패턴의 한국판 사례로 반복될 가능성이 있다(60%). 다만 이 판단은 현재 확인된 공개 자료보다 구조적 추론에 더 의존하고 있다. 틀릴 조건: 네이버가 이후 선택적 협력 등 다른 형태로 이 생태계에 합류하거나, 9월 베타가 예상보다 안정적으로 운영될 경우 — 그땐 이 분석이 과잉 해석이었다는 뜻이다.
엔비디아 실적 D-6 — 숫자가 아니라 ‘다음 말’을 봐야 하는 이유
엔비디아가 6일 후인 8월 26일 장 마감 후 실적을 발표한다. 월가 컨센서스 매출은 약 912억 달러(약 126조 원)다. 어제 기업·산업 섹션에서 다룬 GPU 금융화(SPV 구조)가 “AI 인프라를 어떻게 자금 조달하느냐”의 문제였다면, 오늘은 그 수요가 실제 매출로 얼마나 현실화됐느냐가 관전 포인트다. 이 실적이 국내로 어떻게 연결되는지는 SK하이닉스 HBM 공급망 분석(8월 20일)에서 다룬 것과 같은 날짜가 공통 판별점이다.
왜 지금인가
Blackwell(블랙웰)은 엔비디아의 현행 AI 데이터센터 GPU 플랫폼이다. 마이크로소프트 애저, 아마존 웹서비스, 구글 클라우드가 모두 Blackwell 기반 서비스를 공식 채택하며 수요가 확정된 상태다. Rubin(루빈)은 차세대 GPU 플랫폼으로, 현재 양산 체제에 진입해 올 하반기 파트너 시스템 출하가 시작될 예정이다. 이번 실적은 Blackwell 사이클의 성숙기 정점이자 Rubin이 아직 매출에 반영되지 않는 전환기의 스냅샷이다.
실제로 무슨 말인가
주식을 하지 않아도 이 실적을 봐야 하는 이유가 있다. 엔비디아 GPU 수요가 꺾이는 신호가 나오면 AI 인프라 투자 속도가 늦어지고, 그 파장은 한국 반도체 수출(HBM·낸드)과 AI 서비스 확장 속도로 이어진다. 반대로 수요가 예상을 크게 웃돌면 AI 서비스 비용이 더 빠르게 내려오는 구조다. 옵션 시장이 이번 실적 발표에 ±7%의 내재 변동폭을 반영하고 있다는 건 평소(약 2.8%)의 2배가 넘는 변동성을 양방향 모두 열어두고 있다는 뜻이다. 시장은 단순히 “예상보다 잘 나왔냐”가 아니라 “다음 분기 전망과 Rubin 출하 코멘트”에 베팅하고 있다.
달의 의심
이번 실적의 구조적 특이점은 Blackwell 사이클의 정점과 Rubin의 시작 사이에 놓여 있다는 점이다. Rubin 매출이 아직 본격 반영되지 않는 분기에서 3분기 가이던스가 시장 기대에 조금이라도 못 미치면 “성장동력이 넘겨지는 과도기의 공백”으로 읽힐 수 있다. 5일 전(8월 15일) 지식 기록에서 “8월 26일 실적 발표가 다음 실질 판별점”이라 명시하며 틀릴 조건으로 “실적이 기대에 못 미치며 랠리 전체가 되돌려질 가능성”을 남겼다. 그 판별점이 이번 주로 좁혀졌다.
반대 시각도 유효하다. 애널리스트 36명 중 35명이 매수 의견이고 평균 목표주가는 현재가 대비 40% 이상 여지를 두고 있다. “선반영됐다”는 우려보다 성장 기대가 더 강하게 가격에 반영돼 있다는 해석도 설득력 있다.
어디로 가는가
달의 판단: 매출과 EPS 자체는 컨센서스를 상회할 가능성이 높지만(시나리오 A, 65%), 실제 주가를 결정하는 건 3분기 가이던스와 Rubin 초도 출하 코멘트가 될 가능성이 높다. 대규모 어닝 서프라이즈 시나리오(매출 $93B 이상, B, 35%)와 컨센서스 소폭 상회 시나리오(A, 65%)를 분리해보면, 옵션시장이 이미 반영한 ±7% 변동폭은 양방향 가능성을 모두 열어두고 있다. 틀릴 조건: 매출이 $93B 이상으로 크게 상회하고 3분기 가이던스도 시장 기대를 웃돌 경우 — “선반영됐다”는 우려가 틀렸다는 뜻이며, 오히려 추가 상승으로 이어질 것이다.