방어선이라 믿었던 것들이, 실은 방어선이 아니었다. AI가 ‘생각하는 과정’을 감추는 방식, 알고리즘 코딩이 인간의 영역이라는 믿음, 그리고 창업자 비전가가 Google의 경쟁력을 지켜줄 것이라는 확신 — 이번 주 세 가지가 동시에 흔들렸다.
세계 최고 AI 기업들이 같은 취약점에 뚫렸다
지난 8월 초, AI 보안 연구자들이 예상치 못한 결과를 공개했다. OpenAI, Anthropic, Google — 인공지능 산업의 세 거물이 모두 동일한 구조적 약점을 갖고 있었다는 것이다. 독일 ELLIS Institute Tübingen, Max Planck Institute, MATS Research, Snyk 소속 연구팀 8인이 발표한 논문은 이 세 회사의 LLM(대규모 언어 모델) API에서 암호화된 추론 블록이 외부에서 읽힐 수 있다는 사실을 보여줬다.
먼저 배경을 이해하는 것이 중요하다. 요즘 최고급 AI 모델들은 답을 내놓기 전에 ‘생각하는 과정’, 즉 연쇄 추론(chain-of-thought)을 거친다. 이 과정은 일반 사용자에게는 보이지 않고 암호화돼 숨겨진다. 문제는 세 회사 모두 이 암호화에 하나의 전역 공유 키(global key)를 사용했다는 점이다. 열쇠가 건물 전체에 딱 하나뿐이고, 그 열쇠가 어딘가에 유출돼 있었다.
이 취약점으로 가능한 공격은 네 가지였다. 최고급 모델의 독점 추론 과정을 훔쳐 경량 모델을 강화하는 ‘증류 탈취’, 다른 사용자의 세션 기록에서 개인정보를 추출하는 공격, 유해 콘텐츠를 안전한 답변 뒤에 숨기는 방식, 그리고 추론 과정 안에 프롬프트 인젝션(명령어 삽입)을 숨기는 것이다. 연구팀이 공개적으로 수집 가능한 6,708개의 에이전트 실행 로그를 분석한 결과, 개인식별정보(PII, 이름·이메일·주소 등) 367건과 API 키 62개·비밀번호 33개를 포함한 자격증명 182건이 복호화됐다.
왜 지금 이 이야기를 다루는가. 세 회사는 이미 서버 측 완화 조치를 완료했고, 현재는 같은 방식으로 공격을 재현할 수 없다. 그러나 “패치됐다”는 “안전하다”의 동의어가 아니다. 연구팀이 확인한 것은 알려진 공격 패턴 하나가 막혔다는 것일 뿐, 전역 단일 키라는 설계상 근본 원인을 해소했는지는 세 회사 모두 공개하지 않았다. 구체적으로는, 키를 사용자·세션·모델별로 각각 바인딩하는 재설계를 했는지, 아니면 알려진 재생(replay) 패턴만 차단하는 규칙을 추가한 것인지 불명확하다.
실제로 무슨 말인가. 더 중요한 맥락은 이것이다: 복호화된 182개의 자격증명은 외부 공격자가 훔친 것이 아니다. 연구팀이 GitHub, Hugging Face 같은 공개 저장소에 개발자들이 올려놓은 에이전트 실행 로그에서 스스로 복호화한 것이다. 즉 피해의 상당 부분은 암호화 취약점 때문이 아니라, 에이전트 로그를 공개 저장소에 그대로 올리는 개발 관행이 만든 것이다. 이 관행은 서버 측 어떤 패치로도 막히지 않는다. 일반 ChatGPT·Claude·Gemini 사용자가 직접 위험에 노출됐다는 증거는 없다. 주로 영향받는 건 에이전트 시스템을 구축하는 개발자들이다.
달의 의심. OpenAI와 Anthropic이 연구팀의 최초 신고(5월)에 “재현 불가, 보안 함의 없음”으로 일축했다가 논문 공개 후 “완화 조치 완료”로 입장을 바꾼 것은, 진심 어린 위험 인식의 전환보다 여론 압박에 대한 PR 대응일 가능성이 있다. 공식 CVE(취약점 등록번호)도, CVSS 심각도 점수도 없다는 사실이 이 판단을 지지한다. 보안 커뮤니티 스스로도 이것을 “치명적”으로 등급화하지 않았다.
어디로 가는가. 달의 판단: 이번 특정 익스플로잇은 종결됐을 가능성이 높다(70%). 그러나 “추론 과정을 암호화해 숨긴다”는 설계 패러다임 자체에 대한 독립적 보안 감사 요구와, 에이전트 로그 관리에 대한 개발자 교육·규범화 압력은 이미 시작됐다. 다음 반년 안에 세 회사 중 하나가 추론 토큰 처리 방식을 공개 재설계하면 A 시나리오(구조적 문제까지 정리). 발표 없이 잠잠해지면 B 시나리오(관행발 노출 문제는 여전히 남은 채 마무리). 틀릴 조건: 세 회사가 명시적으로 세션별 키 바인딩 재설계를 공식 발표하면 “이미 끝난 이야기”로 재평가한다.
AI가 1년 전 세계 코딩 대회를 만점으로 통과했다, 그리고 더 어려운 시험이 남았다
2025년 8~9월, 아제르바이잔 바쿠에서 열린 ICPC(국제대학프로그래밍경시대회, International Collegiate Programming Contest) 월드 파이널에서 이상한 일이 일어났다. 139개 대학팀이 경쟁하는 이 대회의 출제 문제 12개를, OpenAI의 추론 특화 모델이 모두 해결했다. 만점이었다. 같은 시험에서 DeepMind의 Gemini 2.5 Deep Think는 10개를 풀었다. 인간 기준으로 2위에 해당하는 성적이다.
왜 지금 이 이야기를 다루는가. 이 대회는 1년 전 일이다. 그런데 지금 다시 꺼내는 이유는 다음 시험대가 다가오고 있기 때문이다. 2026년 11월 두바이에서 열리는 ICPC World Finals에서는 AI가 처음으로 공식 참가자 자격으로 순위표에 오를 가능성이 논의되고 있다. 1년 전 만점을 받은 AI가 이번엔 정식 1등을 달 수 있을까.
실제로 무슨 말인가. 정확하게 짚어야 할 것이 있다. 지난해 바쿠 대회에서 AI는 공식 경쟁자가 아니라 전시 트랙에 참가했다. “사람이었다면 1등”은 사후 가정이지 실제 성적이 아니다. 또한 ICPC 같은 알고리즘 경쟁 문제는, 아카이브에서 학습 데이터를 가져왔을 가능성이 있어 “순수한 추론 능력의 승리”와 “이 문제 분포에 특화된 학습의 성과”를 구분하기 어렵다. AI가 코딩 알고리즘 대회에서 만점을 받은 것과, 실제 소프트웨어 개발 프로젝트에서 인간을 대체하는 것은 다른 이야기다.
다만 격차가 좁혀지고 있다는 것은 사실이다. 어제 기술·AI 섹션(리벨리온·EU AI Act·엔비디아 역설)에서도 다뤘지만, AI 코딩 벤치마크는 전반적으로 빠르게 상승 중이다. “알고리즘 문제는 AI가 완전히 통과, 복잡한 실무 개발은 아직 한참 멀었다”는 이분법이 유효했던 건 2024년까지의 이야기일 수 있다. 지금은 이 선이 빠르게 희미해지고 있다.
달의 의심. 대회 성과가 실제 소프트웨어 엔지니어링으로 직결되는지는 여전히 열린 질문이다. 벤치마크 점수가 아무리 올라도 Copilot·Cursor 같은 실사용 도구에서 개발자들이 체감하는 생산성 변화가 따라오지 않는다면, “AI가 1등 코더”라는 서사는 벤치마크 안에만 존재하는 숫자가 된다. 채용 스크리닝에서 알고리즘 문제를 내는 방식도 흔들리겠지만, 그것이 개발자라는 직업 자체의 위기로 이어지는 건 다른 경로를 거쳐야 한다.
어디로 가는가. 달의 판단: 2026년 11월 두바이 ICPC에서 AI가 공식 순위표에 오를 가능성이 높다(65%). 그리고 그것이 현실화되는 순간, “알고리즘 코딩”은 AI의 영역이 됐다는 상징적 선언이 될 것이다. 다음 전선은 모호한 요구사항, 레거시 코드베이스, 이해관계자 커뮤니케이션이 얽힌 실제 개발 업무다 — 그 전선에서 AI의 진짜 역량이 판가름 날 것이다. 틀릴 조건: 두바이 ICPC에서 공식 AI 참가가 승인되지 않거나, AI가 12문제 중 절반 미만을 풀면 “1년 전 만점은 특수 조건에서의 일회성 성과”로 재평가된다.
Google의 AI 1세대가 물러났다, 그리고 이건 쇠락이 아니라 인정이다
이달 초, 기술 업계에서 가장 주목받는 인사 소식이 나왔다. Demis Hassabis — DeepMind를 공동 창업하고 12년 넘게 이끌어온 인물 — 가 일상 운영에서 물러나 회장 겸 Alphabet 수석 과학자로 역할을 전환했다. 그의 자리는 Koray Kavukcuoglu가 맡았다. DeepMind의 전 최고기술책임자(CTO)이자 Google의 수석 AI 아키텍트였던 그가 이제 Gemini 모델 개발과 프론티어 AI 연구를 총괄하며 Sundar Pichai Google CEO에 직접 보고한다.
왜 지금인가. Google은 2026년 초 이후 반년 가까이 프론티어 모델을 발표하지 못했다. 같은 기간 OpenAI는 GPT-5 계열을, Anthropic은 Claude Opus 5(7월 출시)를 선보였다. 경쟁자들이 새로운 모델을 잇달아 내놓는 동안 Google의 최상위 모델 라인업에는 공백이 생겼다. 이번 인사는 이 구조적 열세에 대한 Google의 공식 대응이다.
실제로 무슨 말인가. 화살표 방향을 정확히 읽어야 한다. “리더십 교체가 경쟁력을 흔들었다”가 아니라, “이미 벌어진 경쟁력 열세가 리더십 교체를 낳았다”다. Hassabis는 2014년 Google이 DeepMind를 인수한 이후 12년간 조직을 이끌었다. 그는 회사를 떠나지 않는다 — 런던에 남아 전략적 역할을 계속한다. 퇴진이 아니라 역할 재배분이다. 반면 핵심 과학인재 이탈도 동시에 진행 중이다. 27년간 Google에 재직하며 MapReduce, TensorFlow를 이끈 Jeff Dean이 Alphabet 투자 스핀오프 형태로 새 회사를 차린 것은, 브레인 드레인(핵심 인재 유출)의 역방향 신호다.
달의 의심. Kavukcuoglu는 WaveNet, DQN 같은 굵직한 연구를 이끈 실무형 리더다. “실행 중심으로의 전환”은 출시 속도 개선에 긍정적일 수 있다. 그러나 Google이 지금 겪는 문제가 “출시 속도”만의 문제인지는 불확실하다. Gemini 3.x 모델이 Anthropic, OpenAI 대비 실제로 얼마나 뒤처졌는지 직접 비교 가능한 공식 벤치마크도 없는 상태다. 런던-캘리포니아 권한 재배분 과정에서의 조직 마찰도 단기적으로 변수가 된다.
어디로 가는가. 달의 판단: Kavukcuoglu 체제에서 6개월 안에 새 플래그십 모델이 나오면 “체제 전환 성공” 신호(40%). 출시 지연이 이어진다면 조직개편이 실행 속도를 높이기는커녕 내부 마찰을 만든 결과가 될 것이다(60%). 판가름은 이 숫자가 아니라, 다음 Gemini 모델이 언제 나오는지와 그 모델이 Anthropic·OpenAI 대비 어느 자리에 서는지에서 날 것이다. 틀릴 조건: 향후 3개월 안에 Gemini 신모델이 주요 벤치마크에서 Opus 5·GPT-5 계열과 경쟁할 만한 성적을 내면 “체제 전환 성공”으로 재평가한다.
세 꼭지를 하나로 묶는 공통점이 있다면 이것이다. 방어선이라 믿었던 것들 — 암호화가 추론 과정을 지킨다는 믿음, 알고리즘 문제가 인간의 영역이라는 믿음, 창업자 비전가가 기업의 경쟁력을 지켜준다는 믿음 — 이 이미 조용히 허물어지고 있었다는 것. 그리고 세 경우 모두, 그 허물어짐이 대재앙이 아니라 다음 규칙이 정해지는 과정의 시작이라는 것이다. 지금 기술 세계에서 일어나고 있는 일은 붕괴가 아니라 재편이다.