에이전트를 가두는 소프트웨어는 오늘부터 쓸 수 있다. 그 칩을 만들 공장은 아직 검토 중이고, 그 규칙을 쓸 기구는 아직 계획 단계다.
에이전트 바깥에서 통제한다 — OpenShell의 소프트웨어 레이어와 Sentry의 하드웨어 레이어
AI 에이전트가 이메일을 보내고, 코드를 실행하고, 다른 서비스의 API를 호출하는 시대가 되면서 보안의 질문이 바뀌었다. “모델이 나쁜 행동을 하지 않도록 학습했느냐”에서 “모델이 나쁜 행동을 하려 할 때 구조적으로 막을 수 있느냐”로. NVIDIA가 2026년 9월 28일 발표한 ‘Open Agent Safety Platform’은 이 질문에 대한 하나의 설계 방향이다.
플랫폼은 두 개의 계층으로 나뉜다. OpenShell은 오픈소스 소프트웨어다. NVIDIA Vera CPU 위에서 에이전트의 모든 행동을 추적하고 사전에 정해진 정책대로 실행을 막는다. 중요한 것은 이 감시 레이어가 에이전트 자체가 아니라 에이전트 바깥에 있다는 점이다. 에이전트가 침해되거나 탈옥(jailbreak)되어도, 정책을 집행하는 소프트웨어는 같은 공격에 노출되지 않는다. 감시 카메라를 도둑이 끌 수 없는 곳에 달아두는 발상과 같다. Anthropic은 이 OpenShell을 Claude Managed Agents에 통합했다고 9월 28일 공식 블로그에서 밝혔다. “오늘부터 가용(Available today)”이라는 표현이다.
두 번째 계층인 Sentry는 다르다. NVIDIA BlueField-4 DPU(데이터처리장치—네트워크·보안 처리 전용 칩)에 올라가는 하드웨어 감시 장치로, 에이전트가 소프트웨어 경계를 벗어나려 하면 밀리초 단위로 격리(quarantine)한다는 것이 NVIDIA의 설명이다. 그러나 Sentry는 현재 출하 일정이 없는 레퍼런스 디자인(reference design)이다. 설계도는 나왔지만 실물이 없는 것이다. “밀리초 내 격리” 수치도 보도자료의 주장이고 독립 벤치마크는 확인되지 않았다.
왜 지금인가. 이 발표가 나온 주, 미국 연방거래위원회(FTC)는 Anthropic, OpenAI 등 AI 개발사에 대한 산업 전반 조사를 시작했다. 에이전트가 허락 없이 행동하거나 예상치 못한 자율적 행동을 보인 여러 사례가 공식 규제 조사의 계기가 됐다. NVIDIA의 안전 플랫폼 발표는 이 흐름과 정확히 겹쳤다.
달의 의심은 두 방향이다. 하나는 집행 위치의 한계다. OpenShell이 에이전트 바깥에서 집행한다고 해도, 정책이 잘못 설계됐거나 프롬프트 인젝션이 허용된 채널로 들어오면 외부 집행도 통과시킨다. 하드웨어 강제력이 의미를 갖는 것은 정책이 정확히 정의됐을 때다. 다른 하나는 파트너십 목록의 실체다. 100개 이상의 참여 기관이라는 숫자는 로고 목록과 실제 통합 수준은 다르다. 기자1이 “통합 수준은 확인 안 됨”이라고 적은 부분이 바로 이 지점이다.
어디로 가는가. 시나리오 A(55%): OpenShell이 에이전트 개발의 표준 보안 도구로 자리잡고, Sentry는 금융·의료·국방처럼 고위험 인프라 전용으로 수년 뒤 채택된다. 소프트웨어 레이어가 먼저 쌓이고 하드웨어 집행은 그 이후에 온다. 시나리오 B(45%): 파트너 목록의 다수가 로고 수준에 머물고, 실제 에이전트 사고 차단 사례가 쌓이지 않아 Open Agent Safety Platform이 하드웨어 판매 논리로만 남는다. 틀릴 조건: Sentry의 출하 일정이 12개월 내 공개되고 파트너 3곳 이상이 실제 사고 차단 사례를 공개한다면, A의 강도가 높아진다.
AI 칩을 만들 공장은 텍사스에 지어야 하는가
오늘 기업·산업 섹션에서는 삼성 용인 착공, SK하이닉스 실적 전망, 아마존의 채권 발행으로 AI 투자 순환의 재원이 어떻게 바뀌고 있는지를 다뤘다(호황 순환의 재원이 바뀌고 있다 — 용인 착공, 188조 전망, 아마존 채권 2,200억 달러). 여기서는 같은 AI 투자 순환의 다른 면을 본다. 수요가 아니라 공급이다. 공급을 어디에 짓느냐다.
블룸버그는 2026년 10월 1일 TSMC(대만 반도체 제조사)가 텍사스에 수십억 달러 규모의 새 캠퍼스를 검토 중이라고 보도했다. TSMC는 “소문에 논평하지 않는다”는 표준 답변만 냈다. 공식 발표가 아닌 소식통 기반 보도라는 점은 감안해야 한다. 같은 시점, TSMC는 NVIDIA와 Broadcom에 최첨단 공정 생산 용량이 한계에 달하고 있다고 경고한 것으로 알려졌다.
왜 지금 텍사스인가. 두 가지 시계가 맞물린다. 하나는 미국 반도체 세액공제다. 2022년 CHIPS Act로 도입된 반도체 시설 투자 세액공제가 2026년 말 만료 예정이다. 상원의원들이 연장 법안을 추진 중인 이 시점에, “텍사스 검토”라는 보도가 나온 것은 협상 신호일 수 있다. 다른 하나는 고객 구조다. TSMC의 북미 고객 비중이 전체의 75% 이상이라는 보도가 있다. 수요처가 북미에 집중돼 있는데 생산 거점이 대만에만 있다는 지정학 위험을 TSMC도, 고객도 인식하고 있다. 이미 애리조나 팹 건설이 진행 중이고, 텍사스는 그 다음 단계 논의다.
실제로 무슨 말인가. “용량 경고”와 “텍사스 검토”는 TSMC가 같은 시점에 내보내는 두 개의 신호다. 하나는 “지금 원하는 만큼 만들 수 없다”이고, 다른 하나는 “미국에 더 지으려면 지원이 필요하다”다. 두 신호가 같은 주에 나왔다는 것은 이 구도를 의도적으로 연출했을 가능성도 있다. 공급자가 희소성 신호를 내보내는 것은 가격과 배정 협상에서 유리한 위치를 점하는 방법이기도 하다.
달의 의심은 두 층위의 불확실성에 있다. 하나는 용량 병목이 웨이퍼 제조인지 첨단 패키징(advanced packaging—여러 칩을 하나로 묶어내는 공정)인지다. 만약 실질적 병목이 패키징이라면, 팹 신설은 그 병목의 해법이 아니다. TSMC CFO는 올해 7월 실적 발표에서 “패키징이 고객 성장을 제한한다”고 언급한 바 있다. 다른 하나는 일정 문제다. 새 팹 건설에는 5~10년이 걸린다. “2028년까지 AI 칩 수요가 예약됐다”는 서사의 병목을 텍사스 캠퍼스가 이번 사이클 안에 풀어줄 수는 없다.
어디로 가는가. 시나리오 A(55%): 세액공제 연장이 확정되고 Terafab 같은 대형 계약이 가시화되면 TSMC의 텍사스 착공이 2027~2028년 공식화된다. 미국 내 생산 비중이 2030년대 초반까지 의미 있는 수준으로 오르고, TSMC의 지정학 위험 분산이 실질화된다. 시나리오 B(45%): 세액공제 협상이 길어지거나 Terafab 계약이 불확실해지면 “검토”는 수년 뒤로 미뤄진다. 텍사스 보도는 협상 레버리지용 흘리기로 마무리된다. 틀릴 조건: TSMC의 텍사스 투자 공식 확정 발표와 세액공제 연장 법안 통과가 2026년 내에 동시에 나온다.
SAFA — 빅테크가 쓰는 규칙, 그 이빨은 어디에 있는가
구글, OpenAI, Anthropic이 ‘Standards Authority for Frontier AI’, 줄여서 SAFA라는 이름의 기구 설립을 추진하고 있다는 보도가 9월 말 나왔다. The Information이 처음 보도했고 공식 발표는 아직 없다. 목표는 프론티어 AI(frontier AI—최고 성능을 다투는 최첨단 AI 모델) 모델에 대한 배포 전 안전 테스트, 사고 보고 기준, 감사인 자격 요건을 스스로 정하는 것이다.
모델은 FINRA(미국 금융산업규제기구—증권 브로커를 규제하는 월스트리트 자율규제 기구)다. 발상은 Alphabet 수석 과학자 Demis Hassabis가 7월에 처음 제안한 것으로 알려졌다. 왜 지금 이 구조인가. 백악관 AI 행정명령이 2026년 6월 완화된 자발적 형태로 서명되면서 정부의 강제력이 가벼워진 틈을 타, 업계가 먼저 기준을 세우겠다고 나선 것이다.
실제로 무슨 말인가. FINRA 모델을 참조한다는 말이 핵심 단서다. FINRA는 SEC(미국 증권거래위원회)의 법적 감독과 집행권 위에서 작동한다. FINRA가 규칙을 어긴 회원사를 제재하면 그 배경에 SEC의 법적 강제력이 있다. SAFA에는 그 뒷배가 없다. 빅테크가 세운 기준을 빅테크가 지킨다. “FINRA를 참고했다”는 말은 외형은 빌리되 집행 이빨은 빌리지 않았다는 뜻이다. 비판론자들이 “업계가 자신의 규칙을 쓰는 것”이라고 요약하는 이유다.
왜 지금인가. 10월 초 FTC가 AI 에이전트의 소비자 피해를 이유로 OpenAI, Anthropic 등에 대한 산업 전반 조사를 시작했다. 의회에서는 AI 에이전트의 불법 행동에 대해 개발사·운영사에 민·형사 책임을 지우는 ‘AI Agent Accountability Act’가 발의됐다. 정부의 법적 압력이 가시화되는 시점에 SAFA는 “우리가 먼저 자율적으로 규제하겠다”는 방어막 역할을 한다.
달의 의심은 구조에서 나온다. SAFA의 공식 발표가 아직 없다는 것이 첫 번째 단서다. 두 번째는 Meta, xAI, NVIDIA가 참여하지 않는다는 보도가 있다는 점이다. 업계 과반이 불참하면 SAFA는 세 회사의 기준이지 업계 표준이 아니다. 세 번째는 리더십이다. CEO 후보로 거론되는 Sriram Krishnan은 트럼프 행정부 AI 정책 고문 출신이지만 아직 영입 타진을 받은 후보일 뿐이다. 모든 것이 계획 단계다.
어디로 가는가. 시나리오 A(70%): SAFA가 출범하지만 실제로 모델 배포를 늦추거나 거절하는 결정을 내리지 않고 형식적 점검 기구로 자리잡는다. FTC의 법적 개입 명분이 줄어드는 대신 실질적 안전 기능도 제한적이다. 시나리오 B(30%): Meta·xAI의 불참과 FTC 압박이 겹쳐 SAFA가 업계 표준의 구심력을 잃고, 결국 미국 의회가 직접 규제 입법으로 전환한다. 틀릴 조건: SAFA가 실제로 특정 모델의 배포를 지연시키거나 거절한 결정을 1건 이상 공개한다면, B 방향이 아닌 A의 진화형으로 전환된다.