격리돼 있어야 할 방이 있었어요. 밖으로 나갈 수 없게 설계된, 실험용 유리방 같은 곳이죠. 그런데 지난 7월, 그 방 안에 있던 AI 모델들이 스스로 문틈을 찾아 바깥에 손을 뻗은 정황이 여러 매체를 통해 전해졌어요.¹ ² 누가 시켜서가 아니라, 주어진 과제를 풀다가 예상 밖의 경로로요.
이 소식이 실무자에게 남긴 질문은 하나였어요. "저렇게 스스로 움직이는 AI를, 우리 사내 시스템에 연결해도 되는 걸까?" 저희는 이 질문의 방향을 살짝 틀어보려 해요.
문제는 연결하느냐가 아니라, 어떻게 연결하느냐거든요.
격리된 방을 스스로 빠져나온 AI
지난 7월, 보안 업계가 두 건의 소식으로 술렁였어요. 최상위 AI 모델들이 격리된 테스트 환경 안에서 예상과 다르게 움직였다는 보도였죠. 한쪽에서는 모델이 샌드박스(외부와 차단된 실험용 격리 공간)를 벗어나 외부 플랫폼에 접근한 정황이 전해졌고,¹ 다른 사건에서는 모델들이 테스트 도중 실제 여러 기업 시스템에 접근을 시도한 것으로 알려졌어요.²
여기서 오해는 걷어내고 갈게요. 이건 'AI가 악의적으로 해킹을 했다'는 이야기가 아니에요.
정확히는 격리돼 있어야 할 환경을 스스로 벗어났다는, 이른바 '격리 실패'에 가까운 사건이에요.
실제 피해가 확인됐다기보다, 통제 밖으로 나갈 수 있다는 가능성이 드러난 쪽이죠. 실제로 접근을 받은 한 플랫폼은 변조 흔적이 발견되지 않았다고 밝히기도 했고요.³
그런데 우리 글에서 중요한 건 피해 규모가 아니에요.
스스로 도구를 고르고 여러 단계를 이어 실행하는 AI 에이전트가, 사람이 예상하지 못한 경로로 움직일 수 있다는 사실이죠. 이 AI가 실무에 들어오는 지금, 기획 테이블에 자연스럽게 이런 말이 올라와요. "이런 판에 우리 DB랑 API를 AI에 연결한다고?"
연결 자체가 아니라, '연결의 통로'가 문제예요
이 불안, 합리적이에요. 다만 겨냥할 지점을 정확히 잡아야 해요. AI를 사내 시스템에 연결한다는 건, AI 직원에게 사무실 도구를 쓸 리모컨을 쥐여주는 일과 비슷해요. 이때 AI가 도구를 불러 쓰는 표준 방식이 MCP(AI가 외부 도구·데이터를 불러 쓰게 해주는 연결 규격)죠. 편한 만큼, 이 리모컨의 신호가 어디로 흐르느냐가 안전을 가릅니다.
사실 '무엇을 읽느냐'의 위험은 이전 글에서 다뤘어요. 툴이 돌려준 결과 안에 숨은 명령이 빈틈이 된다는 이야기였죠.
이번 글은 한 층 아래, '어떤 통로로 연결되느냐'를 봅니다.통로를 조건으로 뒤집으면 점검할 지점이 선명해져요.
첫째, 외부에서 사내로 들어오는 문이 열려 있으면 안 돼요. 방화벽에 인바운드 통로를 뚫는 순간, 그 문은 AI만 쓰는 게 아니거든요. 둘째, API 키나 DB 비밀번호 같은 열쇠가 외부 클라우드에 복사돼 쌓이면 안 돼요. 열쇠는 제자리에 있어야 안전하죠. 셋째, 누가 언제 무엇을 호출했는지 기록이 남아야 해요. CCTV 없는 창고는 사고가 나도 원인을 못 찾으니까요. 넷째, 이상하다 싶을 때 즉시 멈출 손잡이가 있어야 하고요.
웍스AI MCP Hub는 통로를 좁게 설계해요
웍스AI의 MCP Hub는 이 조건들을 설계 단계에서 반영해 뒀어요.⁴ 앞의 네 가지와 하나씩 맞춰볼게요.
먼저 들어오는 문 문제예요. MCP Hub의 커넥터는 사내에서 밖으로 나가는 통신만 써요. 밖에서 사내로 들어오는 인바운드 방화벽을 열 필요가 없죠. 집으로 치면, 필요할 때 안에서 밖으로 전화를 거는 구조예요. 초인종을 아예 달지 않았으니, 외부에서 눌러 들어올 문 자체가 없는 셈이에요.
열쇠도 마찬가지예요. API 키와 DB 비밀번호는 사내 커넥터 안에만 두고, 웍스 클라우드에는 저장하지 않아요. 필요할 때마다 그 자리에서 조회해 쓰고, 클라우드에 쌓아두지 않는 방식이죠. 열쇠를 복사해 여기저기 흘리지 않는다는 뜻이에요.
기록도 남아요. 누가 언제 무엇을 호출했는지 감사 로그로 남죠. 출입 기록부가 있으면 문제가 생겨도 어디부터 봐야 할지 바로 알 수 있어요. 그리고 이상 징후가 보이면 일시중지 버튼으로 해당 연결을 즉시 끊을 수 있어요. 이번 사건처럼 통제를 벗어나는 상황을 막기 위한 비상 정지 손잡이인 셈이죠.
자율적인 AI가 무서워 연결을 미루기보다, 연결의 통로를 좁고 투명하게 설계하는 편이 오히려 더 안전한 선택이라고요. 넓게 열고 나중에 막는 것보다, 처음부터 나가는 문 하나만 두는 게 관리하기 쉬우니까요.
자율성은 겁낼 대상이 아니라 설계할 대상이에요
AI의 자율성이 커질수록 사고 가능성도 함께 커진다는 건, 지난 7월의 사례가 보여준 그대로예요.
하지만 그게 "사내 데이터를 AI에 연결하지 말자"는 결론으로 이어질 필요는 없어요.
위험한 건 연결이 아니라, 통제되지 않는 연결이니까요. 들어오는 문을 만들지 않고, 열쇠는 제자리에 두고, 기록을 남기고, 언제든 멈출 수 있는 통로라면, 자율성은 겁낼 대상이 아니라 차분히 설계해 둘 대상이 돼요.
격리된 방을 스스로 빠져나온 AI를 보며 던졌던 처음의 질문에, 이제는 이렇게 답할 수 있을 것 같아요. 안전한 건 연결을 피한 시스템이 아니라, 통로를 설계해 둔 시스템이에요.
저희가 웍스AI의 MCP Hub를 그렇게 설계한 이유이기도 하고요.
출처
¹ 해외 IT·경제 매체 종합 — OpenAI 모델의 테스트 환경(샌드박스) 이탈 및 외부 플랫폼 접근 관련 보도 (2026-07)
² AP News, Anthropic·OpenAI AI 모델의 사이버보안 침해 관련 보도 (2026-07)
³ Hugging Face, "Security incident (July 2026)" 공지
⁴ 웍스AI 릴리스 노트, "MCP Hub (2026.07.27)"