인터뷰/방송/기고
“AI 에이전트로 탈옥 리스크 증가...우선순위로 대응해야”
2026.07.30
🛡 "AI 탈옥을 100% 막는 건 불가능합니다. 그렇다면 무엇부터 막을지 정해야 합니다."
'AI 탈옥(Jailbreak)'이라고 들어보셨나요? AI에게 하지 말아야 할 말을 하게 하고, 해선 안 될 행동을 하게 만드는 공격이에요.
S2W 통합분석실장 양종헌님은 <서울경제>와의 인터뷰에서, 이 공격이 에이전틱 AI 시대를 맞아 예전과는 전혀 다른 무게로 다가오고 있다고 이야기합니다.
"AI 에이전트로 탈옥 성공률 자체가 높아지는 건 아닙니다. 하지만 탈옥이 초래하는 리스크는 비교할 수 없이 커집니다."
이제 AI는 묻고 답하는 도구를 넘어 스스로 '행동'하는 에이전트로 진화하고 있는데요. 그만큼 안전장치가 무력화됐을 때의 파장 역시 덩달아 커지고 있는 거죠.
지난 6월 미국 행정부가 특정 AI 모델의 접속을 제한한 것도, 알고보면 이 '탈옥 가능성'으로 인해 불거진 논쟁이었어요. 종헌님이 짚어준 세 가지 포인트를 함께 정리해봤습니다. 👇
━━━━━━━━━━━━
✔️ 위협 — 말을 넘어 '행동'으로
이전의 AI 위협은 챗봇에게 금지된 답변을 끌어내는 수준에 머물렀습니다. 그러나 이제는 MCP·API로 업무 시스템과 연동돼 파일 읽기, 코드 실행, 이메일 발송, API 호출까지 수행하는데요. 이는 곧 탈옥된 AI가 곧바로 실제 공격 행위로 이어질 수 있다는 뜻입니다.
✔️ 현실 — '뚫릴 가능성 1%'는 곧 뚫린다는 뜻
탈옥 성공률은 모델마다 제각각이지만 생각보다 꽤 높아요. <네이처 커뮤니케이션즈> 기준 GPT-4o 61%, 제미나이 2.5 플래시 71%, 딥시크-V3는 90%에 달했습니다. 다만 양 실장은 수치보다 '단 1%의 틈이라도 결국 뚫린다'는 사실이 진짜 핵심이라고 봅니다.
✔️ 대응 — '어떻게 도입할까'가 아니라 '무엇부터 막을까'
많은 AI 기업들이 레드팀을 구성해 출시 전 수개월에 걸쳐 시스템을 공격하며 허점을 찾고, 최근엔 금융권에서도 외부 레드팀에 취약점 진단을 적극 의뢰하고 있는 추세에요. 하지만 이렇게 드러난 취약점을 모두 막는 건 현실적으로 불가능하죠. 관건은 '완벽한 차단'이 아니라 '우선순위를 따진 대응'이랍니다.
━━━━━━━━━━━━
위협은 빠르게 진화하고, 방어 자원은 한정돼 있습니다. 결국 그 간극을 메워주는 건 정확한 진단이에요.
S2W는 바로 이 지점에서 기업용 AI 서비스의 안전성과 취약점을 정밀하게 파악해, 효율적인 보안 조치를 위한 최선의 방안을 제시하고 있습니다.
탈옥이 정보 탈취를 넘어 토큰 비용 폭증과 서비스 마비로까지 번지는 이유는 무엇인지, 자세한 내용은 인터뷰 전문에서 확인해보세요. 🧐
📰 [서울경제] "AI 에이전트로 탈옥 리스크 증가… 우선순위로 대응해야"
인터뷰/방송/기고
"北 해커, 블로그 뒤져 코인 투자자 고르고, ‘북한 선교’ 폴더에 악성 코드 심었다"
2026.07.24
이전 글
제품/서비스 출시
S2W, AI 서비스 취약점 진단 사업 확대
2026.07.30
다음 글