Anthropic, 백악관의 '완전한 탈옥 차단' 요구 직면 — 보안 전문가들 '기술적으로 불가능'

배경

트럼프 행정부는 AI 안전성 규제와 관련해 Anthropic에 강력한 조건을 내걸었다. 백악관 관계자들은 WIRED에 Anthropic이 특정 AI 모델을 재출시하려면 모델의 안전 가드레일이 우회될 수 없도록 보장해야 한다고 밝혔다. 이는 AI 거버넌스와 안전성을 둘러싼 정부와 AI 기업 간 갈등의 연장선으로 볼 수 있다.

주요 내용

• 트럼프 행정부 관계자들은 Anthropic이 모델 재출시를 원할 경우 탈옥(jailbreak) 시도를 완전히 차단할 수 있는 기술적 보증을 제공해야 한다고 요구했다
• 보안 전문가들은 현재의 대형 언어 모델(LLM) 구조상 모든 탈옥을 방지하는 것은 원천적으로 불가능하다고 반박하며, 이 요구가 비현실적임을 강조했다
• 이번 사안은 AI 안전 규제의 기술적 한계와 정부의 규제 의지 사이의 간극을 극명하게 드러내며, AI 기업들이 앞으로 직면할 규제 환경의 복잡성을 시사한다

큐레이터 노트

이번 백악관의 요구는 Anthropic뿐 아니라 OpenAI, Google 등 주요 AI 기업 전반에 파장을 미칠 수 있다. 정부가 '완전한 탈옥 차단'을 모델 출시 조건으로 내세울 경우, 기술적으로 충족 불가능한 기준으로 인해 AI 모델 출시 자체가 지연되거나 규제 불확실성이 크게 높아질 수 있다. 업계는 이를 AI 혁신을 저해하는 과도한 규제로 볼 가능성이 높으며, 정부와 AI 기업 간 협의 과정이 더욱 복잡해질 전망이다.