에이전트도 직원처럼 관리해야 한다: 거버넌스 4축이 빠지면 운영은 무너진다
디지털 워커 거버넌스란 AI 에이전트를 도구가 아닌 직원으로 관리하는 운영 설계다. SiliconANGLE이 정의한 HR-스타일 관리와 Reddit r/LocalLLaMA의 실측 — 작은 모델 정직성 35%→0% 톤 변경 — 은 프롬프트가 이미 보안 표면임을 증명했다.
주제별 글 / 에이전트 보안
에이전트 보안
도구 연결로 열리는 공격면과 키워드 필터 우회 등 에이전트 보안 사례.
6편, 최신순
에이전트 코드 보안의 1차 게이트 — SWE-WebDevBench가 드러낸 60% 함정
에이전트 보안 게이트란 코드가 프로덕션에 들어오기 전 공격 시나리오를 자동 검증하는 레이어다. arXiv SWE-WebDevBench는 주요 6개 플랫폼을 분석했고, 보안 점수 65% 미만·엔지니어링 품질 60% 미달이 공통 실패 패턴이었다.
보안 성과 데이터가 모델 가치를 정당화한다 — 한 달이 15개월을 앞섰다
Claude Mythos Preview가 Firefox 팀의 4월 보안 버그 수정 건수를 직전 15개월 합산보다 많게 만들었다. alexalbert와 emollick이 검증한 이 수치는 모델 가치가 벤치마크가 아니라 실측 성과 데이터로 정당화되는 시대의 첫 신호다.
HEARTBEATa.md — 파일명 한 글자가 에이전트 보안을 무너뜨린다
에이전트 보안 필터란 키워드 매칭으로 위협을 차단하는 방어 레이어다. HEARTBEAT 우회 실험은 파일명 한 글자 변조로 이 레이어가 무력화됨을 실증했고, Dario Amodei는 사이버를 프런티어 AI의 첫 번째 명확한 위험으로 선언했다. Glasswing에는 12개 빅테크가 참여한다.
도구를 연결하는 순간 공격면이 열린다
ChatGPT Sheets 프롬프트 인젝션 유출과 Google Agent Smith 제한이 같은 신호를 보낸다. 에이전트에 도구를 붙이는 순간 보안은 모델 문제가 아니라 권한 설계 문제로 바뀐다.
에이전트 보안은 키워드 필터로 못 막는다
AI 에이전트가 실행 권한을 가지는 순간, 키워드 필터는 구조적으로 우회된다. HEARTBEAT 보안 우회 사례부터 Crucible 의미 탐지, Anthropic Glasswing까지 — 에이전트 보안의 새 설계 기준을 정리했다.