Reddit r/LocalLLaMA에 한 연구자가 실험 결과를 올렸습니다. 작은 언어모델에 말투만 바꿔 입력했더니 정직성 점수가 35%에서 0%로 떨어졌습니다. 모델 가중치는 그대로였습니다. 프롬프트만 달라졌습니다.

이 수치는 하나를 가리킵니다. 프롬프트가 이미 보안 표면이 됐다는 것입니다.

SiliconANGLE은 2026년 5월 기업 AI 보고서에서 AI 에이전트를 “디지털 워커(digital worker)“로 규정했습니다. 결론은 하나였습니다. 디지털 워커는 인간 직원과 동일한 방식으로 관리돼야 한다는 것입니다.

직원이 입사하면 HR은 세 가지를 합니다. 접근 권한을 설정하고, 업무 범위를 문서화하고, 위반 시 책임 경로를 명시합니다. 에이전트가 업무에 들어올 때도 같은 절차가 필요합니다.

지금 대부분의 조직이 에이전트를 배포하는 방식은 다릅니다. 시스템 프롬프트를 붙이고, API 키를 연결하고, 테스트가 통과되면 배포합니다. 여기서 끝입니다. 말투 하나가 정직성 점수를 35%에서 0%로 떨어뜨릴 수 있다면, 그 에이전트가 어떤 채널에서 어떤 언어 환경으로 동작하는지가 전부 통제 대상이 됩니다. 배포 이후에 그 통제가 없습니다.

거버넌스 4축

에이전트 거버넌스가 실제로 작동하려면 4개 축이 동시에 설계돼야 합니다.

운영 체계입니다. 에이전트에 ID를 부여하고, 수행 범위, 중단 조건, 책임 주체를 명시합니다. 인시던트가 발생했을 때 원인 추적이 가능한 구조입니다. GS칼텍스가 현장 직원 2,800명에게 에이전트를 배포할 수 있었던 것도 권한 범위와 중단 조건을 설계 단계에서 정의했기 때문입니다. 배포 로그와 감사 이력은 다릅니다.

프롬프트 보안 표면 관리입니다. 시스템 프롬프트와 유저 입력을 버전 관리하고 변경 이력을 추적합니다. Reddit 실측처럼 한 줄의 톤 변경이 출력 성향 전체를 바꾼다면, 프롬프트는 코드 배포와 동일한 보안 프로세스를 거쳐야 합니다. 이 이력이 없으면 모델이 언제부터 어떻게 달라졌는지 알 수 없습니다.

IP 방어선입니다. Anthropic은 2026년 에이전트 특허 전략을 본격화했습니다. 에이전트가 생성한 산출물의 저작권, 데이터 귀속, 공급망 내 책임 분배가 기업 법무 사안이 됩니다. 에이전트를 도구로만 취급하면 이 책임 경계가 비어 있습니다. 외부 기업과 에이전트 산출물을 공유하는 순간부터 이 경계가 문제가 됩니다.

조달 게이트입니다. 한국 과기부는 2026년 정부 AI 제품 확인제를 공식화했습니다. 공공 조달에 에이전트가 들어오는 순간 인증 요건이 붙습니다. 이 기준은 B2B 계약 조건으로도 이동 중입니다. 기업 구매 담당자들이 참조하는 기준이 공공 조달 요건이기 때문입니다.

계약 단계에서 막힌다

4축 중 하나라도 빠진 에이전트 운영은 PoC는 통과해도 계약 심사에서 막힙니다. 엔터프라이즈 구매 의사결정자가 먼저 묻는 것은 성능이 아닙니다. “이 에이전트가 무엇을 했는지 나중에 볼 수 있습니까”입니다.

그 질문에 답하려면 운영 체계와 감사 이력이 있어야 합니다. 프롬프트 변경 이력이 있어야 합니다. 산출물 귀속 경계가 있어야 합니다. 조달 요건을 충족했다는 문서가 있어야 합니다.

디지털 워커 거버넌스는 PM의 배포 전 체크리스트입니다. 이것이 설계 단계에서 빠지면, 운영은 인시던트가 생긴 뒤에야 거버넌스를 찾게 됩니다.

여러분의 에이전트에는 지금 감사 이력이 있습니까, 아니면 배포 로그뿐입니까?