AI 에이전트가 고객에게 이메일을 보내게 해도 안전한가요?

AI 에이전트가 고객에게 이메일을 보내도 안전한 때와 그렇지 않은 때는 언제인가요?

발송 전에 사람이 메일마다 승인하면 AI 에이전트가 고객에게 이메일을 보내도 안전합니다. 에이전트가 혼자 보내면 안전하지 않습니다. 고객 주소는 조직 밖에 있으므로, 실수를 막을 수 있는 마지막 지점이 발송입니다. Outlook 회수 기능은 다른 조직의 수신자에게는 닿지 않고(Microsoft Support, 2026), Gmail의 실행 취소 시간은 길어야 30초입니다(Google Gmail Help, 2026).

아래 표를 보면 고객 이메일, 기록, 캘린더를 다루는 AI 에이전트 작업 가운데 사람이 먼저 승인하지 않아도 실행해도 되는 작업을 가릴 수 있습니다.

기술팀에게 가장 중요한 줄은 기술 회신입니다. 승인자가 문구만 보지 않고 값까지 확인할 때만 승인으로 고객 이메일이 안전해집니다. 메일을 보내고, 기록을 지우고, 초대를 보낸 뒤에 바로잡는 일은 취소가 아니라 또 한 번의 작업입니다. 표에서 승인이 필요 없는 작업은 읽기 전용 요약 하나입니다. 메일함 밖으로 나가는 것이 없기 때문입니다.

어떤 AI 에이전트 작업을 실행 전에 승인받아야 하나요?

조직 밖으로 나가거나 되돌릴 수 없는 AI 에이전트 작업은 실행 전에 승인을 받아야 합니다. 고객에게 이메일 보내기, 기록 삭제, 외부 참석자와 회의 일정 잡기가 여기에 해당합니다. OWASP는 이 실패를 "과도한 자율성(excessive autonomy)"이라고 부릅니다. 애플리케이션이 "영향이 큰 작업을 독립적으로 검증하고 승인하지 못하는" 경우입니다(OWASP, 2025).

에이전트가 할 수 있는 작업을 두 묶음으로 나누면 됩니다.

• 먼저 승인: 고객이 보게 되는 것, 데이터를 지우는 것, 다른 사람의 시간을 잡는 것.

• 승인 없이 실행: 읽기, 검색, 요약, 초안 작성. 누군가 결과를 보고 조치하기 전까지는 결과가 팀 안에 머물기 때문입니다.

승인이 필요해지기 전 단계에서 위험을 줄여야 합니다. OWASP는 에이전트의 기능과 권한을 필요한 최소한으로 제한하도록 권고합니다. 메일함을 요약하기만 하는 에이전트가 발송이나 삭제 권한을 가져서는 안 됩니다(OWASP, 2025). 로그와 발송 빈도 제한(rate limit)은 피해를 막지는 못하지만, 누군가 알아차리기 전까지 일어날 수 있는 피해의 규모를 줄입니다(OWASP, 2025).

루빈플라에서는 에이전트가 이메일을 보내거나, 기록을 삭제하거나, 외부 참석자와 회의 일정을 잡기 전에 승인 카드를 띄웁니다. 승인은 기본값이며 조직이 완화할 수 있고, 이메일을 보내려면 Gmail 계정을 연동해야 합니다.

AI 에이전트가 혼자 고객에게 이메일을 보내면 무엇이 잘못될 수 있나요?

AI 에이전트가 혼자 고객에게 이메일을 보내면 세 가지가 잘못될 수 있고, 어느 것도 발송 후에는 되돌릴 수 없습니다. 틀린 내용, 잘못된 수신자나 첨부 파일, 그리고 에이전트가 따르지 말았어야 할 지시입니다.

• 틀린 내용. NIST는 작화(confabulation)를 확신에 찬 어조로 잘못되거나 거짓인 내용을 만들어 내는 것으로 정의합니다(NIST, 2024). 기술 회신이라면 어떤 문서에도 근거가 없는 인화점, 유효기간, 상용성 설명이 그런 내용이 될 수 있습니다.

• 잘못된 수신자나 첨부 파일. 연락처나 파일을 에이전트가 고르면 다른 고객사의 데이터, 지난 개정판 SDS, 다른 로트의 성적서를 보낼 수 있습니다.

• 따르지 말았어야 할 지시. OWASP는 조작된 수신 메일에 속아 민감한 정보를 공격자 주소로 전달한 메일함 어시스턴트 사례를 설명합니다(OWASP, 2025). 고객 응대 에이전트가 읽는 메일이 바로 이런 수신 메일입니다.

어느 실패든 고객에게 그대로 전달되고, 바로잡으려면 메일을 한 번 더 보내야 합니다. NIST는 생성형 AI를 쓰면 사람의 검토, 추적, 문서화가 추가로 필요할 수 있다고 적고 있습니다(NIST, 2024). 승인 단계와 발송 기록을 함께 두어야 하는 이유가 여기에 있습니다.

AI가 쓴 고객 이메일을 승인하기 전에 무엇을 확인해야 하나요?

AI가 쓴 고객 이메일을 승인하는 사람은 수신자, 첨부 파일, 인용한 모든 값, 문서 개정판, 이메일에 담긴 약속의 다섯 가지를 차례로 확인해야 합니다. 에이전트가 초안 옆에 출처를 보여 주면 확인이 빨라집니다.

1. 수신자. 주소, 회사, 참조에 들어간 사람을 모두 확인합니다. 다른 고객사에 비슷한 이름이 있으면 놓치기 쉽습니다.

2. 첨부 파일. 파일을 모두 열어 봅니다. 제품과 그레이드를 확인하고, 성적서라면 고객이 문의한 로트인지 확인합니다.

3. 인용한 값. 숫자와 단위마다 값을 가져온 TDS, SDS, 시험 보고서와 대조합니다. 출처가 없는 값은 지웁니다.

4. 개정판. 인용한 SDS가 해당 제품과 시장의 최신 개정판인지 확인합니다.

5. 약속. 납기, 가격, 승인, 성능에 관해 에이전트가 덧붙인 약속은 지우거나 확인합니다.

확인 결과는 기록으로 남깁니다. NIST AI 600-1은 제안 조치 MS-4.2-004로, 사람 운영자나 다른 시스템이 시스템의 결정을 뒤집은 사례를 모니터링하고 문서화하는 일을 듭니다(NIST, 2024). 승인자가 고친 내용과 반려한 내용이 바로 그 기록입니다. 이 기록을 보면 어떤 초안을 더 엄격하게 확인해야 하는지 알 수 있습니다.