🚧 금지와 무방비 사이, AI 보안 중간지대를 설계하는 법『AI 시그널 7호』

안녕하세요. 『AI 시그널』입니다.

이번 호에서는 생성형 AI 활용에서 기업이 가장 먼저 부딪히는 데이터 보안 문제를 다뤄보려 합니다. AI를 무조건 막을 수도, 기준 없이 열어둘 수도 없는 상황에서 회사는 어떤 데이터를 어떻게 구분하고 보호해야 할까요?

이 기준이 없을 때 현장에서 어떤 일이 생기는지, 실제 컨설팅을 하며 겪었던 사례로 시작해보겠습니다.

보안 강화 후 현장에서 멈춘 것

한 고객사에서 실무자 교육을 진행할 때였습니다. 데이터 보안 방침이 꽤 촘촘한 회사였습니다. 외부 AI 서비스로 파일을 올리는 경로는 막혀 있었고, 만들어진 특정 형식의 결과물을 사내에서 쓰려면 자산팀 승인을 받아야 했습니다.

취지는 충분히 이해됐습니다. 고객 데이터와 내부 자료가 외부 서비스로 흘러가면 안 되니까요. 예상 밖이었던 건 승인 절차가 현장의 태도까지 바꿔놓는 속도였습니다.

초반에는 분위기가 꽤 좋았습니다. "이 업무도 자동화할 수 있나요?", "이 양식도 바꿔볼 수 있나요?" 같은 질문이 계속 나왔습니다. 각자 자기 업무에 바로 떠올리는 지점들이 있었던 거죠.

그런데 몇 번 지나지 않아 질문이 줄었습니다. 아이디어가 사라진 건 아니었습니다. 해볼 만한 게 떠올라도, 입 밖으로 꺼내기 전에 한 번 멈추는 쪽에 가까웠습니다. 이유를 물었을 때 돌아온 말은 이랬습니다.

"어차피 회사에서 막는데요."

파일 업로드를 막은 조치였지만, 현장에서는 그보다 먼저 “이걸 해볼 수 있겠다”는 기대가 식었습니다. 보안 정책은 필요합니다. 다만 현장에 남는 감각이 “어디까지 가능한지”가 아니라 “어차피 안 된다”에 가까워지면, AI 활용은 시작선에서 멈춥니다. 그리고 금지는 사용을 완전히 없애주지도 못합니다. 회사 안에서 막힌 필요는 다른 경로를 찾기 시작합니다.

AI 데이터 업로드 금지 정책의 빈틈

2023년 5월, 삼성전자는 사내 챗GPT 사용을 전면 금지했습니다. 직원이 업무 소스코드를 챗GPT에 입력한 일이 알려진 직후였습니다. 국내에서 가장 보안에 민감한 회사 중 하나가 실제 사고를 겪고 내린 결정이었으니, 당시에는 금지가 가장 현실적인 대응이었을 겁니다.

한편, 마이크로소프트가 2025년에 내놓은 조사에서는 직원의 71%가 회사 승인 없이 AI 도구를 써본 적이 있다고 답했습니다. EY도 같은 해 기업 내 AI 활동의 절반 이상이 공식 승인 밖에서 벌어지고 있다고 봤습니다. 회사 PC에서 안 되면 개인 폰으로 옮겨가고, 사내 계정이 막히면 개인 계정으로 가입합니다.

전면 차단이 길어질수록 사고는 더 조용한 형태로 바뀝니다. 회사는 통제하고 있다고 믿지만, 실제 사용은 로그가 남지 않는 곳으로 빠져나갑니다. 회사 안에서 쓰게 두면 어떤 파일이 어느 서비스로 갔는지라도 볼 수 있습니다. 개인 계정으로 넘어간 뒤에는 사고가 나도 언제 무엇이 나갔는지 되짚기 어렵습니다.

현시점 AI 보안의 5가지 방식

0단계. 회사계정 사용

0단계는 보안 솔루션 이전의 기본값에 가깝습니다. 같은 ChatGPT라도 개인 계정과 회사 계정은 다릅니다. 업무용 요금제는 입력 데이터를 모델 학습에 쓰지 않고, 회사 계정 로그인을 강제할 수 있으며, 관리자 화면에 사용 로그가 남습니다. 1인당 월 몇만 원 수준이라 가장 먼저 확인할 계단입니다.

1단계. 출처 기반 차단

예를 들어 공유 드라이브의 ‘계약서’ 폴더에서 내려받은 파일처럼 특정 출처를 기준으로 AI 사이트에 올리지 못하게 막습니다. 구글 워크스페이스 DLP, 마이크로소프트 퍼뷰의 SharePoint·OneDrive 정책이 여기에 해당합니다. 설정은 간단하지만, 파일을 바탕화면에 한 번 복사하면 출처 꼬리표가 끊길 수 있습니다.

2단계. 라벨 기반

문서에 ‘기밀’ 같은 민감도 라벨을 붙이고, 라벨이 붙은 파일만 업로드·복사·붙여넣기 차단 대상에 넣습니다. 마이크로소프트 퍼뷰의 민감도 라벨이 대표적입니다. 인사팀 연봉 테이블처럼 확실한 기밀 문서에는 효과적이지만, 사람이 라벨을 빠뜨리면 새기 때문에 기밀 폴더에 들어온 파일에 자동 라벨이 붙도록 설계하는 편이 안전합니다.

3단계. 라벨 + 암호화 결합 방식

파일이 실수로 AI 서비스에 올라가도 AI가 받아보는 건 암호문입니다. 마이크로소프트가 섀도우 AI 유출을 막는 가장 효과적인 보호책 중 하나로 꼽는 방식도 이쪽입니다.

4단계. 파일내용 기반 검사

라벨이 없어도 파일을 열어 오피스 문서·PDF·압축파일·도면·암호 파일 안의 주민번호, 카드번호, 소스코드 등을 찾아 막는 단계입니다. 담당자가 라벨을 깜빡한 엑셀에 주민번호 컬럼이 섞여 있어도 올리려는 시점에 걸립니다.

여기서부터는 성격이 조금 달라집니다. 3단계까지가 Microsoft 365나 Google Workspace처럼 이미 쓰는 업무용 제품에서 설정을 켜는 쪽에 가깝다면, 파일 내용을 실시간으로 검사하는 영역은 전용 보안 제품이 맡습니다. 국내에서는 Fasoo AI-R DLP와 Somansa AI DLP 같은 제품이 여기에 해당합니다. 이미 은행과 중앙행정기관에도 도입돼 있어, 규제가 강한 조직에서 먼저 검증된 영역으로 볼 수 있습니다.

올해 달라진 점도 있습니다. 기존 내용 검사는 주민번호처럼 정해진 패턴을 찾는 방식에 가까웠습니다. 최근 제품들은 LLM 기반 분석 엔진을 더해 도면·지도 이미지의 맥락, 정해진 양식이 없는 문장의 위험도, 단순 질문과 고의적 유출 시도까지 구분하는 쪽으로 가고 있습니다. 다만 똑똑해질수록 오탐도 따라오기 때문에, 처음부터 차단으로 켜기보다 일정 기간 관찰 모드로 확인하는 과정이 필요합니다.

5단계. 프롬프트 검사

파일을 올리지 않고 본문만 복사해 채팅창에 붙여넣는 경로를 봅니다. 마이크로소프트 엣지에 퍼뷰 정책을 걸면 ChatGPT·제미나이·코파일럿·딥시크 입력창의 텍스트를 전송 직전에 검사합니다. 크롬은 Chrome Enterprise Premium으로 브라우저 밖 복사·붙여넣기 제어, 화면 캡처 차단, 민감 문서 워터마크를 걸 수 있습니다.

이미 쓰는 요금제로 가능한 범위

여기서 중요한 건 멈출 지점을 고르는 일입니다. 공개 자료만 다루는 팀은 회사 계정과 출처 기반 차단으로 충분할 수 있습니다. 고객 개인정보와 소스코드가 매일 오가는 조직이라면 내용 기반 검사나 프롬프트 단 통제까지 내려가야 합니다.

업로드만 막으면 직원은 파일을 열어 본문을 복사한 뒤 채팅창에 붙여넣습니다. 이 경로에는 네트워크를 타고 나가는 파일이 없어 사내망 차단 장비가 보기 어렵습니다. 반대로 PC 단만 막으면 개인 노트북이나 휴대폰에서 회사 메일 첨부를 올리는 길이 남습니다. 그래서 기밀 폴더 자동 라벨링, 업로드 차단, 내용 검사, 입력창 검사를 겹쳐 빈틈을 줄입니다.

결국 막히는 지점은 기술보다 데이터 기준입니다. 라벨을 붙이려면 무엇이 기밀인지 정해져 있어야 하고, 내용 검사 조건을 넣으려면 회사 밖으로 나가면 안 되는 정보가 무엇인지 적혀 있어야 합니다. 보안 솔루션을 사놓고도 못 여는 회사들은 대개 여기서 멈춥니다. 도구가 없어서가 아니라, 도구가 따를 기준이 없어서입니다.

삼성이 만든 AI 사용의 울타리

삼성전자는 올해 6월 11일, 챗GPT·제미나이·클로드 세 가지 AI 서비스를 DX부문 전 임직원에게 공식 도입했습니다. 그룹 전 관계사로도 확대하고 있습니다. 2023년 금지 이후 3년 만의 변화입니다.

삼성은 먼저 임직원 2,500여 명을 대상으로 후보 서비스의 실효성을 검증했습니다. 실제 업무에 도움이 되는지, 어떤 사용 사례가 나오는지부터 확인한 겁니다. 동시에 전 관계사에 AI 전담 조직을 새로 만들어 데이터와 모델 운영을 관리하도록 했습니다. 회사가 내세운 방향은 "AI 활용 확대와 리스크 통제를 동시에 달성하는 보안 체계"였습니다.

교육도 함께 움직였습니다. 사장단 50여 명이 부트캠프를 받았고, 임원 약 2,300명이 2박 3일 과정을 거쳤습니다. "이제 써도 됩니다"라는 공지 하나로 문을 연 게 아닙니다.

쓸 수 있는 범위를 정하고, 관리 조직을 세우고, 의사결정권자부터 사용법과 위험을 익힌 뒤에야 공식 도입으로 넘어갔습니다.

대기업의 규모를 그대로 따라 할 필요는 없습니다. 다만 순서는 참고할 만합니다. 먼저 어디에 쓸지 보고, 무엇을 막을지 정하고, 책임자를 세운 뒤, 교육과 함께 허용 범위를 넓히는 방식입니다. 규모가 작은 조직이라면 이 과정은 오히려 더 빨리 끝낼 수 있습니다.

안전하게 열기 위한 네 가지 기준

AI 사용을 열 때 중요한 건 거창한 원칙보다 현장에서 실제로 돌아갈 순서입니다.

1️⃣ 금지 목록보다 허용 목록을 먼저 만듭니다.

회의록 정리, 공개 자료 요약, 보도자료 초안, 내부 교육 자료 초안처럼 민감정보가 섞일 가능성이 낮은 업무는 명시적으로 허용해두는 편이 좋습니다. 허용 목록이 없으면 나머지 업무가 전부 회색지대가 됩니다. 회색지대에서는 직원이 매번 눈치를 보거나 개인 계정으로 넘어갑니다.

2️⃣ 사람을 막기보다 데이터를 구분합니다.

"이 사람은 되고, 저 사람은 안 된다"는 방식은 승인 대기를 만듭니다. 승인 대기가 길어지면 현장은 사용을 포기합니다. 반대로 파일과 데이터에 등급이 붙어 있으면 판단이 빨라집니다. 공개 자료는 허용하고, 고객정보가 포함된 파일은 제한하고, 소스코드는 별도 환경에서만 다루게 하는 식입니다.

3️⃣ 승인 절차에는 반드시 기한을 붙입니다.

승인을 남겨야 하는 업무도 있습니다. 다만 "검토 후 안내"만 적어두면 현장에서는 금지와 비슷하게 받아들입니다. 하루인지, 사흘인지, 일주일인지 답변 기한이 있어야 직원이 계획을 세울 수 있습니다. 앞의 고객사에서 실습이 멈춘 지점도 승인 여부보다 승인에 걸리는 시간을 알 수 없다는 데 있었습니다.

4️⃣ 보안정책을 시행하기 전에 시뮬레이션이 필요합니다.

마이크로소프트의 공식 배포 문서도 정책을 곧바로 적용하기보다 시뮬레이션 모드로 사용자 영향과 오탐을 먼저 보라고 권합니다. 한 달만 관찰해도 우리 회사에서 어떤 파일이 어느 서비스로 나가려 하는지, 어떤 업무에서 AI 사용 니즈가 큰지 윤곽이 나옵니다. 규칙은 그 목록을 보고 만드는 편이 정확합니다.

네 가지 모두 같은 전제에서 출발합니다. 우리 회사의 업무와 데이터가 등급으로 나뉘어 있어야 합니다. 그 기준이 생기면 어떤 업무를 열어도 되는지, 어떤 업무는 막아야 하는지, 어디에 승인 절차를 둘지가 훨씬 선명해집니다.

시작점은 업무 지도

보안 때문에 AI를 잠가둔 회사와 겁 없이 열어둔 회사 사이에는 넓은 중간 지대가 있습니다. 그 중간을 찾으려면 솔루션 구매 목록보다 업무 흐름을 먼저 펼쳐봐야 합니다. 어디에 기밀이 흐르는지, 어디에 반복 작업이 쌓이는지, 어떤 업무는 안전하게 열어도 되는지 확인하는 과정이 필요합니다.

NextgenAI는 이 지점부터 함께 봅니다. 업무 흐름을 뜯어 기밀이 지나는 경로와 반복 작업이 몰린 병목을 찾고, 열어도 되는 범위와 막아야 할 범위를 현장에 적용되는 형태로 정리합니다.

👇 NextgenAI는 AX 벤치마크 진단을 열어뒀습니다.
여덟 개 문항에 답하면 도입 단계, 도구 스택, 실무 적용, 예산 확보, 경영진 주도 다섯 개 축으로 나눠 동종업계 평균과 비교해 드립니다.