AI 도입 전략2026.08.04읽는 시간 9분
AI 도구 연결, 왜 어려울까? 준비 3가지
AI가 답은 잘하는데 슬랙·CRM은 못 다루는 이유와, 연결 전에 정해야 할 것들
—VIEWS
—LIKES
—SAVES
AI가 답은 잘하는데 슬랙·CRM은 못 다루는 이유와, 연결 전에 정해야 할 것들
"지난주 고객 미팅 자료 좀 찾아줘." "CRM에서 이 고객 문의 이력 확인해줘." "슬랙에 정리된 결정사항으로 지라 티켓 만들어줘." 사내에서 AI를 써 본 사람이라면 대개 이 지점에서 한 번 막힙니다. 요약도 잘하고 초안도 곧잘 쓰는데 회사 도구 안으로 들어가는 일만은 "제가 직접 접근할 수는 없습니다"로 끝납니다. AI 도구 연결이 왜 이렇게 어려운지, 연결하기 전에 무엇을 먼저 정해야 하는지 정리했습니다.
AI 도구 연결은 기술 과제이기 전에 권한과 업무 흐름을 정리하는 일입니다. 이 순서를 뒤집으면 자동화가 아니라 새로운 리스크가 됩니다.
AI 도구 연결은 AI가 슬랙, 노션, 구글 드라이브, CRM, ERP 같은 업무 시스템의 데이터를 읽고 정해진 범위 안에서 작업까지 실행하도록 통로를 내는 일입니다. 채팅창 안에서 답을 만드는 단계와, 그 답이 실제 시스템에 기록으로 남는 단계는 다릅니다.
이 차이가 도입 효과를 가릅니다. Coveo는 2025년 미국·영국 직원 4,000명을 조사해 EX Relevance Report를 냈습니다. 직원들은 정보를 찾는 데 하루 평균 3시간을 썼고 47%가 파편화된 지식을 생산성의 최대 장애로 꼽았습니다. 이 시간은 답변을 더 잘 쓰는 AI가 아니라 흩어진 곳을 대신 뒤져주는 AI에서 줄어듭니다.
AI가 말을 잘하는 것과 회사 시스템을 직접 다루는 것은 다른 문제이기 때문입니다.
AI는 사용자가 입력한 글과 함께 제공된 자료를 근거로 답을 만듭니다. 여기까지는 언어 능력의 영역입니다. 반면 파일을 저장하고 담당자에게 알리고 일정을 등록하고 티켓을 만드는 일은 각 시스템에 로그인해 권한을 확인받고 기록을 남기는 절차입니다. 챗봇을 도입했는데 업무 시간이 기대만큼 줄지 않는다면 대개 이 구간이 여전히 사람 손에 남아 있습니다.
슬랙, 문서함, CRM, ERP는 로그인 방식도 권한 체계도 데이터 구조도 제각각입니다. 회사의 도구를 방에 비유하면 방마다 열쇠 모양이 다릅니다. "저 방에 가서 자료를 가져와"라고 말해도 열쇠와 출입 규칙이 없으면 AI는 문 앞에서 멈춥니다. 사내 문서를 붙여넣는 방식으로 임시 대응하는 회사가 많은데 이 방법의 한계는 생성형 AI에 사내 문서 연결하는 법에서 더 자세히 다뤘습니다.
두 단계는 준비물도 실패 지점도 다릅니다.
구분 | 일반 AI 챗봇 | 도구가 연결된 AI |
|---|---|---|
입력 | 사용자가 붙여넣은 내용 | 사내 문서와 시스템 데이터 |
할 수 있는 일 | 요약·초안·번역 | 조회·등록·생성·알림 |
결과물 | 화면 안의 텍스트 | 시스템에 남는 기록 |
주된 실패 원인 | 맥락 부족 | 권한 설계와 데이터 품질 |
필요한 준비 | 프롬프트 | 접근 범위·감사 로그·검토 지점 |
담당 부서 | 현업 | 현업 + IT + 보안 |
표의 마지막 행이 도입 난이도를 가장 크게 바꿉니다. 프롬프트는 실무자 혼자 고칠 수 있지만 접근 권한은 혼자 정할 수 없습니다.
다음 세 신호가 겹치면 연결을 검토합니다.
첫째, 같은 질문이 계속 쌓입니다. "연차 기준이 어떻게 되나요", "이 고객 지난 견적이 얼마였죠" 같은 질문이 매주 반복되면 사람이 아니라 시스템이 답해야 할 신호입니다.
둘째, AI 답변이 실행으로 이어지지 않습니다. 보고서 초안까지는 나오는데 저장, 공유, 일정 등록, 티켓 생성이 전부 수작업이라면 절감 효과는 초안 작성 시간에만 갇힙니다.
셋째, 부서마다 도구가 달라 맥락이 끊깁니다. 마케팅은 스프레드시트, 영업은 CRM, 고객지원은 상담 도구를 쓰면 AI도 전체 그림을 볼 수 없습니다.
이 신호가 보인다면 필요한 것은 더 정교한 프롬프트가 아니라 연결 구조입니다. 어디부터 연결할지 전사 관점에서 우선순위를 잡는 방법은 AX 컨설팅 도입 4단계에서 다룹니다.
기술팀에 요청서를 넘기기 전에 다음 세 가지에 답이 나와 있어야 합니다.
첫째, AI가 읽어도 되는 데이터의 범위입니다. 고객 정보, 계약서, 인사 기록, 재무 데이터는 부서와 직급에 따라 접근 범위가 다릅니다. 사람에게 적용하던 등급을 AI에도 그대로 적용하는 것이 출발점입니다.
둘째, AI가 실행해도 되는 행동의 범위입니다. 조회만 허용할지, 초안 생성까지 허용할지, 발송과 등록까지 허용할지를 업무별로 나눠야 합니다. 읽기와 쓰기를 한 번에 여는 방식은 사고가 났을 때 되돌리기 어렵습니다.
셋째, 사람이 검토하는 지점입니다. 고객에게 나가는 메일, 금액이 걸린 문서, 외부 공개물은 최종 확인을 사람이 맡는 편이 안전합니다. 이 지점을 정해두면 감사 로그도 함께 설계됩니다.
이 세 가지가 정리되지 않은 상태로 연결부터 만들면 비용이 커집니다. IBM의 2025년 Cost of a Data Breach 보고서에서 통제되지 않은 AI 사용이 얽힌 침해는 평균 463만 달러로 전체 평균보다 약 67만 달러 높게 나타났습니다. 권한 설계를 뒤로 미룬 대가가 사고 한 건에 몰려 나온다는 뜻입니다. 조직 차원의 규칙을 세우는 절차는 AI 도입 거버넌스 구축 가이드에 정리돼 있습니다.
다음 항목 중 3개 이상 해당하면 연결을 본격적으로 검토할 시점입니다.
사내 문서가 어디 있는지 담당자만 안다
위치가 사람에게 묶여 있으면 담당자 부재가 곧 업무 정지입니다.
같은 질문이 매주 반복해서 들어온다
규정·이력 조회처럼 답이 정해진 질문은 시스템이 받아야 합니다.
AI 결과물을 사람이 다시 시스템에 옮겨 적는다
복사·붙여넣기 구간이 남아 있으면 절감 효과가 초안 작성에만 갇힙니다.
부서별로 쓰는 도구가 3개 이상으로 갈라져 있다
맥락이 도구 경계에서 끊기면 AI도 전체 그림을 못 봅니다.
AI가 접근해도 되는 데이터 등급이 문서로 없다
사람 기준 권한 등급을 AI에 옮길 근거가 없다는 뜻입니다.
AI 사용 로그를 확인할 방법이 없다
사고가 나도 무엇이 어떻게 나갔는지 추적할 수 없습니다.
앞의 세 항목은 연결의 효용을, 뒤의 세 항목은 연결 전 정비해야 할 부채를 가리킵니다. 뒤쪽에만 체크가 몰린다면 연결보다 정리가 먼저입니다.
문서 품질이 답변 품질을 그대로 결정하는 구조는 RAG란 무엇인가에서 원리로 정리했습니다.
여기까지 오면 질문이 바뀝니다. "AI를 어떻게 더 잘 쓸까"에서 "AI를 우리 도구와 어떻게 안전하게 잇을까"로 옮겨갑니다. 이 지점에서 MCP, 즉 모델 컨텍스트 프로토콜이 등장합니다.
MCP는 AI 애플리케이션과 외부 데이터·도구를 잇는 방식을 표준화하려는 공개 프로토콜입니다. 도구마다 매번 다른 연결 코드를 새로 만드는 대신, 공통 규격으로 데이터와 기능을 노출하자는 발상입니다. 이미 실무에 들어와 있는 흐름이기도 합니다. Stacklok이 2025년 12월 실무자 300명에게 물었더니 MCP를 도입한 조직의 41%가 이미 프로덕션 환경에서 운영 중이었고 가장 큰 과제로는 보안과 접근 통제가 꼽혔습니다.
다만 순서는 그대로입니다. 표준이 생겨도 무엇을 읽히고 무엇을 실행시킬지는 회사가 정합니다. MCP를 다룬 다음 글에서 이 규격이 실제로 무엇을 바꾸는지 이어서 살펴봅니다.
권한 등급, 반복 업무, 검토 지점 세 가지만 정리해도 AI 도구 연결은 개발 과제가 아니라 실행 계획이 됩니다. 어디서 막혀 있는지는 대체로 첫 미팅에서 드러납니다. NextGenAI의 무료 AX 진단에서는 현재 쓰는 도구와 반복 업무를 함께 훑고 연결 우선순위와 정비가 필요한 구간을 목록으로 정리해 드립니다. 상담 신청은 홈페이지 하단 문의 폼에서 받습니다.
AI가 슬랙, 문서함, CRM, 데이터베이스 같은 외부 업무 도구의 데이터를 읽고 정해진 범위 안에서 작업까지 실행하도록 통로를 만드는 일입니다. 채팅창 안에서 답을 만드는 단계를 넘어 결과가 실제 시스템에 기록으로 남는 것이 핵심입니다.
RELATED · 함께 읽으면 좋은 글
