AX 컨설팅2026.09.10읽는 시간 12분
AI 담당자, 부서마다 둬야 하나? 판단 3가지
인원수가 아니라 업무 종류로 갈립니다. 부서별 AI 담당자를 둘지 판단하는 기준 3가지와 지정 4단계를 정리합니다.
—VIEWS
—LIKES
—SAVES
인원수가 아니라 업무 종류로 갈립니다. 부서별 AI 담당자를 둘지 판단하는 기준 3가지와 지정 4단계를 정리합니다.
AI 도구는 회사가 사줬는데 부서마다 쓰는 모습이 다릅니다. 어떤 팀은 보고서 초안을 AI로 뽑아 쓰고, 어떤 팀은 계정만 열어둔 채 그대로입니다. 막히면 IT팀에 물어보라고 안내했는데 IT팀은 "그 업무를 우리가 몰라서 답을 못 준다"고 합니다. 그래서 나오는 질문이 "부서마다 AI 담당을 한 명씩 둬야 하나?"입니다. 이 글은 AI 담당자가 실제로 무슨 일을 하는 자리인지, 우리 회사가 지금 부서별로 둘 단계인지, 둔다면 무엇부터 정해야 하는지를 판단 기준과 4단계로 정리합니다.
결론부터 말하면, 부서별 AI 담당자는 인원이 늘어서 두는 자리가 아닙니다. 업무 맥락을 IT팀이 대신 설명할 수 없을 때 두는 자리입니다. 그래서 판단 기준도 직원 수가 아니라 업무의 종류입니다.
AI 담당자는 부서 안에서 AI를 어디에 쓸지, 어디에는 쓰면 안 되는지를 판단하고 그 기준을 동료에게 전달하는 사람입니다. 도구를 대신 조작해 주는 사람도, AI를 개발하는 사람도 아닙니다. 그 부서의 업무를 이미 알고 있는 현업 직원이 겸직으로 맡는 형태가 일반적입니다.
AI 담당자가 실제로 하는 일은 세 가지로 좁혀집니다. 첫째, 부서 업무 중 AI에 맡길 만한 후보를 골라냅니다. 둘째, 팀에서 나온 결과물이 쓸 만한지 판단하는 기준을 정합니다. 셋째, 고객 정보나 미공개 자료처럼 외부 도구에 넣으면 안 되는 데이터의 경계를 팀에 알립니다. 세 가지 모두 그 부서의 업무를 아는 사람만 답할 수 있습니다.
IT 부서가 맡는 역할과는 층이 다릅니다. IT 부서는 어떤 도구를 계약할지, 계정과 접근 권한을 어떻게 통제할지, 사내 시스템과 어떻게 연결할지를 정합니다. AI 담당자는 그 도구를 자기 부서의 어떤 업무에 붙일지를 정합니다. 도구 선택과 업무 선택은 서로 다른 질문입니다. 한 사람이 둘 다 답하기 어렵습니다.
두 방식은 속도와 정확도에서 갈립니다. IT 한 팀이 전사 AI를 맡으면 도구 기준은 통일되지만 업무 적용이 늦어집니다. 부서마다 담당을 두면 적용은 빨라지지만 기준이 흩어질 위험이 생깁니다. 아래 표는 여섯 가지 항목에서 두 방식이 어떻게 다른지 보여줍니다.
구분 | IT 한 팀이 전담 | 부서마다 담당자 |
|---|---|---|
적용 업무를 고르는 사람 | IT 담당자가 부서에 물어서 정함 | 그 업무를 하는 부서가 직접 정함 |
요청 처리 속도 | 부서 요청이 한 창구에 쌓여 대기 발생 | 부서 안에서 즉시 판단 |
결과물 판단 기준 | 부서별 품질 기준을 IT가 알기 어려움 | 업무를 아는 사람이 기준 설정 |
보안·데이터 통제 | 통일된 기준 적용에 유리 | 부서마다 해석이 갈릴 위험 |
도구 계약·비용 관리 | 중앙에서 일괄 관리 | 부서별 중복 구매가 생기기 쉬움 |
확산 속도 | 파일럿에서 멈추기 쉬움 | 팀 단위 사례가 빠르게 늘어남 |
표의 결론은 하나입니다. 부서별 담당자는 IT 부서를 대체하는 자리가 아니라 IT가 통제하는 기준 위에서 업무 적용을 앞당기는 자리입니다. 둘 중 하나를 고르는 문제가 아니라 역할을 나누는 문제입니다.
지금 이 질문이 나오는 이유는 AI 도입 결정은 이미 끝났는데 실행 주체가 한쪽에 몰려 있기 때문입니다. CIO Korea가 발표한 2026 IT 전망 조사에 따르면, 국내 기업에서 생성형 AI 프로젝트의 실행과 운영을 주도하는 조직은 CIO·IT 부서가 37.5%로 가장 많고 CTO·기술 연구개발 부서가 26.0%, AI 전담 조직이나 AI 센터가 23.9%입니다. 반면 현업 부서, 경영기획 부서, 전사 TF 같은 응답은 15% 내외에 머물렀습니다. 도구를 다루는 조직은 정해졌지만 그 도구를 쓸 업무를 정하는 조직은 아직 비어 있는 셈입니다.
사용 격차도 같은 곳에서 생깁니다. 갤럽이 2025년 4분기에 미국 근로자 22,368명을 조사한 결과, 업무에 AI를 쓴다고 답한 비율은 리더 69%, 관리자 55%, 실무자 40%로 계층에 따라 벌어졌습니다. 도입을 결정하는 사람과 실제로 그 업무를 하는 사람 사이에 전달자가 없으면 회사가 산 도구는 실무 단계에서 멈춥니다. 부서 안에서 같은 업무를 하는 동료가 "이 업무는 이렇게 쓰면 된다"고 말해 줄 때 격차가 줄어듭니다.
교육만으로는 이 간격이 메워지지 않습니다. 캐럿글로벌이 2026년 발표한 「한국기업 AI 활용 현황」 조사에서 AI 교육을 진행한 기업은 76.3%였지만 생성형 AI를 전사에 내재화했다고 답한 기업은 6.7%에 그쳤습니다. 교육은 받았는데 각자의 업무로 돌아가면 어디에 적용할지 모르는 상태가 남습니다. 부서별 담당자는 교육 이후의 이 공백을 맡습니다.
부서마다 활용 수준이 왜 벌어지는지 더 자세한 원인은 직원 AI 격차의 원인 3가지에서 다룹니다.
부서의 업무가 정형화된 문서 작업 위주라면 IT 부서가 대신 정리해도 무리가 없습니다. 반대로 고객 응대 이력, 계약 조건, 임상 기록처럼 판단 근거가 업무 안에 숨어 있으면 IT 부서는 후보를 고를 수 없습니다. 부서 담당자가 필요한 쪽은 후자입니다.
직원이 막혔을 때 사내에 물어볼 사람이 없으면 각자 개인 계정과 개인 판단으로 쓰기 시작합니다. 회사가 관리하지 못하는 이 사용을 흔히 섀도 AI라고 부릅니다. 승인되지 않은 도구에 회사 자료가 들어가는 경로가 됩니다. 부서 안에 물어볼 자리가 있으면 이 흐름이 사내로 되돌아옵니다.
마케팅 문구의 합격 기준과 재무 보고서의 합격 기준은 같을 수 없습니다. 부서마다 "이 정도면 쓸 만하다"의 선이 다르면 그 선을 정할 사람도 부서 안에 있어야 합니다. 기준이 하나로 통일 가능한 회사라면 중앙에서 관리해도 됩니다.
담당자를 먼저 뽑지 말고 업무부터 모읍니다. 각 부서에서 반복되고 시간이 많이 드는 업무를 10건 이상 적게 합니다. 그중 AI에 맡겼을 때 틀려도 사람이 바로 잡을 수 있는 업무를 표시합니다. 후보가 10건에 못 미치는 부서는 아직 담당자를 둘 단계가 아닙니다.
"AI 담당"이라는 이름만 주면 담당자는 도구 문의 창구가 됩니다. 역할을 세 줄로 적어 공유합니다. 우리 부서에서 AI에 맡길 업무를 고른다, 결과물의 합격 기준을 정한다, 넣으면 안 되는 데이터를 팀에 알린다. 권한도 함께 적습니다. 도구 구매 권한이 있는지, 다른 부서 기준을 바꿀 수 있는지를 미리 정해야 나중에 충돌하지 않습니다.
겸직 담당자가 실패하는 가장 흔한 이유는 시간이 없어서입니다. 주 3~4시간을 공식 업무 시간으로 배정하고 팀장 평가에 반영합니다. 시간 배정이 어렵다면 담당자를 여러 명 두기보다 부서 2~3곳에서 먼저 시작하는 편이 낫습니다.
시작 시점에 부서별 AI 사용 인원과 처리 건수를 기록해 둡니다. 4~8주 뒤 같은 항목으로 다시 셉니다. 담당자를 둔 부서와 두지 않은 부서를 나눠 비교하면 제도를 확대할지 접을지 판단할 수 있습니다. 측정 항목을 미리 정하지 않으면 6개월 뒤에도 "잘 되는 것 같다"는 말만 남습니다.
다음 항목 중 3개 이상 해당하면 부서별 담당자 지정을 검토할 때입니다. 5개 이상이면 조직 역량 진단부터 먼저 하는 편이 낫습니다.
부서마다 AI 사용 수준이 눈에 띄게 다릅니다
같은 도구를 배포했는데 팀별 활용 편차가 큰 상태입니다.
AI 관련 문의가 IT팀 한 곳에 쌓여 처리가 밀립니다
현업이 답을 기다리는 시간이 길어집니다.
전사 교육을 했지만 실제 업무에 적용된 사례를 대기 어렵습니다
교육과 업무를 잇는 연결 고리가 없습니다.
직원이 개인 계정으로 외부 AI 도구를 쓰는 정황이 있습니다
회사가 파악하지 못하는 사용이 번지고 있습니다.
부서별로 어떤 자료를 AI에 넣어도 되는지 해석이 갈립니다
데이터 반입 기준이 공유되지 않았습니다.
파일럿은 끝났는데 다음 확산 단계를 맡을 사람이 정해지지 않았습니다
검증 결과를 이어받을 주체가 없습니다.
부서별 담당자 제도는 새 인력을 뽑는 일이 아니라 기존 직원의 시간을 떼어 내는 일입니다. 그래서 비용의 대부분은 인건비가 아니라 배정한 시간입니다.
단계 | 기간 | 필요한 자원 |
|---|---|---|
업무 후보 수집 | 1~2주 | 부서당 실무자 1~2명, 회당 1시간 |
역할·권한 문서화 | 1주 | 인사·IT 협의 1회, 문서 1장 |
담당자 활동 | 상시 | 담당자 1인당 주 3~4시간 |
성과 재측정 | 4~8주 뒤 | 시작 시점과 동일한 항목 측정 |
시작 규모는 전 부서가 아니라 부서 2~3곳이 적당합니다. 처음부터 모든 부서에 담당자를 지정하면 역할이 정착되기 전에 이름만 남습니다.
데이터 반입 기준을 어디까지 회사가 정해야 하는지는 AI 거버넌스가 없을 때 생기는 문제에서 확인할 수 있습니다.
담당자를 지정하는 일과 담당자가 제 역할을 하는 일은 다릅니다. 지정만 끝난 조직에서 가장 자주 나오는 다음 질문은 "이 사람에게 무엇을 어디까지 가르쳐야 하나"입니다. 부서에서 AI 적용을 이끄는 이런 내부 인력을 사내 AI 챔피언이라고 부릅니다. 필요한 역량과 육성 순서는 담당자 지정과는 별개의 주제입니다. 그래서 다음 단계로 「사내 AI 챔피언(전문가)은 어떻게 키우나?」가 필요합니다.
지금 조직의 역량 수준부터 확인하려면 AI 리터러시 4가지 역량 진단법을, 담당자들이 모인 다음의 운영 조직 설계는 AI CoE 운영 모델과 역할을 참고하시면 됩니다. 조직 관점의 전체 그림은 AX 컨설팅 가이드에 정리돼 있습니다.
부서별 담당자를 둘지 판단하려면 부서마다 AI에 맡길 업무가 실제로 몇 건인지부터 세어야 합니다. 넥스트젠AI의 무료 AX 진단은 부서별 업무 후보와 현재 활용 수준을 함께 확인해 어느 부서부터 담당자를 지정할지 판단할 근거를 제공합니다. 진단은 온라인 문의 후 1회 미팅으로 시작합니다.
대부분 추가 인건비는 들지 않습니다. AI 담당자는 신규 채용이 아니라 현업 직원의 겸직으로 시작하는 형태가 일반적이고, 실제 비용은 주 3~4시간의 업무 시간입니다. 다만 그 시간을 평가에 반영하지 않으면 배정이 유명무실해집니다.
RELATED · 함께 읽으면 좋은 글
