공공기관 AI 도입, 민간과 무엇이 다른가
애로는 같은데 격차는 벌어집니다 — 관건은 정착 구조

애로는 같은데 격차는 벌어집니다 — 관건은 정착 구조

공공기관 담당자에게 AI 도입의 어려움을 물어보면 답이 민간과 거의 같습니다. “전문인력이 없다”, “예산이 빠듯하다”, “보안이 걸린다”, “학습시킬 데이터가 마땅치 않다”. 실제 서울시 공무원 설문에서도 체감 애로 1순위는 ‘전문인력·기술력 부족’이었고, 예산·보안·데이터가 뒤를 이었습니다. 이 글은 공공기관 AI 도입이 민간과 무엇이 다른지, 그리고 무엇을 준비해야 하는지를 정리합니다.
그런데 결과는 다르게 나타납니다. 같은 애로를 안고 있어도 공공과 민간의 도입 격차는 좁혀지기는커녕 벌어지고 있습니다. 문제의 종류가 같은데 결과가 다르다면, 원인은 문제 자체가 아니라 그 문제에 대응하는 구조에 있다는 뜻입니다.
공공이 더뎠던 진짜 이유는 조직 구조에 있었습니다. 그동안 많은 기관이 정보화 담당자가 AI 업무를 겸직하고, AI 사업을 단발성 시범 과제로 처리해 왔습니다. 담당자 한 명이 본업과 AI를 같이 짊어지니 깊이 파고들 수 없고, 시범 사업은 끝나면 그대로 서랍에 들어갔습니다.
2026년의 변화는 바로 이 지점을 겨눕니다. 공공기관 예산운용지침에 ‘AI 투자 항목’이 명시되고, 정보화 담당 겸직에서 벗어나 AI 전담 인력을 두도록 유도하기 시작했습니다. 돈을 얼마 쓰느냐보다 누가 책임지고 이 일을 끌고 갈지를 먼저 정한 것으로, 조직 구조가 먼저 바뀌어야 나머지가 따라온다는 판단입니다.
공공부문 AI 투자 규모 자체는 이미 크게 늘었습니다. AI 관련 용역 계약은 2024년 2조 8,207억 원으로, 2015년 2,443억 원과 비교하면 약 11.5배입니다. 생성형 AI 도입 계약도 2023년 24건에서 2024년 42건으로 한 해 만에 75% 늘었습니다.
하지만 2026년 제도 변화의 핵심은 이 ‘금액’이 아니라, 돈이 실제 정착으로 이어지게 만드는 장치들입니다.
구분 | 과거 방식 | 2026년 이후 변화 |
|---|---|---|
담당 조직 | 정보화 담당이 AI 겸직 | AI 전담 인력 확보 유도 |
사업 성격 | 단발성 시범 과제 | 예산 지침에 AI 투자 항목 명시 |
책임·평가 | 활용해도 그만 | 경영평가 반영, 통합공시 의무화 |
확산 체계 | 기관별 개별 추진 | 공운위 산하 AI 소위, 선도기관 지정 |
출처: 기획재정부·공공기관운영위원회 (2025~2026)
특히 AI 조직·인력·예산·활용 실적을 통합공시로 의무화하고 경영평가에 반영한 것이 핵심입니다. AI 활용이 ‘해도 그만’이 아니라 평가와 책임으로 연결된 것으로, 이는 민간에서 AI 활용을 평가·보상과 연결하는 논리와 정확히 같습니다.
기관 간 편차를 보면 문제의 본질이 더 분명해집니다. 광역지자체 도입률은 82.4%인데, 지방공기업을 포함한 공공기관 전체는 50.7%에 그칩니다.
앞서가는 몇몇 기관은 이미 성과를 내고 있습니다. 국민권익위원회는 국민신문고에 AI 민원 응답 시스템을 시범 도입했고, 경기도청은 챗봇으로 전화·방문 상담 부담을 줄였습니다. 서울시는 다국어 민원 응대 AI 챗봇으로 외국인 주민의 접근성을 높였습니다.
문제는 이 성과가 다른 기관으로, 또 한 기관 안에서도 다른 부서로 잘 번지지 않는다는 점입니다. 선도기관 몇 곳의 사례가 전체의 방식으로 확산되지 못하는 것은, 민간에서 ‘잘 쓰는 한두 명의 개인기로만 남는’ 현상과 똑같은 병목입니다. 도입 자체보다 확산과 정착이 관건이라는 신호입니다.
정보화 담당 겸직으로 두지 말고, AI 도입을 끌고 갈 전담 인력이나 조직을 먼저 세웁니다. 책임자가 없으면 어떤 사업도 시범에서 끝납니다.
잘된 민원 챗봇, 문서 자동작성 사례를 매뉴얼과 가이드로 남기고 다른 부서가 그대로 쓸 수 있게 합니다. 그리고 그 활용 실적을 평가·공시로 연결해 확산이 멈추지 않게 합니다.
AI 도입을 책임지고 끌고 갈 전담 인력이나 조직이 없다.
AI 사업이 단발성 시범으로 끝나고 다음으로 이어지는 계획이 없다.
한 부서의 성공 사례를 다른 부서가 쓸 수 있게 공유하는 통로가 없다.
내부망·보안 조건 안에서 AI를 안전하게 쓸 가이드라인이 없다.
AI 활용 실적이 경영평가·공시와 연결돼 있지 않다.
다섯 가지 중 3개 이상 해당한다면, 예산을 늘리기 전에 전담 조직과 확산 구조부터 세울 때입니다. 이 점검이 우리 기관이 ‘시범’에서 멈출지, ‘정착’으로 나아갈지를 가릅니다.
공공기관 AI 도입에서 비용은 개별 기관이 온전히 떠안는 구조가 아닙니다. 정부가 ‘공공부문 초거대 AI 도입·활용 가이드라인 2.0’을 내놓아 내부망에서도 민간 AI를 안전하게 쓰도록 길을 열었고, 공개 행정문서를 연계해 문서 자동작성·민원 녹취 요약·규제 내비게이터 같은 기능을 쓸 수 있게 했습니다. 또 공운위 산하에 AI 소위원회를 두고, NIA·NIPA·KISA 같은 전문기관이 서포터즈로 지원하며, 5개 분야 10개 선도기관을 지정해 참고 모델을 만들고 있습니다. 즉 개별 기관의 예산 규모보다, 이 제도 인프라를 얼마나 활용하느냐가 실제 비용을 좌우합니다.
공공에서 가장 흔한 실패는 ‘성공한 시범 사업’입니다. 한 부서가 챗봇을 잘 만들어 성과 보고까지 끝냈는데, 사업이 종료되면 그 노하우가 담당자와 함께 사라집니다. 다른 부서는 그런 게 있었는지도 모릅니다. 예산은 집행됐고 보고서도 훌륭한데, 기관 전체의 일하는 방식은 그대로입니다. 이런 일이 반복되는 이유는 확산을 책임지는 구조가 없기 때문이며, 2026년의 통합공시·경영평가 반영은 바로 이 실패를 막으려는 장치입니다.
정리하면 공공과 민간의 AI 도입 애로는 거의 같지만, 공공은 겸직·시범이라는 대응 구조 탓에 격차가 벌어졌습니다. 2026년의 변화는 예산 금액이 아니라 전담 조직·평가·공시라는 구조를 바꾸는 데 초점이 있습니다. 이 질문을 우리 기관으로 가져오면 이렇게 됩니다. 우리 기관의 AI는 아직 담당자 한 명이 겸직으로 붙들고 있는 시범 과제일까요, 아니면 여러 부서가 같은 방식으로 쓰기 시작한 단계일까요? 시범에서 멈추지 않는 정착 구조를 어떻게 짤지 막막하다면, NextGenAI의 AX 진단이 기관의 업무를 인벤토리로 정리해 자동화 가능성과 임팩트를 분류하고, 전담 체계와 확산·평가 연계까지 이어지는 로드맵을 함께 그립니다. 도입 자체보다 조직에 남는 AX가 궁금하다면, 부담 없이 진단부터 시작해 보세요.
개별 기관이 전부 부담하는 구조가 아닙니다. 정부가 가이드라인·전문기관 지원·선도기관 지정 등 제도 인프라를 제공하고, 2026년 예산 지침에 AI 투자 항목이 명시됐습니다. 따라서 예산 규모 자체보다, 이 제도 지원을 얼마나 활용하고 전담 조직을 세우느냐가 실제 비용을 좌우합니다.
RELATED · 함께 읽으면 좋은 글

도구 도입이 아니라 업무·데이터·조직을 함께 바꾸는 변화입니다. 진단부터 파일럿까지, 어디서 시작할지 정리합니다.

기업 AI 도입이 뭔지, 어디부터 시작하는지 FAQ로 정리했습니다. ChatGPT 지급과의 차이, 시작 4단계, 도입 전 점검 체크리스트, 자주 하는 실수까지 담았습니다.

통제가 아니라 안전한 확산을 위한 운영 체계 — 다섯 가지 핵심 요소와 실무 체크리스트