AI 도입, 왜 많은 기업이 ‘성과’까지 가지 못할까

최근 흥미로운 움직임이 하나 있었다.
AI 기업 Anthropic이 Blackstone을 포함한 글로벌 사모펀드들과 함께
AI 컨설팅 형태의 합작사를 논의 중이라는 소식이다.
단순히 AI 기술을 제공하는 것이 아니라,
투자사 포트폴리오 기업에 직접 AI를 적용하고 운영까지 돕는 구조다.
이 모델은 과거 Palantir가 성장해온 방식과 유사하다.
이 흐름은 하나의 중요한 질문을 던진다.
왜 AI 기업들조차
“모델 제공”을 넘어서
“실행과 적용” 영역으로 들어가고 있는가.
이미 도입은 충분히 이루어졌다
AI 도입 자체는 더 이상 문제라고 보기 어렵다.
McKinsey의 2025년 보고서에 따르면
이미 기업의 71%가 생성형 AI를 정기적으로 활용하고 있으며,
92%의 기업이 향후 3년간 AI 투자를 확대할 계획이라고 답했다.
AI는 더 이상 실험 단계가 아니다.
이미 대부분의 기업이
“무언가는 하고 있는 상태”다.
그런데 왜 성과는 제한적인가
문제는 그 다음 단계다.
BCG에 따르면
기업의 74%가 AI에서 의미 있는 가치를 만들고 확장하는 데 어려움을 겪고 있으며,
실제로
조직 차원에서 상당한 성과를 만들고 있는 기업은 4% 수준에 불과하다.
즉,
“도입”과 “성과” 사이에는
여전히 큰 간극이 존재한다.
대부분의 실패는 기술 문제가 아니다
이 간극은 기술 때문이 아니다.
현장에서 반복적으로 나타나는 패턴은 매우 유사하다.
- 어떤 업무에 적용할지 정의되지 않았고
- 데이터는 정리되어 있지 않으며
- 기존 시스템과 연결이 어렵고
- 조직은 새로운 방식에 적응하지 못한다
McKinsey 역시
AI 성과 창출의 핵심 요소로
**“workflow redesign (업무 재설계)”**를 가장 중요하게 지목한다.
AI는 단순히 붙이는 기술이 아니라
일하는 방식을 바꾸는 기술이다.
그래서 AI 기업들도 방향을 바꾸고 있다
이 지점에서 Anthropic의 전략이 이해된다.
Anthropic은 이미
연간 환산 매출 약 190억 달러 규모까지 성장했음에도 불구하고
모델 판매를 넘어서
기업 내부 적용을 돕는 컨설팅 형태의 사업을 검토하고 있다.
OpenAI 역시
기업 맞춤형 AI 구축을 위한 조직을 확대하고 있으며,
대기업 고객을 대상으로
엔지니어와 리서처가 직접 들어가
업무 자동화 시스템을 설계하는 방식으로 움직이고 있다.
이제 AI 기업들도 알고 있는 것이다.
모델만 제공해서는
고객이 성과를 만들 수 없다는 것을.
특히 투자사들이 빠르게 움직이는 이유
Blackstone과 같은 사모펀드는
250개 이상의 포트폴리오 기업을 보유하고 있다.
이 기업들에 AI를 적용하면:
- 인건비 절감
- 생산성 향상
- 운영 효율 개선
이 변화는 곧바로
기업 가치 상승으로 연결된다.
그래서 이제는
AI를 “도입할지”가 아니라
“얼마나 빠르게 적용할 수 있는지”가
핵심 경쟁력이 된다.
많은 기업이 잘못된 질문에서 시작한다
대부분의 기업은 AI 도입을 고민할 때
이 질문부터 한다.
“어떤 AI 툴을 써야 할까?”
하지만 실제로 중요한 질문은 이것이다.
- 어떤 업무가 반복되고 있는가
- 어디에서 시간이 낭비되고 있는가
- 무엇을 자동화할 수 있는가
이 정의 없이 시작된 AI 프로젝트는
대부분 PoC 단계에서 멈춘다.
BCG에 따르면
기업의 60%가 AI 성과를 측정할 KPI조차 명확히 정의하지 못하고 있다.
성과를 측정할 수 없으면
성과는 만들어지지 않는다.
결국 AI 도입의 본질
지금 시점에서 AI 도입의 본질은 명확하다.
기술의 문제가 아니라
실행 구조의 문제다.
- 업무를 어떻게 바꿀 것인가
- 데이터를 어떻게 연결할 것인가
- 조직이 어떻게 활용할 것인가
- 성과를 어떻게 측정할 것인가
이 구조가 만들어지지 않으면
AI는 도입되어도 작동하지 않는다.
하나의 변화
그래서 지금 시장은 빠르게 바뀌고 있다.
“누가 더 좋은 AI를 만들었는가”에서
“누가 실제로 기업에 적용할 수 있는가”로
경쟁의 기준이 이동하고 있다.
Anthropic의 이번 움직임은
그 변화가 시작되었다는 신호에 가깝다.
마무리
AI는 이미 준비되어 있다.
문제는 기술이 아니라
그 기술을 실제로 작동시키는 방식이다.
그리고 이 간극이
지금 대부분의 기업이 겪고 있는 가장 큰 문제다.
마지막 질문
지금 조직에서 AI를 쓰고 있다면
한 번은 이 질문을 해볼 필요가 있다.
“우리는 AI를 도입한 것인가,
아니면 실제로 성과를 만들고 있는가”
필요하다면
현재 상태를 기준으로 어디서부터 정리해야 하는지
간단하게 점검해보는 것만으로도
AI 도입의 방향은 훨씬 명확해질 수 있다.
📌 참고 자료
- McKinsey, The State of AI (2025)
- McKinsey, Superagency in the Workplace (2025)
- BCG, Where’s the Value in AI? (2024~2025)
- Deloitte, State of Generative AI in the Enterprise
- The Information, Anthropic in Talks With Blackstone (2026)