AI 성숙도: 조직에 미치는 의미

AI 성숙도의 의미

AI 성숙도는 단순한 AI 도구 도입을 넘어 조직의 AI 활용이 얼마나 발전했고 신중하게 이루어지는지 측정합니다. 대부분의 프레임워크에서는 이를 초기 비정형적 실험에서 완전한 AI 통합으로 나아가는 AI 성숙도 모델로 설명합니다.

가장 초기 단계에서는 소수의 직원이 자발적으로 AI를 사용합니다. 누구의 승인도 받지 않았고 교육받은 사람도 없습니다. 결과는 일관성이 없으며, 다른 사람이 그 작업을 다시 재사용하는 경우는 거의 없습니다.

다음 단계에서는 팀들이 체계적인 파일럿을 운영합니다. 특정 부서가 하나의 작업을 선택해 AI로 실행하고 효과가 있었는지 측정합니다. 의료 자격증 시험을 주관하는 비영리 단체인 Inteleos는 난이도가 낮은 퀴즈 문항 작성을 돕기 위해 Perplexity Enterprise를 도입했습니다. 파일럿이 성공을 거두자 Perplexity는 Inteleos 팀의 88%로 확대 적용되었습니다.

기업이 AI 성숙도를 높여감에 따라, 표준 워크플로우에 AI 도구를 구축하고 이를 기업 데이터 및 시스템에 연결하기 시작합니다. 예를 들어 Paypal의 기업 리스크 팀은 표준 보안 워크플로우의 일환으로 Perplexity를 사용하여 소유권 세부 정보를 상호 참조하고 의심스러운 계정을 표시함으로써 ID를 확인합니다.

그리고 가장 성숙한 단계에서는 AI를 완전히 통합하도록 제품, 비즈니스 모델 또는 운영을 조정합니다. 또한 작업을 서로 넘겨주는 에이전틱 AI 시스템 및 모델을 사용할 수도 있습니다. 예를 들어 Rox의 경우 AI가 제품 자체에 내장되어 있습니다. 에이전트는 영업 리서치 및 CRM 유지보수의 일부를 자동화하고, Perplexity의 API는 이러한 워크플로우를 지원하는 외부 인텔리전스를 제공합니다.

AI 성숙도가 중요한 이유

맥킨지의 2026년 설문조사 응답자의 80%가 보고한 바와 같이, AI를 통한 개인 생산성 향상은 비교적 흔합니다. 하지만 조직의 EBIT에 기여했다고 답한 비율은 37%에 불과합니다.

결과의 차이는 기업의 AI 활용 성숙도와 관련이 있는 것으로 보입니다. 응답자의 약 6%에 해당하는 맥킨지의 AI 고성과자들은 AI가 EBIT의 최소 5% 이상에 기여한다고 평가하며 그 가치가 상당하다고 설명합니다.

성숙한 AI 프로그램을 갖춘 기업들은 다음과 같은 공통적인 핵심 행동 양식을 공유합니다.

• AI 솔루션을 중심으로 워크플로우를 재조정했습니다. 맥킨지 고성과자의 거의 4분의 3이 AI로 인해 워크플로우를 재설계했으며, 이는 다른 응답자의 4분의 1과 비교됩니다.
• 시니어 리더십이 AI 활용에 전념하고 있습니다. 임원 1,250명을 대상으로 한 BCG의 2025년 연구에 따르면, AI 성숙도 점수가 가장 높은 상위 5% 기업 중 거의 전원이 긴밀하게 참여하는 C-레벨을 보고한 반면, 점수가 가장 낮은 하위 60% 기업에서는 그 비율이 8%에 불과했습니다.
• 직원을 위한 AI 스킬 개발을 우선시합니다. 최고 점수를 받은 동일한 기업들은 그해 전체 인력의 50% 이상을 대상으로 AI 교육을 실시할 것으로 예상한 반면, 최저 점수를 받은 기업은 20%였습니다.
• 에이전틱 AI 솔루션을 도입했습니다. 맥킨지 고성과자들은 대부분의 비즈니스 기능에서 에이전트를 확장하고 있을 가능성이 3배 이상 높았습니다.

AI 성숙도: 인기 있는 프레임워크

가트너의 AI 성숙도 모델은 AI가 프로세스에 얼마나 잘 통합되어 있는지를 바탕으로 조직의 성숙도를 평가합니다. 전략, 데이터, 거버넌스, 엔지니어링, 운영 모델, 문화, AI 가치 등 7개 영역에 걸쳐 조직을 개별적으로 평가합니다. 그 후 조직은 다음 5개 단계 중 하나로 분류됩니다.

• 기반 단계(Foundational): 실험적 사용, 미흡한 조율
• 신흥 단계(Emerging): 초기 파일럿 실행, 임원진의 일부 관심
• 운영 단계(Operational): 비즈니스 프로세스에서 AI 사용
• 확장 단계(Scaled): 여러 기능에 걸쳐 AI를 사용하며 측정 가능한 ROI 창출
• 변혁 단계(Transformational): 의사결정과 운영 모델에 영향을 미치고 의미 있는 경쟁 우위를 창출하는 AI

딜로이트의 AI 자동화 성숙도 모델은 기업의 프로세스에 에이전트가 얼마나 깊이 내장되어 있는지에 따라 성숙도를 구체적으로 측정합니다.

• 레벨 1: 에이전트가 포함되지 않은 표준 자동화.
• 레벨 2: 기본 자동화, 기존 프로세스에 에이전트 도입.
• 레벨 3: 에이전트가 수행할 수 있는 작업을 중심으로 프로세스가 적극적으로 재설계됨.
• 레벨 4: 조직 자체가 AI 역량을 중심으로 재조정됨.

구글 클라우드의 AI 도입 프레임워크는 3단계에 걸쳐 성숙도를 추적합니다.

• 전술적 단계(Tactical): 단순하고 좁은 범위의 AI 사용 사례로, 향후 계획에 대한 일관된 계획이 없는 경우가 많음.
• 전략적 단계(Strategic): 여러 시스템이 프로덕션 환경에 배포 및 유지 관리되며 지속 가능한 비즈니스 가치를 제공하는 AI.
• 변혁적 단계(Transformational): AI가 조직의 핵심이 되어 혁신을 주도하고 추가 확장을 위한 구조의 지원을 받음.

또한 성숙도를 6가지 테마로 나누며, 각 테마는 사람, 프로세스, 기술, 데이터라는 4가지 핵심 영역이 교차하는 지점에서 형성됩니다.

• 학습(Learn): AI 스킬을 구축하기 위한 프로그램의 품질과 규모.
• 리더십(Lead): 리더십의 지원과 팀 간의 조율이 이루어지는지 여부.
• 액세스(Access): 조직 전체에서 데이터와 AI 자산을 얼마나 쉽게 공유하고 재사용할 수 있는지 여부.
• 확장(Scale): 클라우드 네이티브 서비스가 실제 규모의 AI 워크로드를 처리할 수 있는지 여부.
• 보안(Secure): 데이터와 AI 시스템이 얼마나 잘 보호되고 책임감 있게 거버넌스되는지 여부.
• 자동화(Automate): 프로덕션 환경에서 AI 시스템이 얼마나 안정적으로 실행되는지 여부.

프레임워크마다 초점과 측정 방식은 다르지만 비정형적 실험, 리더십 지원을 받는 파일럿, 일상 업무에 내장된 AI, 마지막으로 조직 자체를 재편하는 AI라는 동일한 성숙도 여정을 보여줍니다.

AI 성숙도: 공통적인 장애물

조직의 AI 성숙도를 가로막는 4가지 장애물은 다음과 같습니다. 해결 방법은 다음과 같습니다.

1. 데이터 품질

교차 기능 AI 파일럿을 도입할 때 첫 번째 AI 유스케이스를 선택한 다음, 해당 유스케이스가 의존하는 1~2개의 데이터 소스를 식별합니다. 해당 소스가 다음 조건을 충족하는지 확인하세요.

• 조직화: 유스케이스에 필요한 레코드만 한곳에 보관합니다.
• 정확성: 중복을 제거하고, 오래된 레코드를 수정하며, 오류가 있는지 확인합니다.
• 소유권: 데이터를 정확하게 유지하고 변경 권한을 결정할 담당자를 지정합니다.

첫 번째 데이터 소스가 신뢰할 수 있는 답변을 생성한 후에만 데이터 소스를 추가하십시오. 활성 고객으로 간주되는 기준 등 공유 용어를 AI 도구가 읽는 한곳에 정의하십시오.

2. 스킬

개인이나 그룹이 각자의 업무에 AI를 실습할 수 있도록 캘린더에 매일 또는 매주 반복되는 일정 블록을 설정합니다. 직원들에게 AI 소스를 확인하고 그 출력을 평가하는 방법을 가르칩니다.

새로운 AI 워크플로우를 출시하기 전에 해당 작업을 수행하는 직원들에게 단계를 적어보고, AI 버전을 사용해 본 뒤 부족한 점이 무엇인지 말해 달라고 요청하세요. AI를 기존에 사용 중인 도구와 연결하고, 더 넓은 범위로 출시하기 전에 소수의 사용자를 대상으로 테스트하세요.

3. 거버넌스

도구, 데이터, 검토에 대한 명확한 규칙을 통해 위험을 추가하지 않고도 AI 사용을 빠르게 성장시키고 확장할 수 있습니다. 승인된 도구의 짧은 목록을 게시하고 회사 로그인을 필수로 지정합니다. 어떤 종류의 데이터를 어떤 도구에 입력할 수 있는지 정의하는 데이터 계층을 설정합니다.

각 작업 유형에 어느 정도의 인적 검토가 필요한지 결정하고, AI 지원 워크플로우 각각을 AI 소유, 인간 검토, 인간 소유의 세 가지 범주 중 하나로 분류합니다. 또한 어떤 AI 도구가 어떤 작업에 사용되었고 누가 결과를 검토했는지에 대한 로그를 유지하여, 실수가 발생했을 때 그 출처를 추적하고 수정할 수 있도록 합니다.

4. 비즈니스 가치

BCG의 조사에 따르면, 성숙도가 가장 높은 기업의 60% 이상이 AI 가치를 엄격하게 추적하는 반면 정체된 기업은 17%에 그쳤습니다. 측정 가능한 워크플로우를 하나 선택하고 시간, 비용, 오류율 등의 기준선을 기록합니다. 파일럿이 시작되기 전에 성공 기준과 결정일을 설정합니다. 첫날부터 사용량당 비용을 추적하고, 결과가 기준선을 초과한 경우에만 확장하세요.

AI 성숙도: 용어집

AI 도입(AI adoption): AI 도구가 사용되는 정도입니다. 이는 종종 AI 성숙도와 혼용되지만 둘은 다릅니다. 성숙도는 조직 전반에 걸친 체계적인 AI 활용을 의미하며, 도입은 단순히 몇 사람이 사용하고 있는지를 의미합니다.

AI 준비도(AI readiness): AI를 효과적으로 사용하는 데 필요한 인프라와 데이터가 갖추어져 있는지 여부입니다. 조직은 깨끗한 데이터와 탄탄한 인프라를 갖추고 있더라도 AI의 역량에 맞춰 운영 방식을 조정하지 않았다면 성숙도가 뒤처질 수 있습니다.

AI 성숙도(AI maturity): AI가 얼마나 신중하고 효과적으로 사용되고 있는지 나타냅니다. 도입과 준비도는 성숙도를 가능하게 하지만 이를 보장하지는 않습니다.

AI 거버넌스(AI governance): 조직 내부에서 AI가 책임감 있게 사용되는 방식을 결정하는 규칙과 프로세스로, 새로운 유스케이스를 승인하는 주체와 검토되는 항목을 포함합니다.

에이전틱 AI(Agentic AI): 단일 프롬프트에 응답하는 것뿐만 아니라 스스로 조치를 취하고 다단계 작업을 실행할 수 있는 AI 시스템입니다.

오케스트레이션(Orchestration): 각각을 개별적으로 사용하는 대신, 여러 AI 에이전트를 실행하여 한 에이전트가 작업의 일부를 다른 에이전트에게 넘겨줄 수 있도록 하는 것입니다.

AI 성숙도: 빠른 자체 평가

몇 가지 질문에 답하는 것만으로도 모든 직원은 자신의 조직이 어디에 위치해 있는지 대략적으로 파악할 수 있습니다.

Perplexity가 적합한 영역

Perplexity Computer는 리서치, 분석, 콘텐츠, 코드를 아우르는 20개의 고급 모델을 하나의 시스템으로 통합하여 조직의 AI 성숙도를 향상시키는 여정을 지원합니다. 각각을 별도의 도구로 실행하는 대신 해당 모델 간의 작업을 직접 라우팅하며, 이는 더 높은 단계의 성숙도를 나타내는 오케스트레이션의 일종입니다.

FAQ

AI 성숙도 모델이란 무엇인가요?
조직의 AI 역량을 평가하고 AI 활용이 얼마나 발전했고 신중하게 이루어지는지에 따라 레벨을 부여하는 프레임워크입니다.

AI 성숙도의 단계는 어떻게 되나요?
대부분의 프레임워크는 유사한 아크를 설명합니다. 비정형적 실험, 체계적인 파일럿, 일상적인 워크플로우에 내장된 AI, 그리고 자율성을 가지고 조직 전체에서 실행되는 AI 순으로 발전합니다.

AI 성숙도는 AI 도입과 어떻게 다른가요?
도입은 AI 도구가 사용되고 있는지 여부를 측정합니다. 성숙도는 도구가 얼마나 효과적으로 사용되고 있는지 측정합니다.

AI 성숙도와 AI 준비도의 차이점은 무엇인가요?
준비도는 AI를 잘 사용하는 데 필요한 인프라와 데이터가 갖추어져 있는지 측정합니다. 성숙도는 조직이 실제로 해당 역량을 중심으로 운영 방식을 구축했는지 측정합니다.

AI 거버넌스란 무엇인가요?
조직 내부에서 AI가 책임감 있게 사용되는 방식을 결정하는 규칙과 프로세스로, 새로운 유스케이스를 승인하는 주체와 배포 전에 검토되는 항목을 포함합니다.

에이전틱 AI란 무엇인가요?
단일 프롬프트에 응답하는 것뿐만 아니라 스스로 조치를 취하고 다단계 작업을 수행할 수 있는 AI 시스템입니다.

AI 오케스트레이션이란 무엇인가요?
각 도구를 개별적으로 사용하는 대신, 여러 AI 모델이나 시스템을 함께 실행하여 한 모델이 작업의 일부를 다른 모델에게 넘겨줄 수 있도록 하는 것입니다.

조직의 AI 성숙도를 높이려면 어떻게 해야 하나요?
고립된 실험에서 벗어나 명확한 소유권을 가진 체계적인 파일럿을 진행하고, AI를 실제 데이터 및 워크플로우에 연결하며, 검토 없이 AI가 행동할 수 있는 범위에 대한 거버넌스를 구축함으로써 가능합니다.