Share
Sign In
생성형 AI 시대를 이끄는 CIO/CTO를 위한 9가지 실행 가이드
맥킨지에서 2023년 7월에 발행한 글인데, 읽어볼만합니다. 내부에 공유하기 위해 claude 3 랑 같이 요약-정리해봤습니다.
지금이야말로 제너레이티브 AI가 촉발할 근원적 변화에 선제적으로 대응하고, 기술-비즈니스-윤리를 아우르는 혁신을 주도할 CIO/CTO의 리더십이 그 어느 때보다 강력히 요구되는 시점입니다. 불확실성의 시대, 승자의 방정식을 푸는 열쇠는 다음의 9가지 핵심 전략에 있습니다.
1. 생성형 AI 시대를 위한 전사적 비전 정립 및 공감대 형성
Determine the company’s posture for the adoption of generative AI
제너레이티브 AI가 사업 전반에 미칠 영향을 진단하고, 이를 바탕으로 전사 차원의 비전과 전략 수립
단순한 기술 도입이 아닌, 제너레이티브 AI 중심의 조직 문화와 일하는 방식으로의 패러다임 전환 추구
경영진 간 명확한 비전 공유 및 강력한 실행 의지 표명, 적극적 소통을 통해 구성원들의 공감대 형성에 주력
가이드라인, 교육, 실험 장려 등을 통해 전사적 관심 제고 및 활용 역량 강화의 기반 조성
2. 비즈니스 혁신 기회 포착 및 우선순위 설정
Identify use cases that build value through improved productivity, growth, and new business models
제너레이티브 AI가 산업 지형과 경쟁 구도에 가져올 변화를 선제적으로 분석하고 신사업 기회 탐색
단순히 활용 사례를 나열하기보다 제너레이티브 AI가 기존 비즈니스 모델에 어떤 도전 과제를 제시하고 새로운 기회를 열어줄 지에 대해 경영진과 충분히 논의해야 함
기존 사업의 연장선상이 아닌, 근본적으로 새로운 고객 가치 창출 방안에 대한 경영진 차원의 고민 필요
가장 가치 있는 기회 영역과 해결 과제를 도출하고 이에 적합한 활용 방안을 수립해야 함 (단순 업무는 제외) 고객 경험 향상, 업무 효율화 등 가치 창출이 큰 영역을 중심으로 활용 방안 수립 및 우선순위화
유망 영역을 발굴하고 집중 투자하되, 탐색과 실행의 균형을 통해 지속 가능한 혁신 추구
고객 행동 분석, 신제품/서비스 개발, 파트너십 등 전방위적 비즈니스 모델 혁신 방안 모색
마케팅의 경우 비정형 데이터 분석을 통한 고객 선호도 파악 등으로 10% 내외, 고객지원의 경우 지능형 봇 도입 등으로 최대 40%의 생산성 향상 기대 (McKinsey)
정교한 ROI 추정을 위한 FinAI 역량 확보가 필수적임 (솔루션 복잡도, 사용량에 연동된 과금 체계 등으로 비용 추정이 쉽지 않음)
3. 기술 조직의 재상상
Reimagine the technology function
제너레이티브 AI로 인해 기술 조직의 역할과 운영 방식 전반을 근본적으로 재고할 필요
단순 자동화나 효율화를 넘어 제너레이티브 AI 시대에 걸맞는 혁신적 기술 조직으로의 변모 모색
제너레이티브 AI가 소프트웨어 개발, 기술 부채 감소, IT 운영 자동화 등 기술 조직 전반에 미칠 영향을 분석하고 단계적 변화 방안을 모색해야 함
SW 개발, 기술 부채, IT 운영 등 기술 조직 전반에 걸친 혁신 방안을 도출하고 장기적 변화 로드맵 수립
소프트웨어 개발의 경우 코드 생성, 리팩토링, 문서화 등에서 30~50%의 효율 향상이 가능하나, 개발 파이프라인 자동화, 코드 리뷰 강화 등이 선행되어야 함 (McKinsey)
개발 생산성 10배 향상, 기술 부채 50% 감축 등 도전적 목표 설정 및 데이터 기반 개선 체계 확립
회사의 핵심 경쟁력으로서 기술의 역할이 그 어느 때보다 증대되고 있는 상황에서, 단순히 '변화'를 넘어 기술 조직 전체를 새로운 관점에서 '재상상'해야 할 시점입니다. 제너레이티브 AI의 잠재력을 십분 활용해 기술 조직의 위상과 역할을 근본적으로 재정립하고, 궁극적으로는 기업 혁신을 선도하는 핵심 주체로 거듭나기 위한 노력이 병행되어야 할 것입니다. 기존의 인력 구조, 문화, 프로세스 등 기술 조직의 모든 요소를 전면 재검토하고 과감한 변화를 모색할 때, 명실상부한 '제너레이티브 AI 퍼스트' 조직으로 탈바꿈할 수 있을 것입니다.
4. 기존 서비스/오픈소스 모델 우선 활용
Take advantage of existing services or adapt open-source generative AI models
자체 모델 구축에는 막대한 비용과 전문 인력이 소요되므로, 차별적 경쟁력 확보가 필요한 영역 외에는 기존 서비스나 오픈소스 모델을 적극 활용하는 것이 바람직함
기업용 서비스를 제공하는 스타트업(Cohere, Anthropic 등)들이 빠르게 증가하고 있어, 이들의 서비스를 적극 활용하는 것이 비용 효율적임
비즈니스 크리티컬한 영역 외에는 기존 서비스 우선 도입을 통해 빠른 성과 창출에 주력
오픈소스 모델을 활용해 자사 데이터로 파인튜닝하는 것도 방법임 (Shaper 전략)
오픈소스 커뮤니티의 혁신 성과를 적시 내재화함으로써 제너레이티브 AI 역량의 지속적 발전 도모
장기적으로는 선별적 영역에 대한 자체 개발 역량 확보 및 독자 생태계 구축을 통해 차별적 경쟁력 확보 모색
완성도 높은 상용 서비스나 크라우드소싱된 집단지성의 결과물인 우수 오픈소스 모델들을 전략적으로 잘 활용함으로써 자체 개발에 수반되는 리소스 부담과 기회비용을 최소화할 수 있을 것입니다. 특히 초기 전략 수립과 역량 확보 단계에서는 '빠른 추격자(Fast Follower)'의 관점에서 외부 자산을 적극 활용하되, 장기적으로는 선도 기업들과의 차별화를 위한 자체 개발 역량 확보에도 지속 투자해 나가는 균형 잡힌 접근이 필요해 보입니다.
5. 제너레이티브 AI 통합 운영을 위한 아키텍처 정비
Upgrade your enterprise technology architecture to integrate and manage generative AI models
레거시 시스템의 한계를 극복하고 제너레이티브 AI의 잠재력을 최대한 활용하기 위한 아키텍처 현대화 추진
제너레이티브 AI 모델이 기존 시스템 및 데이터와 원활히 연계되어야 기대 효과를 극대화할 수 있음
개별 애플리케이션 단위가 아닌 전사 아키텍처 차원에서 제너레이티브 AI 모델의 통합 방안을 고민해야 함
모델 통합, 데이터 오케스트레이션, API 관리 등을 포괄하는 유연하고 확장 가능한 아키텍처로의 전환 모색
MLOps 고도화, 지속적 딜리버리/통합(CI/CD) 체계 확립 등을 통해 모델 개발-배포-운영의 효율성 제고
장기적으로 '제너레이티브 AI 네이티브' 아키텍처로의 진화를 위한 로드맵 수립 및 점진적 실행
6. 데이터 아키텍처 정비를 통한 양질의 데이터 확보
Develop a data architecture to enable access to quality data
제너레이티브 AI 모델의 성능과 활용도를 높이기 위해서는 대량의 양질 데이터 확보가 필수적임
비정형 데이터를 포함한 다양한 데이터 소스를 통합 관리할 수 있는 데이터 아키텍처 수립이 선결 과제임
데이터의 표준화, 메타데이터 강화, 품질 관리 등을 위한 거버넌스 체계 마련도 병행되어야 함
전사 데이터 거버넌스 체계 수립, CDO(Chief Data Officer) 역할 강화 등을 통해 체계적 데이터 관리 역량 확보
데이터 파이프라인 확충을 통해 제너레이티브 AI 모델에 필요한 컨텍스트 정보를 적시에 제공하는 것이 중요함
데이터 사이언티스트, 엔지니어 등 데이터 전문 인력 확보 및 조직 내 데이터 리터러시 제고에도 지속 투자
7. 전사 제너레이티브 AI 협력 체계 강화
Create a centralized, cross-functional generative AI platform team
개별 활용 사례 단위의 개발은 통합과 확장이 어려우므로, 전사에 모델을 제공하는 플랫폼 팀이 필요함
사용자 요구에 맞춰 승인된 모델을 제공하고, 내부 시스템 연계, 리스크 관리, 거버넌스 수립 등을 담당
플랫폼 팀에는 프롬프트 설계, 모델 관리, 성능 모니터링, 데이터 연계 구축 등을 위한 전문 인력 확보가 관건
기술, 비즈니스, 데이터 등 다양한 전문성을 결집한 애자일 구성의 크로스 펑셔널 팀 구성
공통 플랫폼 구축, 베스트 프랙티스 전파, 전사 거버넌스 수립 등을 통해 분산된 노력의 통합과 체계화 주도
개별 부서 차원의 단발적 노력을 넘어, 전사 차원의 일관된 방향 설정과 유기적 협력 체계 구축이 필수
전사 제너레이티브 AI 전략을 총괄하고 부서 간 시너지를 창출하는 전담 조직(CoE 등)의 역할 강화
실험과 혁신이 일상화된 조직문화 정착 및 우수 인재들이 몰입할 수 있는 환경 조성에도 주력
8. 역할별 맞춤 교육 체계 수립
Tailor upskilling programs by roles and proficiency levels
대부분의 직무가 제너레이티브 AI에 영향을 받게 될 것이므로, 기술-非기술 인력 모두를 아우르는 전사 AI 교육 체계 수립이 시급함
단, 역할과 숙련도에 따라 요구되는 역량이 다르므로 (e.g. 주니어 개발자 vs. 경력 개발자) 이에 맞춰 교육 프로그램을 차별화해야 함
더불어, AI가 만들어낸 결과물의 퀄리티를 제대로 검증하고 개선해 나갈 수 있는 역량 함양에 방점을 둬야 함
개발자의 경우 prompt engineering, 윤리적 코드 작성 등 제너레이티브 AI 시대에 걸맞는 새로운 스킬을 집중 교육할 필요가 있음
외부 인재 영입과 함께 내부 인력의 재교육, 재배치 등을 통한 체계적 역량 전환 노력도 병행
9. AI 윤리 정책 선제적 정립 및 실행
Evaluate the new risk landscape and establish ongoing mitigation practices
편향성, 프라이버시, 책임성 등 제너레이티브 AI가 제기하는 윤리적 과제들에 선제적으로 대응
포괄적인 AI 윤리 정책 및 가이드라인을 수립하고, 이를 제품/서비스 개발 전과정에 내재화
다양한 이해관계자들과의 공감대 형성을 위해 정책 수립 과정에서부터 개방성, 투명성 제고 노력 병행
윤리 리스크 관리를 위한 전담 거버넌스 체계 마련 및 임직원 교육 등을 통해 실행력 담보
위의 9가지 영역을 아우르는 종합적이고 장기적인 관점에서 제너레이티브 AI 시대를 대비할 때, 조직의 지속 가능한 혁신과 성장이 가능할 것으로 보입니다. 무엇보다 CEO의 강력한 리더십과 CIO/CTO의 전문성이 결합되어 기술적 혁신을 넘어 조직 문화와 비즈니스 모델의 근본적 변화를 견인해 나가는 것이 중요해 보입니다. 단기적 성과에 연연하기보다는 장기적 비전을 가지고 끊임없이 도전하고 학습해 나가는 자세 또한 요구됩니다. 제너레이티브 AI의 파괴력과 향후 진화 방향을 감안할 때, 지금이야말로 기업의 미래를 결정짓는 전환점이 될 수 있음을 인지하고 과감하게 변화를 주도해 나가야 할 것입니다.
변화의 소용돌이 속에서도 흔들림 없는 장기적 비전을 제시하고, 기술-사업-윤리를 아우르는 전사 차원의 노력을 끊임없이 추동해 나갈 때 기업의 지속 가능한 미래를 열어갈 수 있을 것입니다. CIO/CTO에게는 변화와 혁신을 이끄는 진정한 리더로서의 역량이 어느 때보다 강력히 요구되는 시점이라 하겠습니다.
