“비용부터 규제, AI까지” CIO가 다시 묻는 클라우드 전략 질문 9가지

클라우드 컴퓨팅 초창기에는 비용 절감을 위한 인프라 전환이 주된 목적이었다. 그러나 최근 들어 클라우드는 빠른 개발과 디지털 혁신을 가능하게 하는 핵심 요소가 됐다. 해킷 그룹(Hackett Group)의 부대표 조 네이선은 “필요할 때마다 환경을 빠르게 구축하고 다양한 서비스 라이브러리를 활용하며, 글로벌 확장성을 확보할 수 있는 능력은 조직의 제품 및 서비스 제공 방식을 근본적으로 변화시켰다”라고 설명했다.

기술 환경 전반도 급격히 변했다. 네이선은 “AI 확산, 사이버 위협 증가, 데이터 요구사항 변화, 규제 강화, 클라우드 네이티브 아키텍처의 급속한 발전은 복잡성과 기회를 동시에 키우고 있다”라고 지적했다. 잘못된 전략은 조직의 발목을 잡지만, 올바른 전략은 경쟁사를 단숨에 앞지르게 할 수 있다.

클라우드 경험이 쌓이면서 각 업무가 최적화될 수 있는 실행 환경을 다시 고민하는 사례도 늘고 있다. 저니팀(JourneyTeam) 전략 사업 총괄 디렉터인 닐 니콜라이젠은 “클라우드 환송은 현실”이라며, “워크로드를 클라우드로 옮긴 뒤, 비용이 너무 높거나 규제가 바뀌거나 워크로드 수요가 변하면서 다시 온프레미스로 복귀하는 경우가 많다”라고 말했다.

이처럼 클라우드 전략은 주기적으로 재점검해야 한다. CIO 멘토(CIO Mentor)의 설립자이자 베테랑 IT 책임자인 조 토핀카는 “기술 환경 변화 속도가 빠른 만큼 ‘설정하고 잊어버리는’ 방식의 클라우드 전략은 더 이상 유효하지 않다”라며, “플랫폼 전환이 이뤄지거나 신기술 목표가 기존 인프라 역량을 넘어설 경우, 전략 재조정의 긴급성이 더 커진다”라고 강조했다.

클라우드 전략은 비즈니스 우선순위와 신기술 흐름에 따라 지속적으로 조정돼야 한다. 해킷 그룹의 네이선은 “오늘 내리는 클라우드 관련 결정은 장기적인 민첩성, 규제 준수, 비용 효율성, 혁신 역량에 중대한 영향을 미친다”고 설명했다. 예를 들어 35개국 이상에서 사업을 운영하는 S&P 글로벌은 다양한 규제 요구사항을 클라우드 아키텍처에 통합해야 했다. S&P 글로벌 최고 디지털 솔루션 책임자인 스와미 코체를라코타는 “탄탄한 클라우드 거버넌스 없이는 비용 초과, 보안 취약점, 혁신 기회 상실 같은 문제가 발생할 수 있다”고 경고했다.

다음은 CIO가 자사 클라우드 전략을 점검할 때 반드시 고려해야 할 질문이다.

클라우드 관련 의사결정을 이끌 조직 차원의 프레임워크가 있는가?

최근에는 IT 부서가 아닌 다른 부서에서도 클라우드 플랫폼을 도입하는 경우가 늘고 있다. 이에 따라 조직 전반의 전문가가 참여해 클라우드 도입부터 퇴출까지 전 생애주기를 관리할 수 있는 일관된 의사결정 프레임워크를 갖추는 것이 핵심이다.

CIO 멘토의 토핀카는 “프레임워크 없이 클라우드를 도입하면 아키텍처가 분산되고 도구가 중복되며, 규제 준수에도 구멍이 생긴다”라고 지적했다. 토핀카는 한 고객사에서 마케팅 부서가 클라우드 기반 고객 참여 플랫폼을 자체 선정했고, 이후 법무 부서가 심각한 개인정보 문제를 발견했던 사례를 소개했다.

이 기업은 이후 법무, 보안, 개인정보, 리스크, 재무 부서의 전문가들을 한데 모아 모든 클라우드 의사결정이 보안, 규제 준수, 확장성을 기준으로 평가되도록 프레임워크를 구축했다. 이로써 비즈니스 주도 혁신을 저해하지 않으면서도 안전한 의사결정 환경을 마련할 수 있었다.

표준화를 해치지 않으면서 멀티클라우드를 활용할 수 있는가?

멀티클라우드는 협상력을 높이고 최고의 서비스를 확보하는 데 도움이 되지만, 동시에 복잡성을 키우고 다양한 전문 역량을 요구한다.

S&P 글로벌의 코체를라코타는 “이를 해결하려면 워크로드 요구사항, 보안 고려사항, 비용 모델 등을 기준으로 클라우드 서비스 업체를 선택할 수 있는 명확한 의사결정 프레임워크를 마련해야 한다”고 조언했다. 또한 주요 클라우드 플랫폼별로 전문가 그룹인 CoE(Center of Excellence)를 구성하고, 각 플랫폼 간 일관성과 통합을 관리할 수 있는 크로스 클라우드 아키텍처팀을 조직하는 방안도 유효하다고 덧붙였다.

클라우드 기반 혁신을 이끌 인재와 조직 문화가 있는가?

토핀카는 “기술만으로는 혁신을 만들 수 없고, 결국 사람이 핵심”이라며, “기존 방식에 익숙해 새로운 접근 방식을 꺼리는 팀도 자주 본다”고 말했다. 토핀카의 한 고객사는 호기심 많고 두려움 없는 인재들을 선별해 부서 간 협업이 가능한 소규모 혁신 팀을 구성했다. 이들에게 멘토를 붙이고 실험을 장려한 결과, 기존 경영진이 상상하지 못했던 방식으로 시장을 확장하는 신규 고객 서비스 기능을 만들어냈다.

해킷 그룹의 네이선은 “클라우드 솔루션의 성숙도와 발전 속도는 결국 팀 문화와 클라우드 내에서 스스로 운영하고 혁신할 수 있는 능력에 달려 있다”라고 강조했다.

대규모 클라우드 비용을 관리할 준비가 됐는가?

해킷 그룹의 네이선은 “클라우드 솔루션의 손익분기점, 안정화 이후의 이점, TCO를 파악하려면 최소 3~5년 단위의 비용 모델을 수립해야 한다”고 강조했다.

S&P 글로벌의 코체를라코타는 “많은 조직이 자원 할당의 비효율성이나 최적화되지 않은 아키텍처로 인해 이른바 ‘스티커 쇼크(Sticker Shock, 예상보다 과도한 비용)’를 겪는다”고 지적하며, 이를 해결하려면 정교한 태깅 전략, 자동화된 모니터링 도구 도입, 주기적인 최적화 점검이 필요하다고 조언했다.

네이선은 “소비 패턴, 자원 할당, 사용 지표에 대한 명확한 가시성 확보는 필수”라며, “특히 멀티클라우드 환경에서는 클라우드 재무 관리 관행이 비용 초과를 방지하고 책임 체계를 유지하는 데 효과적”이라고 설명했다.
코체를라코타는 “클라우드 비용을 비즈니스 부서나 제품 팀에 직접 할당하면 자원 사용 투명성이 높아지고, 클라우드 활용 효율성도 개선된다”고 덧붙였다.

클라우드 전략이 실제 운영과 비즈니스에 기여하고 있는가?

컨설팅 기업 TCS의 클라우드 사업부 글로벌 총괄 겸 부사장 크리슈나 모한은 “클라우드는 확장성, 복원력, 신뢰성 등 여러 이점을 제공하지만, 전략이 포괄적이지 않으면 높은 투자 대비 효과(ROI)를 거두기 어렵다”고 분석했다.

모한은 “클라우드는 단순한 기술 아키텍처 업그레이드가 아니다”라며, “대기업에서는 레거시 시스템에 핵심 비즈니스 로직이 담겨 있는 경우가 많기 때문에 클라우드 기반 레거시 현대화가 중요하다”라고 강조했다. 다만 “이 과정은 복잡하고 시간도 많이 걸리는 섬세한 작업”이라고 덧붙였다.

S&P 글로벌의 코체를라코타는 레거시 현대화 없이 클라우드만 도입하면 역효과가 날 수 있다고 경고했다. 코체를라코티는 “클라우드를 단순히 데이터센터처럼 사용하면서 레거시 애플리케이션은 그대로 유지할 경우, 비용이 눈덩이처럼 불어난다”라며, “레거시 시스템을 전환하는 데 투자하면 인프라를 최적화하고 운영 효율성을 높일 수 있다”고 말했다.

모한은 “생성형 AI 덕분에 레거시 시스템 현대화 기간이 기존 4년에서 24개월로 단축되고 있다. 다만, 이를 위해서는 거버넌스 고도화, 인력 재교육, 리스크 관리 역량이 빨리 갖춰져야 한다”고 덧붙였다.

토핀카는 한 대형 고객사가 수십 년 된 메인프레임 시스템을 클라우드 ERP 플랫폼으로 교체한 사례를 소개했다. 토핀카는 “이전 작업은 클라우드 전략 전반을 재검토할 수 있는 절호의 계기였다”라며, “이런 재점검 없이 단순히 이전만 했다면, 낡은 프로세스를 새로운 환경에 그대로 옮기는 셈이 되어 거버넌스, 통합, 혁신 방식 개선 기회를 놓쳤을 것”이라고 말했다.

AI가 클라우드 아키텍처와 거버넌스에 어떤 영향을 줄 것인가?

토핀카는 “AI는 컴퓨팅 요구사항, 저장소 용량, 비용 모델, 보안 요건을 근본적으로 바꾼다. 이 점을 무시하면, 비용은 많이 들고 보안도 취약한 실험 프로젝트로 전락하게 된다”라고 경고했다. 한 고객사가 모든 AI 워크로드를 단일 퍼블릭 클라우드 리전에서 실행하려다 데이터 위치 규제로 인해 규정을 위반하게 될 수 있음을 알게 된 사례로 소개했다. 이후 이 기업은 하이브리드 방식으로 전환해 규제 요건을 충족하고 프로젝트도 정상 궤도에 올렸다.

토핀카는 “아무리 의도가 좋아도 확장성이나 규제 준수, 보안 운영을 전제로 설계된 클라우드 아키텍처가 없다면 AI 프로젝트는 좌초하거나 잘못 실행될 수밖에 없다”라고 지적했다.

또 다른 고객사는 클라우드 경험이 거의 없는 상태에서 AI 프로젝트를 성급하게 추진했고, 데이터 파이프라인, 보안 모델, 거버넌스 체계가 AI 워크로드에 대응할 준비가 전혀 안 돼 있었다. 토핀카는 “AI 확장에 앞서 클라우드 전략을 재점검한 덕분에 이 기업은 비용이 많이 드는 재작업을 피했고, AI 프로젝트도 훨씬 빠르게 비즈니스 성과를 낼 수 있었다”라고 전했다.

델텍(Deltek)의 CTO 디나카 히투발리는 “AI 모델, 특히 LLM에는 고품질 데이터 접근이 필수”라며, “데이터 파이프라인은 AI 모델의 연료이자, 모델 성능을 개선하는 지속적 학습 및 피드백 루프를 가능하게 하는 기반 요소”라고 강조했다.

해킷 그룹의 네이선은 한 대형 물류 기업의 클라우드 전략 수립을 지원하면서, AI 및 데이터 전환 목표에 맞춰 인프라부터 재정비한 사례를 소개했다. 네이선은 “클라우드 전략을 재평가한 뒤, 데이터 중앙화, 모델 학습, 확장 가능한 추론을 지원하는 인프라를 갖추고, 유럽과 아시아태평양 지역 진출에 필요한 데이터 거주 요건도 충족하도록 설계했다”라고 밝혔다.

클라우드 전략이 지속가능성 목표와 일치하는가?

S&P 글로벌의 코체를라코타는 “환경에 대한 책임이 점점 더 중요해지면서 기업은 클라우드 서비스 업체로부터 구체적인 환경 영향 데이터를 요구하고 이를 비교하는 것이 중요하다”라고 조언했다. 클라우드 업체마다 재생 에너지 사용, 탄소중립 달성에 대한 의지가 서로 다르기 때문이다.

IT 책임자는 클라우드 도입 시 에너지 효율성도 고려할 수 있다. 예를 들어, 재생 에너지를 사용하는 지역에 워크로드를 배치하거나, 자원 소모를 최소화하도록 워크로드를 최적화하는 방식이다. 코체를라코타는 “이런 접근은 지속가능성 목표 달성뿐 아니라 기업의 브랜드 이미지 제고와 사회적 책임 이니셔티브에도 부합한다”고 강조했다.

클라우드 우선 전략이 클라우드 전용 전략이어야 하는가?

결론부터 말하자면 그렇지 않다. TCS의 모한은 “현재의 복잡한 비즈니스 환경과 보안, 규제, 운영비용 요구사항을 고려하면 하이브리드나 분산형 클라우드 설계가 더 적합한 경우도 많다”라고 설명했다. 결국 중요한 것은 워크로드의 적절한 배치다.

AI도 이런 판단에 영향을 주고 있다. 모한은 “전통적으로 기업은 데이터를 중앙으로 끌어모아 관리하고 분석했지만, 이제는 AI가 기업 IT 환경 곳곳의 데이터 위치에서 직접 활용되기 때문에, 엣지 환경에서 더 실질적인 효과를 내는 사례도 많아지고 있다”고 분석했다.

이에 따라 CIO는 클라우드 전략 수립 시 하이브리드 및 엣지 솔루션도 함께 고려해야 한다. 모한은 “AI와 클라우드를 연계하면, 클라우드 엣지를 통해 지연시간은 줄이고, 신뢰성과 실시간 의사결정 역량은 높이며, 데이터 전송 비용은 낮추는 방식으로 고객 경험과 ROI를 동시에 개선할 수 있다”고 강조했다.

다른 클라우드 서비스나 업체로 이전해야 할 경우 어떻게 할 것인가?

저니팀의 니콜라이젠은 “변화와 불확실성이 극심한 시대일수록 기술 책임자는 기술의 막다른 골목을 피해야 한다”라고 조언했다. 문제는 그런 막다른 골목이 어떤 형태로 나타날지 예측하기 어렵다는 데 있다. 니콜라이젠은 “클라우드 아키텍처와 관련 의사결정도 민첩성 확보를 막는 장애물이 될 수 있다”라고 지적했다.

과거에는 비용과 유연성이 클라우드 선택 기준이었다면, 이제는 워크로드와 계약, 인력의 이식성과 노후화 가능성까지 고려해야 한다. CIO는 기술, 서비스 업체, 도구, 인력을 빠르게 바꿔야 할 상황을 대비해 ‘전환 비용’을 줄일 수 있는 방법을 미리 준비해야 한다.

니콜라이젠은 “클라우드 서비스를 다른 시스템과 어떻게 느슨하게 결합할지 고민해야 한다”라며, “이렇게 해야 교체 가능성과 재사용성 사이에서 균형을 맞출 수 있다”라고 설명했다. 또, “계약 조건조차도 불확실성에 유연하게 대응할 수 있도록 바뀔 필요가 있다”라고 지적했다. 니콜라이젠은 과거 몇 시간 만에 클라우드 서비스 업체를 변경하거나 클라우드로의 마이그레이션이나 온프레미스로의 송환을 완료한 경험을 공유하며, “현재처럼 조건이 빠르게 바뀌는 시기에는 이런 유연성이 필수”라고 덧붙였다.

토핀카는 “클라우드 전략은 살아있는 계획이어야 한다”라며, “자주 재검토하지 않으면 금세 낡아버린다”고 강조했다.
dl-ciokorea@foundryco.com