“IT 재편은 불가피” 에이전틱 AI와 CIO의 새로운 우선순위

에이전틱 AI 시대가 도래하면서 CIO는 IT 우선순위를 전략적으로 조정하고 새로운 보안 리스크를 완화하며, 구성원의 역량을 새로운 시대에 맞게 재교육할 준비를 해야 한다. IT 부서는 항상 조직 전체가 새로운 기회를 추구하거나 리스크에 대응하는 방식에 맞춰 변화해 왔지만, 특정 기술 변화는 IT 조직 구조 자체를 근본적으로 재평가해야 하는 전환점을 형성해 왔다.

예를 들어, 클라우드 인프라를 셀프프로비저닝할 수 있는 기능과 CI/CD 자동화 배포가 일반화됐을 때, 일부 CIO는 개발과 운영의 역할을 분리하는 기존 구조가 여전히 유효한지 의문을 제기했고, 이는 데브옵스(DevOps) 시대의 서막이 됐다.

디지털 트랜스포메이션이 가속화되면서 많은 CIO가 IT 조직을 디지털 서비스와 데이터 중심 조직으로 재정의하고, 이에 맞춰 조직을 재편했다. 그리고 자율적으로 작동하는 에이전틱 AI의 등장은 CIO가 IT의 근본 구조를 다시 생각하게 만드는 또 하나의 전환점이 될 가능성이 크다.

하지만 이 부분은 아직 활발한 논의가 진행 중이며, 어떤 결론이 나더라도 핵심 IT 조직은 계속 유지될 가능성이 높다.

넷우븐(Netwoven)의 CEO 니라지 테나니는 “AI를 보면 과거 로우코드/노코드, RPA가 IT를 완전히 자동화할 것이라고 예상됐던 시기가 떠오른다”라며, “기업이 운영에 필요한 시스템을 갖추고 있는 이상, 이를 관리하고 전략적 방향을 제시할 IT 조직은 반드시 필요하다”고 강조했다.

IT의 우선순위를 바꾸는 에이전틱 AI

필자는 최근 “AI는 우리가 알고 있던 IT의 종말인가”라는 기고를 통해 생성형 AI가 어떻게 IT의 근본을 흔들 수 있는지에 대해 설명했다. CIO의 역할이 어떻게 진화할지, AI 기반 도구와 에이전트가 기존 IT 기능을 어떻게 대체할 수 있는지를 질문하며, 변화에 대응하지 못하고 AI 도입 전의 기준으로 IT를 운영하는 CIO는 자신이 아는 방식의 IT는 AI로 인해 종말을 맞을 수 있다고 경고했다.

CIO의 우선순위 변화는 IT 조직 구조를 재평가해야 하는 또 다른 이유다. CIO.com의 ‘2025 CIO 현황 조사’에 따르면, 전체 CIO의 75%가 올해 AI/ML 관련 업무에 더 많은 시간을 할애할 계획이라고 답했다. 이는 사이버보안(65%), 제품 개발(56%), 데이터 분석(56%)보다 높은 수치다.

CIO에게 AI를 통한 비즈니스 성과 창출이 요구되면서, 기업 이사회는 AI 도입에 따른 인력 감축과 업무 효율성 향상을 요구하고 있다. 글로번트 엔터프라이즈 AI(Globant Enterprise AI)의 CTO 가스톤 밀라노는 “에이전틱 AI 시대를 맞아 IT 조직은 인간 전문성과 AI 기반 에이전트를 통합하는 보다 역동적이고 교차 기능적인 협업 역량을 갖춰가고 있다”라며, “이제 IT의 역할은 거버넌스를 넘어 지속적인 학습과 전문 인력, 인간-AI 협업이 결합된 새로운 워크플로우를 조율하는 데 있다”라고 설명했다.

결국 CIO는 혁신을 가속화하면서 동시에 회복탄력성과 효율성을 확보해야 하는 압박을 받게 된다. 일부 CIO는 인력 감축 압박 속에서 IT 조직을 재구성하고 팀 구조를 재정립하며 조직 문화를 쇄신해야 하는 상황에 직면하고 있다. 또 다른 CIO는 에이전틱 AI 기능을 구현하기 위한 수단으로 IT 조직 재편이 강력한 촉매제가 될 수 있다고 판단할 수 있다.

다음은 에이전틱 AI 시대의 부상 속에서 CIO가 IT 조직 개편을 고민할 때 고려해야 할 핵심 질문들이다.

• 사람과 기계의 협업은 어떻게 이뤄질 것인가?
• AI의 조직 내 역할을 고려할 때, 최고 경영진은 다음과 같은 질문을 던져야 한다.
• 어떤 업무와 역량을 AI 에이전트가 수행하게 될 것인가?
• 어떤 AI 에이전트는 자율적으로 작동하고, 어떤 AI 에이전트는 사람의 감시와 의사결정이 필요한가?
• AI 에이전트에 대한 거버넌스는 어떻게 구성돼야 하며, 어떻게 그 효과를 측정할 수 있을까?
• AI가 보완하는 형태로 사람에게 남겨질 책임은 무엇인가?
• 아웃소싱 또는 공동 창작 모델을 통해 어떤 기능을 수행할 것인가?

CIO는 IT 내에서 사람과 기계의 협업뿐만 아니라, 각 부서의 변화를 이끌어야 하는 최고 경영진에게 방향을 제시해야 한다.

타입페이스(Typeface)의 최고 제품 책임자 비샬 수드는 “이제 IT는 더 이상 후방 기능이 아니라 전략적 신경망으로 자리잡았으며, 조직은 인프라 운영에서 인텔리전스 조율로 전환해야 한다”라며, “모든 비즈니스 프로세스에 AI 에이전트를 내장해야 한다”라고 강조했다.

또한 “이 변화는 에이전트 간 통합 시스템, 예측 불가능한 워크플로우의 보안, 사용자 인터페이스의 단순화에 대한 새로운 접근을 요구한다”라며, “이런 전환을 수용한 IT 리더는 빠른 속도, 조직 간 일관성, 그리고 앱 난립에 대응하는 지능형 대화형 인터페이스를 통한 경쟁 우위를 확보할 수 있다”라고 설명했다.

AI 시대에 애자일팀은 어떻게 진화해야 할까?

멀티디서플리너리 팀(multidisciplinary team), 즉 여러 분야로 구성된 팀의 초기 개념은 API, 애플리케이션, 데이터 서비스를 개발하는 애자일팀에 IT 역량을 통합하는 데 초점이 맞춰졌다. 이후 고객 경험, 마케팅 자동화, 디지털 트랜스포메이션 과제에서 IT 역할이 백오피스에서 프론트오피스로 이동하면서, 애자일팀에는 비즈니스 책임과 참여도 포함되기 시작했다.

이제 CIO는 에이전틱 AI 기능을 제공하는 애자일팀의 구성 방식을 고민해야 하며, AI 에이전트를 팀 구성원으로 포함하는 것까지 검토해야 한다. 시스코의 엔터프라이즈 커넥티비티 및 협업 부문 책임자 아니라그 딘그라는 “애자일팀은 사람과 기계 간 협업을 원활하게 하기 위해 멀티태스킹 역량을 키워야 하며, 업무 인수인계와 피드백 루프가 끊김 없이 연결돼야 한다”라고 강조했다.

딘그라는 “제품 책임자는 AI에 적합한 사용자 스토리를 정의하고, 어떤 업무를 AI가 맡는 게 효과적인지를 고려해 계획을 수립해야 하며, 엔지니어는 코드 작성, 테스트, 배포 과정에서 AI와 협업하게 될 것”이라고 설명했다. 또, “기존 생산성 지표인 속도는 더 이상 유효하지 않으며, AI 기반 환경에서 팀 성과를 측정할 수 있는 새로운 지표가 필요하다”라고 덧붙였다.

CIO는 애자일 개발팀 구성과 기대되는 효율성에 대해 논의하기 위해 AI 기반의 코드 생성기가 소프트웨어 개발에 미치는 영향을 검토해야 한다. 애자일 개발팀은 개발자 수를 줄일 수도 있다. 하지만 코드 리뷰 인력을 더 확보하고, AI 에이전트의 품질을 검증할 수 있는 새로운 기술 역량이 필요하며, AI를 활용한 자동화 개발을 전담하는 새로운 역할이 생겨날 수도 있다.

IT 거버넌스와 지원 기능은 어떻게 재배치해야 할까?

여러 보고서에 따르면 IT 및 AI 관련 예산은 증가하고 있지만, CIO는 운영 및 거버넌스 부문의 지출을 줄이라는 압박에 직면해 있다. 자동화로 효율성을 높일 수 있지만, CIO는 AI, 데이터, 보안 부문이 확대됨에 따라 책임과 범위가 넓어졌다는 점을 명확히 설명해야 한다.

IT 재배치의 한 가지 방법은 운영 KPI를 개선하기 위해 AI 에이전트를 도입하고, 그 비즈니스 가치를 입증하는 것이다. 데이터브릭스(Databricks)의 CIO 나빈 주시는 “AI 에이전트는 서비스 관리의 반복 업무를 담당할 수 있으며, 문제 해결부터 장애 대응까지 가능하고, 성능 이슈를 예측하고 사전 조치까지 자동화할 수 있다”라며, “이런 접근은 IT 구성원의 수작업과 행정 업무를 줄이고, 시스템 신뢰성을 높일 수 있다”고 설명했다.

두 번째 기회는 주니어급 운영 및 보안 전문가에 대한 투자를 늘리고, 이들을 에이전틱 AI 기능을 도입 중인 비즈니스 현장에 직접 배치하는 것이다. 이러한 전환은 보안, 거버넌스, 컴플라이언스 기능이 사후가 아니라 초기 단계부터 반영되도록 한다.

베드록 데이터(Bedrock Data)의 CSO 조지 거초는 “에이전틱 AI를 위한 IT 구조 재편은 데이터 거버넌스와 조직의 흐름을 근본적으로 바꾸는 일이며, 전통적인 보안 점검 방식은 기계 속도로 작동하는 내장형 거버넌스로 진화해야 한다”라고 지적했다.

이어 “애자일 팀은 보안, 컴플라이언스, 비즈니스 관계자가 실시간으로 통찰을 공유할 수 있도록 데이터 가시성을 통합해야 하며, 이는 기술 투자에 있어 데이터의 자동 탐지와 분류가 핵심이 되는 조직 차원의 변화”라고 설명했다.

IT는 변화 관리를 주도해 부서 간 장벽을 허물 수 있을까?

워크데이가 발표한 AI 에이전트 도입 관련 보고서에 따르면, 전체 기업의 82%가 업무 부담을 줄이고(88%), 더 빠른 혁신을 추진하기 위해(82%) AI 에이전트를 빠르게 배치하고 있다. 응답자의 75% 이상은 성장과 역량 개발, 일과 삶의 균형, 직무 만족도 등에서 AI 에이전트가 직원 경험에 긍정적 영향을 미칠 것이라고 기대하고 있다. 반면, 실제 직원들은 AI의 가능성에 선을 그었는데, AI 에이전트가 업무를 할당하는 것에 대해 45%만이 수용 가능하다고 답했고, AI 에이전트의 지시를 받는 상황을 받아들일 수 있다는 응답은 30%에 불과했다.

CIO는 AI에 적극적인 사용자부터 도입에 소극적인 사용자, 그리고 반대하는 사용자까지 다양한 수용 스펙트럼이 있다는 것을 인식해야 한다. 더구나 부서별 워크플로우에 초점을 맞춘 AI 에이전트도 있겠지만, 더 큰 기회는 자동화, 분석, AI 에이전트를 통해 부서 간 역할을 특정 비즈니스 목표에 맞춰 연결하는 데 있다.

앱다이렉트(AppDirect)의 CTO 앤디 센은 “이제 IT 부서는 단순한 기술 구현 조직을 넘어, AI를 책임감 있게 도입하고 각 부서가 혁신을 주도할 수 있도록 돕는 조언자 역할을 맡고 있다”라며, “AI는 IT를 인간 중심으로 변화시키고 있으며, 기존에 기술 부서에만 국한됐던 기술 역량이 인사, 마케팅, 재무 등 다른 부서로 분산되도록 하고 있다”고 덧붙였다.

CIO가 강화해야 할 역량은 다음과 같다.

• 제품 관리자. 제품 기반 IT로의 전환을 통해 전략적 목표 달성과 고객 기회 발굴을 위한 AI 에이전트 우선 배포를 담당한다.
• 식스시그마 프로세스 엔지니어. 기존 비즈니스 프로세스를 분석하고, AI 에이전트가 효율화, 운영 확장, 품질 개선을 실현할 수 있는 목표 지점을 제시한다.
• 변화 관리 리더. 직원들이 AI 에이전트를 수용하고, 업무 범위를 확장하며, 일자리 상실에 대한 불안을 해소할 수 있도록 이끈다.

에이전틱 IT 환경에서는 어떤 새로운 역량이 필요할까?

대부분 직원이 새로운 기술을 익히는 방법을 생각할 때, 자격증이나 강의 수강을 먼저 떠올린다. 하지만 CIO는 단순한 개인 기여자 역할을 넘어, 팀 리더, 기술 전문가, 디지털 선도자로 성장할 수 있는 역량을 지원해야 한다.

타인즈(Tines)의 필드 CTO 브래드 럼프는 “에이전틱 AI는 IT 전문가가 개별 업무 수행에서 자율 시스템의 조율자 역할로 전환하도록 요구한다”라며, “핵심은 실행자가 아닌 조율자로의 사고방식 전환이며, 기술 전문성에 비판적 사고, 윤리, 강력한 커뮤니케이션 역량을 더한 새로운 기술 조합이 필요하다”고 설명했다.

소프트 스킬 외에도, CIO는 기존 역할에 AI 기능을 확장한 형태의 새로운 생성형 AI 기반 IT 직무를 고려해야 한다. 대표적인 역할은 다음과 같다.

• 비정형 데이터 품질과 AI 학습 데이터의 편향성을 평가하는 AI 데이터 품질 전문가
• AI 에이전트 환경에 특화된 신뢰성 엔지니어 역할을 수행하는 AI 진단 전문가
• AI 에이전트의 비용, 효과, 가격을 분석하며 핀옵스(FinOps)를 확장하는 핀AI(FinAI) 전문가

CIO가 IT 조직을 재편해야 하는지에 대한 질문은 이제 ‘해야 할까’가 아니라 ‘언제, 어떻게 할까’로 바뀌고 있다. 조직 재편을 준비하는 CIO는 반드시 목표를 명확히 하고, 구성원들에게 변화 방향과 그들이 얻을 수 있는 이점을 구체적으로 전달해야 한다.
dl-ciokora@foundryco.com