자세히 보기

이지현
Senior Editor

엘라스틱 APJ 총괄 “기업용 AI, 소비자 AI와 전혀 달라···관련성·보안·역량 검증 필수”

인터뷰
2025.09.106분
엔터프라이즈 검색

검색 기술 기업 엘라스틱이 생성형 AI 시대를 맞아 '서치 AI 플랫폼'으로 사업을 확장하며 한국 시장 공략에 나섰다.

Sanjay Deshmukh Vice President, Asia Pacific & Japan at Elastic / CIO Korea
Credit: Sanjay Deshmukh Vice President, Asia Pacific & Japan at Elastic / CIO Korea

엘라스틱은 ‘검색’에 진심인 기업이다. 한때 사명조차 엘라스틱서치(Elasticsearch)였을 만큼 시맨틱 검색 기술로 성장해왔다. 특히 오픈소스 기술을 통해 시장에서 입지를 굳힌 후, 비정형 데이터를 다루는 다양한 솔루션을 제공하며 사업 영역을 확장했다.

생성형 AI 시대를 맞아 엘라스틱은 다시 한 번 검색에 집중하고 있다. 그러나 이번에는 단순한 검색 기술에 그치지 않는다. 검색과 AI 애플리케이션 개발에 필요한 모든 구성 요소를 하나로 묶어 제공하는 통합 솔루션, ‘서치 AI 플랫폼’을 내세우고 있다.

AI와 엘라스틱은 언뜻 거리가 있어 보이지만 실제로는 그렇지 않다. 최근 엘라스틱 아시아태평양·일본(APJ) 총괄 부사장으로 부임한 산제이 데시무크는 기업용 AI(Enterprise AI) 개발 과정에서 엘라스틱 기술이 이미 폭넓게 활용되고 있다고 설명했다. 여기서 말하는 기업용 AI란 사내 챗봇 구축부터 문서와 매뉴얼 같은 내부 데이터를 AI와 연동해 현장 업무에 적용하는 기술 등을 말한다. 구체적으로 엘라스틱이 AI 시장에서 어떤 방식으로 입지를 넓혀가고 있는지 살펴보자.

기업용 AI 구축에 필요한 4가지 요소

엘라스틱에 3개월 전 부임한 데시무크는 한국 시장에 상당히 익숙한 인물이다. VM웨어, 스노우플레이크 등 글로벌 솔루션 업체에서 25년간 경력을 쌓은 그는 “이전 회사에서도 한국 시장을 담당하며 자주 방문했다”라고 말했다.

그가 엘라스틱에 합류한 이유는 엘라스틱의 기술 철학이 기업용 AI 기술 개발에 필요한 핵심 요소를 담고 있어서이다. 데시무크에 따르면, 오픈AI나 앤트로픽 같은 소비자 AI 기술과 달리 기업에는 기업만의 AI가 필요하다. 사용 방식과 원리가 완전히 다르기 때문이다.

예를 들어 챗GPT가 틀린 답을 내놓아도 일반 소비자는 치명적인 결함으로 여기지 않을 수 있지만, 기업 환경에서는 이런 상황이 허용되지 않는다. 다시 말해서 기업용 AI 기술에서 중요한 부분은 ▲신뢰성 ▲보안 ▲정확한 문맥인데, 기존의 소비자용 AI는 이런 철학을 바탕으로 만들어지지 않았다는 것이다.

기술적 관점에서 데시무크는 기업이 AI 플랫폼을 구축할 때는 4가지 구성요소가 필요하다고 설명했다.

첫째는 대규모언어모델(LLM)이다. GPT, 클로드, 미스트랄 등이 대표적이며, 어떤 유형의 데이터(텍스트, 이미지 등)를 다룰지에 따라 모델을 선택해야 한다. 둘째는 AI 인프라다. 클라우드와 온프레미스 중 어디서 실행할지 결정하고, GPU 환경 구성과 보안을 고려해야 한다.

셋째는 벡터DB로, 기업의 프라이빗 데이터를 LLM에 연결해주는 핵심 기술이다. 최근 많은 기업이 RAG(Retrieval-Augmented Generation) 프레임워크를 사용하고 있다. 이 방식은 기존 LLM은 그대로 유지하면서 기업의 프라이빗 데이터를 실시간으로 제공해 맥락을 보강하는 구조로, 벡터DB가 핵심 역할을 담당한다. 넷째는 프레임워크 및 오케스트레이션 툴이다. 랭체인(LangChain), 라마인덱스(LlamaIndex) 등이 대표적이며, AI 에이전트의 행동 흐름을 설계하고 관리하는 역할을 한다.

데시무크 부사장은 “단순히 챗GPT 하나만 쓰면 끝나는 줄 알고 있지만, 안전하고 효율적인 기술 개발을 위해서는 이 구조 전체를 기업이 잘 이해하고 적합한 플랫폼을 선택하는 과정이 필요하다”라고 조언했다.

네 가지 핵심 영역 가운데 엘라스틱이 특히 자신하는 역량은 벡터DB다. 최근 벡터DB는 AI 애플리케이션을 넘어 에이전트 기반 AI 프레임워크(Agentic framework)에서도 활용되고 있는데, 이런 프레임워크에서는 AI가 여러 단계를 거쳐 작업을 수행한다. 예컨대 웹에서 정보를 검색하고 내부 고객 데이터를 불러온 뒤, 사용자에게 맞춤형 응답을 제공하는 방식이다.

이때 핵심은 AI 에이전트가 ‘맥락(Context)’과 ‘관련성(Relevance)’을 얼마나 정확히 이해하느냐다. 엘라스틱은 기업 내부 데이터를 벡터 형태로 정리해 AI가 이를 기반으로 더 정확하고 신뢰성 있는 답변을 내놓을 수 있도록 지원한다. 이미 5년 전 시맨틱 검색을 위해 자체 벡터DB를 개발한 엘라스틱은 이 기술을 RAG 기반 생성형 AI의 맥락 검색에 활용하고 있다. 그 과정에서 축적한 기술적 노하우가 엘라스틱의 강점으로 자리 잡았다.

데시무크는 “엘라스틱은 벡터DB에 투자하며 키워드 검색과 시맨틱 검색을 결합한 하이브리드 검색까지 지원한다”라며 “결과적으로 생성형 AI 시대를 앞서 준비한 효과를 얻었다”라고 말했다.

엘라스틱이 AI 서치 ‘플랫폼’을 내세우는 이유

생성형 AI 시대 이후 어떤 제품의 수요가 더 높아졌는지 묻자, 데시무크는 예상 밖의 답을 내놨다. 엘라스틱은 이제 개별적인 ‘제품’이 아니라 하나의 플랫폼을 제공하고 있다는 것이다. 그는 “고객이 직면한 다양한 비즈니스 과제를 단일 플랫폼으로 해결하는 것이 우리의 전략 핵심”이라며, “AI 기술 개발 과정에서는 여러 개의 포인트 솔루션을 각각 운영하기보다 엘라스틱의 서치 AI 플랫폼 같은 통합 플랫폼을 활용하는 것이 훨씬 효율적”이라고 강조했다.

실제로 엘라스틱 고객들은 검색, 로그 수집, 보안 분석 등 각기 다른 영역에서 출발하지만, AI 개발에는 다양한 기술이 요구되기 때문에 결국 플랫폼 기능을 확장해 활용하는 경향을 보이고 있다.

엘라스틱이 검색 외에 집중적으로 투자하는 분야는 관측성과 보안이다. 가령 관측성 분야에서는 내부적으로 AI옵스를 구현할 수 있는 기술을 제공한다. 엔지니어가 AI에게 “이 오류 메시지는 무슨 의미인가요?”, “왜 이런 성능 저하가 발생했나요?”라고 묻기만 하면, AI가 관련 로그와 데이터를 자동으로 분석하고 해석해 주는 방식이다.

데시무크는 “과거에는 서버·네트워크·애플리케이션마다 각기 다른 모니터링 툴을 사용해 전체 흐름을 파악하기 어려웠다”라며 “대기업은 수천 개 애플리케이션과 수많은 로그, 이벤트를 동시에 관리해야 하는데, 사람이 이를 일일이 해석하는 것은 불가능하다. 엘라스틱은 중앙집중형 관측 플랫폼을 통해 문제의 원인과 인과관계를 신속히 파악할 수 있으며, 특히 서치 AI 플랫폼을 통해 AI 기반 운영 자동화까지 구현할 수 있다”라고 밝혔다.

보안 영역에서는 위협 탐지, 상관관계 분석, 예방적 대응을 지원한다. 이상 징후나 보안 위협을 조기에 식별하고, LLM 접근 권한 관리 등을 제공해 AI 애플리케이션 구축에 필요한 다양한 보안 기능을 최신 기술로 뒷받침한다.

데시무크는 “가트너와 포레스터 같은 시장 분석 기관들도 엘라스틱 서치 AI 플랫폼이 검색, 관측성, 보안 모두에서 리더로 평가할 만큼 높은 역량을 갖췄다”라며 “LG CNS와 한국인터넷진흥원(KISA) 같은 한국 대기업과 공공기관도 엘라스틱 기술을 도입하고 있다”라고 설명했다.

파트너 생태계 확장으로 국내 시장 공략

데시무크는 직원들, 파트너사들, 고객들과의 만남을 늘려가며 엘라스틱 기술 저변 확대에 속도를 낼 예정이다. LG CNS 등 주요 MSP와의 파트너십을 확대하는 한편, 자체 관리형 서비스 개발에도 박차를 가하고 있다.

데시무크는 엘라스틱의 핵심 경쟁사가 다름 아닌 엘라스틱 자체의 오픈소스 기술이라고 봤다. 그는 “엘라스틱의 오픈소스 기술은 개발자 커뮤니티에서 특히 인기가 높고 지금까지 50억 건 이상 다운로드됐다”라며 “엘라스틱 기술을 ‘도입하지 않은’ 고객은 없다고 봐도 무방하다”라고 설명했다. 다만 아직 유료 버전으로 전환하지 않은 고객들이 있는 상황이다. 엘라스틱은 이들 기업에게 오픈소스에는 없는 고급 기능과 운영 효율화, 자동화 관련 기술을 제공하며 고객을 확보하고 있다.

이 전략은 한국 시장의 요구와도 맞닿아 있다. 데시무크는 “한국 기업들은 특히 선택의 유연성과 비용 절감을 중시한다”라며 “특정 벤더에 종속되지 않고 다양한 대안을 가질 수 있어야 하며, 동시에 전체 운영 비용을 줄일 수 있다는 점을 내세우고 있다”라고 설명했다.

엘라스틱은 온프레미스와 클라우드 환경 모두에서 활용 가능하며, 고객이 상황에 따라 원하는 방식을 자유롭게 선택할 수 있도록 지원한다. 특히 정부나 금융기관처럼 민감한 데이터를 다루는 조직은 자체 인프라에 AI 모델을 구축하기를 원하는데, 엘라스틱은 퍼블릭과 프라이빗 클라우드 모든 환경에서 이런 선택권을 제공한다.

비용 측면에서도 총소유비용(TCO)을 낮추는 혁신적 방안을 제시한다. 자주 사용하지 않는 데이터를 저렴한 스토리지에 보관하는 ‘서처블 스냅샷(searchable snapshots)’ 기능만으로도 하드웨어 비용을 최대 40~50% 절감할 수 있다.

데시무크는 “한국 시장은 매우 역동적이고 기회가 많은 곳”이라며 “무료 교육 등을 통해 엘라스틱과 AI를 제대로 활용하는 방법을 알려나가는 데 집중할 계획”이라고 표현했다.
jihyun.lee@foundryco.com

이지현

2022년부터 CIO 코리아 책임 기자로 일하며 AI, 디지털 전환, 클라우드 등 주요 기술 이슈에 대한 최신 트렌드와 인사이트를 전달하고 있습니다. 국내외 IT 리더들을 대상으로 한 심층 인터뷰와 리더십 취재를 꾸준히 이어가고 있으며, 다양한 현장을 찾아 업계 흐름을 생생하게 전하고자 합니다. 아울러, 한국IDG가 주관하는 콘퍼런스와 조찬 세미나에도 참여하며, 국내 IT 리더들이 자연스럽게 교류하고 의견을 나눌 수 있는 자리를 만드는 데 힘쓰고 있습니다.

CIO 코리아 합류 전에는 2013년부터 기술 전문 매체 블로터에서 IT 기자로 활동했으며, 그보다 앞서 한국에서 컴퓨터공학을 전공하고 미국 뉴욕에서 1년간 프로그래머 인턴으로 근무한 경험이 있습니다. 현재도 취미로 프로그래밍을 이어가며, IT 업계에 종사하는 분들을 늘 응원하는 마음으로 취재 활동을 이어가고 있습니다.

이 저자의 추가 콘텐츠