AI 도입 성공을 위한 준비

오늘날과 같이 경쟁이 치열한 비즈니스 환경에서 기업에 요구되는 신속성, 정확성, 혁신성을 갖추기 위해서는 고품질의 데이터 기반 의사 결정이 필요하다. 

데이터를 잘 활용하지 못해 반복되는 시행착오가 더 이상 계속되지 않도록 막아야 한다.

최근 생성형 AI의 발전으로 데이터와 인터랙션하는 방식이 변화되었고, 데이터 관리와 AI의 융합으로 AI 활용의 가능성이 더 많이 확대되고 있다. 

데이터에서 유용한 인사이트를 창출하는 일이 그 어느 때보다 쉬워졌다. 

Informatica의 조사에 따르면 최고 데이터 책임자(CDO)의 45%가 이미 생성형 AI를 도입하여 활용하고 있으며, 54%는 도입을 계획하고 있다.

그러나 생성형 AI 도입을 추진하면서 도입 기업의 데이터가 AI에 얼마만큼 대응할 수 있을지 공급자와 수요자 사이에 인식 차이가 있는 것도 사실이다.

기업 마비 상태 : 잠자고 있는 보물창고

기업의 데이터는 종종 복잡하고 단편화되어 있으며, 하이브리드, 멀티 클라우드, 멀티 벤더의 환경 속에 있는 경우가 많아 생성형 AI 구현에 과제로 나타나고 있다. 

기업이 데이터를 효과적으로 관리하지 못하면 데이터로 인해 마비 상태에 빠질 위험이 있다.

기업에서 데이터의 품질과 거버넌스를 보장하는 일은 쉬운 일이 아니다.

그러나 신뢰할 수 있는 데이터가 없다면 생성형 AI는 겉치레에 불과하다. 

생성형 AI가 실용적인 가치를 필수적으로 제공하려면 부정확하고 불완전하며 무관련 데이터를 선별하고 수정하여야 한다. 

이 일이 쉽지 않다는 것을 알고 있으므로 AI를 위한 데이터 관리가 아닌 데이터 관리를 위한 AI가 오히려 현실에 적합한 주장이 된다.

문맥적 지능을 도출하는 AI 기반 데이터 관리

AI 기반 데이터 관리 시스템은 수동 모니터링이나 룰 기반 프레임워크를 넘어 진화하고 있다. 

AI는 머신 러닝을 활용하여 데이터에서 이상 징후를 감지하고 자율적으로 컴프라이언스를 준수한다. 

또한 데이터를 문맥화하고 특정 문맥에 대한 데이터 인텔리전스를 제공할 수 있는 능력이 있다.

예를 들어, 비즈니스의 문맥이나 사용자의 역할을 이해하는 AI 기반 데이터 관리 도구를 사용하여 AI 출력의 품질을 크게 향상할 수 있다. 

상황의 디테일한 뉘앙스를 잘 활용하면 AI 출력을 높일 수 있고 자사 고유의 니즈에 부합되는 판단과 의사결정에 도움이 되는 통찰력을 얻을 수 있다.

데이터 번역기로서의 생성형 AI: 인간 참여형 AI 강화

자연어 인터페이스를 갖춘 생성형 AI는 데이터 엔지니어, 비즈니스 분석가, 영업 및 마케팅팀, 운용팀 사이에 커뮤니케이션을 촉진하고 지식을 공유하는 데이터 번역기로써의 역할을 한다. 

생성형 AI의 혁신적인 잠재력을 활용하여 CF팀에 데이터 전문가를 넘어서는 능력을 강화해 주는 것이 AI 활용 성공의 핵심이다.

인간 참여형(human-in-the-loop) AI는 생성형 AI로 더 다양한 이해관계자들이 데이터 관리에 참여할 수 있도록 확대하는 방법이다. 

이 방법은 데이터 전문가가 모든 분야의 전문가가 아니기 때문에 데이터의 품질을 확보하는 데 효과적이다. 

다양한 부서의 데이터 통합과 피드백을 통해 자사 데이터의 정확성과 완전성을 개선하고 편향성을 제거할 수 있다.

편향성(bias)과 할루시네이션(hallucination)은 생성형 AI의 본질적인 문제이다. 

Informatica의 조사에 따르면 데이터 리더의 약 40%가 생성형 AI에 적합한 데이터 제공을 데이터 전략의 우선순위로 생각하고 있다.

AI 도입은 첫 단계일 뿐으로 관련 문제를 완화하려면 지속적인 개선과 데이터를 통합하고 인간이 피드백하는 과정이 AI 라이프 사이클에 포함되어야 한다. 

AI 에코시스템 활용으로 혁신 가속화

AI 솔루션의 에코시스템이 빠르게 진화하면서 솔루션에는 각각의 고유한 강점과 특성이 있다. 

이 에코시스템을 효과적으로 활용하면 유연성과 확장성이 더해져 생성형 AI 프로젝트를 가속화할 수 있다. 

중요한 것은 신뢰할 수 있는 고품질 데이터를 생성형 AI에 제공하고 적합한 거버넌스가 준수되어야 한다. 

이를 위해서는 효율적인 데이터 파이프라인 구축과 관리가 필수적이다.

또한 엔터프라이즈급 생성형 AI 실현에는 우수 클라우드 벤더나 데이터 플랫폼과의 연계와 협업이 중요하다.

이러한 파트너십을 통해 최신 데이터 아키텍처를 채택하여 AI의 능력을 최대한으로 활용할 수 있다.

업계의 선도기업 간 협력으로 엔터프라이즈급 생성형 AI 레퍼런스 아키텍처(솔루션 설계도) 개발도 진행되고 있다. 

앞으로 기업이 생성형 AI를 효과적으로 도입하고 활용하는데 있어서 중요한 지침이 될 것이다.

제조를 비롯한 여러 산업 분야에서 생성형 AI 및 AI 기반 데이터 관리 솔루션이 혁신의 패러다임 변화를 주도하고 있다.

자사의 입장에서 혁신 도구를 활용할 준비가 되어 있는지 먼저 점검해 보아야 할 것이다. 

참고| https://japan.zdnet.com/article/35221572/