AI·데이터 인프라 솔루션 전문기업 효성인포메이션시스템(대표 양정규)은 히타치 밴타라(Hitachi Vantara)가 글로벌 시장조사기관 ESG(Enterprise Strategy Group)와 공동으로 ‘생성형 AI 위한 기업 인프라(Enterprise Infrastructure for Generative AI: A Foundation for Success)’ 연구 보고서를 발간했다.
이번 연구는 미국, 캐나다, 서유럽 전역 IT 및 비즈니스 리더 800명을 대상으로 진행됐다. 보고서는 기업 운영 효율화부터 창의적 혁신 촉진에 이르기까지 생성형 AI가 전체 산업을 재편할 엄청난 잠재력을 보유하고 있다고 분석했다. 특히 생성형 AI의 성능을 극대화하고 조직 내 신뢰를 구축하기 위해서는 견고하고 확장 가능하며 안전한 인프라 기반이 필수라고 강조했다.
많은 기업들이 생성형 AI의 잠재력을 인식하고 도입을 서두르고 있지만, 아직 목적에 맞게 완벽하게 구축하지 못하는 실정이다. 설문에 참여한 응답자의 97%는 생성형 AI를 최우선 과제라고 답했지만, 응답자의 44%만이 포괄적인 거버넌스 정책을 보유한 것으로 나타났다. 인프라와 데이터 생태계가 준비돼 있다고 답한 응답자는 37%에 그쳤다.
보고서는 조직 내 거버넌스, 인프라 준비, IT 인재 부족을 생성형 AI 전략과 실행의 장애물로 꼽았다. 생성형 AI 이니셔티브와 관련된 데이터를 저장하고 관리할 때 직면하는 가장 큰 과제로는 보안, 비용, 데이터 품질을 들었다.
이에 응답자의 71%는 생성형 AI 프로젝트 추진 전에 인프라를 현대화해야 한다고 동의했다. 많은 기업들이 비용 절감형 인프라 옵션을 적극적으로 모색하고 있지만, 개인정보 보호와 데이터 지연 문제도 주요 고려 사항으로 보고 있다. 응답자의 81%가 생성형 AI로 애플리케이션을 구축하고 사용할 때 데이터 개인정보 보호 및 규정 준수에 우려가 있다고 답했다. 77%는 생성형 AI 결과를 수용하기 전에 데이터 품질 문제를 해결해야 한다고 동의했다.
보고서는 생성형 AI의 효과를 높이기 위한 균형 잡힌 인프라 환경과 데이터 통합의 중요성도 조명했다. 96%의 응답자가 독점적인 거대언어모델(LLMs)의 대안을 선호하고, 86% 응답자가 기존 생성 모델에 외부 데이터 소스를 검색하고 통합하는 방식을 결합한 RAG(Retrieval-Augmented Generation)를 활용할 계획이라 답변했다.
또한 응답자의 78%가 생성형 AI 솔루션 구축을 위해 온프레미스와 퍼블릭 클라우드를 혼합한 하이브리드 클라우드 환경을 사용할 계획이라 밝혔다.
