변화의 파도를 타는 서핑보드, 삼성화재의 생성형 AI 플랫폼

구축 속도 및 비용 절감

• 온프레미스 구축 시 스펙 산정부터 서버 딜리버리, 실제 구축까지 6개월 이상 소요되는 반면, AWS 활용으로 약 2개월 만에 오픈, 3개월 만에 안정화 달성
• GPU 초기 투자 비용 불필요로 도입 비용 대폭 절감
• 운영 중에도 유연하게 리소스를 조정할 수 있어 비용 효율적인 운영 가능

운영 인력 최적화

• 온프레미스 구축 시 K8S, 에어플로우, 엘라스틱서치, RDS, 모델 서빙 등 각 영역별 다수 인력 필요
• AWS 매니지드 서비스(SageMaker, EKS Auto Mode, MWAA, OpenSearch 등) 최대 활용으로 한 자릿수 인력으로 플랫폼 구축 및 운영 가능

개발 생산성 향상

• SageMaker Studio 도입으로 개발자가 필요한 GPU 리소스를 자유롭게 할당·반납 가능
• SageMaker Distribution 이미지 자동 관리로 프레임워크 버전 업데이트 부담 제거, 개발자는 개발에만 집중 가능
• VS Code, Notebook, MLflow 등 익숙한 개발 환경 제공으로 생산성 향상

AI 서비스 고도화 기반 마련

• 내부 통제 업무 비서, 인사 업무 비서 등 지식 기반 AI 서비스(RAG) 성공적으로 운영
• 자동 빌드·배포 파이프라인(CodeBuild, Helm, EKS) 구축으로 배포 사이클 전 자동화 달성
• 향후 의료 심사 확대, 자산운용 리서치, 상담 업무 효율화 등 다양한 AI 과제 확장 기반 확보
• 에이전틱 AI, AI 전용 데이터 구축 등 미래 AI 고도화를 위한 확장 가능한 플랫폼 완성