쿠팡페이
핀테크쿠팡페이·쿠팡파이낸셜은 금융 규제에 따른 망분리 환경으로 인해 외부 SaaS 기반 LLM 서비스 활용이 제한되었으며, 이로 인해 개발자들의 정보 검색 및 업무 생산성이 저하되는 문제를 겪고 있었습니다.
가트너 자료에 따르면 2028년까지 기업의 90% 이상이 생성형 AI를 도입할 것으로 전망되는 가운데, 금융권 내에서도 컴플라이언스 조사, 코드 생성, 레거시 코드 마이그레이션 등 다양한 업무에 생성형 AI 활용 수요가 높아졌습니다.
AI 전담 조직을 별도로 운영할 경우 AI 역량이 고립화되고 전사적 성과로 이어지지 않는 문제가 발생할 수 있어, 모든 개발자가 AI를 직접 업무에 활용할 수 있는 개발 문화 조성이 필요했습니다.
금융 규제상 외부 데이터 활용이 제한되므로, 내부 데이터를 정제·적재하여 RAG를 구성하고 자체 오픈소스 LLM 모델을 운영하는 내부 AI 플랫폼 환경 구축이 요구되었습니다.
AWS 이노베이션 프로그램 및 Pace 팀과의 협업을 통해 오픈소스 LLM 기반의 웹 채팅봇 프로토타입을 신속하게 구축하고, 리더십에 가시적인 성과를 제시하여 의사결정 근거를 마련하였습니다.
비공식 프로젝트임에도 불구하고 다수의 개발자 자원자가 모였으며, RAG 그룹·프롬프트 그룹·에이전트 그룹으로 나뉜 트랙 운영을 통해 개발자들이 AI 역량을 자발적으로 축적하는 문화가 형성되었습니다.
개발자들의 질의·응답 피드백을 지속적으로 RAG 데이터베이스에 재적재하는 파이프라인을 구축하여, 양질의 학습 데이터를 점진적으로 확보하는 체계를 마련하였습니다.
컴플라이언스·리걸·시큐리티 팀과의 협력을 통해 파일럿 단계부터 규제 요건을 준수하는 AI 개발·운영 프로세스를 정립하였습니다.
개발자 누구나 자동화 에이전트를 직접 만들어 배포하고 공유할 수 있는 에이전트 플랫폼으로의 확장 로드맵을 수립하여, AI 개발 문화의 전사적 내재화 기반을 구축하였습니다.
이 유스케이스에 대해 궁금한 점을 질문해 보세요.