EZ EZViwe

카카오엔터프라이즈, 스캐터랩 AI 콘텐츠 '제타' 서비스 지원

빠른 응답 속도·비용절감 효과

정관섭 기자 기자  2024.09.26 15:13:31

기사프린트

[프라임경제] 카카오엔터프라이즈(대표 이경진)가 26일 AI 스타트업 스캐터랩(대표 김종윤)이 카카오클라우드 기반으로 출시한 인터랙티브 AI 콘텐츠 플랫폼 '제타(zeta)'를 서비스하고 있다고 밝혔다.


지난 4월에 출시된 제타는 AI와 함께 실시간으로 스토리를 창작할 수 있는 플랫폼이다. 사용자가 자신이 만들고 싶은 캐릭터의 이름과 특징 등을 명령어(프롬프트)에 입력하면 생성 AI 기술이 해당 내용을 스토리와 대화에 반영한다.

스캐터랩은 감성 대화에 탁월한 성능을 보이는 자체 AI 언어 모델을 파인튜닝해 제타에 적용했으며 지속적으로 모델 최적화·서빙 작업을 진행 중이다. 출시 이후 제타는 매달 2배 이상의 트래픽 증가세를 보였고 이에 따라 더 많은 GPU가 필요하게 됐다.

이러한 수요에 맞춰 GPU 사용량에 따라 가변적으로 조절할 수 있고 빠른 응답속도와 안정성·가격 합리성 등을 모두 갖춘 카카오클라우드의 서비스형 GPU를 선택했다.

기존에 사용하던 해외 GPUaaS의 경우 지리적으로 떨어져 있어 데이터 전송 지연 등 사용자 불편을 초래하는 경우가 있었다. 카카오클라우드는 신속한 네트워크 처리 속도와 안정성을 제공해 지연 문제를 해결하고 사용자의 불만사항 접수도 크게 줄었다.

또한 기존에 사용했던 클라우드 서비스 대비 채팅 1회 당 약 3분의 1의 비용이 절감되는 것으로 추산됐다.  

스캐터랩은 향후 LLM(대규모 언어 모델)활용을 확대하고 이미지를 생성하는 등 GPU 위주의 고부하 작업을 필요로 하는 신규기능을 준비하고 있다. 신규 도입을 검토할 때 카카오클라우드를 통한 예산 절감 효과로 배포 사이클 또한 빨라져 더욱 빠르게 사업을 확장할 수 있게 됐다.

김종윤 대표는 "다양한 GPU 선택지, 인프라 안정성, 네트워크 성능 등을 제공하는 CSP를 모색한 끝에 카카오클라우드 도입을 결정하게 됐다"며 "카카오클라우드의 안정적인 인프라를 기반으로 서비스를 고도화해 글로벌 AI 콘텐츠 비즈니스 기업으로 도약할 것"이라고 말했다.

이재한 카카오엔터프라이즈 최고사업책임자는 "카카오클라우드의 AI 특화 클라우드를 통해 국내 기업들이 겪고 있는 GPU 부족·고비용 문제를 다소 해결할 수 있도록 최선의 노력을 다할 것"이라고 전했다.