EZ EZViwe

마음AI, '국내 최고' 수준 온프레미스 LLM 구현…라마 3 기반 'MAAL' 업그레이드 완료

"신속한 학습 완료와 함께 기존 고객 대상 업데이트 지원으로 최첨단 서비스 지속 제공"

박기훈 기자 기자  2024.08.19 09:53:18

기사프린트


[프라임경제] 인공지능(AI) 전문회사 마음AI(377480)는 약 3주 만에 자사의 주력 온프레미스(On-premise) 거대언어모델(LLM) 제품인 '말(MAAL·Multilingual Adaptive Augmentation Language-model)'을 라마(Llama) 3 기반에서 하마 3.1 기반으로 업그레이드했다고 19일 공식 발표했다. 

이번 모델 고도화를 통해 마음AI의 '말'은 현존하는 온프레미스 LLM 중 최고 수준의 성능을 갖추게 됐다.

특히 마음AI의 MAAL은 한국어 언어모델의 다분야 사고력을 측정하는 로직Kor(LogicKor) 평가에서 높은 점수(7.23점)를 기록하며, 오픈소스 기반 모델이 공통적으로 겪는 한국어 능력이 크게 떨어지는 문제를 극복했다. 

라마 3.1 모델도 이전 라마 3 기반 모델에 비해 성능이 크게 개선되었으나, 여전히 한국어 처리 능력에서 부족한 점이 있다. 이에 마음AI는 CoIT(Conversion of Intelligence Technique) 기법을 적용해 기존 모델의 우수한 영어 능력을 한국어로 치환함으로써 한국어에서도 탁월한 성능을 발휘하도록 만들었다.

이번 모델 성능 향상에 따라 고객사는 더욱 체계적인 답변을 받을 수 있게 됐다. 

예를 들어 '원격 근무가 대중화됨에 따라 발생하는 사회적 변화가 무엇이 있는지 설명해달라'라는 요청에 대해 기존 모델은 단순히 다양한 변화를 나열하며 응답한 것과 달리, 최신 모델은 이 변화들을 긍정적인 측면과 부정적인 측면으로 나눠 답하며 더욱 심층적인 결과를 제공했다.

특히 '가드레일(안전하고 의도된 방향의 답변을 제공하기 위해 사전에 설정된 제약 조건)' 등 기업 내에서 중요하게 사용되는 테스크에 대해서도 챗GPT 4 옴니(Omni) 못지않은 최상급 성능을 보였다. 

이러한 성능 향상은 사내 LLM 활용도를 높임으로써 온프레미스 LLM 시장 규모가 실질적으로 크게 확대되는 데 기여할 것으로 예측된다.

이번 마음AI의 모델 업그레이드는 라마 3.1 오픈소스 모델이 공개된 지 불과 약 3주 만에 완료되었다는 점에서 큰 의의가 있다. 마음AI는 자사의 학습 최적화 기술(Distributed Learning)을 활용해 신속한 제품화를 이뤘으며, 기존 고객사의 제품도 빠르게 최신 모델로 업그레이드하고 있다.

최홍섭 마음AI 기술 대표는 "앞으로도 최고 수준의 오픈소스 모델이 출시될 때마다 신속하게 학습을 완료하고, 기존 고객 대상 업데이트를 지원해 지속적인 최첨단 서비스를 제공하겠다"고 자신감을 내비쳤다.

한편, 최근 다양한 산업 분야의 기업들이 망 분리·보안 이슈 없이 업무 생산성을 높이기 위해 온프레미스 LLM을 적극 활용하고 있다. 마음AI는 모델 경량화 기술을 바탕으로 타사 대비 혁신적인 가격으로 솔루션을 제공하며 시장에서 경쟁력을 보유하고 있다.