[프라임경제] 인공지능 AI전문 기업 솔트룩스(대표 이경일)가 지난달 30일 자사가 주관하는 '사회적·윤리적 학습을 위한 데이터 특성·생성 AI 모델의 윤리성 향상 연구' 과제와 관련된 워크샵을 성료했다고 15일 밝혔다.
이번 워크샵에서는 △서울대학교 △성균관대학교 △서강대학교 △건국대학교 △한국과학기술원 △KT △한국전자통신연구원 △다이퀘스트 등 3개의 주요 대학과 연구기관·기업이 참여했다.
이번 워크샵의 목적은 사회적·윤리적 학습을 위한 데이터 특성·생성 AI 모델의 윤리성 향상 연구에 대한 가이드라인을 수립하고 연구 성과를 공유하는 것이다. 참석자들은 다양한 도메인에서 생성 AI의 사회적·윤리적 능력을 보편적 특성에 맞게 개선하는 방안과 지속 가능하고 확장 가능한 플랫폼으로 구현하는 방안을 논의했다.
참여 기관들은 각자의 전문성을 바탕으로 사회적·윤리적 편향을 최소화한 데이터셋을 개발하고 이를 통해 생성 AI의 윤리성을 향상시키기 위한 연구를 진행 중이다. 학제 간 협력을 강화하기 위해 'MoEE(Mixture of Ethics Experts)' 기술이 개발됐다. 이를 통해 AI 모델의 윤리적 기준을 더욱 강화할 수 있는 기반이 마련되었다.
솔트룩스는 이번 연구 과제의 최종 목표가 Ethics-GenAIOps 오픈 플랫폼을 개방하고 100만 명 이상의 대국민 서비스 사용자를 확보하는 것이다.
또한 12월4일 본 과제 참여 기관인 서울대학교 AI 연구원 인공지능 ELSI연구센터가 주최하는 지능 'ELSI 심포지움'에 참여할 계획이다. 심포지움에서는 △인공지능 윤리 △편향성 △신뢰성 등을 주제로 다양한 전문가들이 모여 의견을 나눌 예정이다.
솔트룩스 관계자는 "이번 워크샵은 각 기관의 연구 성과를 공유하고 다각적인 시각과 인사이트를 얻는 유익한 자리였다"며 "성공적인 과제 수행을 위해 앞으로도 지속적으로 협력과 성과 공유의 장을 마련할 계획"이라고 말했다.
