AI 표시의무 안착 과제…"예측 가능한 기준 필요"

보조·변환형 활용 기준 논의…과기부 "현장 의견 반영해 보완"

[프라임경제] 인공지능(AI) 기본법상 생성형 AI 표시의무를 두고 산업 현장에서 세부 기준을 보다 명확히 할 필요가 있다는 의견이 나오고 있다. 제도 취지에는 공감하지만, 실제 서비스에서는 AI가 편집·보조·변환·추천 등 다양한 방식으로 활용되는 만큼 유형별 판단 기준이 필요하다는 취지다.

AI 기본법상 생성형 AI 표시의무를 두고 보조·변환형 AI 활용의 표시 대상 여부가 논의 과제로 떠오르고 있다. 사진은 기사 내용과 직접 관련 없음. ⓒ 연합뉴스

15일 관련 업계에 따르면, 생성형 AI 표시의무는 AI가 생성한 결과물이라는 사실을 이용자에게 알리도록 하는 제도다. 딥페이크와 허위정보 확산을 막고 이용자의 알 권리를 보장하기 위해 도입됐다.

AI기본법 제31조 제2항은 생성형 AI 또는 이를 이용한 제품·서비스를 제공하는 인공지능사업자에게 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 규정하고 있다. 시행령 제23조 제2항은 표시 방법으로 사람이 인식할 수 있는 방식과 기계가 판독할 수 있는 방식을 제시하고 있다.

다만 산업 현장에서는 AI 활용 방식이 다양해지면서 세부 적용 기준을 둘러싼 판단 부담이 나타나고 있다. AI가 전체 콘텐츠를 단독으로 생성하는 경우는 비교적 명확하지만, 문장 교정·요약·번역·이미지 보정처럼 일부 기능만 보조적으로 활용되는 경우도 많기 때문이다. 이때 어디까지를 AI 생성물로 볼지, 표시 책임은 누구에게 있는지에 대한 구체적 사례가 필요하다는 의견이 나온다.

지난 4월 스타트업얼라이언스가 펴낸 'AI기본법 표시의무, 현장은 무엇을 고민하는가'는 생성형 AI 표시의무와 관련해 현장에서 검토가 필요한 쟁점으로 '표시 대상 여부 판단의 어려움'을 제시했다.

정주연 스타트업얼라이언스 선임 전문위원은 "가장 큰 혼란은 우리 서비스가 표시 대상인지 스스로 판단하기 어렵다는 점"이라며 "AI가 단독으로 생성하는 경우는 비교적 명확하지만 실제 현장에서는 편집·보조·변환·배열 형태로 활용되는 경우가 훨씬 많다"고 말했다.

이어 "이때 어디까지를 AI 생성물로 볼지, 책임 주체가 누구인지가 불명확해 실무상 판단 부담이 이어지고 있다"며 "표시 대상을 일률적으로 묶기보다는 기능의 성격과 위험도에 따라 구분할 필요가 있다"고 설명했다.

특히 음성-텍스트 변환(STT), 텍스트-음성 변환(TTS), 기계 번역, 광학문자인식(OCR) 등 변환형 기술과 추천 시스템은 세부 기준 논의가 필요한 영역으로 꼽힌다. 변환형 기술은 기존 정보를 다른 형식으로 옮기는 성격이 강하고, 추천 시스템도 기존 콘텐츠의 배열과 노출 순서를 조정하는 기능에 가깝기 때문이다.

정 위원은 "이런 보조·변환·배열 기능까지 모두 동일하게 생성형 AI 결과물로 보면 적용 범위가 넓게 해석될 수 있다"며 "딥페이크나 허위정보처럼 사회적 위험이 큰 영역과 저위험·보조 기능은 다른 기준으로 접근할 필요가 있다"고 말했다.

정부는 현행 법 체계 안에서 표시의무 기준을 구체화하고 있으며, 현장 의견을 반영해 제도 보완을 이어가겠다는 입장이다.

최우석 과기정통부 인공지능안전신뢰지원과장은 "현행 법 체계에서는 생성형 AI 활용 사실을 표시하도록 하고 있다"라며 "구체적 적용 여부는 AI 관여 정도와 서비스 구조 등을 종합적으로 고려해 판단할 사안"이라고 설명했다.

복합 서비스 구조에서 책임 주체 역시 구체적 사례에 따라 판단이 달라질 수 있다는 설명이다. 최 과장은 "여러 사업자가 함께 서비스를 제공하는 경우 서비스 구조와 각 사업자의 역할을 종합적으로 살펴볼 필요가 있다"며 "현장 사례를 토대로 가이드라인과 사례집을 보완해 나가겠다"고 말했다.

정부는 제도 시행 초기 현장의 이해를 돕기 위한 보완 작업도 진행 중이다. 최 과장은 "지원데스크를 통해 들어온 질의 중 절반가량이 투명성 관련 내용이었다"며 "주요 질의응답 사례집을 냈고, 가이드라인도 필요한 부분은 수시로 보완하고 있다"고 말했다.

이어 "기업들이 실제로 감당 가능한 표시 방식에 대한 의견을 모으고 있다"며 "투명성 얼라이언스를 통해 기업들의 의견을 모아 가이드라인 보완뿐 아니라 제도 개선 필요성까지 살펴볼 계획"이라고 설명했다.

업계에서는 AI 표시의무가 실질적인 이용자 보호 장치로 기능하려면 단순히 AI 활용 여부만 따지는 방식에서 벗어나 이용자 오인 가능성, 기만 목적, 사회적 위험도, 사업자의 통제 가능성 등을 종합적으로 고려해야 한다는 의견도 제기된다.

정 위원은 "핵심은 규제의 존재 자체라기보다 적용 범위와 해석의 불확실성"이라며 "범위가 불명확하면 기업은 리스크를 피하려고 가장 보수적인 설계를 택하게 되고, 이는 기능 제한이나 출시 지연으로 이어질 수 있다"고 말했다.

이어 "예측 가능성은 스타트업의 생존과 직결된다"며 "정부가 가이드라인과 고시를 마련한다면 AI 생성물의 범위, 예외조항의 적용 기준, 복합 서비스 구조에서의 책임 귀속 기준부터 명확히 해야 한다"고 제언했다.

AI 표시의무가 산업 현장에 안착하기 위해서는 이용자 보호라는 제도 취지를 유지하면서도 기업들이 예측 가능한 기준 안에서 서비스를 개발할 수 있도록 세부 기준을 지속적으로 정비하는 작업이 필요해 보인다.