[프라임경제] 믿었던 인공지능(AI)이 폭탄과 마약 제조법을 알려주고 기업 비밀 폴더를 공유할 수 있다는 취약점이 드러나면서 기업 안전에 '빨간불'이 켜졌다.
SK쉴더스는 생성형 인공지능을 활용한 사이버 보안 공격이 늘어나고 있다며 분석한 올해 상반기 해킹 사례들을 AI 모의해킹과 보안 연계 서비스로 대비할 수 있다고 밝혔다.
SK쉴더스가 2일 서울 중구 페럼타워에서 올 상반기 주요 보안 트렌드를 분석하고 AI 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다.
이날 세미나는 특히 최근 주목 받고 있는 AI LLM의 취약점을 이용한 공격 3가지를 시연하고 보안 대책을 중점으로 진행됐다.
먼저 이재우 EQST 사업그룹장 전무가 올 상반기에 있었던 보안 이슈들을 발표하며 "가상자산 탈취와 딥페이크 해킹 공격이 올 상반기에 화제였다"고 말했다.
이 전무는 이어 "전 세계적으로 사용되고 있는 Ivanti 가상 사설망(VPN) 솔루션에서 제로데이 취약점이 발견돼 다양한 산업분야에서 피해를 입었다"고 설명했다.
EQST가 분석한 업종별 침해사고 발생 통계에 따르면 국내에선 금융업 분야 대상 공격이 20.6%로 가장 많았다. 그 뒤로 정보/통신 18%, 제조업 16.4% 순이었다.
비트코인 ETF 승인 등의 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격도 지속됐다. 국외에서는 국제 분쟁으로 인한 정부와 공공기관을 노린 공격이 26.7%로 가장 높은 순위를 차지했다.
이어서 이호석 EQST 랩 팀장이 AI 패러다임 전환과 보안 전략에 대해 발표를 이어갔다.
그는 생성형 AI가 급속도로 발전하며 가져올 수 있는 보안 위협에 관한 연구결과를 발표했다. 특히 비영리단체 OWASP에서 발표한 AI LLM 서비스에서 발생한 10가지의 취약점을 직접 분석하고 이 중 위험도가 높은 3가지를 시연했다.
이 팀장은 △프롬프트 인젝션 △불완전한 출력처리 △민감정보 노출을 꼽았다.
우선 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점이다. 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 우려가 있다.
두 번째로 불완전한 출력 처리는 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생한다. 다른 2차 공격으로 이어질 수 있어 위험도가 높다.
마지막 민감 정보 노출은 개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있다. EQST는 해당 취약점을 분석하면서 DB 정보를 탈취하는 공격을 시연했다.
더불어 LLM 애플리케이션에서 자주 발생하는 취약점을 △LLM 서비스 운영단계 △개발단계 △모델 개발 및 의존 단계로 나눠 분석해 각각의 보안 대책을 설명했다. 당사가 적극적으로 내놓은 방안은 '프롬프트 보안 솔루션'과 '데이터 정제 솔루션' 두 가지다.
SK쉴더스는 AI 서비스의 변화에 발맞춰 AI 모의해킹부터 연계 보안 서비스까지 맞춤형 서비스를 제공하겠다고 밝혔다.
이어 "LLM 인프라의 경우 서버 모델 저장소와 플러그인 등 일반적인 웹 서버의 구성보다 훨씬 복잡하기 때문에 고객 환경에 맞춘 보안 시스템 구축이 필수적"이라며 맞춤형 보안 체계를 갖출 것임을 알렸다.
이어지는 AI LLM의 이중적인 보안성으로 오히려 위험해질 수 있음을 묻는 질문에 이호석 EQST 랩 팀장은 "현재 SLLM으로 프라이빗하게 구축해서 쓰고 있는 대기업들이 많은 상태"라며 "프롬프트 인젝션을 막을 수 있느냐의 차이가 피해 규모를 결정지을 것"이라고 답변했다.
마지막으로 "현재 기업의 LLM 도입 속도가 느리다. 검토하고 있지만 가장 어려운 부분이 데이터인 것 같다"며 "해당 문제들에 맞춤형으로 해결 방안을 컨설팅 해 제시할 것"이라고 말했다.
SK쉴더스는 앞선 분석들을 바탕으로 AI 인프라 운영에 특화된 제로 트러스트 환경 구축 및 운영 체계 수립 서비스를 제공할 예정이다.
