[프라임경제] 내년부터 사이버 공격에 생성형 인공지능(AI) 기술을 악용하는 사례가 본격화할 것이란 전망이 나왔다.
과학기술정보통신부(이하 과기정통부)와 한국인터넷진흥원(KISA)은 국내외 정보보안 전문가 네트워크와 함께 작성한 '올해 사이버 위협 사례 분석과 2025년 전망 보고서'를 18일 발표했다.
내년 사이버 위협 전망에 따르면 AI 서비스 사용이 일반화되며 챗GPT와 같은 검증된 모델을 사용한 선전·선동이나 피싱 공격이 증가할 것으로 예측됐다.
최근 오픈AI에 따르면 러시아와 중국 등 일부 국가에서 인터넷상 여론 조작 및 정치적 선전에 챗GPT를 사용한 사례가 보고됐다.
보고서는 "AI를 활용해 정교하게 작성한 허위 콘텐츠는 진짜와 구별하기 힘들고 가짜뉴스와 SNS를 통해 빠르게 확산한다"며 "특정 집단에 의한 여론 조작으로 사회적 갈등과 혼란이 증가할 가능성이 크다"고 밝혔다.
그러면서 "생성형 AI가 기업 내부 시스템과 연동돼서 구축된 경우 민감한 데이터의 노출과 오용 가능성이 커진다"며 "기업들이 AI 모델 도입 단계에서 보안을 내재화하고 상시 모니터링 체계를 구축해야 한다"고 덧붙였다.
특히 생성형 AI 외에도 목적 자체가 불법적인 FruadGPT(사기), WormGPT(악성코드 생성)와 같이 사이버 범죄에 특화된 악성 AI 모델이 다크웹 등을 통해 유통되고 있다고 있다는 설명이다.
또 자율주행차, 스마트 빌딩·교통 시스템 등 '디지털 융합기술'이 확산함에 따라 이를 노린 사이버 위협도 늘어날 가능성이 제기됐다.
아울러 글로벌 환경 변화에 따른 사이버 위협, 무차별 분산 서비스 거부(디도스) 공격 등이 늘어날 전망이다.
올해의 대표적 사이버 위협 사례는 △사이버 사기로 인한 국민 피해 △소프트웨어(SW) 공급망 공격 등 복합적인 공격 전술 △랜섬웨어 공격기법 고도화 등이 꼽혔다.
류제명 과기정통부 네트워크정책실장은 "고도화된 사이버 위협에 체계적으로 대응할 수 있도록 더욱 유기적인 민간, 공공기관의 협력체계를 구축하겠다"며 "사이버 위협의 선제적 방어와 억제를 통해 안전한 디지털 환경을 만들어 가겠다"고 말했다.
