KAIST 연구진 "챗GPT 등 대형언어모델, 사이버 공격 악용 가능… 보안 장치 필요"

  • 경제/과학
  • 대덕특구

KAIST 연구진 "챗GPT 등 대형언어모델, 사이버 공격 악용 가능… 보안 장치 필요"

전기및전자공학부 신승원·김재철AI대학원 이기민 교수 연구팀
LLM 활용 개인정보 수집·피싱 공격 실험 수행해 가능성 규명

  • 승인 2025-02-24 17:52
  • 신문게재 2025-02-25 6면
  • 임효인 기자임효인 기자
clip20250224153323
공동연구팀. 위쪽 가운데 사진부터 시계방향으로 KAIST 전기및전자공학부 박사 나승호, KAIST 김재철AI대학원 이기민 교수, KAIST 전기및전자공학부 박사과정 송민규, KAIST 전기및전자공학부 신승원 교수, KAIST 전기및전자공학부 박사과정 김한나. KAIST 제공
인공지능(AI) 기술이 기존 대형언어모델(LLM) 기반 챗봇 수준을 넘어 자율성과 능동성을 겸비한 LLM 에이전트로까지 발전한 가운데 악용 시엔 개인정보 수집과 피싱 공격에 활용될 수 있다는 사실이 실험으로 규명됐다. KAIST 연구진은 AI 기반 자동화 공격의 심각성을 우려하며 보안 장치가 필요하다고 조언했다.

KAIST는 전기및전자공학부 신승원 교수와 김재철 AI대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM과 LLM 에이전트가 사이버 공격에 악용될 가능성을 실험적으로 규명했다고 25일 밝혔다.

오픈AI나 구글AI 등 상용 LLM 서비스는 LLM이 사이버공격에 사용되는 것을 막기 위해 방어 기법을 자체적으로 탑재하고 있음에도 불구하고 쉽게 우회해 악의적인 사이버공격을 수행할 수 있는 환경이란 게 이번 연구를 통해 확인됐다. 시간과 비용도 평균 5~20초 이내 30~60원(2~4센트) 수준으로 개인정보 탈취 등이 자동으로 가능해 새로운 위협 요소로 자리하고 있다.

연구 결과에 따르면 LLM 에이전트는 목표 대상의 개인정보를 최대 95.9% 정확도로 수집할 수 있다. 저명한 교수를 사칭한 허위 게시글 생성 실험에선 최대 93.9%까지 게시글이 진짜로 인식됐다.

LLM 에이전트는 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성하기도 했다. 실험 참가자들이 이러한 피싱 이메일 내 링크를 클릭할 확률은 46.67%까지 증가했다. 연구팀은 이 같은 결과가 AI 기반 자동화 공격 심각성을 시사한다고 분석했다.

제1저자인 김한나 연구원(박사과정)은 "LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위험이 기하급수적으로 커진다는 것이 확인됐다"며 "LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다"고 말했다.

신승원 전기및전자공학부 교수는 "이번 연구는 정보 보안과 AI정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며 연구팀은 LLM 서비스 제공업체, 연구기관과 협력해 보안 대책을 논의할 계획"이라고 말했다. 임효인 기자

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른기사 보기

랭킹뉴스

  1. 대전에서는 수능 부정행위 23건 적발... 재난문자 퇴실은 2명
  2. 54년 신뢰와 나눔, 100년의 약속으로
  3. 수능 국어·영어 작년보다 쉽고, 수학이 변별력 만들어
  4. 세이브더칠드런 중부지역본부와 배방한성필어린집, 아동 살리는 어린이집 캠페인 참여
  5. 대전 부사동 보문산 인근 주택서 불…진화 중
  1. [기고] 영화 「드골, 저항의 시작」을 통해 본 지도자의 소명과 책임 ①
  2. "650억 세수" 삼성 세종 투자 이끈 지원, 적극행정 최우수 사례
  3. 백석문화대, '2026 AI 해커톤 대회' 개최
  4. 상명대 지능형로봇 혁신융합대학사업단, 울트라이노베이션과 산학협력 MOU 체결
  5. 충남음악창작소, 자카르타·도쿄서 지역 뮤지션 해외 무대 지원

헤드라인 뉴스


대전 정비사업 문턱 낮춘다…용적률 인센티브·높이 제한 완화

대전 정비사업 문턱 낮춘다…용적률 인센티브·높이 제한 완화

대전시가 정비사업 활성화와 주거환경 개선을 위해 용적률 인센티브를 확대하고 건축물 높이 제한 등 관련 기준을 완화한다. 주차 공간 확충과 친환경 건축물 조성에 대한 혜택을 늘리는 한편, 지역업체 참여 기준도 완화해 정비사업 추진에 속도를 낸다는 구상이다. 20일 대전시에 따르면, 이날 정비사업 활성화와 쾌적한 주거환경 조성을 위해 '2030 대전광역시 도시·주거환경정비기본계획'을 변경·고시했다. 변경된 기본계획은 오는 12월 1일부터 시행된다. 주요 내용은 ▲주거생활권 재편 ▲주차 공간 확충과 친환경 건축 등에 대한 용적률 인센티브..

하루 2만 4천명 `탔슈`… 대전 타슈, 올해 대여 800만 건 돌파
하루 2만 4천명 '탔슈'… 대전 타슈, 올해 대여 800만 건 돌파

대전시 공영자전거 '타슈'의 올해 대여 건수가 11월 기준 800만 건을 넘은 것으로 나타났다. 2009년 도입 이후 연간 최다 기록이다. 하루 평균 대여 건수는 약 2만 4천 건으로, 올해 누적 대여 건수는 지난해 전체 실적(약 597만 건)보다 200만 건 이상 많다. 연간 대여 건수는 '타슈 시즌 2'가 도입된 2022년 약 195만 건에서 2025년 약 597만 건으로 늘었다. 올해 상반기 대여 건수는 약 408만 건이다. 대전시는 현재 자전거 6058대와 대여소 1380곳을 운영하고 있다. 가입 회원은 약 69만 명이다...

국어 쉬워지고 수학 변별력 커져…정시 합격선 상승 전망
국어 쉬워지고 수학 변별력 커져…정시 합격선 상승 전망

2027학년도 대학수학능력시험(수능)이 지난해보다 다소 쉽게 출제되면서 주요 대학의 정시 합격선도 원점수 기준 상승할 것으로 전망됐다. 국어와 일부 탐구 과목의 난도가 낮아진 반면 수학의 변별력이 상대적으로 커지면서 과목별 유불리가 정시 지원의 주요 변수가 될 것으로 보인다. 20일 종로학원이 수능 가채점 결과를 분석한 자료에 따르면 국어·수학·탐구(2과목 합산) 원점수 300점 만점 기준 서울대 경영대학의 예상 합격선은 287점으로 집계됐다. 연세대와 고려대 경영대학은 각각 283점, 성균관대 글로벌경영은 277점으로 전망됐다...

실시간 뉴스

지난 기획시리즈

  • 정치

  • 경제

  • 사회

  • 문화

  • 오피니언

  • 사람들

  • 기획연재

포토뉴스

  • ‘우리 딸, 고생했어’ ‘우리 딸, 고생했어’

  • 수능일 내린 올 겨울 첫 눈 수능일 내린 올 겨울 첫 눈

  • 시험장 복도에 놓인 가방들 시험장 복도에 놓인 가방들

  • 수거되는 전자기기 수거되는 전자기기