KAIST 연구진 "챗GPT 등 대형언어모델, 사이버 공격 악용 가능… 보안 장치 필요"

  • 경제/과학
  • 대덕특구

KAIST 연구진 "챗GPT 등 대형언어모델, 사이버 공격 악용 가능… 보안 장치 필요"

전기및전자공학부 신승원·김재철AI대학원 이기민 교수 연구팀
LLM 활용 개인정보 수집·피싱 공격 실험 수행해 가능성 규명

  • 승인 2025-02-24 17:52
  • 신문게재 2025-02-25 6면
  • 임효인 기자임효인 기자
clip20250224153323
공동연구팀. 위쪽 가운데 사진부터 시계방향으로 KAIST 전기및전자공학부 박사 나승호, KAIST 김재철AI대학원 이기민 교수, KAIST 전기및전자공학부 박사과정 송민규, KAIST 전기및전자공학부 신승원 교수, KAIST 전기및전자공학부 박사과정 김한나. KAIST 제공
인공지능(AI) 기술이 기존 대형언어모델(LLM) 기반 챗봇 수준을 넘어 자율성과 능동성을 겸비한 LLM 에이전트로까지 발전한 가운데 악용 시엔 개인정보 수집과 피싱 공격에 활용될 수 있다는 사실이 실험으로 규명됐다. KAIST 연구진은 AI 기반 자동화 공격의 심각성을 우려하며 보안 장치가 필요하다고 조언했다.

KAIST는 전기및전자공학부 신승원 교수와 김재철 AI대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM과 LLM 에이전트가 사이버 공격에 악용될 가능성을 실험적으로 규명했다고 25일 밝혔다.

오픈AI나 구글AI 등 상용 LLM 서비스는 LLM이 사이버공격에 사용되는 것을 막기 위해 방어 기법을 자체적으로 탑재하고 있음에도 불구하고 쉽게 우회해 악의적인 사이버공격을 수행할 수 있는 환경이란 게 이번 연구를 통해 확인됐다. 시간과 비용도 평균 5~20초 이내 30~60원(2~4센트) 수준으로 개인정보 탈취 등이 자동으로 가능해 새로운 위협 요소로 자리하고 있다.

연구 결과에 따르면 LLM 에이전트는 목표 대상의 개인정보를 최대 95.9% 정확도로 수집할 수 있다. 저명한 교수를 사칭한 허위 게시글 생성 실험에선 최대 93.9%까지 게시글이 진짜로 인식됐다.



LLM 에이전트는 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성하기도 했다. 실험 참가자들이 이러한 피싱 이메일 내 링크를 클릭할 확률은 46.67%까지 증가했다. 연구팀은 이 같은 결과가 AI 기반 자동화 공격 심각성을 시사한다고 분석했다.

제1저자인 김한나 연구원(박사과정)은 "LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위험이 기하급수적으로 커진다는 것이 확인됐다"며 "LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다"고 말했다.

신승원 전기및전자공학부 교수는 "이번 연구는 정보 보안과 AI정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며 연구팀은 LLM 서비스 제공업체, 연구기관과 협력해 보안 대책을 논의할 계획"이라고 말했다. 임효인 기자

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른기사 보기

랭킹뉴스

  1. 일과 중 가방 메고 나간 아이들, 대전 유치원서 아동학대 의혹
  2. 1기 신도시 재건축 '판 깔렸지만'…못 웃는 지방 노후계획도시
  3. K-water 안전기동점검반 임명식...‘안전을 심다’
  4. 이장우 "0시축제 3대하천 준설…미래위해 할일 해야"
  5. 밀알복지관 가족힐링캠프 '함께라서 행보캠'
  1. 대전행복나눔무지개푸드마켓 1호점 공식 카카오톡 채널 개설
  2. 교정시설에서 동료 수형자 폭행 '실형'…기절시켜 깨우는 행위 반복
  3. 축산업의 미래, 가축분뇨 문제 해결에 달렸다
  4. 1년치 단순통계 탓에 400여개 환자병상 사라질판…"현저한 의료격차 만들어"
  5. 농산 부산물, 부가가치 창출...환경과 경제 살리는 동력

헤드라인 뉴스


대전도시철도 무임손실 지난해 125억… 정부, 국비요청 묵묵부답

대전도시철도 무임손실 지난해 125억… 정부, 국비요청 묵묵부답

대전을 포함해 전국 도시철도가 무임승차로 인한 손실액이 매년 눈덩이처럼 불어나고 있는 가운데, 정부는 뒷짐을 채 외면하고 있다는 지적이다. 국가 정책에 따라 법정 무임승차를 이어오고 있지만, 정부는 수십 년간 요청됐던 국비 보전을 받아들이지 않고 있어 재정 문제는 지자체와 운영기관이 고스란히 떠안고 있다. 8일 대전을 포함해 전국 6개 교통공사에 따르면 지난해 도시철도운영기관 무임승차 손실액은 7228억 원에 달했다. 대전은 지난해 125억 원으로 4년 전(76억 원) 대비 약 64.4%나 늘어난 셈이다. 도시철도 운영기관은 도시철..

올해 수능 55만 4174명 지원… 10명 중 6명이 `사탐런` 최대변수
올해 수능 55만 4174명 지원… 10명 중 6명이 '사탐런' 최대변수

2026학년도 대학수학능력시험(수능) 지원자가 전년보다 3만1504명 늘어나며 55만 명을 넘어섰다. 또 응시자 10명 중 6명은 사회탐구(사탐) 영역을 선택하면서 '사탐런'이 이번 수능 최대 변수가 될 전망이다. 한국교육과정평가원이 8일 발표한 원서접수 결과에 따르면 올해 수능 응시생은 55만4174명으로 집계됐다. 전년도(52만 2670명)보다 3만1504명 늘었다. 이는 2007년 '황금돼지 해' 출생자가 올해 고3에 진학한 영향으로 분석된다. 이번 수능은 고3 재학생이 37만 1897명(67.1%), 졸업생 15만 9922명..

국회에 ‘기념사’ 해명하러 왔다가 혼쭐난 김형석 독립기념관장
국회에 ‘기념사’ 해명하러 왔다가 혼쭐난 김형석 독립기념관장

항일 독립운동 폄훼와 친일 논란을 빚고 있는 김형석 독립기념관장이 8일 국회를 찾았다고 혼쭐이 났다. 8·15 광복절 기념사 왜곡과 광복회원 농성의 부당성 등에 대해 입장을 밝혔지만, 독립운동가 후손과 시민단체의 반발을 사면서 쫓기듯 국회를 벗어날 정도였다. 김 관장은 이날 오후 국회 소통관에서 기자회견을 열었다. 기자회견은 국민의힘 김민전 의원이 주선했다. 김민전 의원은 12·3 비상계엄 후 올해 1월 ‘윤석열 전 대통령을 지키겠다’며 한남동 공관 앞에서 시위를 벌이며 자신들을 ‘백골단’으로 소개한 ‘반공청년단’의 국회 소통관 기..

실시간 뉴스

지난 기획시리즈

  • 정치

  • 경제

  • 사회

  • 문화

  • 오피니언

  • 사람들

  • 기획연재

포토뉴스

  • ‘한국의 情을 고향에 전하세요’ ‘한국의 情을 고향에 전하세요’

  • K-water 안전기동점검반 임명식...‘안전을 심다’ K-water 안전기동점검반 임명식...‘안전을 심다’

  • 물에 잠긴 도로 달리는 차량들 물에 잠긴 도로 달리는 차량들

  • 맨발로 느끼는 힐링 오감 축제…‘해변을 맨발로 걸어요’ 맨발로 느끼는 힐링 오감 축제…‘해변을 맨발로 걸어요’