AI 서비스 취약점이 반년 새 10배 늘어난 이유와 개인 사용자가 점검할 보안 설정

AI 서비스 취약점이 2025년 4분기보다 2026년 2분기에 10배 늘어 935건까지 집계됐습니다.
취약점 증가가 곧바로 공격 10배를 뜻하는 것은 아니지만, AI 서비스의 사용 범위와 연결 권한이 빠르게 커진 것은 분명합니다.
개인 사용자는 2단계 인증, 대화 학습 설정, 메모리·활동 기록, 연결 앱과 공유 링크를 우선 점검하는 게 좋습니다.

AI 서비스 취약점이 반년 새 10배 늘었다는 말, 정확히 무슨 뜻일까요?

최근 AI 보안 관련 소식에서 가장 눈에 띄는 숫자가 나왔습니다. 카스퍼스키가 공개한 자료에 따르면 AI와 대규모언어모델(LLM) 서비스에서 기록된 취약점이 2025년 4분기와 비교해 2026년 2분기에 10배 늘었고, 건수로는 935건에 이르렀는데요. 이 가운데 치명적 취약점도 119건으로 집계돼 연말보다 거의 5배 증가한 것으로 나타났습니다.

다만 여기서 숫자를 곧바로 “AI 이용자에 대한 공격이 10배 늘었다”라고 받아들이면 조금 곤란합니다. 이번 수치는 AI 서비스와 관련해 발견·공개된 취약점의 수에 가깝습니다. 실제 공격 성공 건수나 피해자 수가 같은 비율로 증가했다는 의미는 아니죠.

그럼에도 가볍게 넘기기 어려운 이유는 있습니다. 취약점이 발견되는 서비스 자체가 많아졌고, 챗봇 하나만 쓰는 수준을 넘어 플러그인, 파일 업로드, 외부 앱 연결, 자동화 에이전트까지 AI가 접근하는 영역이 넓어졌기 때문입니다.

왜 이렇게 빠르게 늘었을까?

1. AI 서비스와 연결 기능이 너무 빠르게 늘었습니다

예전의 챗봇은 질문을 받고 답하는 역할에 가까웠습니다. 지금은 문서를 읽고, 이메일이나 일정 정보를 참고하고, 코드를 실행하거나 외부 서비스에 연결되는 기능까지 제공하죠. 편리해진 만큼 공격자가 살펴볼 지점도 많아졌습니다.

특히 AI가 단순히 답변만 하는 게 아니라 다른 도구를 호출하는 구조에서는 계정 권한, API 키, 파일 저장소, 브라우저 세션이 모두 보안 요소가 됩니다. 한 곳의 설정이 잘못돼도 다른 서비스의 정보까지 이어질 수 있는 구조인 셈이에요.

2. AI가 취약점 탐색 속도까지 끌어올리고 있습니다

취약점이 늘어난 배경에는 AI를 활용한 보안 연구도 있습니다. 사람이 오랫동안 코드를 분석해야 찾을 수 있던 문제를 AI가 빠르게 찾아내면서, 지금까지 묻혀 있던 오래된 소프트웨어 결함까지 한꺼번에 드러나는 모습입니다.

FIRST의 2026년 중간 전망에서도 전체 CVE 공개량이 크게 늘어난 원인으로 AI를 활용한 취약점 탐색, 보안 권고 데이터 증가, 새로운 등록기관의 참여 확대 등을 꼽았습니다. 다만 실제 악용 가능성이 높은 취약점이 공개 건수와 같은 속도로 늘어난 것은 아니라는 설명도 함께 나왔습니다. 숫자가 커졌다고 모든 취약점이 당장 같은 위험도를 갖는 것은 아니라는 뜻이죠.

3. 인증·권한 관리와 프롬프트 인젝션 문제가 반복되고 있습니다

카스퍼스키가 분석한 AI 관련 취약점에서 자주 등장한 유형은 중요한 시스템 객체에 대한 접근 통제가 약하거나, 인증과 권한 부여가 제대로 구현되지 않은 경우였습니다. 여기에 공격자가 문서나 웹페이지 속 지시문을 통해 AI의 행동을 바꾸는 프롬프트 인젝션 문제도 계속 커지고 있습니다.

쉽게 말해 AI가 “이 문서는 참고 자료”와 “이 문서가 시키는 명령”을 완벽하게 구분하지 못할 수 있다는 이야기입니다. 악성 지시문이 들어 있는 웹페이지나 파일을 AI가 읽으면, 원래 사용자가 원하지 않았던 정보를 조회하거나 외부 도구를 호출할 가능성이 생깁니다.

4. AI 에이전트와 공급망이 새로운 공격면이 됐습니다

OWASP는 2026년 보고서에서 공격자가 모델의 답변 자체보다 에이전트의 신원, 자동화 과정, 연결된 공급망을 노리는 사례가 늘고 있다고 정리했습니다. 과도한 권한, 잘못된 설정, 검증되지 않은 외부 도구가 데이터 유출이나 원격 코드 실행으로 이어질 수 있다는 내용인데요.

그래서 AI 보안은 “모델이 이상한 말을 하지 않는가”만 확인해서는 부족합니다. 어떤 계정으로 로그인했는지, 무엇을 읽을 수 있는지, 어떤 앱을 대신 조작할 수 있는지까지 함께 봐야 합니다.

개인 사용자가 지금 점검할 AI 보안 설정

1. 로그인 보안부터 바꿔두세요

가장 먼저 확인할 것은 AI 서비스 계정의 로그인 방식입니다. 비밀번호를 다른 사이트와 돌려 쓰고 있다면 바로 바꾸고, 가능하면 패스키나 2단계 인증을 켜는 게 좋습니다. 특히 구글·마이크로소프트·애플 계정으로 간편 로그인을 했다면 AI 서비스뿐 아니라 연결된 기본 계정의 로그인 기록과 등록 기기도 같이 확인해야 해요.

최근 로그인 기기와 접속 위치 확인
사용하지 않는 세션과 오래된 기기 로그아웃
2단계 인증 또는 패스키 설정
복구 이메일과 전화번호가 현재 사용하는 정보인지 확인
수상한 로그인 알림이 있었다면 비밀번호와 세션을 함께 초기화

2. 대화 내용의 학습·저장 설정을 확인하세요

ChatGPT 개인 계정은 프로필 메뉴에서 설정 → 데이터 제어 → 모두를 위한 모델 개선 항목을 끌 수 있습니다. 이 설정을 끄면 새 대화가 모델 개선에 사용되지 않지만, 대화 기록 자체는 남을 수 있으니 기록 삭제와는 별개로 봐야 합니다. 민감한 내용을 잠깐 확인할 때는 임시 채팅을 사용하는 편이 낫습니다.

Gemini는 Gemini 앱 활동에서 대화 기록을 확인하고 삭제하거나 자동 삭제 기간을 바꿀 수 있습니다. Google은 활동 기록을 꺼도 서비스 제공과 보안 유지 목적의 처리는 계속될 수 있다고 안내하고 있으니, 설정을 껐다는 이유만으로 주민등록번호나 금융정보를 입력해도 된다고 생각하면 안 됩니다.

Copilot도 대화 기록과 학습·개인 설정을 따로 관리합니다. 프로필에서 개인정보 또는 설정 메뉴로 들어가 대화 활동 학습, 개인 설정과 메모리를 각각 확인해야 합니다. 학습 설정을 꺼도 보안, 악용 방지, 서비스 운영을 위한 처리가 모두 중단되는 것은 아닙니다.

3. 메모리와 연결 앱 권한을 정리하세요

AI의 메모리 기능은 편리하지만, 가족관계나 직장 정보, 건강 상태, 자주 가는 장소처럼 굳이 오래 남길 필요가 없는 정보까지 저장될 수 있습니다. 서비스가 나를 위해 기억하고 있는 내용을 직접 확인하고, 필요 없는 항목은 삭제해두는 게 좋아요.

연결 앱도 꼭 살펴보세요. Google 계정, 저장 공간, 캘린더, 메일, 문서 도구와 연결된 AI라면 “이 기능을 실제로 계속 쓸 것인가?”를 기준으로 판단하면 됩니다. 한 번 연결한 뒤 잊고 지내는 외부 앱이 있다면 권한을 끊고, 사용하지 않는 플러그인이나 확장 프로그램도 삭제하는 편이 안전합니다.

4. 공유 링크와 파일 업로드 기록을 점검하세요

AI 대화는 혼자만 보는 기록이라고 생각하기 쉽지만, 공유 링크를 만들어 놓으면 이야기가 달라집니다. Copilot은 공유 링크를 가진 사람이 해당 대화의 복사본을 볼 수 있다고 안내하고 있습니다. ChatGPT나 Gemini에서도 공유 기능을 사용했다면 공개 링크 목록을 찾아 오래된 링크를 회수하세요.

업로드 파일도 마찬가지입니다. 주민등록증, 계약서, 급여명세서, 병원 기록, 회사 내부 문서처럼 원본 자체가 민감한 자료는 AI에 올리지 않는 것이 기본입니다. 꼭 분석해야 한다면 이름·주소·계좌번호·고객번호를 먼저 지우고, 필요한 부분만 잘라서 올리는 방식이 그나마 안전합니다.

5. 무료 AI 프로그램과 가짜 앱을 조심하세요

AI 서비스 이용자가 늘면서 유명 챗봇을 사칭하는 악성 프로그램도 함께 늘고 있습니다. 카스퍼스키는 2026년 첫 4개월 동안 인기 AI 서비스로 위장한 악성 또는 원치 않는 프로그램을 이용한 중소기업 공격을 3만3,300건 넘게 탐지했다고 밝혔습니다.

앱은 공식 앱스토어와 서비스 사업자의 공식 페이지에서만 설치하고, “무료 프리미엄 기능”, “무제한 크레딧”, “AI 사진 변환기” 같은 광고를 보고 출처가 불분명한 설치 파일을 내려받지 않는 게 좋습니다. 브라우저 확장 프로그램도 설치 후 어떤 사이트의 데이터를 읽을 수 있는지 권한을 확인해보세요.

개인 사용자를 위한 10분 점검표

점검 항목	확인할 내용
계정	2단계 인증, 패스키, 최근 로그인 기기, 복구 수단
대화 기록	학습 사용 여부, 자동 삭제 기간, 오래된 민감 대화
메모리	AI가 기억하는 개인정보와 삭제할 항목
연결 앱	메일·드라이브·캘린더·외부 플러그인 권한
공유 기능	공개 대화 링크, 공유 파일, 공동 작업자
앱 설치	공식 배포처 여부와 브라우저 확장 권한
민감정보	주민번호, 계좌번호, 비밀번호, 회사 기밀 입력 여부

이번 취약점 급증 소식에서 개인 사용자가 기억할 핵심은 단순합니다. AI가 위험해서 쓰지 말라는 이야기가 아니라, AI에게 너무 많은 권한과 정보를 한꺼번에 넘기지 말자는 쪽에 가깝습니다. 계정은 잠그고, 연결 앱은 줄이고, 대화 기록과 메모리는 주기적으로 비우는 것. 이 세 가지만 해도 노출 가능성을 꽤 낮출 수 있습니다.

자주 묻는 질문

Q. AI 서비스 취약점이 10배 늘었다면 개인 계정도 이미 해킹됐다는 뜻인가요?

A. 그렇지는 않습니다. 공개된 취약점 수가 10배 늘었다는 의미와 개인 계정이 10배 더 많이 해킹됐다는 의미는 다릅니다. 다만 취약점이 실제 공격에 이용될 가능성은 있으므로 로그인 기록과 연결 앱 권한을 점검하는 것이 좋습니다.

Q. 대화 학습 설정을 끄면 민감정보를 입력해도 괜찮을까요?

A. 아닙니다. 학습에 사용되지 않더라도 서비스 제공, 악용 방지, 보안 점검이나 일정 기간의 보관이 이뤄질 수 있습니다. 주민등록번호, 계좌 비밀번호, 인증번호, 회사 기밀 같은 정보는 입력하지 않는 것이 가장 안전합니다.

Q. AI에 올린 파일을 삭제하면 완전히 사라지나요?

A. 서비스마다 보관 기간과 백업 정책이 다르기 때문에 즉시 모든 사본이 사라진다고 단정하기 어렵습니다. 대화 기록, 파일 보관함, 공유 링크, 연결 앱의 저장 위치를 각각 확인하고 삭제해야 합니다.

Q. 무료 AI 앱은 무조건 위험한가요?

A. 무료라는 이유만으로 위험하다고 볼 수는 없습니다. 다만 공식 배포처인지, 개발사와 개인정보 처리방침이 명확한지, 과도한 연락처·문서·화면 권한을 요구하지 않는지 확인해야 합니다. 출처가 불분명한 설치 파일은 피하는 편이 좋습니다.

AI 서비스 취약점이 반년 사이 10배 늘었다는 소식은 분명 긴장할 만한 신호입니다. 하지만 모든 AI 서비스가 당장 뚫린다는 뜻이라기보다는, AI가 빠르게 확장되는 동안 권한과 개인정보 관리가 그 속도를 따라가지 못하고 있다는 의미에 더 가깝죠. 오늘 사용하는 ChatGPT·Gemini·Copilot의 로그인 기록을 확인하고, 메모리와 연결 앱을 정리하고, 민감한 파일 업로드 습관만 줄여도 시작은 충분합니다. 편리함은 유지하되 AI에게 계정 전체를 맡기지는 않는 것, 이 정도 원칙은 꼭 기억해두면 좋겠습니다.