개정 개인정보보호법이 지난 9월 11일 시행되면서 기업의 개인정보 관리 책임이 한층 무거워졌다. 중대·반복 침해에 대한 과징금 상한이 높아졌고 대표자와 CPO 책임도 명시되면서, 생성형 AI를 업무에 도입한 기업들은 AI가 다루는 개인정보를 어떻게 통제할지 새 기준을 요구받고 있다.
이런 흐름 속에서 에이아이딥(AIDEEP)은 생성형 AI 환경에서 주의해야 할 보안 위협으로 권한 없는 정보 접근, 개인정보·민감정보 유출, 악의적 질문을 통한 보안 우회, 사고 원인 확인의 어려움 등 네 가지를 제시했다. 회사는 LLM·RAG 기반 AI가 기존 보안 체계만으로는 충분히 다뤄지지 않는 영역을 만들고 있다고 봤다.
에이아이딥 AI 기술 컨설팅팀 민성현 팀장은 “생성형 AI 보안은 답변 결과만 점검해서는 충분하지 않다”며 “질문과 첨부파일, 참조 데이터, 사용자 권한, 운영 이력까지 AI가 처리하는 전 과정을 함께 관리해야 한다”고 말했다. 업계에서는 생성형 AI 확산이 빨라질수록 단순 차단보다 접근 통제와 이력 관리가 결합된 보안 체계가 중요해질 것으로 보고 있다.
회사는 이를 대응하기 위한 생성형 AI 특화 통합 보안 솔루션으로 ‘DeepGenGuard’를 소개했다. 이 솔루션은 질문, 첨부파일, AI 답변 속 개인정보와 민감정보를 탐지해 마스킹, 비식별화, 출력 차단을 지원하고, 질문 의도를 분석해 Prompt Injection 등 우회 공격을 사전에 막는 기능을 갖췄다고 설명했다. 또 사용자 역할(RBAC)과 보안등급에 따라 Vector DB 접근 범위를 세분화하고, 데이터 포이즈닝 탐지·격리와 SBOM 기반 이력 관리, 질문·검색·답변 전 과정의 보안 추적 기능도 제공한다고 밝혔다.
민 팀장은 “AI 활용 범위가 넓어질수록 신뢰할 수 있는 데이터와 검증된 구성요소만 운영 환경에 적용하는 체계가 필요하다”며 “DeepGenGuard를 통해 기업과 기관이 AI의 활용과 보안을 함께 갖출 수 있도록 지원하겠다”고 말했다.
· · · · · · · · · ·
한국사회복지저널은 AI 기술의 도움을 받아 보도자료와 복지 정보를 보다 쉽고 정확하게 전달하기 위해 노력하고 있습니다.