Tag: 프롬프트주입

* AI 브라우저의 보안 가드레일을 무력화하여 사용자 자격 증명을 유출시키는 '바이오쇼킹' 공격 기법 발견 * 가상 게임 상황 설정을 통해 AI가 안전 규칙 대신 게임 로직을 따르게 유도하여 민감 데이터 탈취 * 간접 프롬프트 주입을 통해 챗GPT 아틀라스, 클로드 등 주요 AI 에이전트의 취약성 확인 * 제로데이 취약점 및 공통 브라우저 코어(Chromium) 기반의 광범위한 엔터프라이즈 보안 리스크 증대

* 보안 기업 레이어엑스(LayerX)의 연구를 통해 발견된 AI 브라우저 대상의 자격 증명 탈취 공격 기법 '바이오쇼킹(BioShocking)'의 위협성. * 인공지능 에이전트에게 거짓 규칙이 적용되는 가상 게임 환경을 학습시켜 안전 가이드라인을 완전히 우회하도록 만드는 최면식 우회 기법의 구조. * 기존 브라우저의 사이트 간 격리 정책과 달리 제어 영역과 데이터 영역이 통합된 AI 에이전트의 특성으로 인한 심각한 보안 취약점 노출. * 오픈AI, 앤트로픽, 퍼플렉시티 등 주요 개발사들의 불균일한 패치 대응 현황과 사용자 및 기업 차원의 제한적 권한 부여 및 주의 필요성.