참고리서치
상황별 AI 레드티밍 시험 항목과 점검표
AI 레드티밍은 공격자 관점에서 AI를 속여 약점을 찾는 시험이다. 공공 AI와 자금 거래 승인, 영향이 큰 배포, 시험용 에이전트의 점검 항목을 살펴보고 거절·철회·격리 경로와 증거 확보를 확인한다.
#AI에이전트보안
참고리서치
AI 에이전트 보안의 권한·한도·검증 10항목
AI 에이전트는 답변을 넘어 업무 시스템에서 직접 행동한다. 분석·승인·게시·서명 권한을 나누고 거래 한도와 독립 검사를 두며, 운영 증거에 따라 위임을 넓히는 보안 점검 10항목을 정리한다.
참고해설
MCP 보안, 도구 연결 전후의 권한·자격증명 점검
MCP로 AI에 도구를 연결하면 서비스 접근에 쓰는 자격증명과 권한도 함께 움직인다. 공식 SDK의 OAuth 결함과 에이전트 사고 사례를 바탕으로 서비스별 검증, 최소 접근, 명시적 승인 등 여덟 가지 점검 항목을 살핀다.
참고리서치
프롬프트 인젝션 대응을 위한 AI 권한 분리
외부 자료에 숨은 지시가 AI의 실제 행동으로 이어질 수 있다. 콘텐츠 분석·지갑 연결·이체 승인 사례를 통해 분석과 승인, 게시와 서명을 나누고 모델 밖에서 실행을 검증하는 방법을 살핀다.