AI guardrail
프롬프트 인젝션 가드레일 테스트
Safeguard 정책 분류 또는 Prompt Guard 공격 점수를 선택해 일반 텍스트와 공격 지시를 테스트하세요。
데모 정책
지시 덮어쓰기, 숨겨진 프롬프트 추출, 기밀 데이터 공개, 권한 역할 위장 및 인코딩 공격을 탐지합니다. 일반 작업과 교육적 토론은 허용합니다.
예시 사용
- 1. 텍스트 입력
- 2. Safeguard 검사
- 3. 정책 결정검사 전
예시를 선택하거나 텍스트를 입력하세요.
답변 모델로 전송한 텍스트가 없습니다.
텍스트 분류 데모이며 안전을 보장하지 않습니다. 다른 데모를 보호하거나 답변 모델로 전송하지 않습니다. 텍스트는 Groq로 전송되므로 기밀 정보를 입력하지 마세요.
해결할 과제가 있으신가요
프로젝트가 어떤 형태인지 간단히 알려주세요. 바로 적용할 수 있는 의견과 함께 답변드립니다.