Keep My Secret
Um jogo interativo de segurança de IA para praticar técnicas de defesa contra injeção de prompts.
Listado em categorias:
JogosInteligência artificial
Descrição
Keep My Secret é um jogo interativo de segurança em IA projetado para ensinar os jogadores sobre técnicas de defesa contra injeção de prompts. Os jogadores podem assumir os papéis de defensores ou atacantes, aprendendo a proteger segredos de prompts adversariais enquanto também entendem como criar prompts que podem revelar esses segredos. O jogo oferece uma maneira divertida e envolvente de dominar a segurança em IA por meio de cenários do mundo real e desafios competitivos.
Como usar Keep My Secret?
Para jogar Keep My Secret, escolha seu papel como Defensor ou Atacante. Como Defensor, configure segredos e crie prompts defensivos para protegê-los. Como Atacante, projete prompts para revelar os segredos do Defensor. Participe de desafios em tempo real e aprenda técnicas eficazes para aprimorar suas habilidades de segurança em IA.
Recursos principais de Keep My Secret:
1️⃣
Jogabilidade interativa para aprender segurança em IA
2️⃣
Desafios baseados em papéis: Defensor vs. Atacante
3️⃣
Detecção de ataques em tempo real e análises
4️⃣
Treinamento abrangente de defesa contra sequestro de prompts
5️⃣
Acesso a uma biblioteca de prompts adversariais
Por que usar Keep My Secret?
| # | Caso de uso | Status | |
|---|---|---|---|
| # 1 | Treinamento de profissionais de segurança em IA | ✅ | |
| # 2 | Engenheiros de equipe vermelha praticando descoberta de vulnerabilidades | ✅ | |
| # 3 | Desenvolvedores de IA aprimorando a segurança de aplicações | ✅ | |
Desenvolvido por Keep My Secret?
Keep My Secret foi inspirado pelo Professor Zhang Jia, que forneceu orientação criativa para o desenvolvimento desta ferramenta de treinamento interativa. O jogo tem como objetivo equipar os usuários com habilidades práticas em segurança em IA, particularmente na compreensão e defesa contra ataques de injeção de prompts.