Num relance
- Tarefas: Procurar vulnerabilidades em modelos de IA e gerar dados para torná-los mais seguros.
- Empresa: Mercor, uma empresa inovadora focada na segurança da IA.
- Benefícios: Trabalho remoto, desenvolvimento profissional e um ambiente dinâmico.
- Outras informações: Oportunidade de crescimento em projetos desafiadores e impactantes.
- Porquê este emprego: Contribua para a segurança da IA e faça a diferença no mundo tecnológico.
- Qualificações: Experiência em red teaming e habilidades de comunicação.
O salário previsto situa-se entre 90000 - 110000 € por ano.
Localização: Remoto
Habilidades Linguísticas Fluentes Requeridas: Inglês e Português (global, excluindo o Português do Brasil). Fluência nativa em Inglês e Português (global, excluindo o Português do Brasil) é necessária para esta posição.
Por que este papel existe: Na Mercor, acreditamos que a IA mais segura é aquela que já foi atacada - por nós. Estamos montando uma equipe vermelha para este projeto - especialistas em dados humanos que sondam modelos de IA com entradas adversariais, revelam vulnerabilidades e geram os dados da equipe vermelha que tornam a IA mais segura para nossos clientes. Este projeto envolve revisar saídas de IA que tocam em tópicos sensíveis, como viés, desinformação ou comportamentos prejudiciais. Todo o trabalho é baseado em texto, e a participação em projetos de maior sensibilidade é opcional e apoiada por diretrizes claras e recursos de bem-estar. Antes de ser exposto a qualquer conteúdo, os tópicos serão claramente comunicados.
O que você fará:
- Testar modelos e agentes de IA conversacional: jailbreaks, injeções de prompt, casos de uso indevido, exploração de viés, manipulação de múltiplas interações.
- Gerar dados humanos de alta qualidade: anotar falhas, classificar vulnerabilidades e sinalizar riscos sistêmicos.
- Aplicar estrutura: seguir taxonomias, benchmarks e manuais para manter os testes consistentes.
- Documentar de forma reprodutível: produzir relatórios, conjuntos de dados e casos de ataque que os clientes possam utilizar.
Quem você é:
- Você traz experiência anterior em red teaming (trabalho adversarial em IA, cibersegurança, sondagem sócio-técnica).
- Você é curioso e adversarial: você instintivamente empurra sistemas até seus limites.
- Você é estruturado: usa estruturas ou benchmarks, não apenas hacks aleatórios.
- Você é comunicativo: explica riscos claramente para partes interessadas técnicas e não técnicas.
- Você é adaptável: prospera ao se mover entre projetos e clientes.
Especialidades Desejáveis:
- ML Adversarial: conjuntos de dados de jailbreak, injeção de prompt, ataques RLHF/DPO, extração de modelo.
- Cibersegurança: testes de penetração, desenvolvimento de exploits, engenharia reversa.
- Risco sócio-técnico: sondagem de assédio/desinformação, análise de abuso, testes de IA conversacional.
- Sondagem criativa: psicologia, atuação, escrita para pensamento adversarial não convencional.
O que o sucesso parece:
- Você descobre vulnerabilidades que testes automatizados perdem.
- Você entrega artefatos reprodutíveis que fortalecem os sistemas de IA dos clientes.
- A cobertura de avaliação se expande: mais cenários testados, menos surpresas na produção.
- Os clientes da Mercor confiam na segurança de sua IA porque você já a sondou como um adversário.
Por que se juntar à Mercor: Construa experiência em red teaming de IA orientada por dados humanos na vanguarda da segurança. Desempenhe um papel direto em tornar os sistemas de IA mais robustos, seguros e confiáveis.
Empregador para AI Safety Expert: Mercor
A Mercor, localizada em Portugal, é um excelente empregador que valoriza a diversidade e a inclusão, oferecendo um ambiente de trabalho colaborativo e inovador. Os colaboradores têm acesso a oportunidades de crescimento profissional e desenvolvimento contínuo, além de benefícios competitivos que promovem o equilíbrio entre vida pessoal e profissional. Trabalhar na Mercor significa fazer parte de uma equipa dedicada à excelência, onde cada voz é ouvida e valorizada.
