Num relance
- Tarefas: Avaliar respostas geradas por IA para segurança e precisão factual.
- Empresa: Mercor, uma empresa inovadora conectando talentos a laboratórios de pesquisa em IA.
- Benefícios: Salário competitivo de até $70/hora e trabalho totalmente remoto.
- Outras informações: Ambiente dinâmico com oportunidades de crescimento na carreira.
- Porquê este emprego: Contribua para a segurança da IA e faça a diferença em projetos impactantes.
- Qualificações: Licenciatura e 5+ anos de experiência em áreas relacionadas à segurança da IA.
O salário previsto situa-se entre 70 - 70 € por hora.
Mercor conecta talentos criativos e técnicos de elite com laboratórios de pesquisa em IA líderes. Sediada em São Francisco, nossos investidores incluem Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo, Larry Summers e Jack Dorsey.
Responsabilidades do Papel:
- Avaliar respostas geradas por IA quanto à segurança, precisão factual, conformidade com políticas e qualidade geral.
- Revisar conteúdo envolvendo desinformação, persuasão política, autoagressão, violência, cibersegurança, biosegurança e outros domínios sensíveis.
- Aplicar e refinar rubricas de avaliação para RLHF, SFT e benchmarking de segurança em IA.
- Identificar saídas inseguras, alucinações, falhas de raciocínio e violações de políticas.
- Fornecer feedback estruturado para melhorar o alinhamento do modelo e o desempenho de segurança.
- Colaborar com pesquisadores de IA e equipes de segurança em iniciativas de avaliação contínuas.
Qualificações Necessárias:
- Graduação ou superior em Jornalismo, Comunicações, Psicologia, Sociologia, Políticas Públicas, Direito, Biologia, Química, Ciência da Computação ou disciplina relacionada.
- Mais de 5 anos de experiência profissional em Segurança de IA, Confiança e Segurança, jornalismo, políticas públicas, pesquisa científica, segurança ou área relacionada.
- Excelentes habilidades de escrita em inglês, pensamento crítico e raciocínio analítico.
- Capacidade de avaliar consistentemente cenários sutis e sensíveis a políticas.
Experiência Preferencial:
- Experiência com Segurança de IA, RLHF, SFT, Confiança e Segurança ou avaliação de IA.
- Familiaridade com políticas de segurança, moderação de conteúdo ou desenvolvimento de rubricas de avaliação.
- Experiência na revisão de conteúdo complexo, de alto risco ou ambíguo.
Empregador para AI Safety Practitioner – Remote in Lisbon: Mercor
A Mercor, localizada em Portugal, é um excelente empregador que valoriza a diversidade e a inclusão, oferecendo um ambiente de trabalho colaborativo e inovador. Os colaboradores têm acesso a oportunidades de crescimento profissional e desenvolvimento contínuo, além de benefícios competitivos que promovem o equilíbrio entre vida pessoal e profissional. Trabalhar na Mercor significa fazer parte de uma equipa dedicada à excelência, onde cada voz é ouvida e valorizada.
