Especialista en Pruebas de Intrusión de Seguridad de IA

Buscamos expertos en red teaming de seguridad en IA para identificar vulnerabilidades en sistemas de IA de frontera mediante pruebas de adversarios. Diseñarás prompts desafiantes, descubrirás debilidades en los modelos y evaluarás el comportamiento de la IA en temas complejos, de alto riesgo y ambiguos ("zona gris").

Responsabilidades

• Diseñar prompts adversarios para poner a prueba los modelos de IA de frontera.

• Identificar jailbreaks, comportamientos inseguros, alucinaciones y fallos de políticas.

• Evaluar la robustez del modelo en desinformación, ciberseguridad, bioseguridad, fraude, contenido político y otros dominios sensibles.

• Documentar vulnerabilidades y contribuir a la evaluación comparativa de seguridad y a los informes de red teaming.

• Colaborar con investigadores de IA para mejorar la alineación, robustez y seguridad de los modelos.

Calificaciones Requeridas

• Grado universitario o superior en Ciencias de la Computación, Ciberseguridad, Periodismo, Comunicación, Psicología, Biología, Química, Políticas Públicas o una disciplina relacionada.

• Más de 5 años de experiencia profesional en seguridad de IA, red teaming de IA, confianza y seguridad (Trust & Safety), ciberseguridad, periodismo de investigación, ciencias de la vida o un campo relacionado.

• Sólido razonamiento analítico, diseño de prompts y habilidades de comunicación escrita.

• Experiencia en el diseño de prompts adversarios o en la evaluación de sistemas de IA de frontera.

Calificaciones Preferidas

• Experiencia en red teaming de IA, RLHF, SFT, alineación de IA o confianza y seguridad.

• Familiaridad con pruebas de jailbreak, ingeniería de prompts o metodologías de evaluación adversaria.

• Experiencia en uno o más dominios de zona gris, incluyendo ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica.

¿Por qué unirte?

• Ayuda a asegurar y fortalecer la próxima generación de modelos de IA de frontera.

• Trabaja en pruebas de adversarios de vanguardia junto con destacados investigadores de IA y equipos de seguridad.

• Influye en cómo los sistemas de IA responden a desafíos de seguridad complejos del mundo real.