Experto en seguridad frente a jailbreaks e inyecciones de prompt en IA

Role Title: Experto en Jailbreak de IA y Seguridad frente a Inyección de Prompts

Role Type: Contratista

Location: Remoto

micro1 está contratando expertos en jailbreak de IA y seguridad frente a inyección de prompts para contribuir a una iniciativa de vanguardia para clientes centrada en la seguridad y la robustez de la IA. En este puesto, aplicarás tu experiencia para ayudar a entrenar sistemas de IA de próxima generación. Tu trabajo dará forma a cómo los modelos aprenden, razonan y se desempeñan a partir de datos de alta calidad y del mundo real. No se requiere experiencia previa en IA; lo que importa es tu conocimiento del dominio.

Scope of Work

• Diseñar e implementar metodologías avanzadas para evaluar la seguridad de los sistemas de IA, con foco en jailbreaks éticos, red teaming de LLM, inyección de prompts y escenarios de abuso del uso de herramientas.
• Crear estrategias integrales de elicitación multidisciplinar para descubrir patrones complejos de elusión adversarial de varios turnos en modelos de IA.
• Desarrollar, mantener y actualizar suites de pruebas de regresión que evalúen sistemáticamente la susceptibilidad a jailbreaks y las vulnerabilidades a la inyección de prompts.
• Construir marcos de evaluación robustos que sometan a los modelos de IA a pruebas de estrés frente a amenazas adversariales del mundo real, con el objetivo de reforzar la robustez general del sistema.
• Colaborar con las partes interesadas técnicas para convertir los hallazgos de seguridad en mejoras concretas para la seguridad de los modelos y la mitigación de riesgos.
• Documentar metodologías, hallazgos y buenas prácticas en informes y presentaciones claros y bien estructurados, dirigidos tanto a públicos técnicos como no técnicos.

Preferred Qualifications

• Más de 2 años de experiencia en aprendizaje automático adversarial, red teaming de LLM, evaluación de seguridad de IA o un ámbito de seguridad estrechamente relacionado
• Experiencia comprobada en la investigación, prueba o descubrimiento de vulnerabilidades relacionadas con jailbreaks éticos, inyección de prompts, abuso del uso de herramientas o ataques adversariales a la IA.
• Título de posgrado (doctorado, máster) en informática, ciberseguridad, aprendizaje automático o una disciplina afín, o experiencia operativa o profesional equivalente.
• Alta credibilidad y reconocimiento dentro de la comunidad de seguridad de IA y aprendizaje automático adversarial, por ejemplo mediante investigaciones publicadas, herramientas de código abierto o presentaciones en conferencias.
• Excelentes habilidades de comunicación escrita y verbal, con un fuerte enfoque en la documentación clara y la resolución colaborativa de problemas.
• Haber participado previamente en proyectos multidisciplinares o en iniciativas de seguridad de IA interfuncionales es un plus.
• Familiaridad con las arquitecturas actuales de LLM, las técnicas de ingeniería de prompts y las herramientas de evaluación de seguridad es muy deseable.