Expert en sécurité de l'IA : jailbreak et injection de prompt

Role Title: Expert en sécurité IA : jailbreak et injection de prompt

Role Type: Prestataire

Location: À distance

micro1 recrute des experts en sécurité IA (jailbreak et injection de prompt) pour contribuer à une initiative client de pointe axée sur la sécurité et la robustesse de l'IA. Dans ce rôle, vous mettrez votre expertise au service de l'entraînement des systèmes d'IA de nouvelle génération. Votre travail contribuera à façonner la manière dont les modèles apprennent, raisonnent et performent grâce à des données réelles de haute qualité. Aucune expérience préalable en IA n'est requise : ce qui compte, c'est votre expertise métier.

Scope of Work

• Concevoir et mettre en œuvre des méthodologies avancées d'évaluation de la sécurité des systèmes d'IA, en particulier les jailbreaks éthiques, le red teaming de LLM, l'injection de prompt et les scénarios d'abus d'utilisation d'outils.
• Élaborer des stratégies complètes d'élicitation interdomaines pour révéler des schémas de contournement adversariaux complexes et multi-tours dans les modèles d'IA.
• Développer, maintenir et mettre à jour des suites de tests de non-régression qui testent systématiquement la vulnérabilité aux jailbreaks et aux injections de prompt.
• Construire des cadres d'évaluation robustes qui soumettent les modèles d'IA à des tests de charge face à des menaces adversariales réelles, dans le but de renforcer la robustesse globale du système.
• Collaborer avec les parties prenantes techniques pour traduire les conclusions de sécurité en améliorations concrètes pour la sécurité des modèles et l'atténuation des risques.
• Documenter les méthodologies, les conclusions et les bonnes pratiques dans des rapports écrits et des présentations clairs et bien structurés, destinés aux publics techniques comme non techniques.

Preferred Qualifications

• Plus de 2 ans d'expertise en apprentissage automatique adversarial, red teaming de LLM, évaluation de la sécurité de l'IA ou dans un domaine de sécurité étroitement lié
• Expérience avérée dans la recherche, le test ou la découverte de vulnérabilités liées aux jailbreaks éthiques, à l'injection de prompt, à l'abus d'utilisation d'outils ou aux attaques adversariales contre l'IA.
• Diplôme de niveau supérieur (doctorat, master) en informatique, cybersécurité, apprentissage automatique ou discipline connexe, ou équivalent d'un parcours opérationnel ou professionnel.
• Crédibilité et reconnaissance élevées au sein de la communauté de la sécurité de l'IA ou de l'apprentissage automatique adversarial, par exemple via des publications de recherche, des outils open source ou des interventions en conférence.
• Excellentes compétences en communication écrite et orale, avec un fort accent sur la documentation claire et la résolution collaborative de problèmes.
• Une participation antérieure à des projets pluridisciplinaires ou à des initiatives transversales de sécurité de l'IA constitue un atout.
• La familiarité avec les architectures LLM actuelles, les techniques d'ingénierie de prompt et les outils d'évaluation de la sécurité est fortement appréciée.