Esperto in Jailbreak e Sicurezza contro la Prompt Injection

Titolo del ruolo: Esperto di sicurezza per jailbreak AI e prompt injection

Tipo di ruolo: Collaboratore

Sede: Remoto

micro1 sta ingaggiando esperti di sicurezza per jailbreak AI e prompt injection per contribuire a un'iniziativa all'avanguardia per il cliente, focalizzata sulla sicurezza e robustezza dell'AI. In questo ruolo, metterai la tua competenza al servizio dell'addestramento dei sistemi AI di nuova generazione. Il tuo lavoro contribuirà a definire come i modelli apprendono, ragionano e operano, attraverso input di alta qualità e basati sul mondo reale. Non è richiesta alcuna esperienza precedente nel campo dell'AI: ciò che conta è la tua competenza di dominio.

Ambito di lavoro

• Progettare e implementare metodologie avanzate per valutare la sicurezza dei sistemi AI, concentrandosi su jailbreak etici, red teaming di LLM, prompt injection e scenari di abuso degli strumenti.
• Creare strategie complete di elicitazione interdisciplinari per individuare schemi di aggiramento avversari complessi e multi-turno nei modelli AI.
• Sviluppare, mantenere e aggiornare suite di test di regressione che verifichino sistematicamente la vulnerabilità a jailbreak e a prompt injection.
• Costruire solide strutture di valutazione che sottopongano i modelli AI a stress test rispetto a minacce avversarie reali, con l'obiettivo di migliorare la robustezza complessiva del sistema.
• Collaborare con gli stakeholder tecnici per trasformare i risultati di sicurezza in miglioramenti concreti per la sicurezza dei modelli e la mitigazione dei rischi.
• Documentare metodologie, risultati e buone pratiche in report e presentazioni chiari e ben strutturati, destinati sia a un pubblico tecnico sia a non tecnico.

Requisiti preferenziali

• Oltre 2 anni di esperienza in machine learning avversario, red teaming di LLM, valutazione della sicurezza dell'AI o in un ambito strettamente correlato della sicurezza informatica
• Esperienza comprovata nella ricerca, nel test o nella scoperta di vulnerabilità legate a jailbreak etici, prompt injection, abuso di strumenti o attacchi avversari all'AI.
• Laurea magistrale o dottorato (PhD, MS) in informatica, cybersicurezza, machine learning o in una disciplina affine, oppure un equivalente background operativo o professionale.
• Elevata credibilità e riconoscimento nella comunità della sicurezza dell'AI o del machine learning avversario, ad esempio tramite pubblicazioni scientifiche, strumenti open source o interventi a conferenze.
• Eccellenti capacità di comunicazione scritta e orale, con una forte attenzione alla documentazione chiara e alla risoluzione collaborativa dei problemi.
• Precedente partecipazione a progetti multidisciplinari o a iniziative trasversali sulla sicurezza dell'AI costituisce un vantaggio.
• La familiarità con le architetture LLM attuali, le tecniche di prompt engineering e gli strumenti di valutazione della sicurezza è fortemente auspicabile.