Expert en noyaux Trainium (NKI)

Évaluez la qualité, l'exactitude et l'adéquation matérielle des tâches de développement de Neuron Kernel Interface (NKI) utilisées pour entraîner et évaluer les modèles d'un laboratoire d'IA de pointe. Vous évaluerez la fidélité de la migration CUDA→NKI, la qualité de l'optimisation des performances spécifique à Trainium et les normes d'exactitude numérique multiplateforme, et fournirez des commentaires écrits clairs basés sur des critères d'évaluation.

Qualifications de base • 2 ans et plus d'expérience pratique dans le développement ou l'optimisation de noyaux (kernels) à l'aide de Neuron Kernel Interface (NKI) ciblant le matériel AWS Trainium/Inferentia2 • Solide compréhension des modèles de développement spécifiques à NKI : calcul basé sur des blocs (tiles), gestion de la hiérarchie mémoire SBUF/PSUM/HBM, contraintes de dimension de partition et orchestration DMA • Expérience démontrée dans l'évaluation de la qualité de migration CUDA→NKI • Familiarité avec le profilage des performances spécifique à Trainium (utilisation du pipeline NeuronCore, débit du moteur tensoriel, goulots d'étranglement de la bande passante mémoire) • Expérience dans la définition ou l'évaluation de normes d'exactitude numérique multiplateforme (ordre d'accumulation GPU vs Trainium, comportement d'arrondi, sémantique de précision mixte)

Qualifications souhaitées • Expérience directe avec AWS Neuron SDK, les mécanismes internes du compilateur Neuron ou contributions aux bibliothèques de noyaux NKI • Développement préalable de noyaux CUDA ou Triton • Familiarité avec les spécifications matérielles de Trainium (architecture NeuronCore-v2, topologie SRAM sur puce, types de données pris en charge : FP32/BF16/FP8/INT8) • Expérience dans l'évaluation comparative (benchmarking) de charges de travail d'entraînement ML sur des instances Trn1/Trn2