عالم أبحاث LLM (التدريب المسبق، الرؤية الحاسوبية، والمتانة ضد الهجمات الخصمية)

نحن نبحث عن باحثين ذوي خبرة في التعلم الآلي ولديهم خبرة عملية في تدريب وتحسين نماذج التعلم العميق من البداية وحتى النهاية، عبر الرؤية واللغة. ستعمل على مشكلات بحثية تجريبية مفتوحة النطاق ومحددة بدقة.

المسؤوليات

• تدريب مصنفات الصور وننماذج توليد الصور من الصفر، والضبط الدقيق لنماذج اللغات ذات الأوزان المفتوحة.
• الاستفادة القصوى من ميزانيات البيانات المحدودة، والقدرة الحسابية، وحجم النماذج.
• جعل النماذج قوية في مواجهة المدخلات الخصمية والمحادثات الخصمية.
• ضغط النماذج لتلبية القيود الصارمة للحجم وزمن الاستجابة دون التضحية بالدقة.
• تشخيص مشكلات التدريب وحلها.

المتطلبات

نحن نبحث عن مرشحين لديهم خبرة قوية في واحدة أو أكثر من المجالات التالية:

المتانة الخصمية

خبرة في:

• التدريب الخصمي لمصنفات الصور (مثل التدريب القائم على PGD، وTRADES).
• تقييم الدقة القوية في ظل نماذج التهديد القياسية (مثل هجمات L∞، وAutoAttack) وتجنب مخاطر إخفاء التدرج.
• إدارة المقايضة بين المتانة والدقة، والإفراط في التخصيص القوي.

الرؤية الحاسوبية الفعالة

خبرة في:

• تدريب مصنفات الصور من البداية إلى النهاية، وخاصة التعرف الدقيق (العديد من الفئات المتشابهة بصرياً، وقليل من الأمثلة لكل فئة).
• ضغط النماذج: التكميم، والتقليم، وتقطير المعرفة من المعلمين الكبار إلى الطلاب الصغار.
• نشر النماذج تحت ميزانيات حجم أو زمن استجابة صارمة (على الجهاز، أو الحافة، أو الإعدادات المدمجة).

نمذجة الصور التوليدية

خبرة في:

• تدريب نماذج توليد الصور من الصفر: نماذج الانتشار، والشبكات التوليدية التنافسية (GANs)، والنماذج التوليدية المتغيرة (VAEs)، أو النماذج القائمة على التدفق.
• التكرار مقابل مقاييس جودة العينات مثل FID.
• حيل كفاءة التدريب التي تنتج مولدات جيدة بسرعة وبعدد قليل من المعلمات.

ما بعد التدريب للنماذج اللغوية الكبيرة والمتانة السلوكية

خبرة عملية في واحد أو أكثر مما يلي:

• الضبط الدقيق الخاضع للإشراف وتحسين التفضيلات (DPO، وRLHF، وRLAIF) لنماذج اللغات ذات الأوزان المفتوحة، بما في ذلك بناء مجموعات البيانات الخاصة بك عبر التوليد الاصطناعي، والإشراف الصاخب أو الضعيف، وأخذ العينات المرفوضة.
• تشكيل السلوك الحصاري عبر جولات متعددة: مقاومة الإقناع والتملق، والثقة المعايرة، ومعرفة متى يتم قبول التصحيحات.
• الضبط الدقيق على غرار المحاذاة الذي يغير سلوكاً معيناً مع الحفاظ على القدرة العامة.

التدريب المسبق متعدد اللغات

خبرة في:

• تدريب النماذج متعددة اللغات أو ذات الموارد المنخفضة من الصفر.
• تصميم الرموز عبر النصوص واللغات المتنوعة تصنيفياً.
• موازنة البيانات غير المتساوية للغاية لكل لغة (درجات حرارة أخذ العينات، النقل عبر اللغات) في الأنظمة المحدودة البيانات.

مجالات إضافية للاهتمام

الخبرة في أي مما يلي تُعد ميزة إضافية:

• قوانين التدرج وأبحاث كفاءة التدريب.
• تعلم المناهج وترتيب البيانات.
• تقييم النموذج: بناء المعايير، والتحكم في التلوث، والمقارنات السليمة إحصائياً.
• تقدير عدم اليقين معايرة النموذج.
• تعزيز البيانات والبيانات الاصطناعية للمتانة.

المؤهلات العامة

• أكثر من 3 سنوات من خبرة أبحاث التعلم الآلي (تُحتسب أبحاث الدكتوراه ضمن هذا المتطلب).
• خبرة قوية مع PyTorch، أو JAX، أو TensorFlow، أو أطر عمل التعلم الآلي المماثلة.
• درجة علمية من جامعة ضمن أفضل 100 جامعة، أو خبرة في شركة FAANG أو شركة ذكاء اصطناعي مقارنة، أو سجل بحثي مكافئ من خلال المنشورات أو المساهمات المؤثرة مفتوحة المصدر.

لماذا تنضم إلينا

• العمل على أبحاث التعلم الآلي المتطورة.
• التعاون مع كبار باحثي الذكاء الاصطناعي في مشاريع صعبة وعالية التأثير.
• عمل مرن وقائم على المشاريع مع تعويضات تنافسية.