كجزء من فريق عالي الأداء، ستساهم في تشكيل مستقبل أمان الذكاء الاصطناعي في شركة رائدة عالميًا. سيكون لك تأثير حقيقي من خلال تقديم حلول مبتكرة وآمنة.

بصفتك مهندس أمان رئيسي في جي بي مورغان تشيس ضمن فريق الأمن السيبراني وضوابط التكنولوجيا للذكاء الاصطناعي/التعلم الآلي، ستلعب دورًا محوريًا في تقديم حلول برمجية آمنة تمنع سوء الاستخدام والسلوكيات الخبيثة. ستكون مسؤولًا عن تنفيذ طرق مقاومة للتلاعب وقابلة للتدقيق عبر مجالات تقنية متعددة ووظائف تجارية. ستتعاون بشكل وثيق مع أصحاب المصلحة لضمان المرونة ضد التهديدات ودفع التوافق حول أولويات التخفيف من مخاطر الذكاء الاصطناعي. ستساعد في تعزيز ثقافة الابتكار والأمان داخل فريق متنوع وعبر وظائف متعددة.

المسؤوليات الوظيفية

• تطوير وتعزيز استراتيجيات الأمان، وبرامج اختبار الاختراق، وتصميم الحلول، وحل المشكلات التقنية وإنشاء حلول قابلة للتوسع.
• تصميم هياكل آمنة وعالية الجودة للذكاء الاصطناعي والبرمجيات، ومراجعة وتحدي التصاميم والشيفرات لضمان المرونة ضد التهديدات.
• تقليل ثغرات أمان الذكاء الاصطناعي ونماذج اللغة الكبيرة من خلال الالتزام بالمعايير الصناعية وأبحاث سلامة الذكاء الاصطناعي الناشئة، وتطوير السياسات، وبروتوكولات الاختبار، والضوابط.
• التعاون مع أصحاب المصلحة عبر المنتجات، وعلوم البيانات، والأمن السيبراني، والقانون، والمخاطر لفهم حالات استخدام الذكاء الاصطناعي وتوصية بالتعديلات خلال فترات الضعف المتزايد أو التغيرات التنظيمية.
• إجراء اكتشاف، ونمذجة التهديدات، واختبار عدائي على الذكاء الاصطناعي التوليدي، وأنظمة التعلم الآلي لتحديد الثغرات مثل حقن الطلبات، وكسر الحماية، وتسميم البيانات.
• تعريف وتنفيذ منهجيات اختبار الاختراق للذكاء الاصطناعي، وكتب التشغيل، ومقاييس النجاح، وإنشاء آليات للاختبار المستمر والإطلاق الآمن لنماذج وميزات الذكاء الاصطناعي الجديدة.
• التعاون داخل فريق متعدد الوظائف لتطوير العلاقات، والتأثير على أصحاب المصلحة الكبار، ودفع التوافق حول تحمل المخاطر المتعلقة بالذكاء الاصطناعي وأولويات التخفيف.

المؤهلات والمهارات المطلوبة

• تدريب رسمي أو شهادة في مفاهيم هندسة الأمان وخبرة تطبيقية لا تقل عن 3 سنوات.
• خبرة في نمذجة التهديدات، والاكتشاف، والثغرات، واختبار الاختراق (مثل MITRE ATLAS، وOWASP Top 10 لنماذج اللغة الكبيرة) ومفاهيم الأمن السيبراني الأساسية مثل إدارة الهوية، والمصادقة، وOIDC، وSAML.
• خبرة عملية في حلول البنية التحتية ككود (IaC) مثل Terraform وCloudFormation.
• إجادة برمجة بايثون.
• فهم قوي لمفاهيم واتجاهات الذكاء الاصطناعي/التعلم الآلي، مع معرفة بمفاهيم اختبار الاختراق الأساسية للذكاء الاصطناعي لتصميم وتنفيذ تمارين لهياكل الذكاء الاصطناعي المعقدة.
• القدرة على تصور وتصميم والتحقق من صحة والتواصل حول حلول تقنية مبتكرة لمشاكل الأمان على مستوى المؤسسات، بما في ذلك بناء أدوات داخلية، ولوحات معلومات، وأتمتة لأنشطة اختبار الاختراق.

المؤهلات والمهارات المفضلة

• خبرة في التخطيط والتصميم وتنفيذ تمارين اختبار الاختراق للذكاء الاصطناعي وحلول الأمان على مستوى المؤسسات للذكاء الاصطناعي التوليدي، ونماذج اللغة الكبيرة، وأنظمة التعلم الآلي.
• خبرة في أدوات وأطر أمان الذكاء الاصطناعي/اختبار الاختراق المتخصصة (مثل PyRIT، Garak، وأدوات تقييم نماذج اللغة الكبيرة المخصصة) والمساهمات في أمان الذكاء الاصطناعي أو مشاريع الأمان مفتوحة المصدر.