Working Student – LLM Inference Performance (Werkstudent) – Munich

Description de l'offre

Poste de working student dans une start‑up en IA (Tensordyne) focalisée sur l’accélération matérielle des modèles génératifs. Le rôle propose une expérience pratique de bout en bout sur l’inférence LLM : développement et optimisation de kernels bas niveau, benchmark sur silicium réel, construction d’outils de profiling et intégration au flux de travail (Rust, Python). Le/la candidat(e) participera à l’analyse des performances, la modélisation roofline, la mise en place d’outils de benchmarking et l’utilisation d’agents d’aide au codage. Collaboration étroite avec équipes hardware et software, apprentissage des architectures matérielles pour l’IA et opportunité de prendre en charge des projets techniques significatifs. Convient aux étudiant(e)s en Master en informatique, génie électronique, mathématiques ou domaine technique similaire souhaitant une expérience industrielle en IA et systèmes hautes performances.

Missions principales

• Comprendre et analyser le fonctionnement du silicium Tensordyne pour l’inférence LLM
• Développer et optimiser des kernels bas niveau pour l’inférence
• Construire des modèles de performance et comparer aux mesures sur simulateur et silicium
• Créer des outils de benchmarking et de profiling pour l’équipe
• Intégrer et expérimenter avec des agents d’aide au développement
• Collaborer avec équipes compilateur, runtime et kernel pour traduire les observations en améliorations

Profil recherché

• Inscription en Master (informatique, EE, mathématiques ou domaine connexe)
• Solides compétences en programmation Python et au moins C/C++ ou Rust
• Compréhension de l’architecture des ordinateurs, mémoire et parallélisme
• Intérêt pour la performance logicielle et l’optimisation bas niveau
• Autonomie, rigueur analytique et goût du travail en équipe