Working Student – LLM Inference Performance (Working Student) – Munich

Job description

Poste de working student dans une start‑up en IA (Tensordyne) focalisée sur l’accélération matérielle des modèles génératifs. Le rôle propose une expérience pratique de bout en bout sur l’inférence LLM : développement et optimisation de kernels bas niveau, benchmark sur silicium réel, construction d’outils de profiling et intégration au flux de travail (Rust, Python). Le/la candidat(e) participera à l’analyse des performances, la modélisation roofline, la mise en place d’outils de benchmarking et l’utilisation d’agents d’aide au codage. Collaboration étroite avec équipes hardware et software, apprentissage des architectures matérielles pour l’IA et opportunité de prendre en charge des projets techniques significatifs. Convient aux étudiant(e)s en Master en informatique, génie électronique, mathématiques ou domaine technique similaire souhaitant une expérience industrielle en IA et systèmes hautes performances.

Main responsibilities

• Understand and analyze the operation of Tensordyne silicon for LLM inference
• Develop and optimize low-level kernels for inference
• Build performance models and compare with measurements on simulator and silicon
• Create benchmarking and profiling tools for the team
• Integrate and experiment with development assistance agents
• Collaborate with compiler, runtime, and kernel teams to translate observations into improvements

Profile sought

• Enrollment in Master's program (computer science, EE, mathematics, or related field)
• Strong programming skills in Python and at least C/C++ or Rust
• Understanding of computer architecture, memory, and parallelism
• Interest in software performance and low-level optimization
• Autonomy, analytical rigor, and a taste for teamwork