Werkstudent – LLM Inferenzleistung (Werkstudent) – München

Stellenbeschreibung

Poste de working student dans une start‑up en IA (Tensordyne) focalisée sur l’accélération matérielle des modèles génératifs. Le rôle propose une expérience pratique de bout en bout sur l’inférence LLM : développement et optimisation de kernels bas niveau, benchmark sur silicium réel, construction d’outils de profiling et intégration au flux de travail (Rust, Python). Le/la candidat(e) participera à l’analyse des performances, la modélisation roofline, la mise en place d’outils de benchmarking et l’utilisation d’agents d’aide au codage. Collaboration étroite avec équipes hardware et software, apprentissage des architectures matérielles pour l’IA et opportunité de prendre en charge des projets techniques significatifs. Convient aux étudiant(e)s en Master en informatique, génie électronique, mathématiques ou domaine technique similaire souhaitant une expérience industrielle en IA et systèmes hautes performances.

Hauptaufgaben

• Verstehen und Analysieren der Funktionsweise des Siliziums von Tensordyne für die LLM-Inferenz
• Entwicklung und Optimierung von Low-Level-Kernels für die Inferenz
• Erstellung von Leistungsmodellen und Vergleich mit Messungen auf Simulator und Silizium
• Erstellung von Benchmarking- und Profiling-Tools für das Team
• Integration und Experimentieren mit Entwicklungsassistenten
• Zusammenarbeit mit Compiler-, Runtime- und Kernel-Teams, um Beobachtungen in Verbesserungen umzusetzen

Gesuchtes Profil

• Einschreibung im Master (Informatik, EE, Mathematik oder verwandtes Feld)
• Solide Programmierkenntnisse in Python und mindestens C/C++ oder Rust
• Verständnis der Computerarchitektur, Speicher und Parallelität
• Interesse an Software-Performance und Low-Level-Optimierung
• Selbstständigkeit, analytische Strenge und Freude an Teamarbeit